|
Deepfake（深度偽造）技術(shù)野蠻生長(cháng)，引發(fā)了一系列負面后果。在韓國通訊軟件Telegram上，某私密聊天室成員利用女性照片非法合成色情照片和視頻，影響極為惡劣。除了普通的受害者，知名人士也難以逃脫圖像偽造的“魔爪”，某視頻網(wǎng)站上，由AI合成的馬斯克等名人為虛假投資做背書(shū)的視頻泛濫成災。 不法分子利用人工智能技術(shù)興風(fēng)作浪，讓人防不勝防，文檔圖像領(lǐng)域更是詐騙的重災區。近日，由中國圖象圖形學(xué)學(xué)會(huì )、中國信息通信研究院、上海合合信息科技股份有限公司、中國科學(xué)技術(shù)大學(xué)、深圳大學(xué)、上海交通大學(xué)、華南理工大學(xué)、南開(kāi)大學(xué)等高校、公司聯(lián)合編制、中國互聯(lián)網(wǎng)協(xié)會(huì )發(fā)布的《文本圖像篡改檢測系統技術(shù)要求》團體標準（簡(jiǎn)稱(chēng)“《要求》”）正式發(fā)布，將助力文檔圖像處理技術(shù)安全、有序發(fā)展。 《要求》為行業(yè)發(fā)展撐起保護傘 科技的發(fā)展使得數字化圖像逐漸成為重要的信息傳遞手段，在提供便利的同時(shí)也帶來(lái)了極大的安全隱患。區別于自然圖像，文本圖像篡改痕跡更加難以察覺(jué)，用戶(hù)只需使用一鍵式圖像編輯工具即可低成本篡改文檔、聊天記錄、資質(zhì)證書(shū)等圖像，人眼或者傳統檢測系統難以辨認。 作為中國首批文本圖像篡改檢測領(lǐng)域的團體標準之一，《文本圖像篡改檢測系統技術(shù)要求》圍繞“細粒度”視覺(jué)差異偽造圖像鑒別、生成式圖像判別、文檔圖像完整性保護等行業(yè)焦點(diǎn)議題，建立了統一的評估框架�！兑蟆犯采w了市面上常見(jiàn)的圖像篡改類(lèi)型，適用于拍照證照、掃描證照、拍照文檔、掃描文檔、截圖等五大類(lèi)文本圖像篡改檢測系統，為企業(yè)在開(kāi)發(fā)篡改檢測技術(shù)時(shí)提供了明確指導，提升產(chǎn)品的可靠性和有效性。 隨著(zhù)人工智能、機器學(xué)習和大數據技術(shù)的發(fā)展，文本圖像反篡改技術(shù)也在不斷突破邊界，據信通院移動(dòng)互聯(lián)網(wǎng)反欺詐研究中心顯示，反篡改技術(shù)正在朝著(zhù)智能化和自動(dòng)化、多模態(tài)融合、注重魯棒性和適應性、增強用戶(hù)體驗、高效處理大規模數據等方向進(jìn)化，探索復雜環(huán)境下如何提高檢測的效率和準確性�！兑蟆芬环矫嫱苿�(dòng)了前沿技術(shù)的規�；瘧�；另一方面，前瞻性標準一定程度上引領(lǐng)行業(yè)技術(shù)發(fā)展方向，為企業(yè)應對未來(lái)挑戰提供了堅實(shí)基礎。 AI“照妖鏡”識破圖像篡改真面目 近年來(lái)，證件造假案件屢見(jiàn)不鮮。2024年6月，內蒙古某地破獲了一起偽造機動(dòng)車(chē)證件抵押詐騙案件，嫌疑人在汽車(chē)租賃公司租車(chē)后偽造車(chē)輛行駛證，轉手抵押獲得借款，涉案金額超300余萬(wàn)元，辨別證件真偽亟需“火眼金睛”。 面對篡改圖像以假亂真的難題，合合信息基于深度學(xué)習的圖像篡改檢測方法，推出了“PS篡改檢測”技術(shù)，可檢測出多種篡改形式，智能捕捉圖像在篡改過(guò)程中留下的細微痕跡，并以熱力圖的形式展示圖像區域篡改位置。 除了能檢測上述案例中的行駛證頁(yè)面是否被篡改，PS篡改檢測技術(shù)還支持多種應用場(chǎng)景，包括身份證、護照在內的多種卡證，營(yíng)業(yè)執照，商場(chǎng)小票等各類(lèi)票據。目前，合合信息卡證篡改檢測技術(shù)可集成至企業(yè)現有業(yè)務(wù)中，具備高響應、低誤檢率等優(yōu)勢。 圖說(shuō) 合合信息圖像篡改檢測技術(shù)對身份證圖片篡改痕跡進(jìn)行定位 圖像篡改手段層出不窮，合合信息也在不斷優(yōu)化升級檢測技術(shù)，據悉，合合信息技術(shù)團隊通過(guò)大規模樣本預訓練模型，實(shí)現了對截圖場(chǎng)景的有效篡改檢測。這一技術(shù)還能夠通用推廣到PDF掃描文檔的場(chǎng)景中，例如，檢測房屋租賃合同PDF文件中字段（姓名、房屋地址等）、二維碼、背景等內容是否有篡改痕跡，降低房屋租賃風(fēng)險。 縱觀(guān)科技發(fā)展進(jìn)程，AI時(shí)代已經(jīng)到來(lái)，生成式技術(shù)的發(fā)展增加了篡改檢測的難度，文檔圖像反篡改領(lǐng)域需要建立起聯(lián)合防范機制，及時(shí)應對各類(lèi)挑戰。后續，合合信息也將積極參與文本圖像篡改檢測標準首批貫標測評工作，為行業(yè)豎立標桿，助力打造中國“可信AI”在機器視覺(jué)、圖像處理領(lǐng)域的體系建設，以技術(shù)之道反制技術(shù)之險。 |
