Deepfake（深度偽造）技術(shù)野蠻生長(zhǎng)，引發(fā)了一系列負(fù)面后果。比如，在韓國(guó)通訊軟件Telegram上，某私密聊天室成員利用女性照片非法合成色情照片和視頻，影響極為惡劣。除了普通的受害者，知名人士也難以逃脫圖像偽造的“魔爪”，某視頻網(wǎng)站上，由AI合成的馬斯克等名人為虛假投資做背書的視頻泛濫成災(zāi)。
不法分子利用人工智能技術(shù)興風(fēng)作浪，讓人防不勝防，文檔圖像領(lǐng)域更是詐騙的重災(zāi)區(qū)。近日，由中國(guó)圖象圖形學(xué)學(xué)會(huì)、中國(guó)信息通信研究院、上海合合信息科技股份有限公司、中國(guó)科學(xué)技術(shù)大學(xué)、深圳大學(xué)、上海交通大學(xué)、華南理工大學(xué)、南開大學(xué)等高校、公司聯(lián)合編制、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)發(fā)布的《文本圖像篡改檢測(cè)系統(tǒng)技術(shù)要求》團(tuán)體標(biāo)準(zhǔn)（簡(jiǎn)稱“《要求》”）正式發(fā)布，將助力文檔圖像處理技術(shù)安全、有序發(fā)展。
《要求》為行業(yè)發(fā)展撐起保護(hù)傘
科技的發(fā)展使得數(shù)字化圖像逐漸成為重要的信息傳遞手段，在提供便利的同時(shí)也帶來了極大的安全隱患。區(qū)別于自然圖像，文本圖像篡改痕跡更加難以察覺，用戶只需使用一鍵式圖像編輯工具即可低成本篡改文檔、聊天記錄、資質(zhì)證書等圖像，人眼或者傳統(tǒng)檢測(cè)系統(tǒng)難以辨認(rèn)。
作為中國(guó)首批文本圖像篡改檢測(cè)領(lǐng)域的團(tuán)體標(biāo)準(zhǔn)之一，《文本圖像篡改檢測(cè)系統(tǒng)技術(shù)要求》圍繞“細(xì)粒度”視覺差異偽造圖像鑒別、生成式圖像判別、文檔圖像完整性保護(hù)等行業(yè)焦點(diǎn)議題，建立了統(tǒng)一的評(píng)估框架?！兑蟆犯采w了市面上常見的圖像篡改類型，適用于拍照證照、掃描證照、拍照文檔、掃描文檔、截圖等五大類文本圖像篡改檢測(cè)系統(tǒng)，為企業(yè)在開發(fā)篡改檢測(cè)技術(shù)時(shí)提供了明確指導(dǎo)，提升產(chǎn)品的可靠性和有效性。
隨著人工智能、機(jī)器學(xué)習(xí)和大數(shù)據(jù)技術(shù)的發(fā)展，文本圖像反篡改技術(shù)也在不斷突破邊界，據(jù)信通院移動(dòng)互聯(lián)網(wǎng)反欺詐研究中心顯示，反篡改技術(shù)正在朝著智能化和自動(dòng)化、多模態(tài)融合、注重魯棒性和適應(yīng)性、增強(qiáng)用戶體驗(yàn)、高效處理大規(guī)模數(shù)據(jù)等方向進(jìn)化，探索復(fù)雜環(huán)境下如何提高檢測(cè)的效率和準(zhǔn)確性。《要求》一方面推動(dòng)了前沿技術(shù)的規(guī)?；瘧?yīng)用；另一方面，前瞻性標(biāo)準(zhǔn)一定程度上引領(lǐng)行業(yè)技術(shù)發(fā)展方向，為企業(yè)應(yīng)對(duì)未來挑戰(zhàn)提供了堅(jiān)實(shí)基礎(chǔ)。
AI“照妖鏡”識(shí)破圖像篡改真面目
近年來，證件造假案件屢見不鮮。2024年6月，內(nèi)蒙古某地破獲了一起偽造機(jī)動(dòng)車證件抵押詐騙案件，嫌疑人在汽車租賃公司租車后偽造車輛行駛證，轉(zhuǎn)手抵押獲得借款，涉案金額超300余萬元，辨別證件真?zhèn)呜叫琛盎鹧劢鹁Α薄?/p>
面對(duì)篡改圖像以假亂真的難題，合合信息基于深度學(xué)習(xí)的圖像篡改檢測(cè)方法，推出了“PS篡改檢測(cè)”技術(shù)，可檢測(cè)出多種篡改形式，智能捕捉圖像在篡改過程中留下的細(xì)微痕跡，并以熱力圖的形式展示圖像區(qū)域篡改位置。
除了能檢測(cè)上述案例中的行駛證頁(yè)面是否被篡改，PS篡改檢測(cè)技術(shù)還支持多種應(yīng)用場(chǎng)景，包括身份證、護(hù)照在內(nèi)的多種卡證，營(yíng)業(yè)執(zhí)照，商場(chǎng)小票等各類票據(jù)。目前，合合信息卡證篡改檢測(cè)技術(shù)可集成至企業(yè)現(xiàn)有業(yè)務(wù)中，具備高響應(yīng)、低誤檢率等優(yōu)勢(shì)。
合合信息圖像篡改檢測(cè)技術(shù)對(duì)身份證圖片篡改痕跡進(jìn)行定位
圖像篡改手段層出不窮，合合信息也在不斷優(yōu)化升級(jí)檢測(cè)技術(shù)，據(jù)悉，合合信息技術(shù)團(tuán)隊(duì)通過大規(guī)模樣本預(yù)訓(xùn)練模型，實(shí)現(xiàn)了對(duì)截圖場(chǎng)景的有效篡改檢測(cè)。這一技術(shù)還能夠通用推廣到PDF掃描文檔的場(chǎng)景中，例如，檢測(cè)房屋租賃合同PDF文件中字段（姓名、房屋地址等）、二維碼、背景等內(nèi)容是否有篡改痕跡，降低房屋租賃風(fēng)險(xiǎn)。
縱觀科技發(fā)展進(jìn)程，AI時(shí)代已經(jīng)到來，生成式技術(shù)的發(fā)展增加了篡改檢測(cè)的難度，文檔圖像反篡改領(lǐng)域需要建立起聯(lián)合防范機(jī)制，及時(shí)應(yīng)對(duì)各類挑戰(zhàn)。后續(xù)，合合信息也將積極參與文本圖像篡改檢測(cè)標(biāo)準(zhǔn)首批貫標(biāo)測(cè)評(píng)工作，為行業(yè)豎立標(biāo)桿，助力打造中國(guó)“可信AI”在機(jī)器視覺、圖像處理領(lǐng)域的體系建設(shè)，以技術(shù)之道反制技術(shù)之險(xiǎn)。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
