10月24日，國(guó)際安全極客大賽GeekPwn 2020在上海完美落幕。本次大賽聚焦云、AI、5G等前沿技術(shù)，發(fā)起首屆CAAD虛假人臉AI識(shí)別大賽，RealAI與清華大學(xué)計(jì)算機(jī)系聯(lián)合戰(zhàn)隊(duì)TSAIL以絕對(duì)的比分優(yōu)勢(shì)拿下該賽目的冠軍。
AI遇上假臉傻傻分不清楚?近年來(lái)，“AI換臉”風(fēng)靡一時(shí)引發(fā)社會(huì)廣泛關(guān)注，從最初的侵犯肖像權(quán)，到近期犯罪分子使用AI假臉實(shí)施犯罪，“AI 換臉”正帶來(lái)一系列緊迫現(xiàn)實(shí)問(wèn)題：電信詐騙、財(cái)產(chǎn)盜刷、偽造色情視頻……
雖然人眼難辨真假，但通過(guò)AI技術(shù)卻可以對(duì)虛假人臉進(jìn)行識(shí)別，這也成為了現(xiàn)階段計(jì)算機(jī)視覺(jué)領(lǐng)域競(jìng)相研究的熱點(diǎn)。為此，在今年重磅開啟的賽程中，GeekPwn發(fā)起首屆CAAD虛假人臉AI識(shí)別大賽，深入挖掘人臉識(shí)別現(xiàn)實(shí)安全威脅。
比賽中，主辦方為五組選手提供真假混合的視頻、圖片數(shù)據(jù)，要求選手現(xiàn)場(chǎng)開發(fā)出AI 檢測(cè)方法，快速識(shí)別出圖像以及視頻中的虛假人臉。
同時(shí)為了增加比賽的對(duì)抗性，主辦方還在決賽中設(shè)計(jì)了攻防環(huán)節(jié)：每隊(duì)選手既要用自家的AI 模型識(shí)別出其他隊(duì)伍的假臉，又要用假臉騙過(guò)其他隊(duì)伍的 AI 模型，這樣的設(shè)置同時(shí)考察了選手利用AI技術(shù)識(shí)別和造假的能力。經(jīng)過(guò)激烈的比賽，TSAIL聯(lián)合戰(zhàn)隊(duì)最終以1450分?jǐn)孬@第一名。
作為這次聯(lián)合戰(zhàn)隊(duì)的代表成員，RealAI安全算法負(fù)責(zé)人蕭子豪表示，隨著AI技術(shù)在視聽(tīng)資料領(lǐng)域的快速發(fā)展跟普及，“AI換臉”的門檻變得越來(lái)越低，普通人也可以上手，而且生成的內(nèi)容逼真，偽裝性強(qiáng)、欺騙性高，背后的安全隱患不容忽視。
就如GeekPwn主辦方希望通過(guò)實(shí)戰(zhàn)演練的方式推動(dòng)更加快速、高效的虛假人臉檢測(cè)方法出現(xiàn)，RealAI依托自身積累，深入研究深度偽造內(nèi)容和真實(shí)內(nèi)容的表征差異性辨識(shí)、不同生成途徑的深度偽造內(nèi)容一致性特征挖掘等問(wèn)題，于此前推出DeepReal深度偽造內(nèi)容檢測(cè)平臺(tái)，能夠快速、精準(zhǔn)地對(duì)多種格式與質(zhì)量的圖像與視頻進(jìn)行真?zhèn)舞b別。
在蕭子豪看來(lái)，換臉檢測(cè)本質(zhì)上也是“魔高一尺、道高一丈”攻防不斷升級(jí)的過(guò)程，DeepReal基于大規(guī)模的真實(shí)和偽造的圖像素材進(jìn)行訓(xùn)練，創(chuàng)建大容量神經(jīng)網(wǎng)絡(luò)，簡(jiǎn)單來(lái)看，通過(guò)生成大量更逼真的換臉?biāo)夭膩?lái)訓(xùn)練出更高準(zhǔn)確率的檢測(cè)技術(shù)。整體來(lái)看，DeepReal平臺(tái)目前具備三大優(yōu)勢(shì)：
l訓(xùn)練數(shù)據(jù)量達(dá)到百萬(wàn)級(jí)，覆蓋學(xué)術(shù)深偽數(shù)據(jù)集、網(wǎng)絡(luò)深偽數(shù)據(jù)集和自研深偽數(shù)據(jù)集三大類數(shù)據(jù)形式;
l高準(zhǔn)確率，在學(xué)術(shù)數(shù)據(jù)集和ZAO等主流方式生成的數(shù)據(jù)集中達(dá)到99%以上的準(zhǔn)確率;
l高檢測(cè)效率，每張圖片的檢測(cè)時(shí)間可控制在50ms之內(nèi)，每秒視頻的檢測(cè)時(shí)間在150ms之內(nèi)，一天可支持320小時(shí)的視頻文件或340萬(wàn)張圖片文件的檢測(cè)。
通過(guò)降低虛假內(nèi)容檢測(cè)的技術(shù)門檻，DeepReal平臺(tái)能夠幫助用戶更好的應(yīng)對(duì)深度偽造帶來(lái)的一系列挑戰(zhàn)。除了預(yù)防利用AI換臉實(shí)施詐騙等犯罪行為，DeepReal平臺(tái)還可以協(xié)助公安、司法等執(zhí)法部門鑒別圖片、視頻等物證真?zhèn)危约拜o助視頻網(wǎng)站、社交媒體等第三方內(nèi)容平臺(tái)實(shí)時(shí)檢測(cè)虛假信息內(nèi)容。
憑借在換臉檢測(cè)領(lǐng)域的創(chuàng)新技術(shù)優(yōu)勢(shì)，RealAI近年來(lái)也頻頻現(xiàn)身國(guó)內(nèi)外多場(chǎng)安全挑戰(zhàn)賽。2019年，F(xiàn)acebook、微軟、亞馬遜、麻省理工等知名企業(yè)、高校曾聯(lián)合發(fā)起一場(chǎng)針對(duì)深度偽造檢測(cè)的挑戰(zhàn)賽Deepfake Detection Challenge，最終RealAI助力清華團(tuán)隊(duì)取得了初賽1%、決賽5%的優(yōu)異成績(jī)。
包括對(duì)抗樣本攻防也是RealAI長(zhǎng)期以來(lái)深耕的研究方向，在去年GeekPwn大賽中聯(lián)合清華團(tuán)隊(duì)斬獲“CAAD CTF 圖像對(duì)抗樣本挑戰(zhàn)賽”以及“CAAD 隱身挑戰(zhàn)賽”兩個(gè)賽道的冠軍，并在今年發(fā)起的CAAD-AI變臉口罩挑戰(zhàn)賽中勇奪第四名。
作為安全AI領(lǐng)域的代表企業(yè)，解決AI潛在安全問(wèn)題、提升AI安全性是RealAI長(zhǎng)期奮斗的目標(biāo)。未來(lái)，RealAI將持續(xù)探索前沿安全技術(shù)，加速攻防成果落地，為人工智能產(chǎn)業(yè)發(fā)展提供更加完善的安全防護(hù)體系，助力行業(yè)穩(wěn)健成長(zhǎng)。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
