deepfake技術(shù)利用AI算法，可以“扣出”影片、圖片和音頻中的特定人物，將他人取而代之。而根據(jù)阿姆斯特丹網(wǎng)絡(luò)安全初創(chuàng)公司Deeptrace的最新統(tǒng)計(jì)，基于該技術(shù)的影像制品數(shù)目，正在網(wǎng)絡(luò)上迅速增加。該公司在6月和7月的統(tǒng)計(jì)中發(fā)現(xiàn)了14698個(gè)deepfake視頻，而這一數(shù)字在去年12月時(shí)只有7964。僅僅7個(gè)月過去，deepfake視頻就爆炸般增長了84%。這一增長趨勢(shì)引起了大眾的不安，不僅僅是因?yàn)閐eepfake視頻可以用來操縱、搖擺民意，甚至影響選舉，又或是將莫須有的罪行栽贓給某個(gè)人。他們更擔(dān)心的是由此產(chǎn)生的大量色情視頻和敲詐案件。
為了應(yīng)對(duì)deepfake的迅猛增長，F(xiàn)acebook牽手亞馬遜云服務(wù)(AWS)、微軟以及AI合作伙伴關(guān)系（the Partnership on AI），舉辦了deepfake 檢測(cè)挑戰(zhàn)賽。來自康奈爾理工學(xué)院、麻省理工學(xué)院、牛津大學(xué)、加州伯克利分校等院校的眾多專家學(xué)者們加入比賽，在deepfake檢測(cè)技術(shù)的研究道路上帶頭沖鋒。該賽事將在溫哥華NeurIPS 2019會(huì)議上向全球發(fā)布，力圖促進(jìn)開源檢測(cè)工具的開發(fā)。
截止至今，F(xiàn)acebook已經(jīng)貢獻(xiàn)了超過一千萬美元，用以鼓勵(lì)人們參與獎(jiǎng)金的角逐；亞馬遜云服務(wù)則貢獻(xiàn)了價(jià)值一百多萬美元的積分，并為參賽者提供了備選模型；谷歌旗下Kaggle數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)平臺(tái)將負(fù)責(zé)該挑戰(zhàn)賽的主辦。
Facebook首席技術(shù)官M(fèi)ike Schroepfer指出，deepfake技術(shù)產(chǎn)生的“真人”影音材料嚴(yán)重影響了人們對(duì)于網(wǎng)絡(luò)信息的信任，而行業(yè)中卻沒有工具來檢測(cè)它們。我們希望開發(fā)出一些技術(shù)，讓這些被偽造的視頻無處遁形。”
檢測(cè)挑戰(zhàn)賽所提供的數(shù)據(jù)集展示了原始視頻（左）和被篡改視頻（右）。
deepfake檢測(cè)挑戰(zhàn)包括了巨額獎(jiǎng)金和一個(gè)訓(xùn)練數(shù)據(jù)集。針對(duì)視頻造假，多種檢測(cè)工具幾經(jīng)面試，其中，由加州大學(xué)伯克利分校和南加州大學(xué)研究人員開發(fā)的工具最為優(yōu)秀，它的識(shí)別準(zhǔn)確率能超過90%。但與此同時(shí)，deepfake又是一項(xiàng)在不斷變化和發(fā)展中的技術(shù)?？梢哉f這項(xiàng)檢測(cè)挑戰(zhàn)任重而道遠(yuǎn)。在最近的采訪中，Pinscreen公司首席執(zhí)行官Hao Li指出，人工智能合成技術(shù)演化不斷，在某種程度上，合成贗品幾乎不可能從現(xiàn)實(shí)中辨別出來。
deepfake檢測(cè)挑戰(zhàn)中，群眾演員們受雇拍攝了許多的視頻訓(xùn)練材料。這些視頻中的背景、動(dòng)作、場(chǎng)景設(shè)計(jì)各不相同，可以說是五花八門。在這之后，基于這些真實(shí)的視頻，偽造的視頻被加工出來，它們或人臉被調(diào)換，或聲音被修改。
“deepfake探測(cè)技術(shù)的前沿研究需要結(jié)合大規(guī)模、貼近現(xiàn)實(shí)、有用且免費(fèi)的數(shù)據(jù)集。既然這種資源不存在，我們便不得不從頭開始創(chuàng)造它。” Facebook人工智能研究經(jīng)理Christian Ferrer表示，為了避免法律和政策掣肘，這份數(shù)據(jù)集，只涉及那些簽訂使用協(xié)議的參與者，不涉及其他用戶的任何信息。此外，F(xiàn)errer還說，對(duì)數(shù)據(jù)集的訪問是封閉的，因此只有簽訂了許可協(xié)議的團(tuán)隊(duì)才能訪問和使用它。
即日起，參賽者可以下載語料來訓(xùn)練自己的deepfake識(shí)別模型。在完成了設(shè)計(jì)后，他們需要將代碼提交到一個(gè)黑盒環(huán)境中接受驗(yàn)證，獲得評(píng)分。參賽者不需要分享他們的模型，但必須同意將模型開源以獲得贏取巨額獎(jiǎng)金的資格。
deepfake檢測(cè)挑戰(zhàn)由一個(gè)專業(yè)的委員會(huì)推動(dòng)和監(jiān)督，該委員會(huì)包括Facebook、微軟以及媒體、學(xué)術(shù)團(tuán)體等。該競賽計(jì)劃運(yùn)行到2020年3月底。
“跨行業(yè)領(lǐng)域的各界團(tuán)體一起努力，在幾個(gè)月的時(shí)間里共同創(chuàng)造了該挑戰(zhàn)，這樣的團(tuán)結(jié)一致無疑的是鼓舞人心的。”Facebook人工智能總監(jiān)、負(fù)責(zé)管理這項(xiàng)挑戰(zhàn)的業(yè)務(wù)主管Irina Kofman說道，“每個(gè)人都帶來了各自領(lǐng)域的見解，這讓我們得以接觸到了廣泛的觀點(diǎn)。”
谷歌副總裁AI Jerome Pesenti認(rèn)為，“我們知道解決這些難題不會(huì)容易。但是，我相信，開源開放的研究方法終將孵化有效的工具，幫助人們識(shí)別deepfake詐騙。”
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
