近日發(fā)表在《Proceedings of the National Academy of Sciences USA》上的一項(xiàng)新研究提供了一個(gè)衡量“深度偽造”技術(shù)已取得多大進(jìn)展的標(biāo)準(zhǔn)。研究結(jié)果表明，真正的人類很容易被機(jī)器生成的面孔所迷惑，甚至將其解釋為比真人更容易獲得信任。
研究報(bào)告的共同作者、加州大學(xué)伯克利分校教授Hany Farid指出：“我們發(fā)現(xiàn)，合成臉不僅高度逼真且被認(rèn)為比真實(shí)臉更容易獲得信任。這一結(jié)果引起了人們的擔(dān)憂，這些面孔在被用于邪惡目的時(shí)可能非常有效?！?/p>
來自意大利瑞士大學(xué)的副教授Piotr Didyk則表示：“我們確實(shí)已經(jīng)進(jìn)入了危險(xiǎn)的深度偽造的世界?！彼麤]有參與該論文。Didyk認(rèn)為，盡管創(chuàng)建同樣復(fù)雜的視頻更具挑戰(zhàn)性，但其工具可能很快就會(huì)被普遍使用。
這項(xiàng)研究的合成面孔則是在兩個(gè)神經(jīng)網(wǎng)絡(luò)之間的來回互動(dòng)中形成的，這是一種被稱為生成式對抗網(wǎng)絡(luò)的例子。其中一個(gè)網(wǎng)絡(luò)被稱為生成器，它產(chǎn)生了一系列不斷發(fā)展的合成面孔；另一個(gè)網(wǎng)絡(luò)被稱為鑒別器，它在真實(shí)圖像上進(jìn)行訓(xùn)練，然后通過跟實(shí)際面孔的數(shù)據(jù)進(jìn)行比較對生成的輸出進(jìn)行分級。
生成器以隨機(jī)像素開始練習(xí)。隨著鑒別器的反饋，它逐漸產(chǎn)生了越來越逼真的人臉。最終，鑒別器無法分辨出真假人臉。
該網(wǎng)絡(luò)在代表黑人、東亞、南亞和白人男性和女性面孔的真實(shí)圖像陣列上進(jìn)行了訓(xùn)練，這跟早期研究中更常見的白人男性面孔形成鮮明對比。
在將400張真實(shí)面孔跟400張合成面孔相匹配后，研究人員要求315人在128張圖片中分辨出真假。另一組219名參與者在試圖區(qū)分臉部時(shí)得到了一些關(guān)于如何識別假貨的培訓(xùn)和反饋。最后，第三組223名參與者對128張圖片的可信度進(jìn)行了評分，評分標(biāo)準(zhǔn)為1（非常不值得信任）至7（非常值得信任）。
第一組在分辨真假人臉方面的表現(xiàn)并不比拋硬幣的結(jié)果好，平均準(zhǔn)確率為48.2%。第二組未能顯示出戲劇性的改善，只得到了約59%，即使有關(guān)于這些參與者的選擇的反饋。對可信度進(jìn)行評分的小組給合成人臉的平均評分略高，為4.82分，而真人的評分為4.48分。
研究人員并沒有預(yù)料到這些結(jié)果?！拔覀冏畛跽J(rèn)為，合成面孔會(huì)比真實(shí)面孔更不值得信任，”這項(xiàng)研究的論文共同作者Sophie Nightingale說道。
這一發(fā)現(xiàn)增加了人們對技術(shù)可及性的擔(dān)憂，因?yàn)閹缀跞魏稳硕加锌赡軇?chuàng)造出具有欺騙性的靜態(tài)圖像。Nightingale說道：“任何人都可以在沒有Photoshop或CGI專業(yè)知識的情況下創(chuàng)建合成內(nèi)容。”南加州大學(xué)視覺智能和多媒體分析實(shí)驗(yàn)室的創(chuàng)始主任Wael Abd-Almageed則稱，另一個(gè)擔(dān)憂是，這種發(fā)現(xiàn)會(huì)給人一種印象，即深度造假將變得完全無法檢測。據(jù)悉，Almageed沒有參與這項(xiàng)研究。他擔(dān)心科學(xué)家們可能會(huì)放棄開發(fā)應(yīng)對深度偽造的措施。
人權(quán)組織WITNESS的項(xiàng)目戰(zhàn)略和創(chuàng)新總監(jiān)Sam Gregory指出：“在這個(gè)研究界沒有發(fā)生足夠的對話，那就是如何積極主動(dòng)地開始改進(jìn)這些檢測工具。”據(jù)悉，該組織部分地專注于區(qū)分深度偽造的方法。他表示，制作檢測工具非常重要，因?yàn)槿藗兺鶗?huì)高估自己識別假貨的能力，并且“公眾總是不得不去了解他們被惡意使用的情況?！?/p>
沒有參與這項(xiàng)研究的Gregory指出，論文作者們直接解決了這些問題。他們強(qiáng)調(diào)了三種可能的解決方案，包括為這些生成的圖像創(chuàng)建持久的水印，“比如嵌入指紋，這樣你就可以看到它來自一個(gè)生成過程”。
研究人員在強(qiáng)調(diào)深度偽造的欺騙性使用將繼續(xù)構(gòu)成威脅之后以一個(gè)嚴(yán)酷的結(jié)論結(jié)束–“因此，我們鼓勵(lì)那些開發(fā)這些技術(shù)的人考慮相關(guān)的風(fēng)險(xiǎn)是否大于其收益。如果是這樣，那么我們不鼓勵(lì)開發(fā)技術(shù)，僅僅是因?yàn)樗强赡艿??！?/p>
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
