8月18日消息,據(jù)外媒報道,AI生成的埃隆·馬斯克的形象,已經(jīng)出現(xiàn)在數(shù)千條虛假廣告中,導(dǎo)致許多人被騙。AI驅(qū)動的“深度偽造”(deepfake)視頻預(yù)計每年將造成數(shù)十億美元的欺詐損失。
外媒舉了一個具體的例子,去年年底,82歲的退休人員博尚普(Steve Beauchamp)看到了一段“馬斯克”推薦一個激進(jìn)投資機(jī)會的視頻,該機(jī)會承諾會帶來快速的回報。他聯(lián)系了推銷該項目的公司,并開設(shè)了一個賬戶,存入了248美元。在接下來的幾周內(nèi),通過一系列交易,博尚普耗盡了他的退休賬戶,最終投資了超過69萬美元。
然后,這些錢消失了,被利用人工智能的新型犯罪企業(yè)的數(shù)字騙子騙走了。
這些騙子編輯了一段馬斯克的真實采訪,利用AI工具替換了他的聲音。這個AI足夠先進(jìn),可以改變細(xì)微的嘴部動作,以匹配他們?yōu)檫@個數(shù)字假冒人物編寫的新臺詞。對普通觀眾來說,這種操控可能難以察覺。
有業(yè)內(nèi)人士評價稱,這些視頻往往非常逼真,模仿了馬斯克標(biāo)志性的語調(diào)和南非口音。
在過去幾個月中,數(shù)以千計由AI生成的視頻(稱為深度偽造)充斥網(wǎng)絡(luò),其中包括虛假的馬斯克形象,欺騙了眾多潛在投資者。德勤預(yù)計,AI驅(qū)動的深度偽造每年可能導(dǎo)致數(shù)十億美元的欺詐損失。
這些視頻制作成本僅需幾美元,幾分鐘內(nèi)即可完成,并通過社交媒體(包括Facebook的付費廣告)推廣,擴(kuò)大其影響范圍。
AI行業(yè)正在快速發(fā)展,這些伴隨產(chǎn)生的欺詐事件,需要AI行業(yè)和監(jiān)管部門共同努力應(yīng)對,以防止濫用。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )