近日騰訊安全平臺(tái)部預(yù)研團(tuán)隊(duì)發(fā)現(xiàn)谷歌人工智能學(xué)習(xí)系統(tǒng)TensorFlow存在嚴(yán)重安全風(fēng)險(xiǎn)，可被黑客利用帶來安全威脅，團(tuán)隊(duì)已向谷歌報(bào)告這一風(fēng)險(xiǎn)并獲得致謝，其官方負(fù)責(zé)人稱，考慮到TensorFlow在AI的廣泛使用，TensorFlow官網(wǎng)將會(huì)像大多數(shù)重要軟件一樣在網(wǎng)站創(chuàng)建安全公告頁(yè)面，及時(shí)披露和修復(fù)安全漏洞。
目前，Google的TensorFlow作為開源框架被互聯(lián)網(wǎng)廣泛使用，據(jù)官方介紹，谷歌、ebay、airbnb、twitter、uber、小米、中興等公司均有使用。在TensorFlow中，AI研究者可以復(fù)用他人建好的模型來進(jìn)行AI訓(xùn)練，或直接提供AI服務(wù)，大大提高開發(fā)效率。
據(jù)了解，這些公開的模型通常以文件形式提供，也普遍被認(rèn)為是無害的。但騰訊安全平臺(tái)部預(yù)研團(tuán)隊(duì)發(fā)現(xiàn)，攻擊者可以生成Tensorflow的惡意模型文件，對(duì)AI研究者進(jìn)行攻擊，對(duì)受害者自身的AI應(yīng)用進(jìn)行竊取或篡改、破壞。
該風(fēng)險(xiǎn)危害面非常大，一方面攻擊成本低，普通攻擊者即可實(shí)施攻擊；另一方面迷惑性強(qiáng)，大部分AI研究者可能毫無防備；同時(shí)因?yàn)槔昧薚ensorFlow自身的機(jī)制，其在PC端和移動(dòng)端的最新版本均會(huì)受到影響。AI模型被竊取，損失的是開發(fā)者的心血；而一旦被篡改，造成AI失控，后果更難以想象。
此前，AI已有不少實(shí)際應(yīng)用案例，例如深圳試運(yùn)行的無人駕駛公交、國(guó)際會(huì)議的AI同聲傳譯；未來更會(huì)滲透到社會(huì)的方方面面：交通、醫(yī)療、安防、金融……在不遠(yuǎn)的未來，AI安全會(huì)直接影響人們的生命財(cái)產(chǎn)安全，甚至整個(gè)世界的秩序。如電影《復(fù)仇者聯(lián)盟：奧創(chuàng)世紀(jì)》那樣，終極人工智能奧創(chuàng)為人們的生活提供了無數(shù)便利，但當(dāng)他站到人類的對(duì)立面時(shí)，也會(huì)帶來無數(shù)災(zāi)難甚至毀滅。
據(jù)悉，騰訊安全平臺(tái)部安全預(yù)研團(tuán)隊(duì)已就此次發(fā)現(xiàn)的安全風(fēng)險(xiǎn)向谷歌提交報(bào)告，協(xié)助風(fēng)險(xiǎn)早日收斂。該團(tuán)隊(duì)不僅聚焦AI、移動(dòng)及IoT前沿領(lǐng)域的安全問題研究，同時(shí)也向google，apple，微軟，adobe等公司報(bào)告多個(gè)安全漏洞并多次獲得官方致謝。此外，他們對(duì)無人機(jī)、無線電、物聯(lián)網(wǎng)、智能樓宇的安全問題也有研究。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
