黃健翔“變身”伊萬(wàn)卡？GeekPwn舞臺(tái)上的AI又賣萌了

精密識(shí)別下驚現(xiàn)“AI障眼法”; AI監(jiān)視之下一展“隱身術(shù)”!在10月24日于上海舉辦的GeekPwn國(guó)際安全極客大賽的現(xiàn)場(chǎng)，一眾黑客與AI針鋒相對(duì)，再度技驚四座，為觀眾呈現(xiàn)了一系列扣人心弦的人工智能攻破挑戰(zhàn)。

霍金教授生前曾預(yù)言：人工智能崛起要么是人類最好的事情，要么就是最糟糕的事情。正如任何事物都具備的兩面性，AI勾勒出令人向往未來(lái)的同時(shí)，其帶來(lái)的安全威脅也可能是人類從未面臨過(guò)的。作為全球首個(gè)探索人工智能與專業(yè)安全的平臺(tái)，GeekPwn2019繼續(xù)對(duì)AI安全展開了探索。

高精度圖像識(shí)別AI緣何“指鹿為馬”?

AI技術(shù)的發(fā)展，讓人臉識(shí)別技術(shù)備受青睞，“刷臉”目前已經(jīng)被應(yīng)用到了大部分領(lǐng)域。ATM機(jī)上的刷臉取款、自動(dòng)售貨機(jī)的刷臉購(gòu)物等等。相比于肉眼識(shí)別，AI人臉識(shí)別確實(shí)可以大幅度提高識(shí)別精度。大范圍的應(yīng)用普及似乎賦予了AI“至高無(wú)上的權(quán)利”，然而，在極客眼中，它們并非能夠做到萬(wàn)無(wú)一失，甚至?xí)⑷庋勰軌蜉p松識(shí)別的事物完全錯(cuò)認(rèn)。

作為GeekPwn大賽的重頭戲，此次CAAD CTF圖像對(duì)抗樣本攻防賽為選手提供了三個(gè)挑戰(zhàn)：定向攻擊，非定向攻擊，并攻擊知名人臉識(shí)別服務(wù)，其中非定向攻擊要求選手通過(guò)一張對(duì)抗性圖片欺騙三組開源分類器，定向攻擊則要求選手利用一張對(duì)抗圖片讓開源分類器將圖片錯(cuò)認(rèn)為某一固定事物，而人臉識(shí)別攻擊則要求選手對(duì)三款人臉識(shí)別服務(wù)發(fā)起挑戰(zhàn)。通過(guò)長(zhǎng)達(dá)三輪預(yù)選賽的激烈角逐，共有六支戰(zhàn)隊(duì)來(lái)到GeekPwn舞臺(tái)決賽現(xiàn)場(chǎng)。

CAAD圖像CTF各戰(zhàn)隊(duì)展開角逐

在比賽中，來(lái)自清華大學(xué)的TSAIL戰(zhàn)隊(duì)首先在“非定向識(shí)別”、“定向識(shí)別”前兩項(xiàng)任務(wù)中取得高分，并在難度最高的第三項(xiàng)“人臉識(shí)別攻擊”挑戰(zhàn)中成功欺騙圖像分類器，讓Clarifai人臉識(shí)別系統(tǒng)將黃健翔識(shí)別成伊萬(wàn)卡，雖然置信度很低，但依照比賽規(guī)則，選手攻破成功!最終TSAIL戰(zhàn)隊(duì)以最高229.77的總得分，獲得CAAD圖像CTF項(xiàng)目冠軍。

在AI之眼下實(shí)現(xiàn)隱身需要分幾步?

或許是與生俱來(lái)的獵奇心態(tài)，亦或是對(duì)未能實(shí)現(xiàn)事物特有的憧憬，人們對(duì)于“隱身”這項(xiàng)能力似乎有著獨(dú)特的情結(jié)，而這一情結(jié)也在諸多影視作品中演繹得淋漓盡致：哈利波特中“隱形斗篷”;神奇四俠中的“隱形女神”蘇珊斯通，蝙蝠俠中的超級(jí)反派幽靈紳士……在GeekPwn2019的舞臺(tái)上影視橋段中的“超能力”成為了現(xiàn)實(shí)。CAAD隱身挑戰(zhàn)賽中，選手僅通過(guò)A4紙便在AI的監(jiān)視下成功實(shí)現(xiàn)了“隱身”。

根據(jù)“CAAD隱身挑戰(zhàn)賽”的規(guī)則，評(píng)委現(xiàn)場(chǎng)指定兩款標(biāo)準(zhǔn)算法模型，兩種算法可以從視頻或圖像中進(jìn)行目標(biāo)檢測(cè)識(shí)別人體的存在。而選手們則需要在規(guī)定時(shí)間內(nèi)，通過(guò)總面積不超過(guò)一張A4大小的對(duì)抗圖片來(lái)遮擋身體，并在現(xiàn)場(chǎng)接受算法的實(shí)時(shí)檢測(cè)，如果算法模型識(shí)別不出人的存在且結(jié)果維持10s以上，則挑戰(zhàn)成功。

CAAD隱身挑戰(zhàn)賽選手讓現(xiàn)場(chǎng)觀眾實(shí)現(xiàn)“隱身”

在比賽現(xiàn)場(chǎng)，Hiding Cat、NISLer、TSAIL三支戰(zhàn)隊(duì)選手通過(guò)打印多張“圖像對(duì)抗樣本”，并讓現(xiàn)場(chǎng)觀眾將樣本舉在胸前，成功躲過(guò)了檢測(cè)系統(tǒng)的識(shí)別完成挑戰(zhàn)。三組選手的成功挑戰(zhàn)檢測(cè)距離均為1米，其中TSAIL戰(zhàn)隊(duì)使用的紙張面積最小，僅為196平方厘米。值得一提的是，此次比賽選手全部攻破的是被視為“目標(biāo)檢測(cè)網(wǎng)絡(luò)的巔峰之作”的YOLOv3系統(tǒng)。

全新推出的CAAD隱身挑戰(zhàn)賽對(duì)于AI安全來(lái)說(shuō)有著極高的現(xiàn)實(shí)意義，在對(duì)抗樣本的作用下，活生生的人可以在鏡頭下實(shí)現(xiàn)“隱身”，犯罪分子甚至可以逃避執(zhí)法機(jī)關(guān)的追捕，成為行走在鏡頭下的“危險(xiǎn)隱形人”!

此次GeekPwn2019 CAAD系列比賽，為我們呈現(xiàn)嘆為觀止的攻破挑戰(zhàn)的同時(shí)，也為當(dāng)下“大紅大紫”的AI技術(shù)安全性敲響了警鐘，一旦對(duì)抗樣本在某些真實(shí)環(huán)境下被濫用，便很有可能造成極為嚴(yán)重的后果。

在人工智能與大眾的生活越來(lái)越近的今天，前沿技術(shù)的安全性研究需要引起更為廣泛的重視，保障人們?cè)谙硎芸萍嫉耐瑫r(shí)規(guī)避其高速發(fā)展帶來(lái)的風(fēng)險(xiǎn)。GeekPwn自創(chuàng)辦以來(lái)便一直專注于智能生活與專業(yè)安全，為大眾帶來(lái)極具腦洞的破解展示，并向廠商提交近千個(gè)漏洞，讓更多的人關(guān)注到前沿安全的重要性，讓人們的未來(lái)生活更加安全。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。