阿里聯(lián)合清華推動產(chǎn)學(xué)研合作 共同探索AI與安全關(guān)鍵技術(shù)

小學(xué)生用照片攻破豐巢人臉識別系統(tǒng)、自動駕駛汽車失控撞人、AI換臉讓你一秒成為黃片主角……隨著人工智能技術(shù)的快速發(fā)展、普及和應(yīng)用,隨之而來的安全、倫理等問題也引發(fā)普遍擔(dān)憂。

“人工智能安全作為人工智能研究和產(chǎn)業(yè)化應(yīng)用的重要組成部分,應(yīng)推動政府、學(xué)術(shù)界和產(chǎn)業(yè)界進行更加深度和廣泛的合作,對人工智能的安全進行系統(tǒng)布局,”12月8日,在清華大學(xué)舉辦的AI與安全研討會上,清華大學(xué)副校長、中科院院士薛其坤表示:“這一領(lǐng)域是快速發(fā)展的,要在關(guān)鍵時刻把握正確的方向,抓住關(guān)鍵的技術(shù),“相信通過這次AI與安全會議,能取得新的進展和收獲?!?/p>

據(jù)悉,研討會由清華大學(xué)、阿里安全、北京智源人工智能研究院聯(lián)合舉辦,邀請高校、互聯(lián)網(wǎng)公司、政府部門等多方科研人員參與,旨在提升各界對于AI與安全的重視程度,合作產(chǎn)出更多安全AI成果。

“在2019年天貓雙11當(dāng)天,我們的安全AI大腦完成風(fēng)險防控388億次,99%的黃牛被系統(tǒng)準(zhǔn)確攔截,”阿里巴巴集團安全技術(shù)總經(jīng)理錢磊指出,阿里具備當(dāng)前產(chǎn)業(yè)界最復(fù)雜的商業(yè)場景,清華擁有極強的技術(shù)和研發(fā)能力,未來雙方通過人才、項目等方面加強產(chǎn)學(xué)研合作,將是一個非常好的探索和命題。

清華大學(xué)計算機系黨委書記劉奕群表示,阿里與清華一直合作密切,這次會議將促進各方更加深入的合作,推動我國人工智能領(lǐng)域的安全管理體系的建立,也將在國際人工智能的安全領(lǐng)域更好發(fā)出中國的聲音。

發(fā)展可信、可解釋的安全AI成共識

人工智能發(fā)展的快速和重要性已經(jīng)不言而喻。2019年,美國、歐洲、日本等各國均出臺各類促進人工智能發(fā)展的政策和國家戰(zhàn)略;公開數(shù)據(jù)顯示,2019年,中國人工智能相關(guān)公司總數(shù)超過2500家,到2020年,中國人工智能產(chǎn)業(yè)規(guī)模將接近500億元。

“各類場景中,安防、醫(yī)療應(yīng)用較為廣泛,最近上海地鐵一個攝像頭抓到了潛逃20年的殺人犯,就是典型應(yīng)用。”國家工業(yè)信息安全發(fā)展中心副主任李新社在報告中指出,但人工智能當(dāng)前面臨數(shù)據(jù)、算法、網(wǎng)絡(luò)、信息、倫理等多方面的安全問題,“建立可信的人工智能將成為發(fā)展的重要考量?!?/p>

早在1987年就帶領(lǐng)清華成立全國第一個以人工智能命名的國家重點實驗室,見證、參與中國第一代、第二代人工智能技術(shù)發(fā)展,清華大學(xué)人工智能研究院院長、中科院院士張鈸在主旨報告中強調(diào),必須發(fā)展安全、可靠、可信的第三代人工智能,這樣才有可能使人工智能技術(shù)得到安全廣泛的應(yīng)用。而發(fā)展技術(shù)的關(guān)鍵在于基礎(chǔ)研究,必須在基礎(chǔ)研究上進行重點投入和突破。

(清華大學(xué)人工智能研究院院長、中科院院士張鈸在會議中做主旨報告)

“一張鳥的照片,加一點噪聲,就能讓AI識別為一只老虎,”張鈸院士表示,人工智能的安全問題源于深度學(xué)習(xí)技術(shù)的底層缺陷,采用非常簡單的神經(jīng)網(wǎng)絡(luò)系統(tǒng),用概率統(tǒng)計的方法來提取出低層次的特征,而正確的方法應(yīng)該是像人類一樣去提取高層次的語義特征,“我們正在往這個方向努力,但現(xiàn)實情況是,沒有永遠(yuǎn)安全的系統(tǒng),也不要指望有永遠(yuǎn)安全的人工智能系統(tǒng),只有加強基礎(chǔ)研究,才有前瞻性的判斷,及時采取措施。”

中國科學(xué)院院士、大數(shù)據(jù)算法與分析技術(shù)國家工程實驗室主任徐宗本在主旨報告中也重點強調(diào):人工智能的未來發(fā)展,特別是在醫(yī)療等關(guān)鍵領(lǐng)域的應(yīng)用技術(shù),需要充分利用數(shù)學(xué)等工具加強基礎(chǔ)研究,突破精確性瓶頸,打破數(shù)據(jù)孤島,實現(xiàn)小樣本和可解釋的深度學(xué)習(xí)。

AI與安全發(fā)展相輔相成

針對AI與安全的眾多技術(shù)領(lǐng)域問題,中國科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副院長張衛(wèi)明、上海交通大學(xué)網(wǎng)絡(luò)空間安全技術(shù)研究院副院長伍軍、西安交通大學(xué)網(wǎng)絡(luò)空間安全副院長沈超、西交利物浦大學(xué)電氣與電子工程系教授黃開竹、清華大學(xué)副教授張超等人在會上做了精彩的發(fā)言,并從各個角度提供建議,比如防止AI的濫用和誤用、加強相關(guān)標(biāo)準(zhǔn)制定、加強人才培養(yǎng)、進一步深化人工智能與各個實體產(chǎn)業(yè)的融合等。

“當(dāng)業(yè)界還在擔(dān)憂AI安全性的問題,我們已經(jīng)在阿里的安全場景中全面使用AI技術(shù),安全本身的攻防對抗屬性下,AI也在進化,”錢磊表示,阿里安全通過在打擊假貨、營商環(huán)境治理、網(wǎng)絡(luò)安全、數(shù)據(jù)安全、新零售安全等領(lǐng)域的AI應(yīng)用,希望打造出更安全、更可信、可解釋的安全AI。

(阿里巴巴集團安全技術(shù)總經(jīng)理錢磊在會議中分享阿里用AI解決安全問題的實踐)

錢磊在現(xiàn)場公布了一組安全AI的防控數(shù)據(jù):在打擊假貨方面,96%的疑似侵權(quán)鏈接一上線就被封殺、96%的知識產(chǎn)權(quán)投訴在24小時內(nèi)被處理;在保障商家經(jīng)營方面,每天應(yīng)對千萬級風(fēng)險訂單識別和判斷,累計攔截上百萬惡評攻擊。

徐宗本院士點評稱,AI打假提供了更多機器學(xué)習(xí)、大數(shù)據(jù)分析,對真假甄別意義重大,AI打假是數(shù)字技術(shù)、人工智能的應(yīng)用場景,“阿里在這方面做得不錯?!?/p>

冰凍三尺非一日之寒。阿里巴巴集團安全部成立于2009年,最早期為專家運營階段,即通過離線數(shù)據(jù)分析研判,修復(fù)產(chǎn)品漏洞,“一直到2013年,基本都是這種人肉模式,但隨著阿里業(yè)務(wù)體系不斷擴大,如果每個業(yè)務(wù)都要兩三個專家去分析,基本是不可能的,后面我們就進入數(shù)據(jù)智能時代?!卞X磊表示,這一時期的特點是通過大量的信息,建立完善的安全體系、指標(biāo)體系,通過人去解讀指標(biāo)變化,再變成規(guī)則落地、線上防控,“人依然是主導(dǎo)。”

“安全風(fēng)控本質(zhì)是一個識別、判定和處置的過程,我們嘗試通過算法來提效,并在一些流量業(yè)務(wù)中使用,效果不錯,從2018年開始,全面轉(zhuǎn)向安全AI時代,”錢磊認(rèn)為,安全能力的高低強弱和在場景中能使用多少數(shù)據(jù),使用數(shù)據(jù)的水平,是正相關(guān)的,而AI技術(shù)在安全領(lǐng)域的大面積應(yīng)用,將大大提升安全業(yè)務(wù)使用數(shù)據(jù)的水平,“安全的對抗性,又為AI技術(shù)的發(fā)展提供了豐富的多變的場景,推動AI技術(shù)的快速發(fā)展,兩者相輔相成。”

2019年6月,阿里聯(lián)合清華大學(xué)發(fā)起安全AI挑戰(zhàn)者計劃,分別進行了人臉識別、圖像分類等場景的對抗樣本測試,共計2000多名隊伍報名,此次會議中也對前五名獲獎隊伍進行了現(xiàn)場頒獎。

“我們希望與更多方合作,在AI的可解釋性、安全性上,在更多應(yīng)用場景中,產(chǎn)出更多的成果,來推動人工智能和安全產(chǎn)業(yè)的發(fā)展。”錢磊表示。

免責(zé)聲明:此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章,所有文字和圖片版權(quán)歸作者所有,且僅代表作者個人觀點,與極客網(wǎng)無關(guān)。文章僅供讀者參考,并請自行核實相關(guān)內(nèi)容。投訴郵箱:editor@fromgeek.com。

極客網(wǎng)企業(yè)會員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2019-12-10
阿里聯(lián)合清華推動產(chǎn)學(xué)研合作 共同探索AI與安全關(guān)鍵技術(shù)
小學(xué)生用照片攻破豐巢人臉識別系統(tǒng)、自動駕駛汽車失控撞人、AI換臉讓你一秒成為黃片主角……隨著人工智能技術(shù)的快速發(fā)展、普及和應(yīng)用,隨之而來的安全、倫理等問題也引發(fā)普遍擔(dān)憂。

長按掃碼 閱讀全文