當(dāng)人臉識(shí)別對(duì)準(zhǔn)執(zhí)法者，AI的應(yīng)用邊界博弈

當(dāng)AI技術(shù)正在帶來(lái)欣欣向榮的智能產(chǎn)業(yè)之時(shí)，我們有感于AI可以應(yīng)用的范圍之廣，也感慨于AI普及速度之快。這其中一個(gè)非常重要的原因，就在于AI的開(kāi)發(fā)門(mén)檻在大幅降低。

驕陽(yáng)之下，必生陰影。當(dāng)AI正在進(jìn)入尋常百姓家的同時(shí)，AI技術(shù)也可能在那些不法之徒手中變身惡龍，釋放規(guī)模更大、后果更嚴(yán)重的人性之惡。

還記得去年那個(gè)可以“一鍵脫衣”的DeepNude軟件么，因?yàn)橛|犯用戶(hù)隱私也觸及道德底線而在爆火之后被馬上禁止。但這項(xiàng)技術(shù)卻被很多人盯上，也給了很多黑產(chǎn)以靈感。

據(jù)報(bào)道，最近一個(gè)DeepNude2.0版本的應(yīng)用程序在Telegram APP上出現(xiàn)，同樣也是主打“一鍵脫衣”的功能。與1.0版本有一定技術(shù)門(mén)檻不同的是，原先還需要用戶(hù)安裝完整軟件和完整的神經(jīng)網(wǎng)絡(luò)框架，做好設(shè)置調(diào)試等操作才能得到一張“裸照”，而現(xiàn)在只需從手機(jī)里上傳一張照片，不需要任何技術(shù)和專(zhuān)門(mén)的硬件支持，就能把照片中的目標(biāo)“一鍵脫衣”。

據(jù)發(fā)現(xiàn)這一軟件的安全公司稱(chēng)，當(dāng)時(shí)已經(jīng)產(chǎn)生了至少68萬(wàn)名女性的“假裸照”，這意味著大量普通人正在遭受AI所帶來(lái)的隱私和名譽(yù)的危害。受害者的“照片”不僅有可能被不法分子用來(lái)牟利，如果同時(shí)泄露更多社交信息，還有潛在的勒索威脅。

我們不得不面對(duì)AI在應(yīng)用中的這一問(wèn)題：“AI for Good”還是“AI for Evil”，更為復(fù)雜的是，一些AI技術(shù)應(yīng)用，比如人臉識(shí)別，也正陷入到了新的博弈困境，比如，人臉識(shí)別技術(shù)能否成為普通人對(duì)抗強(qiáng)者的工具，還是說(shuō)，這些AI應(yīng)用必須徹底禁止就行？

這恐怕并不容易能夠立刻做出回答。

人臉識(shí)別，反過(guò)來(lái)對(duì)準(zhǔn)了執(zhí)法者

“我們正在逼近小人物也能對(duì)付大人物的技術(shù)門(mén)檻?！?/p>

這是下面事件里的開(kāi)發(fā)者的立場(chǎng)。他所指的技術(shù)正是人臉識(shí)別。而事件的起因是，今年因?yàn)榉且崮凶臃鹇逡赖轮浪l(fā)的全美大抗議。

事件之后，美國(guó)俄勒岡州波特蘭市爆發(fā)了持續(xù)數(shù)月的抗議游行，聯(lián)邦特工和波特蘭警方加入到曠日持久的阻擊和鎮(zhèn)壓當(dāng)中。從之前的新聞看來(lái)，警方不僅使用了催淚瓦斯，甚至在沖突后出現(xiàn)了槍擊，一人因槍擊死亡的事件。

一名參與了持續(xù)抗疫的開(kāi)發(fā)者Christopher Howell則堅(jiān)持認(rèn)為，“我們必須明確責(zé)任，需要知道事件中誰(shuí)做了什么?！彼傅木褪且獙?duì)警方身份進(jìn)行識(shí)別和行為進(jìn)行確認(rèn)。

Howell是一個(gè)熟悉神經(jīng)網(wǎng)絡(luò)算法的開(kāi)發(fā)者，他們當(dāng)時(shí)正好也拍攝了很多警察執(zhí)法的照片。為了防止濫用警力，或警察違規(guī)執(zhí)法，原本警員制服上的名字可以告訴公眾人們他們的身份，但是在這場(chǎng)示威游行中，波特蘭市警察局允許了身穿制服的警察可以遮擋住自己的名字。

因此，Howell才使用了人臉識(shí)別技術(shù)，連同政府官網(wǎng)、社交媒體和新聞報(bào)道中搜集到的警員照片，來(lái)辨認(rèn)這些執(zhí)法警察。

而幾乎同時(shí)，9月初波特蘭市議會(huì)開(kāi)始公開(kāi)討論，是否出臺(tái)一項(xiàng)立法以全面禁止使用人臉識(shí)別技術(shù)，該法案將主要禁止警員利用摘下抗議者面罩或者用監(jiān)視攝像頭拍下并識(shí)別這些人的身份，也阻止企業(yè)和其他組織使用該技術(shù)識(shí)別未知人員的身份。

該法案征求意見(jiàn)期間，Howell反映了他用人臉識(shí)別技術(shù)來(lái)識(shí)別波特蘭警員的事情，這件事讓波特蘭官方感到非常不爽。經(jīng)過(guò)討論，該法案也得到了市議會(huì)的通過(guò)，但Howell個(gè)人可以繼續(xù)開(kāi)展該項(xiàng)目。

這確實(shí)出人意料。代表執(zhí)法者的官方被禁止使用人臉技術(shù)來(lái)對(duì)準(zhǔn)民眾，而民眾個(gè)人則有權(quán)利用人臉識(shí)別技術(shù)來(lái)對(duì)抗執(zhí)法者。

Howell的做法并非孤例。原本執(zhí)法部門(mén)可以通過(guò)政府?dāng)?shù)據(jù)庫(kù)中的照片或者通過(guò)人臉識(shí)別技術(shù)公司Clearview AI從公共互聯(lián)網(wǎng)中獲得的照片，來(lái)利用人臉識(shí)別技術(shù)發(fā)現(xiàn)犯罪分子，而現(xiàn)在一些激進(jìn)人士反過(guò)來(lái)用這一技術(shù)對(duì)付執(zhí)法部門(mén)，用來(lái)揭露行為不當(dāng)?shù)膱?zhí)法人員的身份。

去年，一名抗議者Colin Cheung試圖通過(guò)警員在網(wǎng)上的照片來(lái)識(shí)別其身份，因?yàn)槠湓贔acebook公開(kāi)發(fā)布了該項(xiàng)目的視頻而被捕。

白俄羅斯的一個(gè)技術(shù)專(zhuān)家則通過(guò)YouTube演示了如何使用人臉識(shí)別技術(shù)來(lái)識(shí)別那些暴力執(zhí)法的蒙面警察，其過(guò)程也是通過(guò)社交媒體上的警員照片進(jìn)行對(duì)比而獲得。當(dāng)然，這位專(zhuān)家已經(jīng)逃到了美國(guó)洛杉磯。

通過(guò)Howell的案例我們看到，只要具有一定AI開(kāi)發(fā)經(jīng)驗(yàn)的普通人，都可以利用那些開(kāi)放的圖像識(shí)別軟件，進(jìn)行人臉識(shí)別技術(shù)的開(kāi)發(fā)，比如Howell就用了谷歌的TensorFlow，幫助他構(gòu)建機(jī)器學(xué)習(xí)模型。

這就是技術(shù)門(mén)檻降低帶給“小人物對(duì)抗大人物”的底氣。但是這樣真的好嗎？

濫用人臉識(shí)別：一場(chǎng)無(wú)人勝出的博弈

我們知道，波特蘭市議會(huì)出臺(tái)的這一項(xiàng)禁止政府使用人臉識(shí)別技術(shù)的法律，其根源正是來(lái)自于今年6月在全美開(kāi)啟的一項(xiàng)關(guān)于“人臉識(shí)別技術(shù)是否要禁止”的大爭(zhēng)論。

為聲援全美掀起的“BLM”（黑命貴）抗議活動(dòng)，微軟、IBM、亞馬遜為代表的科技企業(yè)紛紛表示拒絕向美國(guó)警方提供人臉識(shí)別技術(shù)服務(wù)，其中IBM公司直接宣稱(chēng)放棄人臉識(shí)別業(yè)務(wù)，激進(jìn)可見(jiàn)一般。6月底，美國(guó)計(jì)算機(jī)協(xié)會(huì)（ACM）的技術(shù)政策小組呼吁，以記錄在案的種族和性別偏見(jiàn)為由，公開(kāi)敦促美國(guó)立法者立即中止企業(yè)和政府部門(mén)使用人臉識(shí)別。

其實(shí)，在此之前，舊金山、波士頓等城市都以性別偏見(jiàn)和錯(cuò)誤識(shí)別為由，已經(jīng)禁止使用人臉識(shí)別技術(shù)用于警察執(zhí)法。而現(xiàn)在，美國(guó)參眾兩院的議員推動(dòng)，美國(guó)多個(gè)州的地方議會(huì)和政府也開(kāi)始相繼討論和禁止用于執(zhí)法的人臉識(shí)別技術(shù)。

雖然警方的人臉識(shí)別的軟件之前存在缺陷，出現(xiàn)過(guò)錯(cuò)誤識(shí)別和逮捕嫌疑人的情況，但是技術(shù)的問(wèn)題似乎應(yīng)該通過(guò)改進(jìn)技術(shù)來(lái)解決，現(xiàn)在為了政治正確，他們把這項(xiàng)技術(shù)也直接推翻。

而另一面，我們也看到，小人物也獲得了對(duì)付大人物的“屠龍術(shù)”。激進(jìn)抗議者為了獲得警察的身份數(shù)據(jù)也可謂是不遺余力。

在引入人臉識(shí)別技術(shù)之前，一些反監(jiān)視組織采取了眾包的辦法，就是依靠網(wǎng)絡(luò)用戶(hù)去識(shí)別那些有警察暴力執(zhí)法視頻中的警員身份，或者直接上傳穿制服的警員照片，最后通過(guò)那些可以搜索到的記錄執(zhí)法人員的公共數(shù)據(jù)庫(kù)，來(lái)找到警員的姓名、徽章編號(hào)。

現(xiàn)在，這些開(kāi)源的數(shù)據(jù)庫(kù)正在成為像Howell這樣的開(kāi)發(fā)者獲得警員身份照片的途徑，而人臉識(shí)別技術(shù)又能快速判定現(xiàn)在執(zhí)法行動(dòng)中警員的身份。

這當(dāng)然是給受到暴力執(zhí)法之苦的民眾予以起訴這些執(zhí)法警員的有利途徑，但是同時(shí)人臉識(shí)別技術(shù)的應(yīng)用有可能導(dǎo)致被更激進(jìn)的人員濫用。因?yàn)檫@些警員也會(huì)有私人生活，也會(huì)攜帶家人和孩子出行。一旦有些人可以使用這一工具追蹤這些警員，那么很可能讓這些警員和家人處在更加危險(xiǎn)的境地。

普通民眾擔(dān)心官方濫用人臉識(shí)別技術(shù)，因?yàn)殄e(cuò)誤識(shí)別和種族偏見(jiàn)而蒙受不公待遇，而現(xiàn)在執(zhí)法者卻因?yàn)榭赡転E用的人臉識(shí)別技術(shù)，被激進(jìn)者跟蹤或報(bào)復(fù)。

為了凸顯這一矛盾，最近一個(gè)法國(guó)藝術(shù)家Paolo Cirio在網(wǎng)絡(luò)發(fā)起了一個(gè)名為“Capture”的展覽活動(dòng)，公布了1000張法國(guó)警員的臉部照片，這是從互聯(lián)網(wǎng)和一些參加抗議活動(dòng)的攝影師那里獲得的照片。他匯總了這些照片之后，聲稱(chēng)這是開(kāi)發(fā)一款人臉識(shí)別應(yīng)用程序的第一步。

緊接著，他就收到了來(lái)自法國(guó)內(nèi)政部的壓力，隨即他撤下了照片。這位藝術(shù)家的立場(chǎng)恰恰是要禁止人臉識(shí)別。他希望官方能夠意識(shí)到人臉識(shí)別技術(shù)帶給人們的壓力，無(wú)論是民眾還是執(zhí)法者。而現(xiàn)在官方的做法只是在解決“提出問(wèn)題的人”，而非去解決問(wèn)題。

那么，人臉識(shí)別技術(shù)就在這樣的沖突中真的無(wú)解了嗎？

濫用無(wú)解，合規(guī)有道

正如人類(lèi)幾乎難以阻止AI技術(shù)被用于色情、黑產(chǎn)等灰色地帶，我們也不應(yīng)因噎廢食地放棄AI技術(shù)用于正常的日常社會(huì)生產(chǎn)生活當(dāng)中。

現(xiàn)在我們看到，人臉識(shí)別技術(shù)已經(jīng)廣泛應(yīng)用到面部解鎖、身份認(rèn)證、面部支付、門(mén)禁、通行、安防等領(lǐng)域，不僅給個(gè)人生活帶來(lái)極大的便利，也給社會(huì)環(huán)境提供了更為安全的保障。正如亞馬遜的表態(tài)一樣，他們并未放棄人臉識(shí)別技術(shù)，而且還會(huì)在找尋失蹤兒童上面跟政府進(jìn)行合作，而微軟也希望在聯(lián)邦政府出臺(tái)更為嚴(yán)格的監(jiān)管法律之后再重新合作。

當(dāng)然，人臉識(shí)別技術(shù)在危及隱私和身份信息安全方面也一直被人們所詬病。

不過(guò)，技術(shù)的問(wèn)題應(yīng)該用技術(shù)的辦法來(lái)解決。正如美國(guó)的人臉識(shí)別技術(shù)在有色人種的識(shí)別率差的問(wèn)題，在好幾年前就已經(jīng)暴露出來(lái)，而現(xiàn)在應(yīng)該通過(guò)訓(xùn)練樣本等手段的改進(jìn)而改變識(shí)別率，而非因?yàn)橛羞^(guò)“翻車(chē)”事件就直接去掉，可謂印證了中國(guó)這句“波洗澡水，把孩子也一起潑掉了”的老話(huà)。

技術(shù)問(wèn)題解決，更應(yīng)該強(qiáng)調(diào)的是監(jiān)管問(wèn)題。

在一個(gè)人人皆媒體的時(shí)代，誰(shuí)都將成為社會(huì)事件的記錄者。正如弗洛依德事件中，我們看到警方在有意掩蓋現(xiàn)場(chǎng)執(zhí)法過(guò)程，而圍觀群眾則將整個(gè)事件從各個(gè)角度都拍了下來(lái)，因此才引起全網(wǎng)的軒然大波。

如果在沒(méi)有攝像機(jī)執(zhí)法，沒(méi)有路人圍觀拍攝的情況下，警方一定是強(qiáng)勢(shì)的解釋方，真相可能就此被掩蓋。所以，無(wú)論從掌握的攝像頭的拍攝數(shù)據(jù)和民眾信息，還是現(xiàn)場(chǎng)的執(zhí)法權(quán)，政府和警方都擁有絕對(duì)的優(yōu)勢(shì)，那么，官方在使用人臉識(shí)別技術(shù)的時(shí)候，就必須要嚴(yán)格遵守程序正義和結(jié)果的可溯源，在執(zhí)法中的交叉錄像、執(zhí)法后的證據(jù)固定，事后的結(jié)論公布等都要對(duì)當(dāng)事方要透明公開(kāi)。如果中間出現(xiàn)疏漏，當(dāng)事人可由此提請(qǐng)申訴。

而對(duì)于民眾而言，人臉識(shí)別技術(shù)的使用也必須有一定的邊界，其使用的人臉識(shí)別數(shù)據(jù)必須要有合法的來(lái)源，其識(shí)別軟件必須要嚴(yán)格控制其擴(kuò)散途徑，一旦隨意擴(kuò)散該工具和數(shù)據(jù)，從而造成相關(guān)法律風(fēng)險(xiǎn)，發(fā)明者和使用者都需要付出相關(guān)的代價(jià)。

個(gè)人的無(wú)商業(yè)或者無(wú)違法目的的使用是一回事，而一旦用于謀利或犯罪就是另一回事。其中的邊界相當(dāng)敏感，未來(lái)需要更多的案例和更多的博弈出現(xiàn)。

正好最近看到一個(gè)非常正向的人臉識(shí)別應(yīng)用。杭州市的一個(gè)初二學(xué)生，剛剛發(fā)明了一種可以進(jìn)行人臉識(shí)別和語(yǔ)音提醒功能的“智能項(xiàng)圈”，其發(fā)明的初衷是為了幫助家中患有阿爾茨海默癥的老人，可以通過(guò)項(xiàng)圈的攝像頭識(shí)別出眼前的親人，可以通過(guò)紫外線傳感器來(lái)識(shí)別室內(nèi)室外，提醒老人回家。

特別是人臉識(shí)別技術(shù)，其中的數(shù)據(jù)只包含了老人的幾位親人，自然也就不涉及濫用非法數(shù)據(jù)的問(wèn)題，因?yàn)樯婕吧贁?shù)家里人的照片，絕對(duì)的安全可靠。無(wú)論這款產(chǎn)品能否有實(shí)際的商業(yè)應(yīng)用前景，但是從“AI for Good”的角度來(lái)看，其AI應(yīng)用的合規(guī)性和公益性是毋庸置疑的。

尼采曾經(jīng)說(shuō)過(guò)：與惡龍纏斗過(guò)久,自身亦成為惡龍。AI技術(shù)其實(shí)既不是那個(gè)英雄，也不是那條惡龍。最關(guān)鍵的還是使用這一工具的人類(lèi)，我們究竟要用AI技術(shù)把自己鍛造成為一個(gè)英雄，還是變身成為一頭惡龍，可能就是在人心的一念之間。

當(dāng)然，最終能夠守護(hù)人間秩序的，仍然要靠著逐漸完備的法律制度來(lái)保障。只不過(guò)這個(gè)過(guò)程需要各方參與者共同去向積極方向努力。

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無(wú)關(guān)。文章僅供讀者參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。