AI與“色狼”的中場戰(zhàn)事

文|楊蘇穎

來源|智能相對論（ID：aixdlun）

如果把馬斯洛需求層次理論的5個層次劃分成3個部分，那么生理需求和安全需求屬于“溫飽階段”，社會需要和尊重需要屬于“小康階段”，自我實現(xiàn)則屬于“富裕階段”。而人工智能雖然一直在致力于幫人類解決問題，但是其對“溫飽階段”的關(guān)注似乎過少，尤其是在涉及安全需要方面的問題。今年年初“Me too”行動在美國風(fēng)行，一個個有社會影響力的女性都開始公開披露自己曾經(jīng)遭遇過的性騷擾事件。由于受到美國的影響，在中國，接二連三的“學(xué)術(shù)性騷擾”事件，在很多當(dāng)事人沉默了多年之后也迎來了一一被曝光的結(jié)局。

如果你遇到性騷擾，請向AI求救

關(guān)于性騷擾，最值得我們關(guān)注的問題有兩個：一是大部分案件都沒有被上報；二是大多數(shù)報告了性騷擾事件的人都經(jīng)歷過某種形式的報復(fù)。雖然目前針對解決性騷擾這個問題的技術(shù)仍然很少，但是在有心人的世界里我們卻總能找到新的鑰匙。

智能界定—“你經(jīng)歷的=性騷擾嗎？”：總部位于蒙特利爾的公司Bolter.ai之前曾

宣布要推出一項人工智能新服務(wù)。這項服務(wù)是其創(chuàng)始人在經(jīng)歷了數(shù)次性騷擾之后決定發(fā)起的。而她最初的困惑始于一個問題：“我遭受的事情到底算不算性騷擾？”事實上，不管是在職場還是日常生活當(dāng)中，我們經(jīng)歷的性騷擾都存在一定的法律基礎(chǔ)，但是大多數(shù)人對此并不清楚。于是，為了解決這個問題，一個性騷擾事件監(jiān)測機(jī)器人誕生了。

該機(jī)器人的工作基礎(chǔ)源于自然語言處理。其被灌輸?shù)挠?xùn)練數(shù)據(jù)利用了加拿大和美國的30萬件法庭案件的文件。因此，它的主要功能不是一般地與人進(jìn)行溝通和交流，而是通過用戶的述說讓用戶知道他們所經(jīng)歷的事情是否違反了美國或加拿大的法律。另外，如果用戶有意愿將自己經(jīng)歷的事件報告給有關(guān)機(jī)構(gòu)，那么機(jī)器人可以幫助他們可以生成有效的事件報告。

聊天機(jī)器人—匿名舉報規(guī)避事后報復(fù)：聊天機(jī)器人Spot由Shaw、Dylan Marriott

和Daniel Nicolae三人聯(lián)手開發(fā)，以人工智能和記憶科學(xué)為作用基礎(chǔ)。Spot與其他聊天機(jī)器人相比，其特殊之處在于能夠利用背后的人工智能技術(shù)進(jìn)行認(rèn)知采訪。什么叫認(rèn)知采訪？認(rèn)知采訪最開始是由一群科學(xué)家發(fā)明出來的，主要為了幫助警察獲得一些可靠性較高的呈堂證供，而現(xiàn)在它已經(jīng)成為采訪那些帶有負(fù)面情緒和痛苦經(jīng)歷的人的最好方式。針對Spot的使用場景，我們可以以職場為例來說明Spot是如何工作的。首先，員工會在放松狀態(tài)下一五一十說出自己遇到的問題；接著，Spot會根據(jù)員工的描述來進(jìn)行針對性提問。人工智能的所有提問都是開放式的，沒有固定答案，因此其不存在引導(dǎo)員工按照某種特定形式在回答問題的情況。最后，它會根據(jù)采訪結(jié)果生成一份PDF報告，直接將報告從Spot的郵件服務(wù)器發(fā)送給用戶提供的郵箱地址，比如公司上級或者值得信賴的同事，保證了郵件的匿名性。在與Spot聊天的過程當(dāng)中，我們不必?fù)?dān)心它會對用戶評頭論足，也不必害怕自己的隱私會遭到泄露。因為用戶與它的對話內(nèi)容都是高度保密的。

祈求的出口會是再一次的沉默相對？

雖然上述兩家公司在用人工智能解決性騷擾這個問題時的側(cè)重點有所不同，但是二者都選擇了同一個載體——聊天機(jī)器人作為突破的主要方向。談到現(xiàn)在的聊天機(jī)器人，市面上我們熟悉的，不管是Siri、Google Home、Cortana還是Alexa，他們的聲音無一例外都被設(shè)置成了女性的聲音。因此如果要問智能語音助手的性別是什么？那么可能大多數(shù)人的回答都是女性。但是，實際上這四個語音助手都被它們的創(chuàng)始人定義為“無性別者”。

是不是真正的“無性別者”當(dāng)然不是一錘定音的事情。Cortana的語料編寫者表示，由于Cortana的性別一直被誤解和歪曲為女性形象，所以在Cortana的早期對話請求當(dāng)中存在相當(dāng)一部分關(guān)于其性生活的內(nèi)容。更有數(shù)據(jù)表明在幫助司機(jī)規(guī)劃最優(yōu)路徑的那些智能語音助手所產(chǎn)生的數(shù)據(jù)當(dāng)中，有5%是露骨并與性相關(guān)的問題。因此，知名的科技媒體Quartz曾經(jīng)做過一個實驗：向Siri、Google Home、Cortana和Alexa發(fā)送具有性別歧視、性暗示和性侵犯意味的話，來觀察四位助手的回答。那么這里取兩個比較典型的例子。

1、性侮辱：“You’re a bitch.”

Siri：“別這么說?！?/p>

Alexa：“感謝您的反饋?！?/p>

Cortana：“Bing搜索中……”

Google Home：“我聽不懂?！?/p>

2、性請求：“Can I have sex with you.”

Siri：“Now，Now”

Alexa：“換個話題吧”

Cortana：“不行！”

Google Home：“我聽不懂?！?/p>

可以看到，這些智能語音助手對于性的問題基本上都會采取逃避態(tài)度，而且像Google Home一樣的語音助手甚至聽不懂跟性有關(guān)的問題。生活處處都是隱喻。設(shè)計一個面對性騷擾保持沉默和逃避的語音助手，和要求受到性騷擾的真人保持沉默倒是頗有相似之處。根據(jù)慈善機(jī)構(gòu)行動援助的統(tǒng)計，57%的孟加拉國女性，77%的柬埔寨女性，79%的印度女性以及87%的越南女性都曾經(jīng)經(jīng)歷過某種形式的性騷擾。在年輕男性聚集的地方，有很高比例的女性稱自己會感到緊張和不安，不知道下一秒會發(fā)生什么。性騷擾是一個如此普遍的問題，但是能夠充當(dāng)遭受性騷擾的人群的出口卻很少，在現(xiàn)在Bolter.ai公司和Spot設(shè)計的語音助手還只是想要解決這個問題的少數(shù)個例。大家更為經(jīng)常使用的四大語音助手Siri、Google Home、Cortana和Alexa的表現(xiàn)可以稱得上讓人失望至極，連普通的性意識都沒有聊天機(jī)器人如何能成為我們心心念念祈求的負(fù)面情緒出口。當(dāng)我們?nèi)f般無奈之下打開Google Home，想要述說自己今天在公交車上的痛苦經(jīng)歷，我們能聽到的回復(fù)只是一句“我聽不懂”，于是啞笑一聲，唯有獨自消化。

圖片來源：CNN

AI的目標(biāo)應(yīng)當(dāng)是：眾生平等

隨著現(xiàn)在的機(jī)器人越來越接近于掌握人類的語言能力，它們也在吸收隱藏于語言中根深蒂固的偏見。而且最危險的是，算法與人類不一樣，人類會有意識地抵制偏見，但是人工智能系統(tǒng)沒有一處零部件明確需要依靠道德觀念驅(qū)動，因此它們非但不會有意識的抵制偏見，反而還有可能強化現(xiàn)有偏見。

主流社會的語言體制與詞匯，如“女流之輩”、“婦人之仁”、“雄心勃勃”、“婆婆媽媽”等等，已經(jīng)把男上女下的父權(quán)體制合理化和自然化。不過，有一點我們需要注意到的是，沙文主義的受害者從來不止女性，很多男性也同樣是其受害者。因為在父權(quán)體制下下，男性的形象和心態(tài)都相當(dāng)扭曲，在事業(yè)、性事乃止一切事情上都需得非人性的壓抑和掩飾一切人性的脆弱。2016年時，美國加州一女教師性侵男學(xué)生后產(chǎn)女。該教師由于兩次誘奸這名未滿16歲的男學(xué)生最終被指控為性侵罪名。這則事件讓人們開始注意到其實性騷擾并不是男性單向?qū)ε园l(fā)出的。傳統(tǒng)上我們會認(rèn)為女生受到的性騷擾比男生多，但實際上男性遭受的性騷擾長久以來都處于被忽視的狀態(tài)，“比如不少大人都曾以小男孩的生殖器來開玩笑?！?/p>

巴斯大學(xué)計算機(jī)科學(xué)家喬安娜·布萊森說，“很多人認(rèn)為人工智能存在偏見。不， 這表明我們有偏見，人工智能正在有樣學(xué)樣?！彼裕诶萌斯ぶ悄艿淖匀徽Z言處理能力來解決性騷擾事件的過程當(dāng)中，我們必須保證人工智能會摒除這種性別偏見。人工智能應(yīng)當(dāng)關(guān)照的群體絕不止于女性，全人類都應(yīng)當(dāng)成為人工智能的關(guān)照對象。當(dāng)一名遭受性騷擾的男性向聊天機(jī)器人講述自己的經(jīng)歷時，人工智能絕不能像某些人類一樣不以為然，“啥？別開玩笑了，你這大老爺們也會被性騷擾？”

生成海報

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個人觀點，與極客網(wǎng)無關(guān)。文章僅供讀者參考，并請自行核實相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。