禁止算法識別性別，能消解歧視嗎？

原標題：禁止算法識別性別，能消解歧視嗎？

海外科技圈的政治正確風潮，早已不算新聞了，并且已經(jīng)遍布科技領(lǐng)域的各個角度。

Facebook將默認“男性在前”的新增好友logo，改為“女性在前”，并且大小相當。還提供了除男、女之外的非傳統(tǒng)性別供用戶選擇，比如無性別、雙性人、跨性別等等，恨不得將“性別平等”四個大字貼在腦門兒上；

在日常管理中，科技公司對政治不正確的言論也保持著十足的警惕。比如谷歌就曾因一位工程師散布“有害無益的性別主義成見”而將其開除。

在對可能的冒犯充滿審慎的大環(huán)境下，一些反面聲音也出現(xiàn)了。

《紐約時報》就曾發(fā)文稱“政治正確是美國精英階層的虛偽”，也有業(yè)內(nèi)人士認為“不合邏輯、肆無忌憚的政治正確正在阻礙科技創(chuàng)新”等等。最直接的例子，就是IBM宣布退出了人臉識別技術(shù)的研發(fā)，原因是為了消除種族歧視，因為目前的算法無法對黑人面部做出精準判斷。

事實上，算法對于少數(shù)群體的偏見，已經(jīng)成為困擾科技界的一大難題。

目前，歐盟的數(shù)字保護組織掀起了一項新的運動，要求像禁止在城市大規(guī)模部署面部識別一樣，禁止利用算法來主動預(yù)測某人的性別和性取向。

用算法判斷男女這件事，為什么讓歐洲人覺得難以接受？對此的抗議是對科技倫理的合理討論，還是過度政治正確下對科技創(chuàng)新的掣肘呢？

性別二元論的算法，真的危險嗎？

對于人工智能新技術(shù)，歐盟有許多不可承受之重。不能接受個人數(shù)據(jù)被濫用，有了史上最嚴的隱私保護法案GDPR；為了防止技術(shù)風險，計劃五年內(nèi)公共場所禁用人臉識別。

現(xiàn)在，為了避免歧視與偏見，連算法對男、女性別的識別，歐盟也開始拒絕了。

如果說對黑人面部的識別不到位是源自于機器視覺技術(shù)的天然缺陷，那么如果禁止自動性別識別，可能就直接把既定的社會規(guī)則在算法世界的投射給掐滅了。

比如現(xiàn)實中，如果你是一家便利店的老板，見到顧客的第一反應(yīng)就能識別出對方的生理性別是男是女，從而判斷出自己所在商圈的性別分布概率。但現(xiàn)在，歐洲的運動發(fā)起者們則希望算法不要采集并分析性別數(shù)據(jù)。

那么，讓算法判斷男女這件事，真的很危險嗎？

首先，性別識別算法的判斷基于二元論，即男或女，無法涵蓋多元人群的性別表達。

在數(shù)據(jù)上，除了Facebook這類深受“政治正確”影響的平臺，絕大多數(shù)數(shù)據(jù)標注公司都會采用性別二元論，依照傳統(tǒng)的生物特征和性別理解，來為人臉進行標注。比如短發(fā)就歸類為男人，化妝就歸類為女人。這就導(dǎo)致許多變性人和跨性別者，會直接被誤認。從而在一些以性別為基礎(chǔ)的活動中遭受不公正的待遇，比如此前柏林為慶祝同工同酬日，會向女性提供打折地鐵票，就是使用面部掃描來識別女性，這顯然會讓一些跨性別者無法被覆蓋。

其次，數(shù)字線索的失真會直接影響算法的有效性，從而喪失預(yù)期的商業(yè)價值。

性別識別算法被用來做什么？一般都脫離不了商業(yè)目的或公共安全，比如可以通過識別男女來縮小追蹤嫌疑人的范圍，分析某人的聲音并匯總他們的購物習慣來提升電商平臺的推薦算法。亞馬遜等大型科技公司銷售的商業(yè)系統(tǒng)中，性別分類都是標配。

但現(xiàn)實中機靈的商家能根據(jù)一個人的聲情行表判斷出對方的大致偏好或心理性別，進而提供個性化服務(wù)。在數(shù)字世界中，這些特征被簡化為二元結(jié)構(gòu)的時候，不可能達成預(yù)期的準確度。

比如斯坦福大學(xué)研發(fā)的“AI gaydar”系統(tǒng)，號稱可以 81％的準確率來識別男同性戀，但遭到了來自普林斯頓大學(xué)、谷歌等多位研究人員的質(zhì)疑，認為其研究存在嚴重缺陷，模型并沒有發(fā)現(xiàn)不同性取向的人面部特征有何差異。

顯然，部署這樣的算法不僅會因為失誤而讓當事人感到冒犯，也無法給應(yīng)用者帶來有益的商業(yè)價值。

科技媒體《theverge》就曾報道過一個“僅限女孩”的社交應(yīng)用Giggle，試圖用面部識別來驗證用戶身份。如果算法失誤，不僅會失去一個新用戶，恐怕還會引發(fā)輿論指責。

出于擔憂，數(shù)字權(quán)利組織Access Now與其他60多個非政府組織一起，要求歐盟委員會禁止自動性別識別這項技術(shù)。

聽到這里，大部分人可能已經(jīng)有點迷惑了，畢竟作為消費者或用戶，在商業(yè)社會中一個人被全方位地審視和判斷，早就是心照不宣的事兒了，且不管有沒有用，就算被一個算法認錯性別，很重要嗎？直接禁止會不會矯枉過正了？

當偽君子遇上真小人

必須承認，自動性別識別在現(xiàn)實中的威脅并沒有那么大，對其的抗拒，很大程度上確實是受“實現(xiàn)所有類型的人平等”的政治正確形態(tài)影響。

發(fā)起機構(gòu)之一Access Now的員工就表示，這種性別識別技術(shù)目前的應(yīng)用主要是有針對性的廣告，比如某一性別專用的App、廣告投放，未來還可能限制進入浴室/更衣室等區(qū)域。錯誤的判定結(jié)果就可能導(dǎo)致歧視，比如給男性對象投放汽車廣告，給女性用戶投放連衣裙廣告。

試想一下，未來廣告推薦算法都不能判斷用戶的性別，對大家投放一致的廣告，是不是就是一個更好的社會呢？

冷靜下來想，似乎并不能成立。

這也是科技領(lǐng)域政治正確被反對者廣為批判的原因：

1.以科技研發(fā)為代價，卻僅僅消除了口頭歧視，而未能改變根本矛盾。

除了IBM停止人臉識別技術(shù)之外，亞馬遜也關(guān)停了給簡歷打分的AI算法，原因是通過識別性別關(guān)鍵詞而給女性應(yīng)聘者更低的分數(shù)。那么，停用算法，避免了公然的系統(tǒng)偏見，是不是就為黑人或女性創(chuàng)造了更平等的環(huán)境呢？顯然沒有直接關(guān)系。

男女在高管職位上的懸殊比例，不會因為把“chairman”改為中性詞“chairperson”而消失。

如果政治正確的倡議和運動沒有撼動資本制度的能量，那么只是淪為少數(shù)群體的發(fā)泄途徑，而掌握著主控權(quán)和選擇權(quán)的依然是資本。

2.當政治正確延伸到微侵略性領(lǐng)域，過度保護進一步延緩創(chuàng)新。

包容多元群體原本是一件符合人類基本道德觀的好事，可是當被用于批判一些微侵略事件——即對任何邊緣化或少數(shù)群體有意或無意地表示負面偏見的評論，如果一個男性以傲慢的態(tài)度向女性解釋一些簡單的東西，就會被指責為“爹味”、“普且信”，引起摩擦。

過于泛化的政治正確，會帶來更多的身份沖突，導(dǎo)致依賴團隊協(xié)作的科技創(chuàng)新，群體之間的合作變得更加困難。

一位美國工程師就透露，由于希望證明女性和男性一樣擅長工程，她有意識地避免在會議上坐在其他女性旁邊，盡量自己解決問題，避免尋求幫助。

顯然，在受政治正確約束的文化中，自我保護變得比創(chuàng)造性工作更加重要，不僅優(yōu)勢人群如白人男性擔心被指責、不敢直接解決問題，那么被過度保護的群體也可能與潛在的支持隔離開來，變得效率更低，技能提升速度也更慢。

如果說公然的歧視與偏見是“真小人”，那么過度的政治正確又容易淪為“偽君子”，被視作一種無法真正解決問題的偽善。

那么，有沒有第三種可能，建立一個“真君子”的科技世界呢？

尋找第三種可能

如果說當下的數(shù)據(jù)隱私保護運動，是為了不讓科技的潛在缺陷傷害少數(shù)群體或邊緣人群。但顯然，一個理想的數(shù)字世界，并不會因此自動到來，除了“科技不能做什么”，或許還應(yīng)該主動去思考“科技能夠為一個更包容、多元的社會做什么”。

舉個最簡單的例子，谷歌輸入大量“穿白大褂、帶聽診器”的男性照片，讓AI將醫(yī)生形象與男性聯(lián)系在一起。從統(tǒng)計學(xué)的角度，算法形成偏見似乎情有可原，因為一直以來都是這樣運作的，但比起政治正確的制衡與爭議，從根源上改變少數(shù)群體在數(shù)字世界的“失聲”局面，或許更具有建設(shè)性。

我們知道，算法對黑人、女性等的偏見，一個最主要的原因就是訓(xùn)練語料的缺失。

數(shù)據(jù)顯示，全世界有42%，也就是11億的女性都沒有銀行賬戶，這自然會導(dǎo)致金融算法對女性打出更低的分級，讓女性比男性更難從銀行中借貸。所以在涉及金融科技產(chǎn)品時，更應(yīng)該主動將女性需求納入到產(chǎn)品和服務(wù)當中，比如考慮到女性的風險偏好，幫助縮小兩性在投資領(lǐng)域的差距。

再比如，今天科技領(lǐng)域普遍存在的關(guān)鍵工程崗位的男女性別比例失衡問題。在努力改變性別定勢思維與偏見的同時，或許察覺到女性在STEAMD學(xué)科，即科學(xué)、技術(shù)、工程、藝術(shù)和數(shù)學(xué)領(lǐng)域上過早的限制，才是縮小未來性別差距的真正方式，也能為IT、AI等領(lǐng)域帶來源源不斷的新生力量。

從根本上建立起相關(guān)支持體系，鼓勵少數(shù)群體實現(xiàn)自身發(fā)展，才是鏟除AI偏見、建立多元化社會的起點。

當下的AI是一個天生的偏見者，只有追溯到它出生的地方去尋求改變，一個天下大同的理想數(shù)字世界才會真正走來。

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。