人臉辨識技術也存在膚色和性別歧視？

高層速讀

1.關鍵事件：MIT和斯坦褔大學合作研究了三個商用程序，發(fā)表了關于面部辨識技術存在性別和膚色歧視的論文，并提出了一種更準確的新方法來評估這種機器學習系統(tǒng)的性能；

2.關鍵數(shù)據(jù)：在面部辨識系統(tǒng)的辯識表現(xiàn)上，女性的錯誤率比男性的高，而膚色較深受試者的錯誤率比膚色較淺受試者的高。

MIT和斯坦褔大學合作的研究團隊針對三種不同的面部辨識技術進行研究，發(fā)現(xiàn)它們顯示出了性別和種族歧視。論文全文將會在本月稍后舉行的 公平、責任和透明度會議（Conference on Fairness, Accountability, and Transparency）發(fā)布。

在研究人員的實驗中，這三個程序在確定淺膚色男性性別方面的誤差率從未超過0.8%。然而，對于膚色較深的女性，誤差率較高——在一個軟件中超過20%，在另兩個軟件中超過34%。

這一發(fā)現(xiàn)引發(fā)了人們的疑問：通過在龐大的數(shù)據(jù)集中尋找模型來學習執(zhí)行計算任務，如今的神經(jīng)網(wǎng)絡是如何訓練和評估的？根據(jù)這篇論文，美國一家技術公司的研究人員聲稱，他們設計的人臉辨識系統(tǒng)準確率超過97%，但是用來評估其性能的數(shù)據(jù)集中，男性人數(shù)超過77%，白人超過83%。

“這里真正重要的是方法，以及該方法如何應用于其他應用程序，”麻省理工學院媒體實驗室(MIT Media Lab)的公民媒體組(Civic Media Group)研究員、論文的第一作者Joy Buolamwin說，“這種以數(shù)據(jù)為中心的技術，可以用來確定某人的性別，也可以識別人臉，從而幫助尋找犯罪嫌疑人，或者解鎖的手機。這不僅僅關于計算機視覺，我真的希望能有更多研究工作來關注這個問題?！?/p>

偶然的發(fā)現(xiàn)

Buolamwini和Gebru研究的三個程序是一種通用的面部辨識系統(tǒng)，可以用來匹配不同照片中的人臉，也可以用來評估性別，年齡和心情特征。這三個系統(tǒng)都將性別分類視為一個二元決策——男性還是女性——這使得他們在這項任務上的表現(xiàn)在統(tǒng)計上特別容易評估。

事實上，正是通過其中一個程序發(fā)現(xiàn)了面部跟蹤中的明顯歧視，才促使 Buolamwini的調查展開。

幾年前，作為媒體實驗室的研究生，Buolamwini正在開發(fā)一個名為“樂觀墻”（Upbeat Walls）的系統(tǒng)，這是一種交互式的多媒體藝術裝置，允許用戶通過移動頭部控制投射到反射面上的彩色圖案。為了跟蹤用戶的動作，該系統(tǒng)使用了一個商用面部分析程序.

Buolamwini組建的團隊在種族構成上是多種多樣的，但是研究人員發(fā)現(xiàn)，當該裝置面向公眾的時候，他們要依賴一群淺膚色的團隊成員去演示。該系統(tǒng)似乎無法可靠地與膚色較深的用戶一起工作。

出于好奇，黑人Buolamwini開始將自己的照片提交給商用面部識別程序。在一些情況下，這些程序完全無法從照片上識別出人類面孔。當他們這么做的時候，他們一直錯誤地識別了Buolamwini的性別。

定量化標準

為了系統(tǒng)地調查那三個程序的歧視問題，Buolamwini首先收集了一組圖像，其中女性和深色皮膚的人的表現(xiàn)比用于評估面部分析系統(tǒng)的數(shù)據(jù)集中的要好得多。最終的數(shù)據(jù)集包含1,200多個圖像。

接下來，她和一位皮膚科醫(yī)生合作，根據(jù)皮膚色調的Fitzpatrick分型（將皮膚顏色根據(jù)對日光照射后的灼傷或曬黑的反應特點，分為 I-VI 型）來編碼這些圖像。

然后，她將技術公司的三個商業(yè)面部分析系統(tǒng)應用到了她新構建的數(shù)據(jù)集上。在這三個系統(tǒng)中，性別分類的錯誤率是一致的。女性的錯誤率比男性的高，而膚色較深受試者的錯誤率比膚色較淺受試者的高。

具體來說，三個面部辨識系統(tǒng)對于深膚色女性的辨識率，分別高達20.8%, 34.5 %和34.7%。其中兩個系統(tǒng)對于分類為最深膚色的女性面孔的辨識率更是高達46.5%和46.8%。所以從本質上看，這和系統(tǒng)丟硬幣隨機選擇沒什么兩樣了。

一個被簡化為二進制分類的任務，如果在三個商用系統(tǒng)中都有1/3的誤差率，你必須要問，這在一個不同的亞群體中是允許的嗎？”Buolamwini說，”另一大教訓是關于我們的基準，我們衡量成功的標準，它們可能給我們一種錯誤的進步感。”

微信搜索【AI商業(yè)報道】，獲取最新行業(yè)資訊！

生成海報

免責聲明：本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。