深色皮膚識(shí)別錯(cuò)誤率降低20倍，微軟在改善“算法的偏見”

高層速讀

關(guān)鍵信息：微軟面部識(shí)別API更新，將深色皮膚識(shí)別錯(cuò)誤率降低20倍，將所有女性面部識(shí)別的錯(cuò)誤率降低9倍，它收集了不同膚色、性別和年齡的新數(shù)據(jù)，提高了算法性別分類器的精確度。

關(guān)鍵意義：改善了算法模型中的偏見，為全球計(jì)算機(jī)視覺平臺(tái)的公平性貢獻(xiàn)了一份力。

在微軟今天發(fā)布的博客中，其宣布了一項(xiàng)面部識(shí)別API的更新，該更新將改善面部識(shí)別平臺(tái)識(shí)別不同膚色的能力，這也是計(jì)算機(jī)視覺平臺(tái)面臨的一個(gè)長期挑戰(zhàn)。

隨著這些更新，它能夠?qū)?strong>深色皮膚識(shí)別錯(cuò)誤率降低20倍，將所有女性面部識(shí)別的錯(cuò)誤率降低9倍。

多年來，面部識(shí)別系統(tǒng)一直存在種族偏見的敏感性。一項(xiàng)研究顯示，在非裔美國人的面孔上，來自安全廠商的面部識(shí)別技術(shù)被廣泛使用，但比識(shí)別其他膚色人種的準(zhǔn)確率要低5-10%；中國、日本、韓國的算法在識(shí)別白種人上也比黃種人有優(yōu)勢；2015年谷歌曾經(jīng)將軟件工程師的一位黑人朋友認(rèn)定為大猩猩，而不得不站出來賠禮道歉。

為了解決這個(gè)問題，微軟的研究人員修改并擴(kuò)展了臉部API的訓(xùn)練和數(shù)據(jù)集，并收集了不同膚色、性別和年齡的新數(shù)據(jù)，提高了算法性別分類器的精確度。

微軟紐約研究實(shí)驗(yàn)室高級(jí)研究員漢娜沃勒克在一份聲明中說：“我們討論了不同的方法來發(fā)現(xiàn)偏見和公平運(yùn)作；我們討論了數(shù)據(jù)收集工作的種類，以使訓(xùn)練數(shù)據(jù)多樣化；我們與討論了在部署前對(duì)系統(tǒng)進(jìn)行內(nèi)部測試的不同策略?！?/p>

根據(jù)微軟博客文章，該公司還在人工智能系統(tǒng)開發(fā)過程中建立了檢測和減輕不公平的試驗(yàn)。微軟Bing團(tuán)隊(duì)正與道德專家合作，探索如何在搜索結(jié)果中顯示“女性CEO的缺乏”。微軟指出，在《財(cái)富》500強(qiáng)中，只有不到5%的CEO是女性，而“CEO”的網(wǎng)頁搜索結(jié)果主要是男性的形象。

“如果我們正在的訓(xùn)練機(jī)器學(xué)習(xí)系統(tǒng)是由有偏見的，那么它做出的決策必然會(huì)復(fù)制它的偏見?！蔽掷湛苏f，“這是一個(gè)機(jī)會(huì)，讓我們真正思考我們?cè)谙到y(tǒng)中反映的價(jià)值觀，以及它們是否是我們想要系統(tǒng)中反映的.”

幸運(yùn)的是，微軟并不是唯一一家試圖將算法偏差最小化的公司。

今年5月，Facebook宣布了“公平流程”，該流程將自動(dòng)提醒用戶，如果一種算法基于他或她的種族、性別或年齡對(duì)一個(gè)人做出了不公平的判斷；IBM Watson團(tuán)隊(duì)最近的研究也集中在降低人工智能模型中的偏見方面，特別是面部識(shí)別。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。