極客網(wǎng)·人工智能1月17日 當(dāng)你看短視頻，AI會根據(jù)你的喜愛推薦內(nèi)容，這就是一種偏見。很多企業(yè)也在引入AI系統(tǒng)，偏見可能會給企業(yè)帶來損失。
DataRobot在美國、英國調(diào)查350多名技術(shù)人員，超過三分之一（36%）聲稱它們因AI偏見蒙受損失。在受損失的企業(yè)中超過一半（62%）損失了營收或者客戶（61%），將近一半（43%）失去了員工，超過三分之一（35%）卷入法律糾紛。
世界經(jīng)濟論壇AI專家Firth-Butterfield認為，AI造成損失的原因很多。他說：“如果你用AI HR算法挑選出不合適的人，可能會損害營收。如果你用帶偏見的算法貸款，業(yè)務(wù)就沒法增長，因為最終AI選擇的貸款對象會是恒定的一小部分人?！?/p>
受訪者認為，算法不可避免會對人產(chǎn)生偏見，產(chǎn)生偏見的因素很多，有性別（34%）、年齡（32%）、種族（29%）、性取向（19%）、宗教（18%）。
Forrester在報告中警告說：“基于人工智能的歧視——即使是無意的——也會對監(jiān)管、聲譽和收入造成可怕的影響?！彪m然大多企業(yè)面對AI時將公平作為原則，但要持續(xù)下去是一大挑戰(zhàn)。
華盛頓DC智庫Cato Institute的高管Mathew Feeney認為，AI產(chǎn)生偏見是很復(fù)雜的，很大程度是因為訓(xùn)練系統(tǒng)的數(shù)據(jù)帶來的。Mathew Feeney認為，現(xiàn)在面部識別很流行，它用到了AI技術(shù)，而面部識別充滿偏見。
Mathew Feeney解釋說：“當(dāng)我們用系統(tǒng)識別黑人身份時，可靠性沒有那么高。系統(tǒng)要訓(xùn)練，訓(xùn)練需要照片，當(dāng)面向特定種群的照片不夠多，或者質(zhì)量不夠好時就會出現(xiàn)偏見?！薄安⒉灰欢ㄊ枪こ處熁蛘咴O(shè)計師心存邪念，只是訓(xùn)練數(shù)據(jù)有問題?！?/p>
Firth-Butterfield認為：“開發(fā)算法的人也有偏見，這種偏見也會影響算法。如果算法開發(fā)者是一名30歲的男子，他是白人，他帶入的偏見會與30歲的非裔美國女子不同。”
信息技術(shù)與創(chuàng)新基金（Information Technology & Innovation Foundation）副總裁Daniel Castro認為人類在使用AI偏見一詞時反復(fù)無常。
Daniel Castro說：“我認為所謂的AI偏見是算法精準(zhǔn)度存在的錯誤，也就是估計值與真實值之間的差異?！薄按蠖喙居袕娏业氖袌鲆庠竵硐鼳I偏見，因為這樣做算法才會更精準(zhǔn)。”“例如，如果算法未能將最優(yōu)產(chǎn)品推薦給購物者，公司營收就會減少，蛋糕被競爭對手拿走。”“企業(yè)出于聲譽考慮會要求消除AI偏見，否則產(chǎn)品和服務(wù)就會被認為不合格?！?/p>
Daniel Castro還認為，有時靠市場力量消除偏見沒有效果。他說：“出于稅收目的，政府機構(gòu)可能會用AI算法估算財產(chǎn)價值，想用這種市場機制來消除偏見是很難的。在這種環(huán)境下，政府應(yīng)該提供一套替代性監(jiān)管機制，比如通過透明的的措施來保證?！?/p>
“有些人提到AI偏見會將它視為歧視。如果房東歧視特定租戶，不論是用算法還是人力來歧視，我們都應(yīng)該訴諸法律?！?/p>
DataRobot就AI監(jiān)管詢問了受訪者。81%的人認為政府監(jiān)管在兩個方面很有用，一是定義偏見，二是預(yù)防偏見。但也有45%的人認為政府監(jiān)管會導(dǎo)致經(jīng)營成本增加。32%的人擔(dān)心如果沒有政府監(jiān)管部分群體可能會受傷。
Feeney說：“有許多人呼吁政府監(jiān)管，但要監(jiān)管的AI范圍太廣了，有面部識別、無人駕駛、軍事應(yīng)用等等?！?/p>
德勤預(yù)測，2022年圍繞AI監(jiān)管會有很多的討論，但監(jiān)管全面實施至少要等到2023年。有些地區(qū)可能會完全封殺AI部分細分產(chǎn)業(yè)。
德勤高管Paul Silverglate說：“AI有很大的潛力，2022年它會面臨更多的審查，因為監(jiān)管者想深入理解新興AI應(yīng)用的隱私、數(shù)據(jù)安全問題，力求保護好消費者。”
“科技公司發(fā)現(xiàn)自己已經(jīng)站在了交匯點，不能再忽視倫理問題。我們要用整體性方法來解決倫理責(zé)任問題。企業(yè)如果用這種方法來應(yīng)對，尤其是在AI這樣的新興領(lǐng)域，它會獲得更廣泛的接受，贏得更多信賴，獲得更多營收。”（小刀）
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
