極客網(wǎng)·人工智能1月17日 當你看短視頻，AI會根據(jù)你的喜愛推薦內(nèi)容，這就是一種偏見。很多企業(yè)也在引入AI系統(tǒng)，偏見可能會給企業(yè)帶來損失。
DataRobot在美國、英國調(diào)查350多名技術人員，超過三分之一（36%）聲稱它們因AI偏見蒙受損失。在受損失的企業(yè)中超過一半（62%）損失了營收或者客戶（61%），將近一半（43%）失去了員工，超過三分之一（35%）卷入法律糾紛。
世界經(jīng)濟論壇AI專家Firth-Butterfield認為，AI造成損失的原因很多。他說：“如果你用AI HR算法挑選出不合適的人，可能會損害營收。如果你用帶偏見的算法貸款，業(yè)務就沒法增長，因為最終AI選擇的貸款對象會是恒定的一小部分人?！?/p>
受訪者認為，算法不可避免會對人產(chǎn)生偏見，產(chǎn)生偏見的因素很多，有性別（34%）、年齡（32%）、種族（29%）、性取向（19%）、宗教（18%）。
Forrester在報告中警告說：“基于人工智能的歧視——即使是無意的——也會對監(jiān)管、聲譽和收入造成可怕的影響。”雖然大多企業(yè)面對AI時將公平作為原則，但要持續(xù)下去是一大挑戰(zhàn)。
華盛頓DC智庫Cato Institute的高管Mathew Feeney認為，AI產(chǎn)生偏見是很復雜的，很大程度是因為訓練系統(tǒng)的數(shù)據(jù)帶來的。Mathew Feeney認為，現(xiàn)在面部識別很流行，它用到了AI技術，而面部識別充滿偏見。
Mathew Feeney解釋說：“當我們用系統(tǒng)識別黑人身份時，可靠性沒有那么高。系統(tǒng)要訓練，訓練需要照片，當面向特定種群的照片不夠多，或者質(zhì)量不夠好時就會出現(xiàn)偏見。”“并不一定是工程師或者設計師心存邪念，只是訓練數(shù)據(jù)有問題?！?/p>
Firth-Butterfield認為：“開發(fā)算法的人也有偏見，這種偏見也會影響算法。如果算法開發(fā)者是一名30歲的男子，他是白人，他帶入的偏見會與30歲的非裔美國女子不同。”
信息技術與創(chuàng)新基金（Information Technology & Innovation Foundation）副總裁Daniel Castro認為人類在使用AI偏見一詞時反復無常。
Daniel Castro說：“我認為所謂的AI偏見是算法精準度存在的錯誤，也就是估計值與真實值之間的差異?！薄按蠖喙居袕娏业氖袌鲆庠竵硐鼳I偏見，因為這樣做算法才會更精準。”“例如，如果算法未能將最優(yōu)產(chǎn)品推薦給購物者，公司營收就會減少，蛋糕被競爭對手拿走?！薄捌髽I(yè)出于聲譽考慮會要求消除AI偏見，否則產(chǎn)品和服務就會被認為不合格?！?/p>
Daniel Castro還認為，有時靠市場力量消除偏見沒有效果。他說：“出于稅收目的，政府機構可能會用AI算法估算財產(chǎn)價值，想用這種市場機制來消除偏見是很難的。在這種環(huán)境下，政府應該提供一套替代性監(jiān)管機制，比如通過透明的的措施來保證?！?/p>
“有些人提到AI偏見會將它視為歧視。如果房東歧視特定租戶，不論是用算法還是人力來歧視，我們都應該訴諸法律?！?/p>
DataRobot就AI監(jiān)管詢問了受訪者。81%的人認為政府監(jiān)管在兩個方面很有用，一是定義偏見，二是預防偏見。但也有45%的人認為政府監(jiān)管會導致經(jīng)營成本增加。32%的人擔心如果沒有政府監(jiān)管部分群體可能會受傷。
Feeney說：“有許多人呼吁政府監(jiān)管，但要監(jiān)管的AI范圍太廣了，有面部識別、無人駕駛、軍事應用等等。”
德勤預測，2022年圍繞AI監(jiān)管會有很多的討論，但監(jiān)管全面實施至少要等到2023年。有些地區(qū)可能會完全封殺AI部分細分產(chǎn)業(yè)。
德勤高管Paul Silverglate說：“AI有很大的潛力，2022年它會面臨更多的審查，因為監(jiān)管者想深入理解新興AI應用的隱私、數(shù)據(jù)安全問題，力求保護好消費者?！?/p>
“科技公司發(fā)現(xiàn)自己已經(jīng)站在了交匯點，不能再忽視倫理問題。我們要用整體性方法來解決倫理責任問題。企業(yè)如果用這種方法來應對，尤其是在AI這樣的新興領域，它會獲得更廣泛的接受，贏得更多信賴，獲得更多營收。”（小刀）
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。 ）
