AI犯錯(cuò)不如人類那樣可預(yù)測且成群出現(xiàn)。了解其錯(cuò)誤規(guī)律，設(shè)計(jì)專門的防護(hù)機(jī)制，才能讓技術(shù)更安全地融入社會(huì)。
人類每天都會(huì)犯錯(cuò)，從簡單任務(wù)到復(fù)雜問題，錯(cuò)誤無處不在。有些錯(cuò)誤無傷大雅，而另一些可能導(dǎo)致災(zāi)難。為了應(yīng)對(duì)這些問題，人類花了幾千年設(shè)計(jì)各種安全機(jī)制。例如，賭場定期輪換荷官，避免他們長時(shí)間工作時(shí)出錯(cuò)；醫(yī)院會(huì)在手術(shù)前標(biāo)記病人肢體，防止操作失誤；甚至在會(huì)計(jì)和法律審查中，我們也建立了復(fù)雜的檢查和糾錯(cuò)流程。
如今，社會(huì)正在快速接納一種全新的“錯(cuò)誤制造者”——人工智能。像大型語言模型(LLMs)這樣的技術(shù)在完成許多認(rèn)知任務(wù)時(shí)表現(xiàn)出色，但它們也會(huì)犯錯(cuò)。而且，它們的錯(cuò)誤與人類的完全不同。AI的錯(cuò)誤有時(shí)會(huì)顯得荒謬可笑，比如建議吃石頭或在披薩上加膠水。這種“奇怪”的錯(cuò)誤模式是人類無法預(yù)見的，因此傳統(tǒng)的糾錯(cuò)方法往往無效。
人類錯(cuò)誤通常發(fā)生在知識(shí)的邊緣領(lǐng)域，比如解高數(shù)題時(shí)出錯(cuò)是常見現(xiàn)象。這些錯(cuò)誤通常具有聚集性和可預(yù)測性，例如疲勞或分心時(shí)更易出錯(cuò)。AI的錯(cuò)誤則完全不同，它們可能隨機(jī)分布在知識(shí)范圍內(nèi)，毫無主題可言。同樣自信的回答可能是完全正確的，也可能荒謬至極。這種隨機(jī)性和不穩(wěn)定性使得人類難以信任AI在復(fù)雜問題上的推理能力。
這揭示了兩個(gè)研究方向：一是讓AI的錯(cuò)誤更接近人類，二是為AI設(shè)計(jì)專屬的糾錯(cuò)機(jī)制。目前已經(jīng)有一些方法能引導(dǎo)LLMs更符合人類的思維方式，比如通過人類反饋強(qiáng)化學(xué)習(xí)技術(shù)，讓AI更傾向于生成“合理”的回答。然而，現(xiàn)有的糾錯(cuò)系統(tǒng)還不足以解決AI的獨(dú)特問題。
相比人類，AI不會(huì)感到疲憊或不耐煩，因此可以通過重復(fù)詢問和合成多次回答來降低錯(cuò)誤率。此外，一些專門的工具正在開發(fā)中，用來捕捉和分析AI在錯(cuò)誤中展現(xiàn)的“奇怪邏輯”，以便更好地預(yù)防潛在風(fēng)險(xiǎn)。
盡管AI的錯(cuò)誤常被認(rèn)為離譜，但某些模式其實(shí)與人類行為相似。例如，LLMs在回答問題時(shí)對(duì)提示詞敏感，這和人類在問卷調(diào)查中因措辭變化而改變答案的現(xiàn)象如出一轍。此外，AI對(duì)常見概念的偏好可能反映了人類“可得性啟發(fā)”的傾向——想到的第一個(gè)答案往往并非經(jīng)過深思熟慮的結(jié)果。
另一方面，AI在處理長文本時(shí)容易“中途分心”，這點(diǎn)也像人類。不過，訓(xùn)練更多樣化的文本檢索數(shù)據(jù)后，AI在這方面的表現(xiàn)已有改善。此外，研究還發(fā)現(xiàn)，某些人類的社交工程技巧，例如假裝身份或開玩笑，竟然也能“欺騙”AI。
雖然人類偶爾也會(huì)犯奇怪的錯(cuò)誤，但這種情況少見且通常預(yù)示更嚴(yán)重的問題。我們通常不會(huì)讓表現(xiàn)出隨機(jī)行為的人承擔(dān)決策任務(wù)。同理，AI的應(yīng)用應(yīng)限制在它真正勝任的領(lǐng)域，同時(shí)對(duì)其錯(cuò)誤的潛在影響保持警惕。
本文譯自 IEEE Spectrum，由 BALI 編輯發(fā)布。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
