5月26日消息，創(chuàng)新工場董事長兼首席執(zhí)行官李開復(fù)在本周于瑞士召開的2022年達(dá)沃斯世界經(jīng)濟(jì)論壇上發(fā)表題為《關(guān)于人工智能的“電車難題”的嶄新思考》的專欄文章。
李開復(fù)在文中談到，自主機器人和自主決策的確可能造成致命錯誤；因機器人錯誤而造成的死亡，將造成道德兩難的新時代“電車難題”。但是，如果社會接受機器學(xué)習(xí)，并竭力以負(fù)責(zé)任的態(tài)度導(dǎo)入機器人技術(shù)，更多生命將會因此得到拯救。
以下為《關(guān)于人工智能的“電車難題”的嶄新思考》全文：
在未來 20 年內(nèi)，隨著機器人技術(shù)的進(jìn)步，自動駕駛汽車、工業(yè)機器人和醫(yī)用機器人將擁有更強的能力、更高的自主性，并得到更為廣泛的應(yīng)用。不可避免，這些自主機器人可能會犯下決策方面的錯誤，造成數(shù)百上千人死亡。但如果人類參與其中，這種災(zāi)難是可以避免的。
這樣的未來固然可怕，不過一旦人類社會能負(fù)責(zé)任地運用機器人技術(shù)，獲救的生命將多于造成的死亡。
機器學(xué)習(xí)的過程
機器人并非經(jīng)由人類“編程”而模仿人類的決策過程。它們從大數(shù)據(jù)中學(xué)習(xí)，利用從數(shù)據(jù)中推導(dǎo)出的復(fù)雜數(shù)學(xué)公式，執(zhí)行諸如“識別紅綠燈”之類的任務(wù)。機器學(xué)習(xí)過程需要的數(shù)據(jù)量遠(yuǎn)遠(yuǎn)超過人類所需。然而，一旦經(jīng)過訓(xùn)練，機器人在任何特定任務(wù)中的表現(xiàn)都將優(yōu)于人類。借由機器學(xué)習(xí)，人工智能和機器人的性能在過去五年里已經(jīng)獲得了極大的提升。
我在這篇文章提出的觀點適用醫(yī)療健康、制造業(yè)及其他正在快速實現(xiàn)自動化的行業(yè)。先以自動駕駛為例，一位經(jīng)驗豐富的人類司機，一生中可能有幾十萬英里的駕駛經(jīng)驗，而谷歌旗下的自動駕駛汽車公司W(wǎng)aymo，僅在2021年一年間就完成230萬英里的上路測試?yán)锍?，其背后?a href="http://m.ygpos.cn/AI_1.html" target="_blank" class="keylink">AI技術(shù)通過數(shù)據(jù)學(xué)習(xí)了每一輛車的駕駛經(jīng)驗，而且這些自動駕駛車輛永不疲勞，也不像健忘的人類司機，可能忘記他們曾經(jīng)犯的錯誤。
特斯拉公司的“智能召喚”功能首次推出后，汽車可以在沒有車主操作的情況下，離開停車位并繞開障礙物。一開始許多用戶抱怨這個新功能表現(xiàn)得不盡如人意，但在短短幾周內(nèi)，特斯拉公司便收集了早期用戶的數(shù)據(jù)，重新訓(xùn)練了新功能背后的機器學(xué)習(xí)模型。從此，“智能召喚”顯著獲得改進(jìn)，成為了特斯拉新車的一大關(guān)鍵競爭優(yōu)勢。
自主機器人可以挽救生命
可供學(xué)習(xí)的數(shù)據(jù)日益增加，人工智能的能力也隨之快速提升，AI 變得更精準(zhǔn)，適應(yīng)性更強，也更安全。隨著越來越多的機器人進(jìn)入主流日常應(yīng)用，其應(yīng)用領(lǐng)域越來越廣，標(biāo)志著功能性機器人技術(shù)正得到逐步普及。自動駕駛將從“握住方向盤”到“放開方向盤”，進(jìn)而發(fā)展到“無需監(jiān)視”，乃至“無需關(guān)注”，并最終進(jìn)化到“無方向盤”的全自動狀態(tài)。
中國的自動駕駛企業(yè)文遠(yuǎn)知行便是一個很好的范例。這家公司已在中國數(shù)個城市部署了無人小巴和無人環(huán)衛(wèi)車。相較于無人駕駛出租車，它們在運行環(huán)境上受到了更大的限制，但與人類司機相比，安全性有了大幅提高。這些車輛在特定環(huán)境下運行并收集大量數(shù)據(jù)后，最終將擺脫這些初期上路的限制條件。
在機器人技術(shù)從簡單應(yīng)用通往復(fù)雜場景的發(fā)展過程中，我們將獲得更多數(shù)據(jù)，從而提升其性能和安全性。舉例來說，在未來十年里，通過減少人為失誤（這是道路事故最常見的原因），自動駕駛汽車僅在英國就可以防止47000起嚴(yán)重交通事故發(fā)生，挽救3900人的生命。蘭德公司的研究發(fā)現(xiàn)，即使自動駕駛的安全性僅比人類駕駛高 10%，換算過來也能夠拯救許多寶貴的生命。
道德困境
對于機器人的大規(guī)模應(yīng)用，大部分人仍然表現(xiàn)出極大的擔(dān)憂，包括對機器錯誤導(dǎo)致人類喪命的道德爭議。古典的“電車難題”是指一種道德困境，經(jīng)典假設(shè)是旁觀者可以通過切換失控電車的軌道，雖然會因此撞死一個人，卻能拯救另外五個人。這一難題說明了攸關(guān)“誰生誰死“的選擇，本質(zhì)上是一種道德判斷，這樣的決策不應(yīng)該交給無情的機器。
然而，機器人和人類的感知方式不同，出現(xiàn)的錯誤類型自然也就不同，這使得“道德困境”進(jìn)一步加劇。舉例來說，機器人反應(yīng)迅捷，注意力始終集中，但可能會誤判障礙物，例如優(yōu)步的無人駕駛汽車就曾把推著自行車過馬路的行人誤判為汽車，并因此預(yù)判它比自身行進(jìn)的速度更快。
人類失誤和機器失誤之間的差異，使得公眾更加難以接受由機器人導(dǎo)致的死亡，如果他們曾經(jīng)聽聞了類似 2018 年美國鳳凰城車禍?zhǔn)录蟮拿襟w渲染報道，一定更難釋懷。一旦各種媒體持續(xù)以譴責(zé)性的大標(biāo)題，有失偏頗地放大抨擊每樁自動駕駛致死的案例，那么人們很可能會對自動駕駛系統(tǒng)徹底失去信心，即便這項技術(shù)最終有可能拯救數(shù)百萬人的生命。
若是人類司機造成他人死亡，他們將面臨法律的判決并承擔(dān)相應(yīng)后果。但“人工智能的黑匣子”無法以人類可理解的詞句，或者在法律和道德上正當(dāng)合理的人類語言，向法官和公眾解釋肇事決策的原由。
另一點需要商榷的是問責(zé)問題。在鳳凰城的那場事故中，汽車?yán)锏娜祟愃緳C被指控犯有過失殺人罪。但是，在這一案件中，汽車制造商、人工智能算法供應(yīng)商或工程師應(yīng)該為此負(fù)責(zé)并承擔(dān)一定的法律責(zé)任嗎？只有問責(zé)歸屬明確，我們才能有共識和準(zhǔn)則的基礎(chǔ)來建立一個完善的自動駕駛生態(tài)系統(tǒng)。
人工智能和機器學(xué)習(xí)時代的“電車難題”
既然機器人技術(shù)可以挽救無數(shù)生命，那么只要證明它比人類略勝一籌，我們就有充分的理由大舉推廣自動化技術(shù)。我認(rèn)為，我們應(yīng)把握一切機會推出對人類有助益的機器人自動化工具，它們初期應(yīng)在受限制的特定環(huán)境中使用，然后再逐步規(guī)?；捎茫罱K獲得更多自主權(quán)及更廣泛的推動。通過這種循序漸進(jìn)的方式，我們一方面可以收集更多的數(shù)據(jù)，提升機器人的性能，另一方面能夠最大限度地降低危及人類生命的事故。
考慮到可能出現(xiàn)的異議，我們需要共同努力，讓大眾更了解機器人技術(shù)帶來的短期陣痛和長期效益。只有這樣，我們才能在擁抱自動化技術(shù)的進(jìn)程中，逐漸培養(yǎng)出負(fù)責(zé)任和嚴(yán)謹(jǐn)?shù)膽B(tài)度，讓機器人更好地為人類社會服務(wù)。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
