全球首例自動(dòng)駕駛車禍判決，愿景與現(xiàn)實(shí)之間的裂痕如何彌補(bǔ)？

近日，美國國家運(yùn)輸安全委員會(huì)(NTSB)正式公布去年三月Uber自動(dòng)駕駛車禍?zhǔn)录脑颍@是全球首例也是目前唯一一例自動(dòng)駕駛車禍原因正式確認(rèn)。NTSB認(rèn)為，車禍主要原因在人，而非技術(shù)。

因?yàn)閁ber淡薄的安全意識(shí)，導(dǎo)致車輛沒有開啟緊急制動(dòng)系統(tǒng)，沒有及時(shí)對(duì)安全員進(jìn)行監(jiān)督，事故發(fā)生時(shí)，車上安全員仍在看視頻而非及時(shí)采取措施。

因?qū)ψ詣?dòng)駕駛的安全問題處理不當(dāng)，Uber受到NTSB主席羅伯特·薩姆沃特批評(píng)，同時(shí)自動(dòng)駕駛系統(tǒng)的失控和安全員的不當(dāng)行為指向一個(gè)更深層次問題——Uber的無效安全文化。

這堪稱是自動(dòng)駕駛短暫發(fā)展史上的一個(gè)里程碑式事件，這一事件將為此后如何避免類似事故提供了前車之鑒。

自動(dòng)駕駛車禍

敲響Uber安全文化的警鐘

2018年3月，在美國亞利桑那州坦佩市，搭載了Uber自動(dòng)駕駛系統(tǒng)的測試車正在以70km/h的速度行駛，行駛中不幸與過馬路的49歲女子伊萊恩·赫茲伯格相撞，導(dǎo)致該女子身亡。

該事件后，NTSB公布了Uber去年自動(dòng)駕駛車禍?zhǔn)录械囊恍┘?xì)節(jié)，以及Uber自動(dòng)駕駛以往的一些碰撞事故。文件顯示，Uber的自動(dòng)駕駛汽車在發(fā)生撞擊前5.6秒鐘就檢測到了行人，但將其錯(cuò)誤識(shí)別為汽車，撞擊前5.6秒時(shí)又將其歸類為其他物體。

此后系統(tǒng)對(duì)物體的分類發(fā)生了混亂，在“汽車”和“其他”之間搖擺不定，浪費(fèi)了大量寶貴時(shí)間，車輛也因此沒有及時(shí)剎車。加之當(dāng)時(shí)車上的安全員正在觀看電視節(jié)目，并未采取措施，最終導(dǎo)致事故發(fā)生。

NTSB報(bào)告還指出，造成事故的關(guān)鍵問題是，軟件無法正確預(yù)測受害者的類別和運(yùn)動(dòng)軌跡。如果系統(tǒng)可以及早正確地識(shí)別出前方物體是行人，就可能會(huì)大幅放慢速度，或者設(shè)法繞開避讓。

但是Uber汽車沒有預(yù)料到這起碰撞，系統(tǒng)在很長一段時(shí)間里把行人當(dāng)做是某個(gè)未知的物體，認(rèn)為它并不妨礙行駛。

Uber自動(dòng)駕駛汽車在識(shí)別到行人后1秒才開始制動(dòng)，此時(shí)距離碰撞只有0.2秒，事故已經(jīng)無法避免。自動(dòng)駕駛系統(tǒng)之所以行動(dòng)如此遲緩，是因?yàn)閁ber認(rèn)為緊急制動(dòng)系統(tǒng)會(huì)造成車輛的不穩(wěn)定，所以關(guān)閉了該系統(tǒng)。

如果Uber從一開始就選擇開啟緊急制動(dòng)系統(tǒng)，那么類似的悲劇則很有可能不會(huì)發(fā)生。此外，NTSB報(bào)告還顯示，在2016年9月至2018年3月之間，Uber的自動(dòng)駕駛汽車共發(fā)生37起碰撞事故，有兩起事故是車輛撞到了路邊的物體，其他的事故則都是追尾和車輛刮蹭。

事故發(fā)生后，Uber踩下自動(dòng)駕駛“剎車鍵”，重新思考安全問題：此事發(fā)生一個(gè)月多后，Uber關(guān)閉亞利桑那州無人駕駛測試中心，并裁掉300名員工；

同年7月，其無人卡車研發(fā)業(yè)務(wù)也被關(guān)停；沉寂大半年后，這家公司才帶著更新后的軟件，以及新增加的限制與安全保障措施，于年底恢復(fù)路測。

技術(shù)本無對(duì)錯(cuò)

避免掉進(jìn)技術(shù)編織的美好陷阱

Uber公司忽視安全的嚴(yán)重性更在于，既停用了該輛沃爾沃汽車的自動(dòng)緊急制動(dòng)系統(tǒng)，同時(shí)Uber自己的系統(tǒng)也沒有自動(dòng)剎車的能力，僅僅依靠一名人類安全員來剎車。

同時(shí)，Uber也沒有及時(shí)監(jiān)測安全員的工作狀況。因?yàn)椋琔ber車內(nèi)裝有攝像頭主要是監(jiān)控司機(jī)，但沒有監(jiān)控到安全員的行為，以確保他們對(duì)車輛的行駛狀況保持警惕。這等于多重安全防線的失守。

Uber對(duì)安全文化的淡漠，導(dǎo)致員工也可能無法得到安全文化的培訓(xùn)，這體現(xiàn)在車上的安全員并沒有注意車輛行駛的情況，而是放心大膽地在車上看視頻，以為把一切交給智能機(jī)器就能高枕無憂。

這種情況不只是出現(xiàn)在Uber公司，可以說，在世界上研發(fā)、使用機(jī)器的所有工廠、公司和所有地方，都或多或少存在這種情況，把一切放心地交付給機(jī)器，認(rèn)為機(jī)器和AI比人更可靠，既能預(yù)測事故，又能避免事故。

然而，這是一種非常離譜的思維，尤其在進(jìn)入AI時(shí)代，如果把一切交由AI來判斷和執(zhí)行，終將釀成大錯(cuò)。

劉易斯·芒福德的《技術(shù)與文明》一書曾提出，人類發(fā)明和依靠機(jī)器，實(shí)際上也深深地改變甚至強(qiáng)制了人類自己。

如果說，人類依靠機(jī)器和技術(shù)擺脫了自然的完全控制，卻反過來掉入了機(jī)器和技術(shù)的控制之中，把一切都交由機(jī)器和技術(shù)來操作和控制。機(jī)器和技術(shù)取決于人對(duì)其利用的好壞，如果利用得好，是造福人類，如果利用不好，則會(huì)禍害社會(huì)。

過去只是認(rèn)為，讓技術(shù)，如武器不分青紅皂白地殺人，是壞的利用。但殊不知，放心地把一切交由技術(shù)來控制其實(shí)也是技術(shù)壞的利用的一個(gè)方面。

Uber和安全員把操控汽車的所有權(quán)都交與自動(dòng)駕駛軟件，并由此引發(fā)致人死亡的車禍就一個(gè)明證。

如今，Uber正逐漸走出全球首例自動(dòng)駕駛致行人死亡事故的“陰霾”。其表示，將在自動(dòng)駕駛方面再投資10億美元。如此龐大的支出，賭的是不確定的未來。Uber自身也表示，自動(dòng)駕駛技術(shù)的研發(fā)耗資大、難度高，并不能保證這一投資能夠達(dá)到預(yù)期效果。

對(duì)這項(xiàng)技術(shù)未來的不確定，也使摩根士丹利將自動(dòng)駕駛“領(lǐng)頭羊”Waymo的估值下調(diào)了40%。今年9月，該公司將Waymo的估值從1750億美元下調(diào)至1050億美元。

對(duì)于下調(diào)原因，摩根士丹利分析師稱，自動(dòng)駕駛行業(yè)的發(fā)展速度慢于預(yù)期，同時(shí)預(yù)計(jì)Waymo未來一段時(shí)間內(nèi)對(duì)安全員具有持續(xù)需求，該公司的虧損將繼續(xù)擴(kuò)大。

除科技公司外，車企也愈發(fā)謹(jǐn)慎。沃爾沃原計(jì)劃在2017年推出100輛自動(dòng)駕駛的SUV ，后延期至2021年；福特CEO吉姆·哈克特也公開承認(rèn)公司高估了自動(dòng)駕駛汽車的到來，自家“2021年推出全自動(dòng)駕駛汽車”的計(jì)劃可能有所推遲；

通用旗下自動(dòng)駕駛公司Cruise CEO丹·阿曼甚至專門為此發(fā)布了一篇長文博客，暗示公司將推遲今年年底推出無人駕駛出租車的計(jì)劃。

雖然車禍的余波已經(jīng)過去，但這場車禍調(diào)查結(jié)果同時(shí)也指出了一個(gè)問題，現(xiàn)在的自動(dòng)駕駛技術(shù)并非此前所認(rèn)為的那樣，已趨于成熟和安全。

即便自動(dòng)駕駛技術(shù)能過關(guān)，也能完全識(shí)別路上的行人，我們同樣要強(qiáng)調(diào)安全文化，把人的安全放在第一位，而且不能把一切全部交給AI來控制和執(zhí)行。在研發(fā)相關(guān)技術(shù)的同時(shí)，更要注重相關(guān)的安全風(fēng)險(xiǎn)管理，只有從意識(shí)上加以重視，才能真正防患于未然。

微信公眾賬號(hào)：科技云報(bào)道

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。