美國在2016年5月發生全球第一起特斯拉(Tesla)自動駕駛模式下的車禍身亡案例。經過半年多調查,美國監管機構於1月19日表示,特斯拉的「Autopilot」系統在該起車禍中並未存在缺陷,甚至讚賞其設計減低了40%的車禍機率,並將車禍歸因於司機未即時做出反應。此報告減輕了自動駕駛系統承受的安全疑慮,但專家認為汽車商仍有義務說明其限制。
該起車禍發生於車主 Joshua Brown 使用自動駕駛模式操作特斯拉 Model S 型電動車時,他當時駕車超過一左轉貨車,系統因該貨車顏色與天色相近未能偵測並啟動煞車,使車子直接撞上貨車、Brown 當場身亡。而後又有特斯拉車主分別在美國及中國發生事故,更引發市場及傳統汽車製造商對此新興科技安全性的批評。
開發自動緊急煞車系統是為了幫助避免或減輕尾端衝撞。此系統有其限制且可能無法總是偵測到威脅、提供警告或是及早自動煞車以避免撞擊。
在13頁的調查文件中,美國全國高速公路交通安全委員會(National Highway Traffic Safety Administration,NHTSA) 指其並未在特斯拉的自動緊急煞車(AEB)功能或其「Autopilot」自動駕駛系統上發現設計或實際運作上的缺陷,且在車禍發生時,也不存在自動輔助駕駛功能未依照設計發揮作用的情形。相反的,報告還指特斯拉在廣泛採用其自動駕駛系統後,將該款汽車的車禍肇事率減低了將近四成,並將司機可能誤用該系統的潛在影響整合至其產品的最終設計。 NHTSA 因而不會要求特斯拉召回車輛或對其採取其他行動。
NHTSA 指出,Brown 在事故發生前至少7秒就已經看到了白色貨車,他本應該採取煞車、轉向等避開車輛的行動,但他都沒有做。他的最後一次操作,是事故2分鐘前將車速設置為每小時119公里。不過 NHTSA 也指出,司機們在特定時候可能會忘記了控制車輛的究竟是系統還是自己。
對此調查結果,特斯拉回應他們將客戶安全擺在首位,並感謝 NHTSA 的縝密報告及其結論。而其總裁馬斯克(Elon Musk) 則在 Twitter 中稱此報告「非常正面」。罹難車主 Brown 的家庭則表示在閱讀 NHTSA 及其他調查單位的報告後再做下一步決定。
特斯拉在陷入安全風波後,於2016年9月宣布更新自動巡航模式 Autopilot 至8.0版本,藉由升級雷達感應技術、加入「車隊學習」(fleet learning)功能等,提高自動駕駛系統的安全性。而後特斯拉在10月又在車輛上安裝了新的硬件,馬斯克預計將讓公司的汽車在2017年底前實現完全自動駕駛,並致力於改善軟件以減少90%的車禍機率。
但法律專家認為,NHTSA 的結論並不表示汽車製造商能逃避其責任。產品責任律師 Jason Stephens 便指,如果自動駕駛系統容易發生混淆,這本身就是一個安全缺陷。事實上,NHTSA 也在其結論指出,特斯拉在其用戶手冊中對於其系統限制的描述信息,「或許沒有那麼具體」。
美國權威評測機構《消費者報告》則在事件發生後就已敦促特斯拉放棄「自動駕駛」(Autopilot)的名稱,認為這四個字會造成潛在的誤導和危險,並建議該公司更妥善教育司機關於其系統的局限。