據《麻省理工科技評論》網站報道,在無人駕駛卡車和出租車能真正上路前,廠商需要解決的問題遠不止防止碰撞和導航這么簡單。
無人駕駛汽車將必須提前預見到和抵御惡意黑客全方位的傳統網絡攻擊和基于對抗性機器學習的新一代攻擊。業內越來越達成共識,未來數年無人駕駛汽車將被用作機器人出租車,或用于卡車,但大量的媒體報道對這種攻擊威脅基本上視而不見。
這使我想起1990年代大量宣揚電子郵件的文章,當時還沒有出現令人討厭的垃圾郵件。當時,機器學習被認為能解決垃圾郵件難題。事實上,目前垃圾郵件問題已經基本上得到解決——但卻用了數十年時間。
目前尚沒有惡意黑客攻擊自動駕駛汽車的媒體報道。具有諷刺意味的是,這是個問題。當互聯網創業公司在1990年代開發首批電子商務平臺時,世界上還沒有惡意黑客呢。在電子商務遭遇第一波大規模攻擊后,比爾·蓋茨(Bill Gates)發表備忘錄,要求微軟認真對待安全問題。結果是:Windows成為目前最安全的操作系統之一,微軟每年在網絡安全方面的支出超過10億美元(約合人民幣67億元)。雖然如此,黑客并未放棄在Windows操作系統、瀏覽器和其他軟件中尋找安全缺陷。
《麻省理工科技評論》表示,汽車公司可能經歷相似的歷程。在因沒有考慮安全問題而遭遇尷尬后——1980年代設計的CAN總線,就沒有認證的概念——它們似乎現在注意到這一問題。當黑客證明在路上行駛的汽車可能因數個安全缺陷遭到攻擊時,汽車廠商做出了回應:召回數百萬輛汽車,并對固件進行升級。去年7月,通用汽車首席執行官瑪麗·巴拉(Mary Barra)表示,保護汽車不會遭到網絡攻擊“是一個公共安全問題。”
但迄今為止的努力可能錯過了下一個安全趨勢。正在開發中、用于無人駕駛汽車的計算機視覺和防碰撞系統,依賴于復雜的機器學習算法——這些算法不容易理解,即使是對于依賴它們的公司。
去年卡耐基梅隆大學研究人員通過演示表明,佩戴鏡架上印有時髦圖案的眼鏡,能使先進的人臉識別算法失效。這一項目的首席研究人員馬哈茂德·謝里夫(Mahmood Sharif)在一封電子郵件中寫道,“我們的研究表明,黑客能繞開先進的人臉識別算法,或使系統不能正確識別目標。”
去年,南卡羅來納大學、浙江大學和奇虎360的研究人員通過演示表明,他們能破壞特斯拉S電動汽車的多個傳感器,使其導航系統“看不見”其他物體。
最近許多有關無人駕駛的文章,都對惡意黑客嘗試讓汽車碰撞輕描淡寫,甚至避而不談。在接受《麻省理工科技評論》采訪時,美國國家運輸安全委員會主席克里斯托弗·哈特(Christopher Hart)表示,他對自動駕駛汽車能減少交通事故“非常樂觀”。在討論安全問題時,哈特強調讓自動駕駛汽車做出符合倫理的決策——例如,當一輛8萬磅(36噸)的卡車突然擋住一輛汽車的去路時。
《麻省理工科技評論》稱,知道會造成車毀人亡交通事故的情況下,為什么還會有人攻擊自動駕駛汽車?一個原因是自動駕駛汽車的廣泛普及,會讓許多人失業,部分失業者可能心生怨氣。
2016年8月,福特首席執行官馬克·菲爾茲(Mark Fields)表示,他預計到2021年,無人駕駛出租車就會投入運營。谷歌、尼桑和其他公司,則計劃最早在2020年推出類似的無人駕駛汽車。只需一個大功率激光棒,這些無人駕駛出租車或送貨車就“眼花繚亂”了。
在被問到應對對抗性機器學習威脅的計劃時,Uber發言人薩拉·阿布德(Sarah Abboud)表示,“我們的安全專家團隊在不斷探索未來的自動駕駛汽車安全措施,包括數據完整性和濫用探測。但是,隨著自動駕駛技術的進步,威脅模式也會隨之發展,這意味著目前的一些安全問題,在未來真正的無人駕駛環境中已經不再是個問題。”
數次交通事故就能叫停自動駕駛汽車的部署。這可能不會影響先進的自動駕駛系統,但對于無人駕駛汽車的部署,卻是一個相當大的障礙。