智能制造網(wǎng)APP
智能制造網(wǎng)手機(jī)站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號(hào)
智能控制
機(jī)器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
品牌
傾技
據(jù)外媒報(bào)道，自動(dòng)駕駛汽車雖可以避免人為的操作失誤，從而拯救生命，但是歐盟網(wǎng)絡(luò)安全局(ENISA)的一份新報(bào)告指出，自動(dòng)駕駛車輛“極易遭受各種攻擊”，這可能對(duì)乘客、行人和其他車輛造成危險(xiǎn)。這份報(bào)告中提及的攻擊手段包括利用光束進(jìn)行傳感器攻擊、使物體檢測(cè)系統(tǒng)過(guò)載、后端惡意行為，以及在訓(xùn)練數(shù)據(jù)或物理世界中呈現(xiàn)的對(duì)抗性機(jī)器學(xué)習(xí)攻擊。
報(bào)告顯示：“這些攻擊可能會(huì)使人工智能無(wú)法‘看到’行人，例如通過(guò)操縱圖像識(shí)別組件，對(duì)行人進(jìn)行錯(cuò)誤分類。這可能會(huì)在道路上導(dǎo)致混亂，因?yàn)樽詣?dòng)駕駛汽車可能會(huì)撞到路上或人行橫道上的行人。開(kāi)發(fā)人員和系統(tǒng)設(shè)計(jì)人員在人工智能網(wǎng)絡(luò)安全方面缺乏足夠的安全知識(shí)和專業(yè)技能，這是阻礙汽車行業(yè)對(duì)其進(jìn)行安全整合的主要障礙。”
該報(bào)告顯示，為自動(dòng)駕駛汽車提供算力的人工智能系統(tǒng)和傳感器等，增加了攻擊面的范圍。報(bào)告的作者表示，要想解決漏洞問(wèn)題，政策制定者和企業(yè)將需要在整個(gè)汽車供應(yīng)鏈中，包括第三方供應(yīng)商，建立一種安全文化。報(bào)告還敦促汽車制造商采取相應(yīng)措施，將創(chuàng)建機(jī)器學(xué)習(xí)系統(tǒng)視為汽車行業(yè)供應(yīng)鏈的一部分，以降低安全風(fēng)險(xiǎn)。
這份報(bào)告關(guān)注的是采用對(duì)抗式機(jī)器學(xué)習(xí)的網(wǎng)絡(luò)安全攻擊，這種攻擊含有人類無(wú)法察覺(jué)的惡意攻擊風(fēng)險(xiǎn)。報(bào)告還發(fā)現(xiàn)，如果在車輛中使用了機(jī)器學(xué)習(xí)技術(shù)，那么車輛將需要持續(xù)對(duì)系統(tǒng)進(jìn)行檢查，以確保它們沒(méi)有被惡意攻擊所篡改。報(bào)告中提出的場(chǎng)景包括運(yùn)動(dòng)規(guī)劃和決策算法受到攻擊的可能性，以及欺騙的可能性，例如可以愚弄自動(dòng)駕駛車輛，使其無(wú)法識(shí)別周圍的車輛、人員和墻壁。
在過(guò)去幾年里，多項(xiàng)研究表明，物理干擾可以在幾乎毫不費(fèi)力的情況下欺騙自動(dòng)駕駛汽車。2017年，研究人員在停車標(biāo)志上利用噴漆或貼紙，騙過(guò)了自動(dòng)駕駛車輛，使其將該標(biāo)志誤認(rèn)為限速標(biāo)志。2019年，騰訊安全研究人員利用貼紙讓特斯拉的自動(dòng)駕駛系統(tǒng)轉(zhuǎn)入了錯(cuò)誤的車道。去年，有研究人員證明，可以通過(guò)在道路上有目的性地放置幾條膠帶，引導(dǎo)自動(dòng)駕駛車輛系統(tǒng)將車速?gòu)?5英里/小時(shí)快速提升到85英里/小時(shí)。
浙公網(wǎng)安備 33010602000006號(hào)
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號(hào)
