【中國智能制造網 名家論壇】現代科學了不起的進步之一就是機器視覺的興起。近幾年，新一代機器學習技術已經改變了計算機“看見”世界的方式?，F在，機器在人臉識別和物品識別方面已經超越了人類，并將改變無數基于視覺的任務，例如駕駛、安全監(jiān)控等等。機器視覺現在簡直是超人。　　從一些方面看，機器視覺比人類視覺更好。但是現在研究人員找到了一類能夠輕松‘愚弄’機器視覺的‘對抗性圖像’。但是有一個問題出現了。機器視覺研究人員已經注意到，這項新技術有一些讓人擔心的弱點。實際上，機器視覺算法有一個阿喀琉斯之踵，使它們被一些經過微擾的圖像捉弄，而這些圖像對于人類來說非常淺顯易見。
　　
　　這些經過修改的圖像被稱為“對抗性圖像，成為一種重要的威脅。“在人臉識別領域，一個對抗性例子可能由臉部非常細微的標記構成，因此人會正確識別出圖像中的身份，而機器學習系統(tǒng)會將其識別為一個不同的人。”谷歌Brain的AlexeyKurakin、SamyBengio以及非營利機構OpenAI的IanGoodfellow說。
　　
　　他們在論文中稱，這種對抗性攻擊除了能影響完全在計算機中運行的系統(tǒng)，例如逃避垃圾郵件過濾器或病毒軟件監(jiān)測器，還能影響在物理世界中運行的系統(tǒng)，例如通過攝像頭及其他傳感器感知世界的機器人、視頻監(jiān)控系統(tǒng)以及圖像和聲音分類的移動應用。
　　
　　因為機器視覺還非常新，我們對于對抗性圖像還知之甚少。沒人知道如何好地創(chuàng)造它們、如何用它們來愚弄機器視覺系統(tǒng)、或者如何預防此類攻擊。
　　
　　現在，Kurakin及同事的研究開始改變這一現狀，他們對對抗性圖像展開了系統(tǒng)研究。他們的研究說明了機器視覺系統(tǒng)在此類攻擊之下多么脆弱。
　　
　　團隊開始使用了一個機器視覺研究的標準數據庫，名叫ImageNet。這個數據庫的圖像根據顯示的內容進行分類。一個標準測試是基于這個數據庫的一部分來訓練一個機器視覺算法，然后利用數據庫的另一個部分來測試算法能否良好進行分類。
　　
　　測試表現的測量方法是統(tǒng)計算法中高五項回答、甚至高一項回答中正確分類的頻率（被稱為前五準確率和前一準確率），或者中前五項或一項中回答不正確的頻率（其前五錯誤率或者前一錯誤率）。