智能制造網(wǎng)APP
智能制造網(wǎng)手機(jī)站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號(hào)
智能控制
機(jī)器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
品牌
ASCO
【中國(guó)智能制造網(wǎng) 智造快訊】隨著人工智能技術(shù)的發(fā)展，相關(guān)技術(shù)在社會(huì)生活的應(yīng)用正越來(lái)越深入、廣泛。但是機(jī)器學(xué)習(xí)算法不可避免存在的漏洞，成為人工智能產(chǎn)品使用中的“定時(shí)炸彈”。
小小伎倆便可蒙騙人工智能 算法漏洞埋下多重隱患
據(jù)國(guó)外媒體報(bào)道，請(qǐng)想象今年是2022年，你正坐在一輛自動(dòng)駕駛汽車中，按照每日的常規(guī)路線行駛。你們來(lái)到了一處停車標(biāo)志前，這個(gè)地方已走過(guò)了上百次。然而這一次，汽車竟直接開(kāi)了過(guò)去。
在你看來(lái)，這塊停車標(biāo)志看上去別無(wú)二致。但對(duì)于汽車來(lái)說(shuō)，它卻和其它停車標(biāo)志截然不同。你和汽車不知道的是，就在幾分鐘前，一名街頭藝術(shù)家在這塊標(biāo)志上貼了一小張貼紙。人眼注意不到，卻逃不過(guò)機(jī)器的“眼睛”。換句話說(shuō)，這張小小的貼紙使汽車將停車標(biāo)志“看”成了完全不同的標(biāo)志。
這聽(tīng)上去離我們很遙遠(yuǎn)。但近期研究顯示，人工智能很容易被類似的方法糊弄，“看見(jiàn)”的東西與人眼產(chǎn)生巨大偏差。隨著機(jī)器學(xué)習(xí)算法在交通、金融和醫(yī)療體系中運(yùn)用得愈加普遍，計(jì)算機(jī)科學(xué)家希望在不法分子真正動(dòng)手之前、找到對(duì)抗這些攻擊的方法。
“機(jī)器學(xué)習(xí)和人工智能領(lǐng)域?qū)@一問(wèn)題感到十分擔(dān)憂，更何況這些算法被運(yùn)用得越來(lái)越普遍。”俄勒岡大學(xué)計(jì)算機(jī)與信息科學(xué)助理教授丹尼爾·洛德(Daniel Lowd)指出，“如果只是漏標(biāo)了一封垃圾郵件，沒(méi)什么大不了的。但如果你坐在一輛自動(dòng)駕駛汽車?yán)?，你就得確保汽車知道往哪兒走、且不會(huì)撞上什么東西，因此風(fēng)險(xiǎn)自然高得多。”
智能機(jī)器是否會(huì)失靈、或受到黑客控制，取決于機(jī)器學(xué)習(xí)算法“了解”世界的方法。若機(jī)器受到干擾，就可能將熊貓看成長(zhǎng)臂猿，或是將校車看成鴕鳥(niǎo)。法國(guó)和瑞士研究人員開(kāi)展的一項(xiàng)實(shí)驗(yàn)顯示，這樣的干擾可導(dǎo)致計(jì)算機(jī)將松鼠看成灰狐貍，或?qū)⒖Х葔乜闯甥W鵡。
這是如何實(shí)現(xiàn)的呢？思考一下兒童學(xué)習(xí)識(shí)數(shù)的過(guò)程：兒童觀察數(shù)字時(shí)，會(huì)注意到不同數(shù)字的共同特征，如“1又細(xì)又高，6和9都有一個(gè)大圓環(huán)，8則有兩個(gè)”等等?？催^(guò)了足夠多的數(shù)字之后，即使字體不同，兒童也能迅速認(rèn)出4、8、3等新數(shù)字。
機(jī)器學(xué)習(xí)算法了解世界的過(guò)程其實(shí)與此類似。要使計(jì)算機(jī)探測(cè)到某種信息，科學(xué)家會(huì)先向計(jì)算機(jī)中輸入成百上千條實(shí)例。機(jī)器篩查這些數(shù)據(jù)時(shí)(如：這是一個(gè)數(shù)字；這不是數(shù)字；這是一個(gè)數(shù)字；這不是數(shù)字)，便可逐漸了解該信息的特征。很快，機(jī)器便能準(zhǔn)確得出“圖片上是數(shù)字5”這樣的結(jié)論。
從數(shù)字到貓咪，從船只到人臉，兒童和計(jì)算機(jī)都利用了這一方法學(xué)習(xí)識(shí)別各種各樣的物件。但和人類兒童不同，計(jì)算機(jī)不會(huì)對(duì)細(xì)節(jié)多加留意，如貓咪毛茸茸的耳朵、或數(shù)字4獨(dú)特的三角形結(jié)構(gòu)。機(jī)器“看見(jiàn)”的不是圖片整體，而是圖片中的單個(gè)像素。以數(shù)字1為例，如果大多數(shù)數(shù)字1都在某一位置上有黑像素、另一個(gè)位置上有幾個(gè)白像素，那么機(jī)器只有在檢查過(guò)這幾個(gè)像素之后，才會(huì)做出決斷。再說(shuō)回停車標(biāo)志。如果標(biāo)志的某些像素出現(xiàn)了肉眼不易察覺(jué)的變化，即專家所說(shuō)的“干擾”，機(jī)器就會(huì)將停車標(biāo)志看成其它東西。
懷俄明大學(xué)與康奈爾大學(xué)的進(jìn)化人工智能實(shí)驗(yàn)室開(kāi)展了類似研究，使人工智能產(chǎn)生了一系列視覺(jué)幻覺(jué)。這些圖片中的抽象圖案和色彩在人眼看來(lái)毫無(wú)意義，計(jì)算機(jī)卻能迅速將其識(shí)別為蛇或步槍。這說(shuō)明人工智能“眼中”的物體可能與實(shí)際情況大相徑庭。
各種機(jī)器學(xué)習(xí)算法都存在這一缺陷。“每種算法都存在其漏洞，”美國(guó)范德堡大學(xué)計(jì)算機(jī)科學(xué)與計(jì)算機(jī)工程助理教授葉夫提尼·沃羅貝琴科(Yevgeniy Vorobeychik)指出，“我們生活在一個(gè)極其復(fù)雜的多維世界中，而算法只能關(guān)注其中的一小部分。”沃羅貝琴科“堅(jiān)信”，如果這些漏洞的確存在，遲早會(huì)有人研究出利用漏洞的方法。有些人可能已經(jīng)這么做了。
以垃圾郵件過(guò)濾程序?yàn)槔?。垃圾郵件有時(shí)會(huì)改變單詞拼寫(如將Viagra寫成Vi@gra)，或是加上合法郵件中常見(jiàn)的“正面詞匯”(如“高興”，“我”或“好”)，有時(shí)還會(huì)刪除一些非法郵件的常見(jiàn)詞匯，如“索賠”、“手機(jī)”、“贏取”等。
這些方法是否能讓不法分子得逞呢？被停車標(biāo)志上的貼紙糊弄的自動(dòng)駕駛汽車就是該領(lǐng)域?qū)＜姨岢龅牡湫颓榫场３酥?，非法?shù)據(jù)可能使色情影片躲過(guò)過(guò)濾程序；不法之徒可能會(huì)篡改支票上的數(shù)字；黑客可能會(huì)修改惡意程序代碼、以混過(guò)數(shù)字安保系統(tǒng)。
不法分子只需將相應(yīng)的機(jī)器學(xué)習(xí)算法弄到手，便可編寫出用來(lái)進(jìn)攻的數(shù)據(jù)。但要想騙過(guò)算法，其實(shí)并不一定要這樣做。黑客可以強(qiáng)行發(fā)起攻擊，反復(fù)調(diào)整同一封郵件、或同一張圖片，直到混過(guò)過(guò)濾系統(tǒng)。長(zhǎng)此以往，黑客便掌握了過(guò)濾系統(tǒng)搜查的關(guān)鍵信息，然后編寫出可蒙騙這些系統(tǒng)的數(shù)據(jù)。
“從機(jī)器學(xué)習(xí)系統(tǒng)問(wèn)世以來(lái)，就有人試圖對(duì)其進(jìn)行操縱，”賓州大學(xué)計(jì)算機(jī)科學(xué)與工程教授帕特里克·麥克丹尼爾(Patrick McDaniel)表示，“如果有人私下里使用這些技術(shù)，我們也許毫不知情。”想利用該技術(shù)的人不只是犯罪分子，有些人只是想避開(kāi)現(xiàn)代科技的“監(jiān)視”。“如果你在一個(gè)專制國(guó)家持有不同政見(jiàn)，想在政府不知情的情況下開(kāi)展政治活動(dòng)，就需要在機(jī)器學(xué)習(xí)的基礎(chǔ)上躲開(kāi)自動(dòng)監(jiān)視系統(tǒng)。”洛德指出。
在去年十月開(kāi)展的一項(xiàng)研究中，卡耐基梅隆大學(xué)的研究人員發(fā)明了一副眼鏡，能夠不知不覺(jué)地騙過(guò)面部識(shí)別系統(tǒng)，使計(jì)算機(jī)誤將女演員瑞茜·威瑟斯彭(Reese Witherspoon)認(rèn)作男演員羅素·克勞(Russell Crowe)。聽(tīng)上去很搞笑，但這一技術(shù)或許真能幫到那些必須躲開(kāi)當(dāng)權(quán)者視線的人。
與此同時(shí)，算法還有什么值得改進(jìn)之處呢？“要想避免上述問(wèn)題，的方法便是打造一套的、永遠(yuǎn)正確的模型。”洛德指出。就算我們研發(fā)出了比人類更厲害的人工智能，世界仍然充斥著各種不確定性，答案不會(huì)立即浮出水面。
人們通常以準(zhǔn)確度評(píng)價(jià)機(jī)器學(xué)習(xí)算法的好壞。正確識(shí)別物體的概率越高，程序就越出色。但一些專家認(rèn)為，我們還應(yīng)考察算法抵御攻擊的能力，越不易被攻破就越出色。專家提前對(duì)程序進(jìn)行考察也不失為一種解決方法。程序員可預(yù)先猜測(cè)攻擊者的意圖，在實(shí)驗(yàn)室中模擬攻擊，然后將其展示給機(jī)器學(xué)習(xí)算法。這有助于算法逐漸增強(qiáng)抵抗能力，前提是模擬出的攻擊符合現(xiàn)實(shí)情況。
麥克丹尼爾提出，我們可以讓人類參與其中，為算法的猜測(cè)結(jié)果提供外部驗(yàn)證。Facebook的“M”等“智能助手”就有人類輔助，檢查機(jī)器產(chǎn)生的答案。還有科學(xué)家指出，在法庭判決等敏感情境中，也應(yīng)讓人類進(jìn)行驗(yàn)證。“機(jī)器學(xué)習(xí)系統(tǒng)只是一種推理工具。在處理我們輸入的信息和機(jī)器提供的信息時(shí)，我們必須足夠聰明和理智，”麥克丹尼爾說(shuō)道，“我們不應(yīng)將機(jī)器所言奉為真理。”
原標(biāo)題：小小伎倆便可蒙騙人工智能：算法漏洞埋下犯罪隱患
浙公網(wǎng)安備 33010602000006號(hào)
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號(hào)
