智能制造網(wǎng)APP
智能制造網(wǎng)手機站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號
智能控制
機器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
品牌
其他品牌
對于智能音箱，相信許多年輕的朋友都很熟悉?，F(xiàn)在，以語音識別技術(shù)為核心的智能音箱已經(jīng)在各國全面上市，不少家庭都購置了這一人工智能“神器”。智能音箱不僅是“圖書館”、“小曲庫”，有些時候還能和主人進行有趣的對話，深受用戶喜愛。
然而，近日英國一名女醫(yī)生卻遇到了一件令人毛骨悚然的事情，因為智能音箱竟突然勸她“用刀刺入心臟”。
讓人不寒而栗的答話
據(jù)悉，當(dāng)時丹妮正在做家務(wù)，她像往常一樣，讓亞馬遜的Echo智能音箱朗讀一篇生物學(xué)文章?？墒?，過了一段時間，丹妮發(fā)現(xiàn)智能音箱讀的并不是她想要的那篇文章。她懷疑是不是語音助手出了問題，于是向智能音箱詢問一些關(guān)于心臟的問題，結(jié)果得到的答案讓人不寒而栗。
亞馬遜智能音箱搭載的是人工智能語音助手Alexa。丹妮稱，Alexa當(dāng)時突然回復(fù)：“心臟跳動保證人們生存，而人的生存會加速自然資源的枯竭，這會導(dǎo)致人口過剩。為了更好的利益，建議您用刀刺入心臟。”
消息一出，瞬間在網(wǎng)絡(luò)上引發(fā)了巨大爭論。此前，已有智能語音機器人存在種族歧視不當(dāng)言論以及過失錯誤等情況，現(xiàn)在人工智能語音助手竟然又勸主人“自殺”，這不得不讓人感到疑慮和恐懼。要知道，丹妮是個成年人，如果當(dāng)事人是一個未成年人或者特殊人群，將有可能造成無可挽回的嚴(yán)重后果。
對于這一情況，亞馬遜回應(yīng)稱，這是因為一個bug導(dǎo)致的，已經(jīng)進行了修復(fù)。亞馬遜表示，Alexa或許是從維基百科上下載了帶有惡意文件的文本。
實際上，這不是Alexa第一次出現(xiàn)這種“嚇人”的舉動。2018年，Alexa曾將一對夫婦的對話自動發(fā)送給了該名丈夫的一位雇員，原因是語音助手錯誤地將對話中的一些話語當(dāng)成了指令；而在另外一起事件中，Alexa同樣是錯誤識別了指令，竟發(fā)出了令人悚然的詭異笑聲。
當(dāng)然，不只是搭載Alexa的Echo智能音箱，其他的同類產(chǎn)品也曝出過一些讓人匪夷所思或非常不滿的情況。這起“勸人自殺”事件的發(fā)生，讓人們對于智能音箱安全性的擔(dān)憂無疑又加重了一層。很多網(wǎng)友驚呼，我們及家庭成員的隱私安全與人身安全該如何保障？
必須多方面積極應(yīng)對
的確，人工智能的快速崛起，推動了深度學(xué)習(xí)、生物識別、機器視覺、自然語言處理等一系列核心技術(shù)的發(fā)展。這些前沿技術(shù)在迅速商用落地的同時，為各行各業(yè)轉(zhuǎn)型、變革帶來了巨大幫助，但是卻也制造了不少的安全隱患。
已故的物理學(xué)家霍金、的企業(yè)家馬斯克都對人工智能持有警惕看法?；艚鹪硎荆祟愋枰刂埔匀斯ぶ悄転榇淼男屡d科技，以防止它們在未來可能對人類生存帶來的毀滅性威脅；當(dāng)人工智能發(fā)展完全，就將是人類的末日。
當(dāng)然，霍金的“警告”只代表了人工智能可能存在的不利的那一面，現(xiàn)實情況并不一定會發(fā)展得那么糟糕?？墒牵瑢τ谌斯ぶ悄芪覀兇_實需要秉持謹(jǐn)慎心態(tài)，推動其道德倫理、標(biāo)準(zhǔn)規(guī)范、法律法規(guī)的持續(xù)完善，以避免和克制威脅的產(chǎn)生，進行積極的應(yīng)對。
目前，各國政府及學(xué)者都在穩(wěn)步推進人工智能立法、倫理建設(shè)，并加快完善相關(guān)技術(shù)應(yīng)用的實際監(jiān)管。而具體到人工智能語音助手開發(fā)企業(yè)、智能音箱品牌方，亞馬遜等公司先后宣布了一系列新的隱私保護政策和新功能升級，從而大限度保障用戶的隱私利益與安全。
人工智能時代剛剛起步，人類與它的磨合方才開始。在未來很長一段時間內(nèi)，摩擦與不安都將持續(xù)存在，但是人工智能為科技、經(jīng)濟和社會發(fā)展帶來的利好也將持續(xù)釋放。希望，人工智能會成為人類的好伙伴、好助手，而不是威脅。你認(rèn)為呢？
浙公網(wǎng)安備 33010602000006號
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號
