智能制造網(wǎng)APP
智能制造網(wǎng)手機(jī)站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號(hào)
智能控制
機(jī)器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
品牌
傾技
【中國(guó)智能制造網(wǎng) 名家論談】當(dāng)人們談?wù)撐磥淼娜斯ぶ悄軙r(shí)，會(huì)出現(xiàn)一些恐慌——比如，它可以教會(huì)自己學(xué)習(xí)，并變得比我們?nèi)祟愃芾斫獾娜魏螙|西都更先進(jìn)。
當(dāng)人們談?wù)撐磥淼娜斯ぶ悄軙r(shí)，會(huì)出現(xiàn)一些恐慌——比如，它可以教會(huì)自己學(xué)習(xí)，并變得比我們?nèi)祟愃芾斫獾娜魏螙|西都更先進(jìn)。在錯(cuò)誤的人手中，甚至可能是自己的，這樣一種先進(jìn)的算法可能會(huì)統(tǒng)治世界各國(guó)政府和軍隊(duì)，賦予奧威爾式的監(jiān)視、操縱和社會(huì)控制，甚至可以控制諸如軍用無人機(jī)等自主致命武器的整個(gè)戰(zhàn)場(chǎng)。
但一些人工智能專家并不認(rèn)為這些擔(dān)憂有根據(jù)。事實(shí)上，高度先進(jìn)的人工智能可能比人類更擅長(zhǎng)管理世界。這些恐懼本身才是真正的危險(xiǎn)，因?yàn)樗鼈兛赡茏璧K我們將這種潛力變?yōu)楝F(xiàn)實(shí)。
“也許沒有實(shí)現(xiàn)人工智能是人類面臨的危險(xiǎn)，”Facebook人工智能的研究科學(xué)家托馬斯?米科洛夫在上周六于布拉格舉行的“人類水平人工智能”聯(lián)合會(huì)議上表示。
米科洛夫解釋說，作為一個(gè)物種，人類在做出對(duì)我們有利的選擇方面是相當(dāng)糟糕的。人們已經(jīng)將雨林和其他生態(tài)系統(tǒng)分割開，以獲取原材料，不知道也不關(guān)心它們是如何導(dǎo)致地球整體緩慢而又不可逆轉(zhuǎn)的退化的。
但是，一個(gè)人工智能系統(tǒng)或許能夠保護(hù)人類不受其自身短視的殘害。
米科洛夫補(bǔ)充說：“我們作為人類，非常不善于預(yù)測(cè)在某個(gè)遙遠(yuǎn)的時(shí)間線上會(huì)發(fā)生什么，也許從現(xiàn)在起20到30年。”“也許讓人工智能比我們自己更聰明，在某種共生關(guān)系中，可以幫助我們避免未來的災(zāi)難。”
當(dāng)然，米科洛夫認(rèn)為一個(gè)的人工智能實(shí)體將是仁慈的，這可能是少數(shù)派。在整個(gè)會(huì)議過程中，許多其他發(fā)言者表達(dá)了這些共同的恐懼，主要是關(guān)于人工智能被用于危險(xiǎn)的目的，或者被惡意的人類行為者濫用。我們不應(yīng)該嘲笑或輕視這些擔(dān)憂。
我們不確定是否有可能創(chuàng)造出通用人工智能，通常被認(rèn)為是復(fù)雜人工智能的圣杯，它能夠做任何人類能做的任何認(rèn)知任務(wù)，甚至可能做得更好。
先進(jìn)人工智能的未來充滿希望，但它帶來了許多倫理問題，甚至是意想不到的問題。
但是，HLAI會(huì)議的大多數(shù)與會(huì)者都認(rèn)為，在我們需要這些規(guī)則之前，我們?nèi)匀恍枰⒁?guī)則。政府、私營(yíng)企業(yè)和學(xué)術(shù)界建立協(xié)議、倫理委員會(huì)和監(jiān)管機(jī)構(gòu)，應(yīng)該將這些機(jī)構(gòu)和協(xié)議落實(shí)到位，減少敵對(duì)政府、不知情的研究人員，甚至是一個(gè)瘋狂科學(xué)家將會(huì)釋放惡意的人工智能系統(tǒng)，或者將先進(jìn)的算法武器化的可能性。如果有什么不好的事情發(fā)生了，那么這些系統(tǒng)就會(huì)確保我們有辦法處理它。
有了這些規(guī)則和保障措施，我們將更有可能在先進(jìn)的人工智能系統(tǒng)中與我們和諧相處，甚至可能拯救我們自己。
(原標(biāo)題：Facebook科學(xué)家：人工智能將比人類更出色地管理世界)
浙公網(wǎng)安備 33010602000006號(hào)
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號(hào)
