智能制造網(wǎng)APP
智能制造網(wǎng)手機(jī)站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號
智能控制
機(jī)器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
品牌
威綸通
【中國智能制造網(wǎng) 名家論壇】我們對人工智能未來的期待充滿了不確定性?；艚鹫J(rèn)為，AI的進(jìn)化速度會比人類更快，而它們的目標(biāo)是不可預(yù)測的。所以人類需要確保人工智能的設(shè)計符合道德倫理規(guī)范，保障措施到位。
微軟CEO Satya Nadella對此的看法相同，他認(rèn)為人類在AI方面必須展開更深入的協(xié)調(diào)和協(xié)作，就設(shè)計的倫理和移情框架達(dá)成一致。為此他提出了人工智能需要遵循的六大原則，以及未來人類要想不被時代拋棄需要堅持和發(fā)展的四個東西。Nadella認(rèn)為，未來的AI世界人和機(jī)器的關(guān)系不是非此即彼，而應(yīng)該是人機(jī)攜手，共創(chuàng)未來。
相對于有關(guān)計算機(jī)在Jeopardy!(智力競賽)、象棋、跳棋、圍棋比賽中擊敗人類的新聞頭條的令人心神不安，先進(jìn)機(jī)器學(xué)習(xí)，亦即所謂的人工智能或者AI的前途要比這有希望得多。終人類和機(jī)器將會一起工作—而不是互相對抗。計算機(jī)也許會在游戲中獲勝，但不妨想象一下人機(jī)攜手解決戰(zhàn)勝疾病愚昧以及貧困等社會大挑戰(zhàn)的可能性。
不過要想做到這一點需要有勇氣和雄心，這不是當(dāng)前技術(shù)的漸進(jìn)式改良所能及的?，F(xiàn)在是在AI方面展開更深入?yún)f(xié)調(diào)和協(xié)作的時候了。
今年早些時候，在跟Saqib Shaikh同臺的時候我得以窺見了這樣的未來。Saqib是一名微軟工程師，他開發(fā)出了技術(shù)來幫助補(bǔ)償自己早年喪失的視力。通過利用包括視覺識別以及先進(jìn)機(jī)器學(xué)習(xí)在內(nèi)的一系列先進(jìn)技術(shù)，Saqib和他的同事開發(fā)出了可以在他佩戴的太陽鏡內(nèi)嵌的小型計算機(jī)上運(yùn)行的應(yīng)用。這種技術(shù)可以消除歧義并且實時對數(shù)據(jù)進(jìn)行解析。實際上，技術(shù)是在用聲音而不是眼睛替他描繪了一幅世界的畫面。他對世界的感受方式更加豐富了，比如說他可以把街頭發(fā)出的噪音跟玩滑板的人聯(lián)系在一起，或者從會議當(dāng)中突然陷入的沉默聯(lián)想到同事腦子里的東西。當(dāng)技術(shù)在他耳邊喃喃細(xì)語時他可以閱讀“菜單”。不過對他來說重要的，也許是他在公園野餐的喧鬧中找到了他的愛人。
人機(jī)攜手之美已經(jīng)在AI是好還是壞的討論中迷失。我們對AI的看法似乎已經(jīng)陷入到兩種聲音之間：一種是科幻片《2001太空漫游》里面HAL令人不安的環(huán)境音，一種是今天的Cortana、Siri以及Alexa等個人數(shù)字助手友善的提示聲。我們可以在機(jī)器開車送我們、替我們干雜活、幫助我們做出更好決策的時候做著如何利用空閑時間的白日夢，或者杞人憂天于本世紀(jì)末機(jī)器人會誘發(fā)大規(guī)模的經(jīng)濟(jì)失控。視你聽到的說法不同，所謂的“奇點”，也即計算機(jī)智能超越人類智能的時刻，可能會在2100年到來，也可能只是科幻小說的素材。
在我看來，具建設(shè)性的討論未必是AI的正邪之爭：爭論的焦點應(yīng)該放在該技術(shù)給人和創(chuàng)造者帶來的價值上面。在《與機(jī)器人共舞》一書中，JohnMarkoff寫道：“回答充斥著智能機(jī)器的世界的控制這個難題的好辦法，是理解創(chuàng)造這些系統(tǒng)的人的價值。”這是一個有趣的問題，必須由整個行業(yè)一起討論和回答。
今年早些時候，我在一場會議上分享了我們對AI的看法。首先我們希望開發(fā)能夠增強(qiáng)人類能力和體驗的智能。終這不會是人類vs機(jī)器。我們?nèi)祟愑袆?chuàng)造力、同理心、情感、肉體性以及洞察力，這些東西可以跟強(qiáng)大的AI糅合到一起。計算，也即通過大規(guī)模數(shù)據(jù)獲得理性以及更快進(jìn)行模式識別的能力，可以幫助推動社會前進(jìn)。其次，我們還必須把信任直接建立到技術(shù)里面。我們必須針對隱私、透明和安全給技術(shù)增加防護(hù)。AI設(shè)備必須設(shè)計用于檢測新威脅，并且隨著AI的演變來設(shè)計出相應(yīng)的防護(hù)。第三，我們開發(fā)的所有技術(shù)都必須包容所有人、尊重所有人。
這只是開始，我們還可以走得更遠(yuǎn)。
技術(shù)界不應(yīng)該決定這一未來的價值觀和美德。
科幻小說家阿西莫夫也給出了一個很好的起點，盡管還不夠充分：他在1940年代提出了“機(jī)器人三原則”作為故事當(dāng)中機(jī)器人的倫理守則。阿西莫夫定律是層次化的，即原則高于第二原則，第二原則高于第三原則。原則是機(jī)器人不得傷害人類，或看到人類受到傷害而袖手旁觀;第二原則是機(jī)器人必須服從人類的命令，除非這條命令與條相矛盾;第三原則是機(jī)器人必須保護(hù)自己，除非這種保護(hù)與以上兩條相矛盾。盡管阿西莫夫定律作為策略而言比較方便且具有啟發(fā)性，但是并沒有提供研究人員和技術(shù)公司可以遵循的價值觀或者設(shè)計原則，也沒有告訴社會當(dāng)AI和機(jī)器學(xué)習(xí)對經(jīng)濟(jì)越來越多的構(gòu)成產(chǎn)生推動時，人類必須帶入這下一個時代的能力是什么。
計算機(jī)AlanKay揶揄道：“預(yù)測未來的好辦法是創(chuàng)造未來。”在AI的背景下，他的意思是說不要再預(yù)測未來的樣子了，用有原則的方式去創(chuàng)造未來才是正道。我同意。就像任何軟件挑戰(zhàn)一樣，原則做法始于開發(fā)的平臺基礎(chǔ)。用軟件開發(fā)的術(shù)語來說，AI正在成為第三種“運(yùn)行時”—成為下一個平臺。在計算機(jī)科學(xué)中，運(yùn)行時是指程序員開發(fā)和執(zhí)行應(yīng)用的基礎(chǔ)系統(tǒng)。換句話說，我們?yōu)镻C編寫Word、PowerPoint之類的Office應(yīng)用?，F(xiàn)在的Office365包含了Office、Skype和Outlook，是寫給web的。而在AI和機(jī)器人的世界里，這些生產(chǎn)力和溝通工具將會針對一個全新的平臺編寫，這個平臺不僅管理信息還會從信息中學(xué)習(xí)并且與物理世界交互。
這個平臺或者所謂的第三運(yùn)行時的樣子現(xiàn)在正在構(gòu)建當(dāng)中。我還記得195年春讀到蓋茨《互聯(lián)網(wǎng)浪潮》備忘錄的情形。蓋茨在里面預(yù)測了互聯(lián)網(wǎng)對連接、硬件、軟件開發(fā)以及商業(yè)的影響。20多年過去了，我們正目睹著一股新的浪潮來臨—人工智能浪潮。那么指導(dǎo)我們思考、設(shè)計和開發(fā)的普遍設(shè)計原則和價值觀應(yīng)該是什么樣的呢?
一些人正在帶頭直面這一問題。MIT MediaLab的Cynthia Breazeal把一生都奉獻(xiàn)給了探索更人性化的人工智能和機(jī)器人上面。她提出，技術(shù)往往忽視了設(shè)計的社會和行為因素。Cynthia在近的談話中說我們是所有物種當(dāng)中社會化和富有感情的一種，但是在技術(shù)設(shè)計中卻幾乎沒有考慮過移情的問題。她說：“我們畢竟是通過溝通和協(xié)作來體驗世界的。如果我們對一起協(xié)作的機(jī)器感興趣，那就不能忽視人性化方法。”
為此，我思考了一些我們作為行業(yè)和社會應(yīng)該共同討論和辯論的原則和目標(biāo)。
1、AI必須用來輔助人類：隨著我們開發(fā)出來的自動機(jī)器越來越多，我們需要尊重人類自治。協(xié)作式機(jī)器人應(yīng)當(dāng)從事采礦之類的危險工作，從而為人類工人豎起一道安全網(wǎng)和提供保護(hù)措施。
2、AI必須是透明的：我們應(yīng)該能知道技術(shù)是如何工作的，它的規(guī)則是什么。我們需要的不僅僅是智能機(jī)器，而且是可理解的機(jī)器。技術(shù)會了解人類的事情，但是人類也必須了解機(jī)器的事情。大家應(yīng)該對技術(shù)如何審視和分析世界有了解。倫理和設(shè)計必須齊頭并進(jìn)。
3、AI必須實現(xiàn)效能大化，同時又不能傷害人的尊嚴(yán)：它應(yīng)該維護(hù)文化承諾，支持多樣化。在設(shè)計這些系統(tǒng)時我們需要有更廣泛更深入更多的各種互動。技術(shù)界不應(yīng)該決定這個未來的價值觀和美德。
4、AI必須用于智能隱私：要有復(fù)雜的手段保護(hù)個人以及群體信息，要能夠以增進(jìn)信任的方式進(jìn)行。
5、AI必須承擔(dān)算法責(zé)任以便人類可以撤銷非故意的傷害。我們設(shè)計這些技術(shù)時必須考慮到預(yù)期和非預(yù)期的情況。
6、AI必須防止偏見，確保進(jìn)行適當(dāng)?shù)?、有代表性的調(diào)查，從而防止錯誤的啟發(fā)法不會造成歧視。
但是人類也必須遵守一些守則—尤其是在考慮清楚我們的后代必須重點考慮和培養(yǎng)哪些技能方面。為了不被時代拋棄，我們的孩子和他們的孩子需要有：
7、同理心—機(jī)器很難復(fù)制的同理心(Empathy)在人與AI共存的世界里非常有價值。感覺到別人的想法和感受，協(xié)作和建立關(guān)系將會變得至關(guān)重要。
8、教育—有人提出，因為壽命延長出生率會下降，因為在教育的投入也會降低。但我認(rèn)為要想進(jìn)行創(chuàng)新并管理好我們今天看不清楚的創(chuàng)新，我們就必須不斷加大對教育的投資才能拔高我們的思考層次，才能獲得更加公平的教育產(chǎn)出。新技術(shù)大規(guī)模實施所需的知識掌握和技能培養(yǎng)是一個非常困難的社會問題，要花很長時間才能解決。動力織機(jī)在1810年就發(fā)明出來了，但是由于經(jīng)過充分培訓(xùn)的技工人手不足，服裝業(yè)完成變革卻花了35年的時間。
9、創(chuàng)造力—創(chuàng)造力是夢寐以求的人類技能之一，這一點不會改變。機(jī)器會繼續(xù)豐富和增強(qiáng)我們的創(chuàng)造力。小說家JhumpaLahiri近在接受采訪中被問到，作為有特殊影響的英國文學(xué)作家，為何要用自己的第三語言意大利語來進(jìn)行新的文學(xué)創(chuàng)作?她說道：“不斷探索難道不就是創(chuàng)造力的要點嗎?”
10、裁決和責(zé)任—我們也許愿意接受一個計算機(jī)生成的診斷書或者法律判決，但我們更希望由人來后對結(jié)果負(fù)責(zé)。
公平方面又會怎么發(fā)展呢?自動化會導(dǎo)致更公平還是更不公平?一方面，我們被告知無需擔(dān)心?？v觀整個歷史，人類勞動力的替代品總是讓工人變得更富有也不是更貧窮。另一方面，我們又被告知經(jīng)濟(jì)取代作用如此以至于創(chuàng)業(yè)者、工程師和經(jīng)濟(jì)學(xué)家應(yīng)該接受一項“新的宏偉挑戰(zhàn)”—大家要協(xié)力設(shè)計對勞動力起到補(bǔ)充性而不是替代性作用的技術(shù)。換句話說，商業(yè)必須用創(chuàng)造者和創(chuàng)造物(maker-and-creation)的心態(tài)來取代原來的節(jié)省勞力和自動化的心態(tài)。
AI的發(fā)展和對社會的影響才剛剛開始。要想真正把握即將到來的這個時代的意義需要進(jìn)行深入的、多方面的分析。我在微軟研究院的同事EricHorvitz是人工智能領(lǐng)域的，他一直在問自己這些問題。Eric和他的家人為斯坦福大學(xué)的OneHundredYearStudy研究計劃提供了資助。該項目將在下一世紀(jì)來臨前的每一年，就智能計算的崛起、對機(jī)器智能認(rèn)知的變化，以及人際關(guān)系的可能改變會引發(fā)的近期和遠(yuǎn)期社會經(jīng)濟(jì)學(xué)、法律和道德問題進(jìn)行報告。
盡管未來沒有清晰的路線圖，但是之前的工業(yè)革命我們已經(jīng)看到過渡并不是一帆風(fēng)順，要經(jīng)歷一系列階段。首先，我們發(fā)明和設(shè)計了變革的技術(shù)，也就是我們現(xiàn)在走到的地方。接著，我們面向未來轉(zhuǎn)型。比方說，無人機(jī)飛行員需要培訓(xùn);舊車的方向盤需要卸掉，因為會被改成無人車。第三，我們要對畸變、不協(xié)調(diào)以及錯位進(jìn)行引導(dǎo)。在機(jī)器看X光片的水平更高之后放射科醫(yī)生的工作是什么?當(dāng)計算機(jī)可以從上百萬份資料當(dāng)中找出無人可以識別的模式之后，律師的職責(zé)又是什么呢?但是，如果我們能夠吸收合適的價值觀和設(shè)計原則，如果我們能夠準(zhǔn)備好作為人類的必備技能的話，人類和社會就能繼續(xù)繁榮。
認(rèn)知科學(xué)家和哲學(xué)家ColinAllen得出結(jié)論：“正如我們可以設(shè)想在人類監(jiān)視下自治程度不斷增加的機(jī)器一樣，我們也可以設(shè)想控制對倫理相關(guān)事情敏感度不斷增加的機(jī)器。當(dāng)然，不是機(jī)器，但是會比以前更好。”
我們對AI追求的關(guān)鍵一步是就設(shè)計的倫理和移情框架達(dá)成一致。
浙公網(wǎng)安備 33010602000006號
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號
