智能制造網(wǎng)APP
智能制造網(wǎng)手機(jī)站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號(hào)
智能控制
機(jī)器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
品牌
其他品牌
并非所有科技界的大咖都是人工智能的倡導(dǎo)者。有些人對(duì)AI給社會(huì)帶來的影響憂心忡忡，他們正拿出數(shù)十億美元試圖監(jiān)控人工智能，這反過來變成了慈善事業(yè)的一個(gè)新前沿。
對(duì)于eBay公司創(chuàng)始人Pierre Omidyar來說，人工智能是一個(gè)令人擔(dān)憂的問題，去年他成立了Luminate，一家總部位于倫敦的組織。Luminate倡導(dǎo)公民賦權(quán)、數(shù)據(jù)和數(shù)字權(quán)利、財(cái)務(wù)透明和獨(dú)立媒體。
Luminate 執(zhí)行官Stephen King表示：“這是一個(gè)新生的領(lǐng)域，我們發(fā)現(xiàn)，人工智能是由那些不關(guān)心道德后果的程序員開發(fā)出來的。”
King強(qiáng)調(diào)AI帶來的兩個(gè)真實(shí)后果，激發(fā)了像Omidyar這樣的慈善家采取行動(dòng)。一個(gè)是風(fēng)險(xiǎn)評(píng)估軟件COMPAS(Correctional Offender Management Profiling for Alternative Sanctions)，這種軟件會(huì)分析大數(shù)據(jù)預(yù)測(cè)被告再犯下其他違法行為的風(fēng)險(xiǎn)。
當(dāng)新聞機(jī)構(gòu)ProPublica對(duì)在美國(guó)佛羅里達(dá)州被捕的1萬人進(jìn)行COMPAS評(píng)估對(duì)比時(shí)，數(shù)據(jù)顯示有些人可能會(huì)重新犯罪，ProPublica發(fā)現(xiàn)，當(dāng)算法正確的時(shí)候，其決策也是公平的。但當(dāng)算法錯(cuò)誤的時(shí)候，有色人種被標(biāo)記的風(fēng)險(xiǎn)要高出兩倍多，但其實(shí)他們并沒有重新犯罪。
King舉的另一個(gè)例子是中國(guó)的社會(huì)評(píng)分系統(tǒng)，這是一個(gè)涉及大數(shù)據(jù)和人工智能的國(guó)家項(xiàng)目，是給數(shù)百萬公民進(jìn)行社會(huì)信用評(píng)分，賬單逾期支付和其他不良行為就意味著會(huì)給負(fù)面評(píng)分。“信用評(píng)分為負(fù)就無法乘坐高鐵，”King說。
對(duì)AI加以限制
當(dāng)人工智能在諸如此類的場(chǎng)景中使用時(shí)，你應(yīng)該如何抑制人工智能帶來的影響？
King表示，需要從源頭上解決這個(gè)問題。AI底層的算法通常在開發(fā)時(shí)就融入了無意識(shí)的偏見。
紐約大學(xué)AI Now研究所的一份報(bào)告發(fā)現(xiàn)，主要是白人男性編碼人員制造了算法中的偏見。
不管這是有意的還是無意的，都會(huì)影響AI的結(jié)果。麻省理工學(xué)院的研究人員發(fā)現(xiàn)，有一些面部識(shí)別軟件無法識(shí)別少數(shù)民族。King說：“沒有人把所有種族偏見問題都考慮清楚。”
而這正是Omidyar希望通過Luminate的資金來遏制的偏見問題。在成立年，Luminate的資金額就達(dá)到了6000萬美元。
King表示：“我們?cè)O(shè)立了基金，通過一系列其他研究機(jī)構(gòu)再授權(quán)，以更好地了解人工智能帶來的危害。”一個(gè)名為Ethics and Governance of AI Initiative的項(xiàng)目從Luminate以及John S. and James L. Knight基金會(huì)、LinkedIn創(chuàng)始人Reid Hoffman等人那里獲得了2700萬美元的資金。
Luminate表示，這筆資金將用于確保自動(dòng)化和機(jī)器學(xué)習(xí)“是以一種維護(hù)公平、人類自治和正義的社會(huì)價(jià)值觀的方式進(jìn)行研究、開發(fā)和部署的”。
此外還有麻省理工學(xué)院媒體實(shí)驗(yàn)室和哈佛伯克曼克萊因互聯(lián)網(wǎng)與社會(huì)中心。2017年，其他九個(gè)組織得到了該基金的760萬美元資金，專注于“媒體、刑事司法和自動(dòng)駕駛汽車三大領(lǐng)域”， John S. and James L. Knight基金會(huì)主席AlbertoIbargüen在聲明中這樣表示。
慈善事業(yè)的一個(gè)新前沿
Omidyar并不是希望阻止人工智能失控的一位慈善家。
事實(shí)上，自Elon Musk和Sam Altman于2015年推出Open AI以來，這個(gè)慈善事業(yè)的新前沿就大受歡迎。Open AI是一個(gè)促進(jìn)“安全人工智能”的非盈利組織。(Musk后來離開了該組織，因?yàn)檫@可能與特斯拉自動(dòng)駕駛汽車開發(fā)中采用的人工智能存在潛在沖突。)
在去年，Symphony Technology Group背后的印度億萬富翁Romesh Wadhwani與他的兄弟Sunil成立了瓦德瓦尼人工智能研究所(Wadhwani Institute for Artificial Intelligence，WIAI)。Wadhwani為該組織提供了3000萬美元資金支持，目標(biāo)是探索“人工智能研究和實(shí)施的道德維度”。
具有諷刺意味的是，科技界的億萬富翁們花錢來遏制這些給曾經(jīng)給他們帶來財(cái)富的技術(shù)，這應(yīng)該被視為一個(gè)更廣泛的警告：如果那些了解技術(shù)前沿的人都擔(dān)心技術(shù)的發(fā)展方向，我們就更應(yīng)該注意了。
King說：“和硅谷其他很多慈善家一樣，Pierre在10年前還是一位科技樂觀主義者。我認(rèn)為，我們現(xiàn)在看到了黑暗的一面，這個(gè)領(lǐng)域需要更多的資金支持者。”
(原標(biāo)題：為什么科技界的億萬富翁們不遺余力的遏制人工智能？)
浙公網(wǎng)安備 33010602000006號(hào)
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號(hào)
