扎克伯格、張一鳴、宿華都公開道歉，AI算法不靈了嗎？

2018-04-13 09:41:32來源：AI科技大本營關(guān)鍵詞：AI 扎克伯格張一鳴閱讀量：26682

導(dǎo)讀：雖然三家公司的 CEO 都已經(jīng)公開道過歉，但這些風波讓我們更加理解 AI 是什么，它的能力邊界又在哪兒。

　　【中國智能制造網(wǎng) 市場分析】中國大的兩個短視頻產(chǎn)品快手和抖音，世界大的社交網(wǎng)絡(luò) Facebook，近都來到了輿論風波的正中心。

　　憑借強大的推薦算法和用戶貢獻內(nèi)容(UGC)，這三家公司積累了海量用戶，但也都遇到了內(nèi)容審核的難題。

　　今日頭條旗下的內(nèi)涵段子被監(jiān)管部門評價為“導(dǎo)向不正”。快手、抖音、火山小視頻的審核機制沒能攔下由用戶上傳并被監(jiān)管部門認定的“低俗內(nèi)容”。而 Facebook 整個 2017 年都在跟假新聞做斗爭，近還因為 8700 萬用戶隱私數(shù)據(jù)被泄露 CEO 扎克伯格要到美國國會參加專門的聽證會。

　　雖然三家公司的 CEO 都已經(jīng)公開道過歉，但這些風波讓我們更加理解 AI 是什么，它的能力邊界又在哪兒。

　　AI 包含人的價值取向甚至是偏見

　　今年 3 月，央視報道過快手平臺上存在大量未成年媽媽等低俗內(nèi)容，以及今日頭條的廣告問題之后，兩家公司的 CEO 宿華和張一鳴相繼發(fā)布道歉信。

　　昨日晚間，今日頭條 CEO 張一鳴還在道歉信中宣布關(guān)停內(nèi)涵段子 App，承諾將“正確的價值觀融入技術(shù)和產(chǎn)品”，同時將運營審核團隊規(guī)模從現(xiàn)在的 6000 人擴大到 10000 人。

　　快手不久前也啟動了內(nèi)容審核員的大規(guī)模招聘，一口氣就要 3000 名審核編輯，招聘條件是團員和黨員優(yōu)先。

　　新招募的這些人員，除了在運營層面給公司大幅增加開支之外，還意味著快手、今日頭條、抖音等社區(qū)型產(chǎn)品在 UGC 內(nèi)容審核上還不能完全依賴它們所擅長的 AI 算法。“人工審核” 仍然占據(jù)非常重要的地位。

　　對于 AI 在 UGC 社區(qū)內(nèi)容審核中所扮演的角色，快手 CEO 宿華在道歉信中表達的觀點更為直接：

　　(快手)社區(qū)運行用到的算法是有價值觀的，因為算法的背后是人，算法的價值觀就是人的價值觀，算法的缺陷是價值觀上的缺陷。

　　換句話說，快手的推薦算法包含并反映出了這家公司在短視頻內(nèi)容上的價值判斷和平臺偏好。內(nèi)涵段子、抖音等頭條系的 App 也是同理。

　　AI 能快速吸引用戶，也讓平臺更容易被監(jiān)管

　　依靠能夠揣摩用戶喜好的推薦算法，快手自轉(zhuǎn)型短視頻以來，累計吸引了超過 7 億的注冊用戶，日活用戶規(guī)模達到 1.2 億。而比今日頭條更早上線的內(nèi)涵段子，在早期成了主要的下載來源。抖音從去年快速崛起之后，新的日活數(shù)據(jù)已經(jīng)增長到 9000 萬。

　　成立于 2004 年的 Facebook，雖然總用戶增長放緩，但月度活躍用戶已經(jīng)漲到了 20 億，相當于互聯(lián)網(wǎng)用戶的 50%。

　　隨著海量用戶的加入，這些社交平臺上的內(nèi)容也開始變得五花八門。

　　快手上各種驚奇搞怪的表演，在早期給快手短視頻貼上了 low 的標簽。而抖音在強運營策略的主導(dǎo)下，依靠海草舞、各種運鏡、旅游風光等內(nèi)容，形成了自己的風格，同時也吸引到更多的內(nèi)容貢獻者。Facebook 用戶的時間線上，則充斥著真真假假的時下新聞。

　　由于推薦算法 7*24 不間斷運行，用戶很容易因為“刷上癮”而忘記時間。

　　就國內(nèi)而言，在國家廣電總局眼中，快手、抖音這些“全民級”內(nèi)容平臺的價值判斷和導(dǎo)向是不符合要求的，所以才有了這次針對短視頻和新聞資訊類產(chǎn)品的集中整頓。

　　在道歉信中，張一鳴將此次被整頓的深層原因歸結(jié)為“‘四個意識’淡薄、社會主義核心價值觀教育缺失、輿論導(dǎo)向存在偏差。”宿華則承諾要“重整社區(qū)運行規(guī)則，將正確的價值觀貫穿到算法推薦的所有邏輯中”。

　　但從技術(shù)層面看，目前的 AI 算法還很難理解“四個意識”和社會主義核心價值觀的真正含義。社區(qū)運行規(guī)則和內(nèi)容審核策略的調(diào)整還是要借助相當多的人力。

　　以 Google 為例，基于機器學(xué)習(xí)的在線視頻內(nèi)容云端識別 API 去年 3 月才在 Google Cloud 正式上線。而國內(nèi)云服務(wù)公司阿里云、騰訊云、百度云等對視頻內(nèi)容的識別、多維度分析和解讀服務(wù)也才推出不久。

　　從技術(shù)成熟度來說，包含音頻的視頻內(nèi)容分析和自動審核即便在人工智能逐步落地的今天，仍然有很多挑戰(zhàn)。更不用說監(jiān)管層面對短視頻平臺的種種要求。

　　內(nèi)容審核之外，更難的是持續(xù)讓用戶信任

　　在內(nèi)容審核上，月活用戶數(shù)超過 20 億的 Facebook 面臨的挑戰(zhàn)更加嚴峻。

　　首先是不同國家的語言和文化差異，一則帶有煽動性的仇恨言論很可能成為審核機制的漏網(wǎng)之魚，在社交網(wǎng)絡(luò)里肆意傳播。

　　按照目前 AI 的智力水平，要解決這個問題，更多還是要考人工來審核。目前 Facebook 擁有一個 15000 人規(guī)模的運營審核團隊，預(yù)計今年年底增加至 20000 人。

　　在昨天舉行的美國國會聽證會上，F(xiàn)acebook 創(chuàng)始人扎克伯格回答問題時表示，利用機器學(xué)習(xí)工具來自動監(jiān)測和處理仇恨言論要 5-10 年后才會變成現(xiàn)實。

　　這無疑是對 AI 在硅谷乃至整個科技界的莫大沖擊。與此同時，也讓我們更加清楚了解了人工智能現(xiàn)階段的能力邊界。

　　而在商業(yè)模式層面，F(xiàn)acebook 對用戶完全免費，依靠廣告收入支持平臺和公司運營。抖音和快手也是如此。

　　這意味著此類免費產(chǎn)品的用戶，或多或少總有一些個人數(shù)據(jù)被利用了。

　　在 2010 年的一次網(wǎng)絡(luò)討論中，一位 ID 為 blue_beetle 的用戶道出了真相：

　　If you are not paying for it， you're not the customer； you're the product being sold.

　　正是因為 Facebook 沒有做好隱私數(shù)據(jù)的保密工作，才招致了用戶和公眾的不信任。這對一個社交平臺來說，是直接的打擊：當平臺上的好友都離開，用戶本身也有極高的可能性流失掉。

　　為了解決隱私保護和商業(yè)化之間的矛盾，扎克伯格表示會始終提供一個免費版的 Facebook。Facebook 的 COO 在接受采訪時還說，如果用戶不希望自己的數(shù)據(jù)作為投放廣告的依據(jù)，可以選擇自愿退出，但要向 Facebook 支付一筆費用。