智能制造網(wǎng)APP
智能制造網(wǎng)手機站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號
智能控制
機器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
Coremo 液壓動力液壓制動器的工業(yè)應(yīng)用的制動系統(tǒng)
品牌
常言道，眼見為實。然而，隨著人工智能的迅猛發(fā)展，一些使用Deepfake深度偽造技術(shù)制作的換臉視頻也在網(wǎng)絡(luò)上屢見不鮮。這項技術(shù)甚至被別有用心的人利用，成為詐騙、誣陷等罪惡勾當?shù)墓ぞ?，給社會和個人帶來嚴重威脅。
魔高一尺，如何破解？
在2021WAIC世界人工智能大會上，依托清華大學人工智能研究院成立的產(chǎn)業(yè)化公司——北京瑞萊智慧科技有限公司(RealAI)，發(fā)布了一款能夠一秒識別真?zhèn)蔚蔫b別神器——DeepReal深度偽造內(nèi)容檢測平臺，讓“假臉”無處遁形。
一、律之以法
幾十萬年以來，人臉都是識別人類身份信息十分顯著的特征。然而，隨時AI技術(shù)的飛速發(fā)展，這一切正在被深度偽造技術(shù)所瓦解。
近幾年來，非法利用AI技術(shù)偽造他人肖像吸引流量牟利，甚至從事侮辱、誹謗、網(wǎng)絡(luò)詐騙、色情宣傳等違法犯罪活動的案例已屢見不鮮。據(jù)一家國外機構(gòu)監(jiān)測到的結(jié)果顯示：自2019年以來，深度偽造視頻的數(shù)量呈指數(shù)級增長。
深度偽造技術(shù)給國家、社會和個人帶來的風險，引起了世界各國的高度重視，我國也重拳出擊。2020年5月28日，十三屆全國人大三次會議表決通過了《中華人民共和國民法典》，其中第1,019條規(guī)定“任何組織或者個人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像，但是法律另有規(guī)定的除外”，總體要求了禁止利用信息技術(shù)手段偽造的方式侵犯他人的肖像權(quán)和聲音。
在法律層面，AI作惡要有“緊箍咒”來約束；在技術(shù)層面，“魔高一尺”還要有“道高一丈”來抗衡。
二、束之有“術(shù)”
“深度偽造技術(shù)正在不斷演進迭代，亟需采用主動技術(shù)防范及預(yù)警檢測手段。”在2021世界人工智能大會上，清華大學人工智能研究院的核心孵化企業(yè)北京瑞萊智慧科技有限公司副總裁唐家渝向記者介紹，該司已研發(fā)出了“AI換臉術(shù)”的克星——一款破解深度偽造內(nèi)容的檢測產(chǎn)品DeepReal深度偽造內(nèi)容檢測平臺。
“門檻低、影響大、變化快”是深度偽造技術(shù)的顯著特征，且肉眼難以識別，更無法大量檢測。
針對如上痛點，RealAI基于第三代人工智能技術(shù)研發(fā)出的DeepReal，能夠通過研究深度偽造內(nèi)容和真實內(nèi)容的表征差異性辨識、不同生成途徑的深度偽造內(nèi)容一致性特征挖掘等問題，快速、精準地對多種格式與質(zhì)量的圖像進行真?zhèn)舞b別。
三、檢測性能工業(yè)級
檢測準確率無疑是衡量該平臺價值十分重要的指標。
據(jù)唐家渝介紹，檢測效果主要受到兩個因素的影響：數(shù)據(jù)集多元化程度和算法可靠程度。DeepReal深度偽造檢測平臺算法基于大數(shù)據(jù)量進行訓練和測試，截至目前，數(shù)據(jù)量已達到千萬級，數(shù)據(jù)集已覆蓋三大類，包括：學術(shù)深偽數(shù)據(jù)集、網(wǎng)絡(luò)深偽數(shù)據(jù)集和自研深偽數(shù)據(jù)集。同時，通過結(jié)合貝葉斯學習框架和深度神經(jīng)網(wǎng)絡(luò)，來估計模型在預(yù)測新樣本時的不確定性。以上，有效保障了DeepReal深偽檢測算法的泛化能力。
在測試結(jié)果方面，DeepReal在學術(shù)數(shù)據(jù)集和ZAO等主流方式生成的網(wǎng)絡(luò)數(shù)據(jù)集中，已達到99%以上的準確率。而在實際應(yīng)用中，DeepReal的檢測準確率也已達到業(yè)界前沿水平，遠超F(xiàn)acebook此前舉辦的Deepfake檢測挑戰(zhàn)賽所公布的較好成績。
此前，RealAI團隊在國際安全極客大賽GeekPwn 2020首屆CAAD虛假人臉AI識別大賽上，以顯著比分優(yōu)勢奪得冠軍；在網(wǎng)信辦與公安部共同指導的第二屆“中國人工智能·多媒體信息識別技術(shù)大賽”中，斬獲“創(chuàng)新之星”獎以及深偽檢測競賽A類獎。此外，DeepReal在深偽相關(guān)領(lǐng)域也已發(fā)表頂級會議和期刊論文十余篇。
天下武功，唯快不破。超高的準確度，還需要速度來支撐。
DeepReal深度偽造內(nèi)容檢測平臺，可實現(xiàn)每幀畫面的檢測時間僅用時30毫秒。同時，還支持橫向拓展與集群部署。檢測完畢，平臺還支持生成檢測報告。
四、AI界的安全之盾
深度偽造技術(shù)的濫用，給個人生活、國家安全和社會穩(wěn)定帶來諸多問題和挑戰(zhàn)，而且隨著仿真精度的提升，這種問題有愈演愈烈的趨勢。
自成立以來，RealAI就致力于提供安全可控的第三代人工智能技術(shù)，從根本上增強人工智能的安全性、可靠性及可信性。據(jù)唐家渝透露，針對深度偽造技術(shù)的防范，RealAI目前已與工信部、公安部、國家互聯(lián)網(wǎng)應(yīng)急中心、工信安全中心、中國信通院、公安三所等多家機構(gòu)展開深入的項目合作。
一流企業(yè)做標準。此前，RealAI與國家工信安全中心聯(lián)合制定了我國人臉模型算法自身安全相關(guān)的第一個標準《信息安全技術(shù)人臉比對模型安全技術(shù)規(guī)范》，作為第二編寫單位與信通院在工信部網(wǎng)安局指導下聯(lián)合編制了《人工智能安全框架(2020年)》藍皮書。此外，RealAI目前也參與包括機器學習算法安全相關(guān)的國家標準，以及人工智能合成音視頻、人工智能生物特征識別相關(guān)的行業(yè)標準等多項標準的制定工作中。
唐家渝表示，未來這款產(chǎn)品將在網(wǎng)絡(luò)虛假內(nèi)容甄別、人臉資料審核以及影像物證真實性檢驗等實際應(yīng)用場景中發(fā)揮強大作用，RealAI也將持續(xù)迭代技術(shù)、打磨產(chǎn)品，和相關(guān)單位一起，全力以赴，確保在這場深度偽造的“攻防戰(zhàn)”中保持始終立于不敗之地。
補充資料：
關(guān)于瑞萊智慧RealAI
北京瑞萊智慧科技有限公司(簡稱“RealAI”)是依托清華大學人工智能研究院設(shè)立的人工智能企業(yè)，致力于提供安全可控的第三代人工智能技術(shù)，加速安全、可靠、可信的產(chǎn)業(yè)智能化升級。
公司由清華大學人工智能研究院院長張鈸院士、清華大學人工智能研究院基礎(chǔ)理論研究中心主任朱軍教授共同擔任首席科學家。團隊堅持底層創(chuàng)新，敢為人先，基于第三代人工智能技術(shù)，從根本上增強人工智能的安全性、可靠性、及可信性?；谧灾骺煽氐讓涌蚣?，提供一系列AI基礎(chǔ)設(shè)施平臺，為高價值場景智能化升級提供可靠的一站式基礎(chǔ)保障。
RealAI致力于建設(shè)安全可控人工智能應(yīng)用生態(tài)，推動人工智能落地全新的關(guān)鍵應(yīng)用場景。目前RealAI已經(jīng)落地于金融、能源、制造、互聯(lián)網(wǎng)等領(lǐng)域，提供金融智慧風控、智慧理財、工業(yè)設(shè)備預(yù)測性維護、人臉識別系統(tǒng)安全檢測與增強等產(chǎn)品和解決方案。
關(guān)于深度偽造
“深度偽造”，也被譯作“深度造假”，譯自英語中新出現(xiàn)的一個組合詞Deepfake，是計算機的“深度學習”(Deeplearning)和“偽造”(fake)的組合，出現(xiàn)于人工智能和機器學習技術(shù)時代。它被稱作一種合成媒體(synthetic media)，是通過自動化的手段、特別是使用人工智能的算法技術(shù)，進行智能生產(chǎn)，操縱、修改數(shù)據(jù)，最終實現(xiàn)媒體傳播行為的一種結(jié)果。
通俗理解，“深度偽造”指的是把圖片和聲音輸入機器學習的算法，從而可以輕易地進行“面部操作”(face manipulation)——把一個人的臉部輪廓和表情放置在其他任何一個人的臉上，同時利用對聲音的逼真處理，制造出實為合成卻看似極真的視頻——用以躲避識別、混淆視聽、娛樂用戶，以及實現(xiàn)其他虛假宣傳的目的。
(原標題：一秒識破“AI換臉術(shù)”，RealAI煉就“火眼金睛”)
浙公網(wǎng)安備 33010602000006號
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號
