奇安信《2024人工智能安全報告》：AI深度偽造欺詐激增30倍

2024-03-01 11:49:11來源：TechWeb.com.cn 關(guān)鍵詞：人工智能 AI技術(shù)閱讀量：22010

導(dǎo)讀：2023年基于AI的深度偽造欺詐暴增了3000%，基于AI的釣魚郵件數(shù)量增長了1000%；奇安信威脅情報中心監(jiān)測發(fā)現(xiàn)，已有多個有國家背景的APT組織利用AI實(shí)施了十余起網(wǎng)絡(luò)攻擊事件。

　　2月29日消息，奇安信集團(tuán)發(fā)布《2024人工智能安全報告》(以下簡稱《報告》)?！秷蟾妗氛J(rèn)為，人工智能技術(shù)的惡意使用將快速增長，在政治安全、網(wǎng)絡(luò)安全、物理安全和軍事安全等方面構(gòu)成嚴(yán)重威脅。

　　《報告》認(rèn)為，“AI是一種通用技術(shù)，通用就意味著既可以用來做好事，也可以被用來干壞事”。具有巨大潛力的AI技術(shù)同時帶來兩大主要挑戰(zhàn)：一是放大現(xiàn)有威脅，另一個是引入新型威脅。

　　奇安信預(yù)計(jì)，未來十年，人工智能技術(shù)的惡意使用將快速增長，將在政治安全、網(wǎng)絡(luò)安全、物理安全和軍事安全等方面構(gòu)成嚴(yán)重威脅。

　　報告數(shù)據(jù)顯示，2023年基于AI的深度偽造欺詐暴增了3000%，基于AI的釣魚郵件數(shù)量增長了1000%；奇安信威脅情報中心監(jiān)測發(fā)現(xiàn)，已有多個有國家背景的APT組織利用AI實(shí)施了十余起網(wǎng)絡(luò)攻擊事件。各類基于AI的新型攻擊種類與手段不斷出現(xiàn)，甚至出現(xiàn)泛濫，包括深度偽造(Deepfake)、黑產(chǎn)大語言模型、惡意AI機(jī)器人、自動化攻擊等，在全球造成了嚴(yán)重危害。

　　同時，《報告》深入研究了基于AI的深度偽造(Deepfake)、黑產(chǎn)大語言模型基礎(chǔ)設(shè)施、利用AI的自動化攻擊、AI武器化、LLM自身安全風(fēng)險、惡意軟件、釣魚郵件、虛假內(nèi)容和活動生成、硬件傳感器安全等12種重要威脅，對其技術(shù)原理、危害情況、真實(shí)案例等進(jìn)行了深入的剖析，旨在讓業(yè)界更全面的認(rèn)識到AI普及帶來的兩大主要挑戰(zhàn)：一方面放大了現(xiàn)有威脅，比如釣魚郵件、惡意軟件和社會工程學(xué)等；另一方面是引入了新型威脅，如AI自動化攻擊、AI深度偽造等。

　　面對AI網(wǎng)絡(luò)攻擊、AI武器化等日益嚴(yán)峻的安全威脅，《報告》認(rèn)為，AI技術(shù)將會推動安全領(lǐng)域發(fā)生范式變革，全行業(yè)需啟動人工智能網(wǎng)絡(luò)防御推進(jìn)計(jì)劃。新一代AI技術(shù)與大語言模型改變安全對抗格局，將會對地緣政治競爭和國家安全造成深遠(yuǎn)的影響，各國正在競相加強(qiáng)在人工智能領(lǐng)域的競爭，以獲得面向未來的戰(zhàn)略優(yōu)勢。全行業(yè)需啟動人工智能網(wǎng)絡(luò)防御推進(jìn)計(jì)劃，包括利用防御人工智能對抗惡意人工智能，扭轉(zhuǎn)“防御者困境”。

上一篇：MWC 2024：5G-A占據(jù)C位，商用元年正式開啟

下一篇：智駕感知，2024年是否會有新回答？

我要評論

昵稱

匿名

文明上網(wǎng)，理性發(fā)言。（您還可以輸入200個字符)

表情

所有評論僅代表網(wǎng)友意見，與本站立場無關(guān)。

推動人工智能發(fā)展我國已形成完整產(chǎn)業(yè)體系
經(jīng)過多年持續(xù)投資布局，我國人工智能產(chǎn)業(yè)體系逐步完善，基礎(chǔ)層、模型層及應(yīng)用層不斷升級優(yōu)化，實(shí)現(xiàn)了人工智能、大數(shù)據(jù)等數(shù)據(jù)智能技術(shù)與實(shí)體經(jīng)濟(jì)的廣泛融合。
人工智能服務(wù)平臺
2025-05-04 09:58:02
全域人工智能之城建設(shè)駛?cè)肟燔嚨?/a>
市科委、中關(guān)村管委會，市經(jīng)濟(jì)和信息化局，市發(fā)展改革委，市政務(wù)和數(shù)據(jù)局，市衛(wèi)生健康委，北京經(jīng)開區(qū)管委會領(lǐng)導(dǎo)出席，來自各央國企、研究機(jī)構(gòu)，及京內(nèi)外近500家人工智能上下游生態(tài)企業(yè)與會。
人工智能中國智造
2025-04-30 09:49:19

AI已經(jīng)成為人形機(jī)器人最大的瓶頸？
在看似繁榮的表象下，行業(yè)共識正在逐漸浮現(xiàn)：人工智能(AI)技術(shù)的滯后，已成為人形機(jī)器人實(shí)現(xiàn)真正智能化的最大瓶頸。
人形機(jī)器人人工智能
2025-04-28 15:32:08
從“原子”到算法！人工智能領(lǐng)域的“元素周期表”誕生
研究團(tuán)隊(duì)發(fā)現(xiàn)，處于同一“主族“的算法(如支持向量機(jī)與核方法)具有相似的數(shù)學(xué)內(nèi)核，而位于相同“周期“的算法(如決策樹與隨機(jī)森林)則共享相近的泛化能力圖譜。
人工智能計(jì)算機(jī)科學(xué)
2025-04-27 17:01:21
賓利發(fā)布突破性人工智能皮革檢測技術(shù)
人工智能皮革檢測系統(tǒng)并不能完全取代賓利訓(xùn)練有素的工匠的技藝。通過自動化人工檢測流程，該系統(tǒng)能夠提供最高品質(zhì)的皮革，工匠們可以用它來打造精致的手工縫制細(xì)節(jié)。
人工智能皮革檢測技術(shù)
2025-04-27 14:42:55
早報|深圳大學(xué)人工智能學(xué)院正式揭牌成立；SK海力士完成96GB CXL內(nèi)存模塊驗(yàn)證
深圳大學(xué)人工智能學(xué)院正式揭牌成立,學(xué)院建設(shè)基礎(chǔ)學(xué)科研究中心和算力平臺，與騰訊云共建產(chǎn)業(yè)學(xué)院；SK海力士宣布，其基于CXL 2.0標(biāo)準(zhǔn)的DDR5 96GB內(nèi)存模塊已通過客戶驗(yàn)證......
人工智能內(nèi)存模塊數(shù)據(jù)傳輸設(shè)備
2025-04-23 10:41:12

版權(quán)與免責(zé)聲明：

凡本站注明“來源：智能制造網(wǎng)”的所有作品，均為浙江興旺寶明通網(wǎng)絡(luò)有限公司-智能制造網(wǎng)合法擁有版權(quán)或有權(quán)使用的作品，未經(jīng)本站授權(quán)不得轉(zhuǎn)載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的，應(yīng)在授權(quán)范圍內(nèi)使用，并注明“來源：智能制造網(wǎng)”。違反上述聲明者，本站將追究其相關(guān)法律責(zé)任。

本站轉(zhuǎn)載并注明自其它來源（非智能制造網(wǎng)）的作品，目的在于傳遞更多信息，并不代表本站贊同其觀點(diǎn)或和對其真實(shí)性負(fù)責(zé)，不承擔(dān)此類作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。如其他媒體、平臺或個人從本站轉(zhuǎn)載時，必須保留本站注明的作品第一來源，并自負(fù)版權(quán)等法律責(zé)任。如擅自篡改為“稿件來源：智能制造網(wǎng)”，本站將依法追究責(zé)任。

鑒于本站稿件來源廣泛、數(shù)量較多，如涉及作品內(nèi)容、版權(quán)等問題，請與本站聯(lián)系并提供相關(guān)證明材料：聯(lián)系電話：0571-89719789；郵箱：1271141964@qq.com。

不想錯過行業(yè)資訊？

訂閱 智能制造網(wǎng)APP

一鍵篩選來訂閱

信息更豐富

今日焦點(diǎn)/FOCUS 更多

熱門話題/TOPICS更多

人形機(jī)器人奏響“狂歡曲”

高難度！深圳眾擎實(shí)現(xiàn)全球首例人形機(jī)器人前空翻

宇樹科技王興興：預(yù)計(jì)年底H1機(jī)器人跑速達(dá)10米/秒超博爾特

“智能經(jīng)濟(jì)”駛?cè)氚l(fā)展“快車道”

AI智能體Manus橫空出世！中國AI實(shí)現(xiàn)自主執(zhí)行能力跨越式突破

數(shù)轉(zhuǎn)智改，安全先行！“以模制?！弊o(hù)航企業(yè)數(shù)智升級

精彩直播/VIDEO更多

回放

數(shù)字孿生賦能新型工業(yè)化分論壇

: 數(shù)字孿生賦能低空經(jīng)濟(jì)分論壇

: 數(shù)字孿生賦能城市全域數(shù)字化轉(zhuǎn)型分論壇

推薦產(chǎn)品/PRODUCT 更多

IC卡彎曲扭矩試驗(yàn)機(jī)
IC卡彎曲檢測儀,IC扭矩檢測儀,IC卡彎曲扭矩試驗(yàn)機(jī),IC卡彎扭疲勞試驗(yàn)機(jī),IC卡動態(tài)彎扭試驗(yàn)機(jī)
品牌
傾技
材料拉力強(qiáng)度測試機(jī)
材料拉力強(qiáng)度測試機(jī),材料拉力測試機(jī),材料力學(xué)拉伸試驗(yàn)機(jī),材料拉伸實(shí)驗(yàn)設(shè)備,拉伸材料試驗(yàn)機(jī)
品牌
傾技
大型柔性連續(xù)式噴霧流化床制粒生產(chǎn)線
大型柔性連續(xù)式噴霧流化床制粒設(shè)備,制粒生產(chǎn)線,柔性造粒,大型柔性連續(xù)式噴霧流化床,大型連續(xù)流化床
品牌
LHC
氣動制動器盤式摩擦片OREMO E4-A1934 COREMO 144143 抱

品牌
威綸通4.3英寸工業(yè)人機(jī)交互界面
人機(jī)界面觸摸屏,工業(yè)自動化控制系統(tǒng)操作平臺,多串口工業(yè)觸控屏,嵌入式壁掛式,工業(yè)觸控屏 HMI 終端
品牌
威綸通
浙江節(jié)能工業(yè)空調(diào)
節(jié)能工業(yè)空調(diào),工業(yè)節(jié)能空調(diào),工業(yè)省電空調(diào),蒸發(fā)冷省電空調(diào),廠房用空調(diào)
品牌
爽風(fēng)

国产强伦姧在线观看无码,中文字幕99久久亚洲精品,国产精品乱码在线观看,色桃花亚洲天堂视频久久,日韩精品无码观看视频免费

奇安信《2024人工智能安全報告》：AI深度偽造欺詐激增30倍

熱門評論

全部評論