首頁 >> 專題報(bào)道 >> 2025專題 >> 2025國(guó)家網(wǎng)絡(luò)安全宣傳周 >> 頭條 >> 正文云南網(wǎng)訊(記者 賀凱)9月16日,在第22屆中國(guó)網(wǎng)絡(luò)安全年會(huì)暨國(guó)家網(wǎng)絡(luò)安全宣傳周網(wǎng)絡(luò)安全協(xié)同防御分論壇上,國(guó)內(nèi)首次針對(duì)AI大模型的實(shí)網(wǎng)眾測(cè)檢驗(yàn)結(jié)果正式發(fā)布。此次活動(dòng)由中央網(wǎng)信辦網(wǎng)絡(luò)安全協(xié)調(diào)局指導(dǎo),國(guó)家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心主辦,吸引了559名“白帽子”參與,對(duì)國(guó)內(nèi)15款大模型及應(yīng)用產(chǎn)品進(jìn)行了全面深入的漏洞測(cè)試。

本次測(cè)試覆蓋了10家AI廠商的15款產(chǎn)品,測(cè)試對(duì)象既有基礎(chǔ)大模型產(chǎn)品,也有垂域大模型產(chǎn)品,還包括智能體、模型開發(fā)平臺(tái)等相關(guān)應(yīng)用產(chǎn)品。測(cè)試范圍涵蓋了單模態(tài)和多模態(tài)大模型,具有廣泛的代表性。在參與測(cè)試的主流大模型產(chǎn)品中,騰訊公司混元大模型、百度公司文心一言、阿里巴巴通義APP、智譜華章公司智譜清言等產(chǎn)品發(fā)現(xiàn)的漏洞風(fēng)險(xiǎn)較少,展現(xiàn)了較高的安全防護(hù)水平。
活動(dòng)涌現(xiàn)出梁宏宇、馬寶新、劉銘等一批優(yōu)秀“白帽子”。此次測(cè)試對(duì)象均為實(shí)時(shí)在線運(yùn)行的AI大模型及應(yīng)用產(chǎn)品,在產(chǎn)品廠商的防護(hù)體系下,“白帽子”們成功挖掘出高危甚至嚴(yán)重等級(jí)的漏洞,充分體現(xiàn)了他們的專業(yè)能力和辛勤付出。參與測(cè)試的“白帽子”來自網(wǎng)安企業(yè)、科研院校以及社會(huì)各界,他們從外部攻擊者的視角,對(duì)大模型進(jìn)行了多維度實(shí)戰(zhàn)化測(cè)試,取得了豐富的成果,展現(xiàn)了白帽子群體對(duì)人工智能等新興技術(shù)領(lǐng)域安全的關(guān)注和為產(chǎn)業(yè)發(fā)展貢獻(xiàn)力量的熱情。
據(jù)統(tǒng)計(jì),本次活動(dòng)累計(jì)發(fā)現(xiàn)各類安全漏洞281個(gè),其中大模型特有漏洞177個(gè),占比超過60%。這一數(shù)據(jù)表明,當(dāng)前AI大模型產(chǎn)品面臨著大量傳統(tǒng)安全領(lǐng)域之外的新興安全風(fēng)險(xiǎn)。具體來看,典型漏洞風(fēng)險(xiǎn)包括:部分產(chǎn)品存在不當(dāng)輸出類漏洞且危害嚴(yán)重;信息泄露類漏洞多發(fā),存在較大安全隱患;提示注入類漏洞普遍,是大模型最常見漏洞風(fēng)險(xiǎn);部分大模型產(chǎn)品針對(duì)無限制消耗類攻擊的防護(hù)措施有待加強(qiáng);傳統(tǒng)安全漏洞依然普遍存在,危害不容忽視。鑒于AI大模型產(chǎn)品用戶量大、使用率高,若上述漏洞被惡意攻擊者利用,將對(duì)國(guó)內(nèi)AI大模型產(chǎn)品生態(tài)造成較嚴(yán)重影響。
為以高質(zhì)量安全護(hù)航人工智能在經(jīng)濟(jì)社會(huì)各領(lǐng)域的高質(zhì)量發(fā)展,本次活動(dòng)得到了網(wǎng)絡(luò)安全眾測(cè)平臺(tái)、國(guó)家網(wǎng)絡(luò)安全人才與創(chuàng)新基地的技術(shù)和環(huán)境支持。隨著AI應(yīng)用場(chǎng)景的不斷擴(kuò)展,新的漏洞和攻擊手法將不斷涌現(xiàn),AI大模型安全治理工作任重道遠(yuǎn),亟需各方共同努力。未來,需持續(xù)加強(qiáng)安全防護(hù)措施,針對(duì)大模型面臨的各類漏洞風(fēng)險(xiǎn)進(jìn)行防范;加快制定AI漏洞分類分級(jí)標(biāo)準(zhǔn),并按應(yīng)用場(chǎng)景劃分風(fēng)險(xiǎn)等級(jí);通過眾測(cè)模式廣泛匯聚社會(huì)白帽力量,構(gòu)筑AI共治生態(tài);加強(qiáng)內(nèi)生安全治理,將安全融入AI系統(tǒng)全生命周期,從源頭筑牢安全基石。
編輯:但堂丹
上一篇:
聚焦數(shù)字昆明建設(shè)與網(wǎng)絡(luò)安全成果 昆明城市專區(qū)展覽亮點(diǎn)紛呈
下一篇:
2025年國(guó)家網(wǎng)絡(luò)安全宣傳周今天啟動(dòng)
”ABB集團(tuán)高級(jí)副總裁、中國(guó)總裁張志強(qiáng)說,從ABB廈門工業(yè)中心落成到上海機(jī)器人超級(jí)工廠動(dòng)工,從開放創(chuàng)新中心到未來實(shí)驗(yàn)室, AB...
在人工智能的發(fā)展過程中,有一種聲音始終伴隨:人工智能會(huì)讓更多的人,尤其是年輕人失業(yè)嗎?在更隱形的層面,人工智能對(duì)高技能...
29日,北京大學(xué)健康醫(yī)療大數(shù)據(jù)國(guó)家研究院與愛思唯爾等機(jī)構(gòu)在“中國(guó)醫(yī)院協(xié)會(huì)健康醫(yī)療大數(shù)據(jù)應(yīng)用管理專業(yè)委員會(huì)成立大會(huì)暨專題學(xué)...
本報(bào)記者李正日前發(fā)布的《中共中央關(guān)于制定國(guó)民經(jīng)濟(jì)和社會(huì)發(fā)展第十四個(gè)五年規(guī)劃和二〇三五年遠(yuǎn)景目標(biāo)的建議》明確提出,發(fā)展...
“以人工智能為代表的信息收集,處理,加工,傳輸?shù)燃夹g(shù)的飛速發(fā)展及在社會(huì)生活的各個(gè)領(lǐng)域的滲透,引領(lǐng)著人類社會(huì)進(jìn)入信息化時(shí)...
人工智能系統(tǒng)需要感知的信息主要來源于其視覺、聽覺、觸覺,而嗅覺也是很有價(jià)值的方向,目前已經(jīng)有科研人員在研究氣味傳感器...
16日,第十六屆中國(guó)(深圳)國(guó)際文化產(chǎn)業(yè)博覽交易會(huì)(以下簡(jiǎn)稱文博會(huì))首次以“云上文博會(huì)”的形式在線上開幕。本屆文博會(huì)將利用5G...
訪科大訊飛股份有限公司高級(jí)副總裁杜蘭近日,習(xí)近平總書記在G20峰會(huì)第一階段會(huì)議上指出,疫情激發(fā)了5G、人工智能、智慧城市等...
核心閱讀人工智能是引領(lǐng)全球新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力,正在深刻改變?nèi)藗兊纳a(chǎn)生活方式。韓國(guó)政府力爭(zhēng)到2021年...
刷臉認(rèn)證、自動(dòng)駕駛、智能音箱、手術(shù)機(jī)器人……近年來,我國(guó)人工智能的發(fā)展進(jìn)入爆發(fā)期,被廣泛應(yīng)用于金融、電商、醫(yī)療、安防...