云南網(wǎng)訊（記者　賀凱）9月16日，在第22屆中國(guó)網(wǎng)絡(luò)安全年會(huì)暨國(guó)家網(wǎng)絡(luò)安全宣傳周網(wǎng)絡(luò)安全協(xié)同防御分論壇上，國(guó)內(nèi)首次針對(duì)AI大模型的實(shí)網(wǎng)眾測(cè)檢驗(yàn)結(jié)果正式發(fā)布。此次活動(dòng)由中央網(wǎng)信辦網(wǎng)絡(luò)安全協(xié)調(diào)局指導(dǎo)，國(guó)家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心主辦，吸引了559名“白帽子”參與，對(duì)國(guó)內(nèi)15款大模型及應(yīng)用產(chǎn)品進(jìn)行了全面深入的漏洞測(cè)試。

活動(dòng)涌現(xiàn)出梁宏宇、馬寶新、劉銘等一批優(yōu)秀“白帽子”。此次測(cè)試對(duì)象均為實(shí)時(shí)在線運(yùn)行的AI大模型及應(yīng)用產(chǎn)品，在產(chǎn)品廠商的防護(hù)體系下，“白帽子”們成功挖掘出高危甚至嚴(yán)重等級(jí)的漏洞，充分體現(xiàn)了他們的專業(yè)能力和辛勤付出。參與測(cè)試的“白帽子”來自網(wǎng)安企業(yè)、科研院校以及社會(huì)各界，他們從外部攻擊者的視角，對(duì)大模型進(jìn)行了多維度實(shí)戰(zhàn)化測(cè)試，取得了豐富的成果，展現(xiàn)了白帽子群體對(duì)人工智能等新興技術(shù)領(lǐng)域安全的關(guān)注和為產(chǎn)業(yè)發(fā)展貢獻(xiàn)力量的熱情。

據(jù)統(tǒng)計(jì)，本次活動(dòng)累計(jì)發(fā)現(xiàn)各類安全漏洞281個(gè)，其中大模型特有漏洞177個(gè)，占比超過60％。這一數(shù)據(jù)表明，當(dāng)前AI大模型產(chǎn)品面臨著大量傳統(tǒng)安全領(lǐng)域之外的新興安全風(fēng)險(xiǎn)。具體來看，典型漏洞風(fēng)險(xiǎn)包括：部分產(chǎn)品存在不當(dāng)輸出類漏洞且危害嚴(yán)重；信息泄露類漏洞多發(fā)，存在較大安全隱患；提示注入類漏洞普遍，是大模型最常見漏洞風(fēng)險(xiǎn)；部分大模型產(chǎn)品針對(duì)無限制消耗類攻擊的防護(hù)措施有待加強(qiáng)；傳統(tǒng)安全漏洞依然普遍存在，危害不容忽視。鑒于AI大模型產(chǎn)品用戶量大、使用率高，若上述漏洞被惡意攻擊者利用，將對(duì)國(guó)內(nèi)AI大模型產(chǎn)品生態(tài)造成較嚴(yán)重影響。

為以高質(zhì)量安全護(hù)航人工智能在經(jīng)濟(jì)社會(huì)各領(lǐng)域的高質(zhì)量發(fā)展，本次活動(dòng)得到了網(wǎng)絡(luò)安全眾測(cè)平臺(tái)、國(guó)家網(wǎng)絡(luò)安全人才與創(chuàng)新基地的技術(shù)和環(huán)境支持。隨著AI應(yīng)用場(chǎng)景的不斷擴(kuò)展，新的漏洞和攻擊手法將不斷涌現(xiàn)，AI大模型安全治理工作任重道遠(yuǎn)，亟需各方共同努力。未來，需持續(xù)加強(qiáng)安全防護(hù)措施，針對(duì)大模型面臨的各類漏洞風(fēng)險(xiǎn)進(jìn)行防范；加快制定AI漏洞分類分級(jí)標(biāo)準(zhǔn)，并按應(yīng)用場(chǎng)景劃分風(fēng)險(xiǎn)等級(jí)；通過眾測(cè)模式廣泛匯聚社會(huì)白帽力量，構(gòu)筑AI共治生態(tài)；加強(qiáng)內(nèi)生安全治理，將安全融入AI系統(tǒng)全生命周期，從源頭筑牢安全基石。