9月16日，國內(nèi)首次針對AI大模型的實網(wǎng)眾測檢驗結(jié)果在第22屆中國網(wǎng)絡(luò)安全年會（暨國家網(wǎng)絡(luò)安全宣傳周網(wǎng)絡(luò)安全協(xié)同防御分論壇）重磅揭曉。活動共動員559名白帽子，對國內(nèi)15款大模型及應(yīng)用產(chǎn)品進行了漏洞測試。

此次活動由中央網(wǎng)信辦網(wǎng)絡(luò)安全協(xié)調(diào)局指導(dǎo)，國家計算機網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心主辦，相關(guān)平臺和基地提供技術(shù)支持?；顒影l(fā)布了國內(nèi)首次針對AI大模型的實網(wǎng)眾測檢驗結(jié)果，共動員559名白帽子，對國內(nèi)15款大模型及應(yīng)用產(chǎn)品進行了全面漏洞測試。測試產(chǎn)品涵蓋基礎(chǔ)大模型、垂域大模型、智能體、模型開發(fā)平臺等多種類型，既包含單模態(tài)大模型，也涵蓋多模態(tài)大模型，具有廣泛的代表性。

從結(jié)果來看，騰訊混元大模型、百度文心一言、阿里巴巴通義App、智譜華章智譜清言等產(chǎn)品發(fā)現(xiàn)的漏洞風險較少，展現(xiàn)出較高安全防護水平?；顒舆€涌現(xiàn)出梁宏宇、馬寶新、劉銘等一批優(yōu)秀白帽子，他們涵蓋網(wǎng)安企業(yè)人才、科研院校師生及社會人士，從外部攻擊者視角完成多維度實戰(zhàn)化測試，即便在廠商防護下仍挖掘出高危及嚴重等級漏洞，彰顯專業(yè)能力與奉獻情懷。

值得關(guān)注的是，本次活動累計發(fā)現(xiàn)各類安全漏洞281個，其中大模型特有漏洞177個，占比超60%，凸顯AI大模型面臨傳統(tǒng)安全領(lǐng)域之外的新興風險。典型漏洞風險包括部分產(chǎn)品不當輸出類漏洞危害嚴重、信息泄露類漏洞多發(fā)、提示注入類漏洞普遍、無限制消耗類攻擊防護不足及傳統(tǒng)安全漏洞仍存等。鑒于AI大模型用戶量大、使用率高，此類漏洞若被惡意利用，將嚴重影響國內(nèi)AI大模型產(chǎn)品生態(tài)。

對此，活動明確AI大模型安全治理需各方發(fā)力，持續(xù)加強安全防護措施應(yīng)對各類漏洞風險，加快制定AI漏洞分類分級及場景風險等級標準，通過眾測模式匯聚社會白帽力量構(gòu)筑共治生態(tài)，加強內(nèi)生安全治理并將安全融入AI系統(tǒng)全生命周期。

隨著AI應(yīng)用場景的不斷擴展，新的漏洞和攻擊手法將不斷涌現(xiàn)，AI大模型安全治理工作任重道遠，亟需各方共同努力。相關(guān)負責人表示，未來，針對大模型面臨的各類漏洞風險，需持續(xù)加強安全防護措施。同時要加快制定AI漏洞分類分級標準，并按應(yīng)用場景劃分風險等級。還可通過眾測模式廣泛匯聚社會白帽力量，構(gòu)筑AI共治生態(tài)。此外，加強內(nèi)生安全治理也尤為關(guān)鍵，需將安全融入到AI系統(tǒng)全生命周期，從源頭筑牢安全基石。

來源：都市時報

【聲明】如需轉(zhuǎn)載麗江市融媒體中心名下任何平臺發(fā)布的內(nèi)容，請 點擊這里 與我們建立有效聯(lián)系。