近段時間，國產(chǎn)大模型DeepSeek引發(fā)國內(nèi)外關(guān)注，我國人工智能產(chǎn)業(yè)創(chuàng)新步伐不斷加速。2025年政府工作報告提出持續(xù)推進“人工智能+”行動，引發(fā)代表委員熱議。
全國政協(xié)委員、360集團創(chuàng)始人周鴻祎認為，DeepSeek-R1等先進模型帶來了前所未有的機遇，也同樣面臨無法通過傳統(tǒng)網(wǎng)絡(luò)安全手段解決的安全挑戰(zhàn)。對此，周鴻祎建議，各界共同努力，構(gòu)建更加完善的大模型應(yīng)用安全治理體系，在保障安全的前提下最大化地釋放大模型技術(shù)的潛力。
周鴻祎認為，DeepSeek-R1的誕生標志著我國AI技術(shù)加速從“追趕者”邁向“領(lǐng)跑者”，其開源、透明、免費等特質(zhì)，尤其適合在政府與企業(yè)開展私有化部署，不過隨之而來的安全問題也值得關(guān)注。
“開源帶來大模型的廣泛應(yīng)用，未來將會有各類專業(yè)大模型、垂直大模型、場景大模型，連接內(nèi)部知識庫，以智能體的形式在大批政府機構(gòu)和企業(yè)中廣泛部署，推進‘數(shù)轉(zhuǎn)智改’，實現(xiàn)降本增效。然而大模型存在的幻覺、內(nèi)容安全等諸多問題無法通過傳統(tǒng)安全方案有效化解。”他說。
周鴻祎認為，大模型應(yīng)用安全主要集中在基座模型、知識庫和智能體三個方面。其中，基座模型安全方面，由于大模型存在的幻覺現(xiàn)象，特別是在生成文本時可能輸出與現(xiàn)實不符的信息，這在政策制定、法律條文解讀或商業(yè)決策等場景下可能導(dǎo)致誤導(dǎo)性后果。
知識庫安全方面，政府和企業(yè)核心數(shù)據(jù)資產(chǎn)存儲于內(nèi)部知識庫中，若缺乏有效的安全控制措施，未授權(quán)用戶可能利用與大模型交互的機會竊取這些寶貴的數(shù)據(jù)資源。
智能體安全方面，智能體通常與政府、企業(yè)內(nèi)部各類IT、郵件、控制系統(tǒng)相連，一旦遭受攻擊，可能會引發(fā)一系列連鎖反應(yīng)，造成嚴重的物理損害。
據(jù)介紹，針對上述挑戰(zhàn)，360運用人工智能技術(shù)重塑安全格局，采用“以模制模”的方式應(yīng)對新難題，依托安全大模型技術(shù)搭建起覆蓋“基座模型—知識庫—智能體”的全鏈路安全體系，護航政府與企業(yè)“數(shù)轉(zhuǎn)智改”。
為進一步強化這一防御體系，周鴻祎建議采取兩項措施：一是推動安全技術(shù)創(chuàng)新與成果轉(zhuǎn)化。建議相關(guān)部門及時出臺配套政策措施，鼓勵具備“安全+人工智能”完整解決方案的鏈主企業(yè)加速推動技術(shù)成果轉(zhuǎn)化，將安全要素深度嵌入人工智能應(yīng)用全流程。二是組建產(chǎn)業(yè)聯(lián)盟，推廣安全產(chǎn)品。引導(dǎo)相關(guān)鏈主企業(yè)發(fā)揮牽頭作用，廣泛吸納產(chǎn)業(yè)鏈上下游企業(yè)、科研機構(gòu)及終端用戶，組建人工智能大模型安全聯(lián)盟，助力大模型安全保障普及至千行百業(yè)。
