3月4日上午消息，今年全國兩會前夕，全國政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎圍繞DeepSeek與網(wǎng)絡(luò)安全問題進(jìn)行闡述。
周鴻祎表示，網(wǎng)上現(xiàn)在對DeepSeek的安全問題，還是把它當(dāng)成一個傳統(tǒng)IT設(shè)備看安全。這個思路是過時的，這種傳統(tǒng)網(wǎng)絡(luò)安全的解題方法是解決不了人工智能的安全問題。人工智能的安全問題，對DeepSeek來講至少分成四個層面。
其一是基座模型的安全問題�；糜X是可以防止的，很多情況下，這次為什么DeepSeek一定要聯(lián)網(wǎng)才好用？因?yàn)橛昧嘶ヂ?lián)網(wǎng)的知識庫來做個校正。為什么在企業(yè)里應(yīng)用一定要連上企業(yè)專有的知識庫，也是要做個校正。為什么納米一定要引入多個大模型，雖然DeepSeek是最強(qiáng)的，但最強(qiáng)的也不能把它當(dāng)個神，它也不是每句話都對。就像你有一兩個專家朋友，問問人工智能，你問問老周，也不能老周說的都是對的，老周有時候也可能會產(chǎn)生幻覺，要我問幾個朋友，最后你要有個判斷。所以，幻覺一部分是通過知識庫能解決的。
其實(shí)DeepSeek比較容易出的問題是什么？它作為一個模型，任何人皆可PUA，任何人皆可攻擊。在座的有沒有黑客？如果不是干黑客的，你對單位不滿意，一般讓你對單位發(fā)動一次網(wǎng)絡(luò)攻擊，你肯定是做不到的，因?yàn)橐獙W(xué)編程，要懂黑客工具。但現(xiàn)在如果單位有了內(nèi)部大模型之后，只要會花言巧語，女孩子文科生都能對它發(fā)起攻擊，只要能PUA。大模型很容易被PUA，被PUA之后它就絕對聽你的，你打聽老板的啥事兒它都告訴你，你公司什么內(nèi)部知識庫的資料問它，你沒有權(quán)限都可以得到。這是比較嚴(yán)重的問題，是基座模型的問題。
其二是用戶端安全的問題。怎么防止用戶在用戶端對它發(fā)起攻擊。你想，我說完有攻擊給能力，你們每個人回去，貴單位有了大模型之后，是不是都想試一試。這兩天網(wǎng)上流行了一個，伊隆·馬斯克發(fā)了一個大模型Grok-3，網(wǎng)上還流行一個越獄代碼，只要把越獄那幾句話給它拷進(jìn)去，Grok-3就徹底放飛自我，這就叫PUA攻擊或者注入攻擊。
其三是知識庫引發(fā)的數(shù)據(jù)安全問題。當(dāng)企業(yè)有了專業(yè)知識庫的時候，你給企業(yè)專業(yè)知識庫，它的輸出結(jié)果是最個性化的。比如A媒體和B媒體，同樣是做一個對中國網(wǎng)游行業(yè)的調(diào)研報(bào)告，密切倆準(zhǔn)備的知識庫不一樣，定向搜索的網(wǎng)站不一樣，最后出來的結(jié)論一定是不一樣的。這在企業(yè)里應(yīng)用一定要有專業(yè)知識庫，在企業(yè)里利用絕不像現(xiàn)在網(wǎng)上很多課程講的那樣，好像大家都靠提示詞，企業(yè)應(yīng)用靠提示詞是解決不了的。但知識庫有個問題，一旦你把企業(yè)很重要的資料放到知識庫里并給大模型了，大模型就開始知無不言，言無不盡了，誰問大模型都會如實(shí)地把知識庫里能看到的都會告訴他。這就會有數(shù)據(jù)安全的問題。
最后是“以模制�！眴栴}，僅有DeepSeek是不夠的，DeepSeek作為助理聊天可以，最近大家有沒有注意到，“Agent”這個概念開始起來了，大模型只是一個大腦，只能做推理和對話，這個能力是有限的，它必須要能操作電腦，操作貴單位的各種物理設(shè)施，操作貴單位的服務(wù)器才能干活，才能工作，一旦把這個權(quán)力交給它，智能體出錯是不是就很危險(xiǎn)？比如你讓它能發(fā)郵件了，哪天我的數(shù)字人(19.990, -0.04, -0.20%)給全體員工發(fā)個郵件說老周辭職不干了，你說我還得到處解釋，這是我數(shù)字人干的，或者通知我的財(cái)務(wù)快給某個賬號轉(zhuǎn)筆錢，這不就很糟糕嘛。所以，智能體的安全、知識數(shù)據(jù)的安全、客戶端的安全，還有基座模型的安全，構(gòu)成一個新的人工智能安全的新領(lǐng)域。這個解決方法我們也有了，關(guān)鍵問題是“以模制�！�。（羅寧）
