飛象原創(chuàng)（高靖宇/文）在影視作品《西部世界》中，即便是最先進的機器人也容易受到惡意軟件的攻擊，這讓我們不禁思考，我們能夠在多大程度上掌控人工智能（AI）技術。在現實世界中，隨著AI大模型技術的快速發(fā)展，其可能帶來的安全性問題也日益凸顯。
近年來，人工智能技術取得了令人矚目的進展，特別是大模型正逐步被應用于越來越多的場景，與千行百業(yè)加速融合，成為推動數字科技發(fā)展的關鍵力量。數據顯示，我國已經完成備案并上線、能為公眾提供服務的生成式人工智能服務大模型已達180多個，注冊用戶突破5.64億。
然而，這些大模型在帶來便利和效率的同時，也催生了新的安全風險�！段鞑渴澜纭冯m然是虛構的故事，但人工智能安全風險卻已存在于現實世界，正如一枚硬幣的兩面，AI大模型技術的發(fā)展帶來了網絡安全領域的深刻調整與全新挑戰(zhàn)。
網絡安全中的“AI”風險
伴隨著眾多AI大模型的誕生，AI驅動的網絡攻擊也在快速增長，因為有了AI加持之后，發(fā)動網絡攻擊對于攻擊者而言相比之前更加容易，可以更加高效的組織更加復雜，規(guī)模更大的安全攻擊。此外，一些黑客還掌握了利用生成式AI等新興技術實施網絡犯罪的新手段。
以ChatGPT為例，自其上線以來，便有人擔憂其可能成為網絡犯罪的溫床。盡管平臺方已采取了一系列防止惡意應用的措施，但創(chuàng)意十足的攻擊者仍能利用生成式AI生成逼真的網絡釣魚郵件，誘騙用戶泄露敏感信息。此外，AI技術的深度偽造和語音合成能力也被用于詐騙，使得傳統(tǒng)防御手段難以應對。更為嚴峻的是，隨著AI在合法用例中的廣泛應用，模型中毒、數據泄露、提示注入攻擊等新型漏洞不斷涌現，對網絡安全構成了持續(xù)威脅。
IEEE調研顯示，2024年將會出現其他更具威脅的網絡安全問題，包括勒索軟件攻擊（2024年為37%，高于2023年的30%）、網絡釣魚攻擊（2024年為35%，高于2023年的25%）以及內部威脅（2024年為26%，高于2023年的19%）。
中國工程院院士吳世忠表示，由AI技術帶來的新型安全問題已成為現實，安全行業(yè)將迅速邁進AI驅動的新時代。然而，大模型安全研究可以說才剛剛開始。無論是安全研究還是安全產業(yè)，都必須緊跟科技進步和應用創(chuàng)新，才能服務好發(fā)展，保障好發(fā)展。
“人工智能等前沿數字技術正在重新定義內容的生產與消費模式，大模型在企業(yè)運營中應用越來越廣泛，必須尋求創(chuàng)新的安全模式，以適應這一變化�！敝袊こ淘涸菏苦w賀銓認為，基礎大模型是企業(yè)實現數字化轉型不可或缺的一環(huán)，需要應對多項挑戰(zhàn)，包括強大的算力、充足的數據、高水平的研材、新應用的算法、場景和閉環(huán)的生態(tài)。然而基礎大模型缺少特定行業(yè)的專業(yè)知識，因此需要大模型提供方與垂直行業(yè)合作。
以模治模 網絡安全發(fā)展新路徑
AI帶來新的安全挑戰(zhàn)，同樣需要AI技術來解決，這是一場AI技術的攻防戰(zhàn)。作為中國AI領域的老玩家，360 AI一直深入探索AI大模型在關鍵行業(yè)中的垂直應用，推動大模型重塑安全體系。
360集團創(chuàng)始人周鴻祎表示，面對愈加復雜的傳統(tǒng)安全問題和大模型帶來新的安全問題，必須用AI重塑安全，以模治模，用安全大模型解決“新老”安全問題。
“不要追求用一個大模型解決所有問題，應該讓專業(yè)大模型解決專業(yè)問題�！敝茗櫟t認為，2024年是場景之年，關鍵要結合業(yè)務找“明星場景”，然后根據場景設計功能，根據功能需求對大模型進行專項訓練。
在ISC.AI 2024第十二屆互聯(lián)網安全大會上，周鴻祎宣布360安全大模型正式免費。360安全大模型在真實業(yè)務場景中取得重大突破，通過對全網安全數據和知識進行提煉、壓縮和蒸餾，360安全大模型實現對全網安全知識的深度理解。未來，在大模型賦能下，本地安全大腦“無需聯(lián)網”，在封閉網絡中也能獲得全網數據和知識的賦能。
周鴻祎表示，打造安全大模型是安全邁向“自動駕駛”的必由之路，用AI升級安全要有類似自動駕駛的L1-L5級別目標，目前360安全大模型已具備L4級“自動駕駛”能力，相當于汽車的“高級自動駕駛階段”。
