首頁(yè)|必讀|視頻|專(zhuān)訪(fǎng)|運(yùn)營(yíng)|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|元宇宙|博客|特約記者
手機(jī)|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計(jì)算|芯片|報(bào)告|智慧城市|移動(dòng)互聯(lián)網(wǎng)|會(huì)展
首頁(yè) >> 云計(jì)算 >> 正文

派拓網(wǎng)絡(luò):潛伏在企業(yè)中的AI風(fēng)險(xiǎn)

2024年7月11日 15:00  CCTIME飛象網(wǎng)  

Anand Oswal,派拓網(wǎng)絡(luò)高級(jí)副總裁兼網(wǎng)絡(luò)安全總經(jīng)理

如今,市場(chǎng)上有成千上萬(wàn)種生成式人工智能(GenAI)工具,每月都有幾十種新的AI應(yīng)用推出。事實(shí)上,一半以上的員工很可能已經(jīng)在使用它們提高工作效率,而且隨著更多AI應(yīng)用和AI用例的出現(xiàn)AI應(yīng)用的采用率預(yù)計(jì)還會(huì)增加。

問(wèn)題在于這些第三方生成式AI應(yīng)用大多未經(jīng)審查或批準(zhǔn)就被用于工作,這會(huì)給企業(yè)帶來(lái)嚴(yán)重風(fēng)險(xiǎn)。IT和信息安全團(tuán)隊(duì)必須對(duì)企業(yè)技術(shù)生態(tài)中使用的第三方應(yīng)用進(jìn)行審查和批準(zhǔn),這是因?yàn)樗麄?/span>需要了解正在使用的應(yīng)用、這些應(yīng)用是否安全,以及有哪些敏感的公司數(shù)據(jù)(如果有的話(huà))進(jìn)入了這些應(yīng)用。他們還要考慮應(yīng)用開(kāi)發(fā)商如何處理漏洞等問(wèn)題,以及有哪些控制措施可以將訪(fǎng)問(wèn)權(quán)限限制或控制僅限員工開(kāi)展工作所需的范圍內(nèi)等事項(xiàng)

采用未經(jīng)許可的生成式AI應(yīng)用會(huì)導(dǎo)致數(shù)據(jù)泄露、惡意軟件等一系列網(wǎng)絡(luò)安全問(wèn)題。這是因?yàn)?/span>企業(yè)不知道誰(shuí)在使用什么應(yīng)用、哪些敏感信息會(huì)進(jìn)入這些應(yīng)用以及這些信息進(jìn)入應(yīng)用后會(huì)發(fā)生什么。而且由于并非所有應(yīng)用都是按照合適的企業(yè)安全標(biāo)準(zhǔn)構(gòu)建的,因此它們也可能會(huì)提供惡意鏈接,并成為攻擊者進(jìn)入企業(yè)網(wǎng)絡(luò)訪(fǎng)問(wèn)系統(tǒng)和數(shù)據(jù)的入口。所有這些問(wèn)題都可能導(dǎo)致違規(guī)、敏感數(shù)據(jù)泄露、知識(shí)產(chǎn)權(quán)被盜、運(yùn)營(yíng)中斷和經(jīng)濟(jì)損失。雖然這些應(yīng)用可以帶來(lái)巨大的生產(chǎn)力,但如果使用不安全,它們也會(huì)導(dǎo)致嚴(yán)重的風(fēng)險(xiǎn)和潛在后果,例如:

·營(yíng)銷(xiāo)團(tuán)隊(duì)使用了一個(gè)未經(jīng)許可的應(yīng)用,該應(yīng)用能夠使用AI生成精彩的圖像和視頻內(nèi)容。如果團(tuán)隊(duì)將敏感信息加載到應(yīng)用中,導(dǎo)致機(jī)密產(chǎn)品發(fā)布細(xì)節(jié)泄露,會(huì)發(fā)生什么情況?答案是您不愿看到的病毒式傳播。

·項(xiàng)目經(jīng)理使用AI賦能的筆記應(yīng)用抄錄會(huì)議內(nèi)容并生成摘要。但如果記錄的內(nèi)容包含財(cái)報(bào)公布前對(duì)季度財(cái)務(wù)業(yè)績(jī)的機(jī)密討論內(nèi)容,會(huì)發(fā)生什么情況?

·開(kāi)發(fā)人員使用AI助手和代碼優(yōu)化服務(wù)加快產(chǎn)品構(gòu)建。但如果從被入侵的應(yīng)用中返回的優(yōu)化代碼包含惡意腳本,該怎么辦?

這些只是出于善意使用生成式AI而在無(wú)意中增加風(fēng)險(xiǎn)的冰山一角。但不使用這些技術(shù)可能會(huì)降低企業(yè)獲得競(jìng)爭(zhēng)優(yōu)勢(shì)的能力,因此“一刀切”并不是解決問(wèn)題的辦法。企業(yè)可以而且應(yīng)該考慮如何讓員工安全地使用這些應(yīng)用。以下是一些需要考慮的因素

可見(jiàn)性:人們無(wú)法保護(hù)自己不知道的東西。IT團(tuán)隊(duì)在使用未經(jīng)許可的應(yīng)用時(shí)面臨的最大挑戰(zhàn)之一是難以及時(shí)應(yīng)對(duì)安全事件,而這增加了出現(xiàn)安全漏洞的可能性。企業(yè)需要監(jiān)控第三方生成式AI應(yīng)用的使用情況,并了解與每個(gè)工具相關(guān)的特定風(fēng)險(xiǎn)。在了解正在使用哪些工具的基礎(chǔ)上,IT團(tuán)隊(duì)還應(yīng)了解哪些數(shù)據(jù)正在進(jìn)出企業(yè)系統(tǒng)。這種可見(jiàn)性有助于企業(yè)發(fā)現(xiàn)安全漏洞,快速識(shí)別和糾正。

控制:IT團(tuán)隊(duì)需要能夠就是否阻止、允許或限制訪(fǎng)問(wèn)第三方生成式AI應(yīng)用做出明智的決定,他們可以單獨(dú)控制每個(gè)應(yīng)用,也可以根據(jù)風(fēng)險(xiǎn)或類(lèi)別進(jìn)行控制。例如,企業(yè)可能想要阻止所有員工訪(fǎng)問(wèn)代碼優(yōu)化工具,但同時(shí)又想讓開(kāi)發(fā)人員訪(fǎng)問(wèn)經(jīng)信息安全團(tuán)隊(duì)評(píng)估并批準(zhǔn)供內(nèi)部使用的第三方優(yōu)化工具。

數(shù)據(jù)安全:員工是否與應(yīng)用共享敏感數(shù)據(jù)?IT團(tuán)隊(duì)需要阻止敏感數(shù)據(jù)泄露,保護(hù)數(shù)據(jù)不被濫用和竊取。這一點(diǎn)對(duì)于受到監(jiān)管受數(shù)據(jù)主權(quán)法律約束的企業(yè)尤為重要。在實(shí)踐中,這意味著需要監(jiān)控發(fā)送到生成式AI應(yīng)用的數(shù)據(jù),然后采取技術(shù)控制手段確保敏感數(shù)據(jù)受保護(hù)數(shù)據(jù)(如個(gè)人身份信息知識(shí)產(chǎn)權(quán))不會(huì)發(fā)送到這些應(yīng)用。

威脅防范:團(tuán)隊(duì)正在使用的生成式AI工具可能潛伏著漏洞。鑒于許多此類(lèi)工具的開(kāi)發(fā)和上市速度快得驚人,團(tuán)隊(duì)往往不知道所使用的模型是否使用損壞的模型構(gòu)建而成、是否在不正確或惡意數(shù)據(jù)訓(xùn)練而成,亦或是否存在大量AI特有的漏洞。建議采取的最佳做法是對(duì)從應(yīng)用流向企業(yè)的數(shù)據(jù)進(jìn)行監(jiān)控,以防出現(xiàn)惡意可疑活動(dòng)。

盡管AI工具在實(shí)現(xiàn)員工工作效率最大化方面具有驚人的潛力,并且能夠使企業(yè)實(shí)現(xiàn)營(yíng)收和利潤(rùn)的雙增長(zhǎng),但它們也隱藏著我們前所未見(jiàn)且更加復(fù)雜的新風(fēng)險(xiǎn)。企業(yè)領(lǐng)導(dǎo)者及其IT團(tuán)隊(duì)有責(zé)任讓員工能夠放心地使用AI工具,同時(shí)為他們提供宣傳教育、可見(jiàn)性、控制措施、數(shù)據(jù)保護(hù)威脅防范等保護(hù)手段。當(dāng)安全團(tuán)隊(duì)知道正在使用什么以及如何使用時(shí),他們就可以防止敏感數(shù)據(jù)泄露,并防范潛伏在不安全和被入侵AI平臺(tái)內(nèi)部的威脅。

編 輯:魏德齡
聲明:刊載本文目的在于傳播更多行業(yè)信息,本站只提供參考并不構(gòu)成任何投資及應(yīng)用建議。如網(wǎng)站內(nèi)容涉及作品版權(quán)和其它問(wèn)題,請(qǐng)?jiān)?0日內(nèi)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除內(nèi)容。本站聯(lián)系電話(huà)為86-010-87765777,郵件后綴為#cctime.com,冒充本站員工以任何其他聯(lián)系方式,進(jìn)行的“內(nèi)容核實(shí)”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對(duì)此聲明的最終解釋權(quán)。
相關(guān)新聞              
 
人物
尚冰:中國(guó)互聯(lián)網(wǎng)應(yīng)用蓬勃發(fā)展,多項(xiàng)關(guān)鍵指標(biāo)位居全球第一
精彩專(zhuān)題
CES 2024國(guó)際消費(fèi)電子展
2023年信息通信產(chǎn)業(yè)盤(pán)點(diǎn)暨頒獎(jiǎng)禮
飛象網(wǎng)2023年手機(jī)評(píng)選
第24屆中國(guó)國(guó)際光電博覽會(huì)
CCTIME推薦
關(guān)于我們 | 廣告報(bào)價(jià) | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號(hào)-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營(yíng)許可證080234號(hào) 京公網(wǎng)安備110105000771號(hào)
公司名稱(chēng): 北京飛象互動(dòng)文化傳媒有限公司
未經(jīng)書(shū)面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像