首頁|必讀|視頻|專訪|運營|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|元宇宙|博客|特約記者
手機|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計算|芯片報告|智慧城市|移動互聯(lián)網(wǎng)|會展
首頁 >> 人工智能 >> 正文

人工智能安全白皮書發(fā)布:建議做好這六大風險防范

2018年9月19日 05:18  澎湃新聞  作 者:盧夢君

Facebook數(shù)據(jù)泄露事件的主角劍橋分析公司通過關(guān)聯(lián)分析的方式獲得了海量的美國公民用戶信息,包括膚色、性取向、智力水平、性格特征、宗教信仰、政治觀點以及酒精、煙草和毒品的使用情況,借此實施各種政治宣傳。

ForresterResearch預測統(tǒng)計,人工智能技術(shù)將在2025年之前取代美國7%的工作崗位,其中16%的美國工人將被人工智能系統(tǒng)取代!段磥砗喪贰纷髡哂韧郀枴ず绽A言,二三十年內(nèi)超過50%工作會被人工智能取代。

……

人工智能在服務(wù)和賦能人類生產(chǎn)生活同時,也帶來了難以忽視的安全風險。

9月18日,2018世界人工智能大會安全高端對話在上海舉行,會上發(fā)布了《人工智能安全白皮書》(以下簡稱《白皮書》)。

《白皮書》由中國信息通信研究院安全研究所編制,該研究所始建于1957年,是工業(yè)和信息化部直屬科研事業(yè)單位。

《白皮書》稱,技術(shù)的進步往往是一把“雙刃劍”,人工智能作為一種通用目的技術(shù),為保障國家網(wǎng)絡(luò)空間安全、提升人類經(jīng)濟社會風險防控能力等方面提供了新手段和途徑。但同時,人工智能在技術(shù)轉(zhuǎn)化和應(yīng)用場景落地過程中,由于技術(shù)的不確定性和應(yīng)用的廣泛性,帶來沖擊網(wǎng)絡(luò)安全、社會就業(yè)、法律倫理等問題并對國家政治、經(jīng)濟和社會安全帶來諸多風險和挑戰(zhàn)。

《白皮書》項目組認為,人工智能安全風險包括網(wǎng)絡(luò)安全風險、數(shù)據(jù)安全風險、算法安全風險、信息安全風險、社會安全風險和國家安全風險六方面。

從網(wǎng)絡(luò)安全風險看,人工智能學習框架和組件存在安全漏洞風險,可引發(fā)系統(tǒng)安全問題!栋灼分赋,目前,國內(nèi)人工智能產(chǎn)品和應(yīng)用的研發(fā)主要是基于谷歌、微軟、亞馬遜、臉書、百度等科技巨頭發(fā)布的人工智能學習框架和組件。但是,由于這些開源框架和組件缺乏嚴格的測試管理和安全認證,可能存在漏洞和后門等安全風險,一旦被攻擊者惡意利用,可危及人工智能產(chǎn)品和應(yīng)用的完整性和可用性,甚至有可能導致重大財產(chǎn)損失和惡劣社會影響。

同時,人工智能技術(shù)可提升網(wǎng)絡(luò)攻擊能力,對現(xiàn)有網(wǎng)絡(luò)安全防護體系構(gòu)成威脅與挑戰(zhàn)。

從數(shù)據(jù)安全風險看,一方面逆向攻擊可導致算法模型內(nèi)部的數(shù)據(jù)泄露,另一方面,人工智能技術(shù)可加強數(shù)據(jù)挖掘分析能力,加大隱私泄露風險。Facebook數(shù)據(jù)泄露事件即是典型案例。

從算法安全風險看,算法設(shè)計或?qū)嵤┯姓`可產(chǎn)生與預期不符甚至傷害性結(jié)果;算法潛藏偏見和歧視,導致決策結(jié)果可能存在不公;算法黑箱導致人工智能決策不可解釋,引發(fā)監(jiān)督審查困境;含有噪聲或偏差的訓練數(shù)據(jù)可影響算法模型準確性;此外,對抗樣本攻擊可誘使算法識別出現(xiàn)誤判漏判,產(chǎn)生錯誤結(jié)果。

例如,使用Northpointe公司開發(fā)的犯罪風險評估算法COMPAS時,黑人被錯誤地評估為具有高犯罪風險的概率兩倍于白人。

從信息安全風險看,智能推薦算法可加速不良信息的傳播,人工智能技術(shù)可制作虛假信息內(nèi)容,用以實施詐騙等不法活動。

2017年,我國浙江、湖北等地發(fā)生多起犯罪分子利用語音合成技術(shù)假扮受害人親屬實施詐騙的案件,造成惡劣社會影響。

從社會安全風險看,人工智能產(chǎn)業(yè)化推進將使部分現(xiàn)有就業(yè)崗位減少甚至消失,導致結(jié)構(gòu)性失業(yè);人工智能特別是高度自治系統(tǒng)的安全風險可危及人身安全;人工智能產(chǎn)品和應(yīng)用會對現(xiàn)有社會倫理道德體系造成沖擊。

項目組對此舉例道,企業(yè)具有天生的資本逐利性,在利用用戶數(shù)據(jù)追求自身利益最大化時,往往忽視道德觀念,從而損害用戶群體的權(quán)益。例如:攜程、滴滴等基于用戶行為數(shù)據(jù)分析,實現(xiàn)對客戶的價格歧視;Facebook利用人工智能有針對性地向用戶投放游戲、癮品甚至虛假交友網(wǎng)站的廣告,從中獲取巨大利益。

從國家安全風險看,人工智能可用于影響公眾政治意識形態(tài),間接威脅國家安全;還可用于構(gòu)建新型軍事打擊力量,直接威脅國家安全。

“當前,人工智能技術(shù)發(fā)展呈現(xiàn)加速趨勢,由于其自身的學科交叉性和垂直應(yīng)用性,未來必將與傳統(tǒng)行業(yè)進行深度融合。隨著人工智能技術(shù)的創(chuàng)新突破和應(yīng)用場景的日益增多,其安全風險也會動態(tài)演進,將越發(fā)具有泛在化、場景化、融合化等特點,對人類生產(chǎn)生活、國家政治經(jīng)濟等方方面面產(chǎn)生深遠安全影響!表椖拷M寫道。

在《白皮書》中,項目組也提出了八條人工智能安全發(fā)展建議。

這些建議包括加強自主創(chuàng)新,突破共性關(guān)鍵技術(shù);完善法律法規(guī),制定倫理道德規(guī)范;健全監(jiān)管體系,引導產(chǎn)業(yè)健康發(fā)展;強化標準引領(lǐng),構(gòu)建安全評估體系;促進行業(yè)協(xié)作,推動技術(shù)安全應(yīng)用;加大人才培養(yǎng),提升人員就業(yè)技能;加強國際交流,應(yīng)對共有安全風險;加大社會宣傳,科學處理安全問題。

在9月18日的活動上,2018世界人工智能大會安全高端對話與會專家組還發(fā)布了《人工安能安全發(fā)展上海倡議》,共同倡導人工智能安全發(fā)展要面向未來、以人為本、責任明晰、隱私保護、算法公正、透明監(jiān)督、和平利用和開放合作。

編 輯:章芳
聲明:刊載本文目的在于傳播更多行業(yè)信息,本站只提供參考并不構(gòu)成任何投資及應(yīng)用建議。如網(wǎng)站內(nèi)容涉及作品版權(quán)和其它問題,請在30日內(nèi)與本網(wǎng)聯(lián)系,我們將在第一時間刪除內(nèi)容。本站聯(lián)系電話為86-010-87765777,郵件后綴為#cctime.com,冒充本站員工以任何其他聯(lián)系方式,進行的“內(nèi)容核實”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權(quán)。
相關(guān)新聞              
 
人物
工信部張云明:大部分國家新劃分了中頻段6G頻譜資源
精彩專題
專題丨“汛”速出動 共筑信息保障堤壩
2023MWC上海世界移動通信大會
中國5G商用四周年
2023年中國國際信息通信展覽會
CCTIME推薦
關(guān)于我們 | 廣告報價 | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營許可證080234號 京公網(wǎng)安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經(jīng)書面許可,禁止轉(zhuǎn)載、摘編、復制、鏡像