首頁|必讀|視頻|專訪|運(yùn)營|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|元宇宙|博客|特約記者
手機(jī)|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計(jì)算|芯片報(bào)告|智慧城市|移動互聯(lián)網(wǎng)|會展
首頁 >> 人工智能 >> 正文

OpenAI緩解監(jiān)管壓力:構(gòu)建眾包治理,禁止AI用于政治競選

2024年1月18日 09:57  澎湃新聞  

1月16日,瑞士達(dá)沃斯世界經(jīng)濟(jì)論壇開幕當(dāng)天,OpenAI首席執(zhí)行官山姆·奧特曼接受彭博社采訪。

新的一年,ChatGPT的開發(fā)機(jī)構(gòu)OpenAI展現(xiàn)出力圖減輕監(jiān)管壓力的姿態(tài)。

當(dāng)?shù)貢r間1月16日,這家美國人工智能開發(fā)機(jī)構(gòu)宣布,希望采納公眾關(guān)于如何確保其未來人工智能模型“符合人類價(jià)值觀”的想法,為此正在組建一個由研究人員和工程師組成的集體協(xié)調(diào)團(tuán)隊(duì),以創(chuàng)建一個新系統(tǒng),用于收集公眾對其模型行為的輸入,并將其“編碼”到OpenAI的產(chǎn)品和服務(wù)中。

前一天,OpenAI趕在2024年的多場選舉之前宣布,禁止將旗下工具用于政治競選和選民壓制。

OpenAI首席執(zhí)行官山姆·奧特曼16日在世界經(jīng)濟(jì)論壇上表示,人們擔(dān)心人工智能有一天會變得如此強(qiáng)大,以至于會極大地重塑和顛覆世界,這種擔(dān)心是多余的。

但在當(dāng)天,OpenAI表示正與五角大樓合作開展軟件項(xiàng)目,其中包括與網(wǎng)絡(luò)安全相關(guān)的項(xiàng)目,這與該公司之前禁止向軍隊(duì)提供人工智能技術(shù)的原則背道而馳,引發(fā)了一些擔(dān)憂。

12個國家的人員參與

OpenAI在博客文章中寫道,該公司去年5月宣布了“人工智能資助項(xiàng)目民主投入”計(jì)劃,旨在資助個人、團(tuán)隊(duì)和組織建立“民主流程”的實(shí)驗(yàn),以回答有關(guān)人工智能護(hù)欄和治理的問題。

該公司向來自113個國家的近1000名申請者中的10個團(tuán)隊(duì)提供了10萬美元的獎勵。所選團(tuán)隊(duì)的成員來自12個不同的國家,專業(yè)知識橫跨各個領(lǐng)域,包括法律、新聞、和平建設(shè)、機(jī)器學(xué)習(xí)和社會科學(xué)研究。

這些受資助團(tuán)隊(duì)的工作涵蓋了從視頻聊天界面到人工智能模型眾包審計(jì)平臺等各個方面。工作中使用的所有代碼以及每項(xiàng)提案的簡短摘要和要點(diǎn)均已公開,發(fā)布在OpenAI的官網(wǎng)上。

OpenAI從這項(xiàng)計(jì)劃中獲得了一些經(jīng)驗(yàn),并提出實(shí)施計(jì)劃!拔覀兊哪繕(biāo)是設(shè)計(jì)包含公共輸入的系統(tǒng),以引導(dǎo)強(qiáng)大的人工智能模型,同時解決上述挑戰(zhàn)。為了幫助確保我們在這項(xiàng)研究上繼續(xù)取得進(jìn)展,我們正在組建一個由研究人員和工程師組成的‘集體對齊(Collective Alignment)’團(tuán)隊(duì)!痹摴緦懙。

新的團(tuán)隊(duì)將建立一個系統(tǒng),收集公眾對其模型行為的輸入并將其編碼到OpenAI的系統(tǒng)中。該公司將繼續(xù)與外部顧問和資助團(tuán)隊(duì)合作,包括運(yùn)行試點(diǎn)項(xiàng)目,將資助原型納入指導(dǎo)其模型。

奧特曼、OpenAI總裁格雷格·布洛克曼和首席科學(xué)家伊利亞·蘇茨維克多次表示,人工智能的創(chuàng)新步伐如此之快,不能指望現(xiàn)有當(dāng)局充分控制這項(xiàng)技術(shù),因此需要將這項(xiàng)工作眾包。包括Meta在內(nèi)的一些競爭對手指責(zé)OpenAI試圖通過游說反對開放AI研發(fā),來主導(dǎo)對AI行業(yè)的監(jiān)管。OpenAI否認(rèn)了這一點(diǎn),可能將資助計(jì)劃和“集體對齊”團(tuán)隊(duì)作為其“開放性”的一個例子。

不得用于政治競選和游說

OpenAI正受到政策制定者越來越嚴(yán)格的審查,并面臨英國對其與微軟關(guān)系的調(diào)查。最近,該公司似乎希望減輕監(jiān)管機(jī)構(gòu)的壓力。當(dāng)?shù)貢r間1月15日,就在共和黨公布第一州的初選結(jié)果之日,OpenAI概述了對其工具應(yīng)用于政治領(lǐng)域的限制。

OpenAI的ChatGPT和Dall·E是市面上最強(qiáng)大的AI聊天機(jī)器人和圖像生成應(yīng)用程序之一。這類工具的發(fā)展已引發(fā)擔(dān)憂,可能被用于通過虛假新聞報(bào)道以及由計(jì)算機(jī)生成的圖像和視頻來操縱選民。

OpenAI就其政策進(jìn)行了一系列澄清,其中一條是,其工具不得用于政治競選和游說,也不得用于創(chuàng)建冒充候選人和其他真人的聊天機(jī)器人,以及冒充地方政府的聊天機(jī)器人。

該公司表示,旗下工具還不得用于給投票設(shè)置障礙,例如聲稱投票毫無意義。

為了幫助選民更好地評估信息或圖像是否由AI生成,OpenAI表示,對于Dall·E生成的圖像,將就圖像溯源相關(guān)細(xì)節(jié)進(jìn)行編碼。該公司還將越來越多地提供新聞報(bào)道的鏈接和出處,以幫助選民評估生成文本的可靠性。

其他AI系統(tǒng)開發(fā)商也在2024年全球七十多國舉行選舉前宣布了一些措施。谷歌上個月表示,將限制該公司AI聊天機(jī)器人Bard進(jìn)行選舉查詢,擁有Facebook的Meta已在去年禁止競選活動使用AI廣告工具。

OpenAI與美國國防部合作

16日,OpenAI全球事務(wù)副總裁安娜·馬坎朱(Anna Makanju)在世界經(jīng)濟(jì)論壇上表示,OpenA正在與美國國防部合作開發(fā)開源網(wǎng)絡(luò)安全軟件工具,并已與美國政府就幫助防止退伍軍人自殺的方法進(jìn)行了初步談判。

上周,OpenAI刪除了其使用政策中禁止其人工智能用于“軍事和戰(zhàn)爭”應(yīng)用的措辭,引發(fā)了人工智能安全倡導(dǎo)者的警惕。馬坎朱將這一決定描述為更廣泛的政策更新的一部分,以適應(yīng)ChatGPT及其他工具的新用途。

“因?yàn)槲覀冎皩娛聦?shí)行了本質(zhì)上的全面禁止,許多人認(rèn)為這會禁止許多用例,人們認(rèn)為這些用例符合我們希望在世界上看到的!彼诮邮芘聿┥绮稍L時說。但她表示,OpenAI仍然禁止使用其技術(shù)來開發(fā)武器、摧毀財(cái)產(chǎn)或傷害人員。

OpenAI最大的投資者微軟公司已與美國武裝部隊(duì)和其他政府部門簽署了多個軟件合同。

奧特曼也出席了世界經(jīng)濟(jì)論壇這場彭博社組織的活動。他表示,通用人工智能(AGI)可能會在“相當(dāng)接近的未來”得到開發(fā)。通用人工智能是指可以完成與人類相同水平或更高一級任務(wù)的人工智能形式。

奧特曼表示:“它對世界的改變比我們想象的要小得多,對工作的改變也比我們想象的小得多!弊訡hatGPT爆火以來,他已多次試圖緩解人工智能懷疑論者對該技術(shù)將在多大程度上接管社會的擔(dān)憂。

美國前總統(tǒng)特朗普15日在艾奧瓦州共和黨黨團(tuán)會議上獲勝后,奧特曼被問及隨著總統(tǒng)選舉的升溫,人工智能是否會加劇經(jīng)濟(jì)不平等并導(dǎo)致勞動階級的混亂。

“是的,當(dāng)然,我認(rèn)為這是值得考慮的事情!眾W特曼說。但他后來說,“這比我想象的更像是一種工具”,人工智能尚未以許多經(jīng)濟(jì)學(xué)家擔(dān)心的規(guī)模取代工作崗位,這項(xiàng)技術(shù)已經(jīng)成為“令人難以置信的生產(chǎn)力工具”。

編 輯:章芳
聲明:刊載本文目的在于傳播更多行業(yè)信息,本站只提供參考并不構(gòu)成任何投資及應(yīng)用建議。如網(wǎng)站內(nèi)容涉及作品版權(quán)和其它問題,請?jiān)?0日內(nèi)與本網(wǎng)聯(lián)系,我們將在第一時間刪除內(nèi)容。本站聯(lián)系電話為86-010-87765777,郵件后綴為#cctime.com,冒充本站員工以任何其他聯(lián)系方式,進(jìn)行的“內(nèi)容核實(shí)”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權(quán)。
相關(guān)新聞              
 
人物
工信部張?jiān)泼鳎捍蟛糠謬倚聞澐至酥蓄l段6G頻譜資源
精彩專題
專題丨“汛”速出動 共筑信息保障堤壩
2023MWC上海世界移動通信大會
中國5G商用四周年
2023年中國國際信息通信展覽會
CCTIME推薦
關(guān)于我們 | 廣告報(bào)價(jià) | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營許可證080234號 京公網(wǎng)安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經(jīng)書面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像