據(jù)報(bào)道,OpenAI起草的一份互聯(lián)網(wǎng)政策備忘錄顯示,該公司認(rèn)為應(yīng)當(dāng)要求所有想要開(kāi)發(fā)先進(jìn)人工智能的公司必須獲得政府支持。這份文件還透露,該公司愿意公開(kāi)他們?cè)谟?xùn)練圖像生成器時(shí)使用的數(shù)據(jù)。
作為ChatGPT和DALL-E的開(kāi)發(fā)者,OpenAI是在白宮官員與科技行業(yè)高管今年5月4日舉行會(huì)面后,在內(nèi)部文件中披露一系列人工智能政策承諾的。該公司在草案中寫(xiě)道:“我們致力于跟美國(guó)政府和世界各地的政策制定者合作,支持為未來(lái)最先進(jìn)的基礎(chǔ)模型開(kāi)發(fā)工作制定一套牌照制度!
如果由OpenAI等人工智能巨頭參與制定政府牌照制度,有可能會(huì)與初創(chuàng)公司和開(kāi)源開(kāi)發(fā)者的利益形成沖突。后者認(rèn)為,這些巨頭會(huì)試圖借此提高行業(yè)門(mén)檻。
這并非OpenAI首次提出這種想法:在5月的美國(guó)參議院聽(tīng)證會(huì)上,該公司CEO山姆·阿爾特曼(Sam Altman)就支持成立一個(gè)政府機(jī)構(gòu),負(fù)責(zé)為人工智能產(chǎn)品發(fā)放牌照,并在發(fā)生違規(guī)情況時(shí)收回牌照。
此時(shí)正值微軟、谷歌和OpenAI響應(yīng)白宮號(hào)召,預(yù)計(jì)將在周五公開(kāi)承諾為人工智能開(kāi)發(fā)提供保障措施之際。據(jù)知情人士透露,這些公司將承諾以負(fù)責(zé)任的態(tài)度開(kāi)發(fā)和部署人工智能。
OpenAI警告稱(chēng),該公司在其內(nèi)部政策文件中提出的想法,將不同于白宮即將與科技公司共同發(fā)布的政策。該公司全球事務(wù)副總裁Anna Makanju表示,該公司并沒(méi)有急于推動(dòng)牌照制度,而是認(rèn)為這是政府追蹤新型系統(tǒng)的一種“現(xiàn)實(shí)”方式。
“對(duì)于政府來(lái)說(shuō),有必要了解是否會(huì)有一個(gè)可能構(gòu)成潛在破壞的超強(qiáng)系統(tǒng)出現(xiàn)!彼f(shuō),“如果有人不愿像我們這樣主動(dòng)報(bào)告情況,幾乎無(wú)法確保政府能夠及時(shí)了解這樣的系統(tǒng)!
Makanju表示,OpenAI認(rèn)為,這種牌照制度應(yīng)當(dāng)僅適用于比現(xiàn)有的GPT-4更強(qiáng)大的人工智能模型,小型創(chuàng)業(yè)公司不應(yīng)當(dāng)承受過(guò)大的監(jiān)管負(fù)擔(dān)!拔覀儾幌攵糁粕鷳B(tài)系統(tǒng)!彼f(shuō)。
OpenAI還在內(nèi)部政策文件中透露,他們?cè)敢膺M(jìn)一步開(kāi)放用于訓(xùn)練DALL-E等圖片生成器的數(shù)據(jù),并致力于在年底前“納入溯源方法”。數(shù)據(jù)溯源是一種讓開(kāi)發(fā)人員對(duì)其工作的透明度和來(lái)源負(fù)責(zé)的做法。許多政策制定者之前已經(jīng)提出這種想法,他們認(rèn)為,這對(duì)于防止人工智能工具傳播錯(cuò)誤信息和偏見(jiàn)至關(guān)重要。
OpenAI在備忘錄中列出的承諾,與微軟今年5月宣布的政策非常相似。但OpenAI之前曾經(jīng)表示,盡管獲得了微軟的100億美元投資,但他們依然是一家獨(dú)立公司。
該公司在文件中披露,他們正在進(jìn)行調(diào)查,了解水。ㄒ环N追蹤人工智能生成圖像的真實(shí)性和版權(quán)的方法)以及人工智能生成內(nèi)容的檢測(cè)和披露方法,并將公布調(diào)查結(jié)果。
OpenAI還在文件中表示,他們對(duì)外部“紅隊(duì)”持開(kāi)放態(tài)度。換言之,該公司將允許人們參與測(cè)試其系統(tǒng)在多方面的潛在問(wèn)題,包括冒犯性內(nèi)容、被操縱的風(fēng)險(xiǎn)、錯(cuò)誤信息和偏見(jiàn)。該公司在備忘錄表示,它支持建立一個(gè)信息共享中心,就網(wǎng)絡(luò)安全開(kāi)展合作。
OpenAI在備忘錄中似乎承認(rèn)人工智能系統(tǒng)可能在就業(yè)和不平等方面帶來(lái)風(fēng)險(xiǎn)。該公司還在草案中表示,他們將進(jìn)行研究,并向政策制定者提出建議,以保護(hù)經(jīng)濟(jì)免受潛在破壞的影響。