10 月 27 日消息，綜合 CNBC、路透社等報(bào)道，當(dāng)?shù)貢r(shí)間周四，英國首相蘇納克宣布計(jì)劃成立世界上第一個(gè) AI 安全研究所，并于 11 月 1-2 日舉行 AI 安全峰會(huì)。此次峰會(huì)將匯聚世界各國 AI 公司、政府、民間團(tuán)體和相關(guān)領(lǐng)域?qū)＜遥?STRONG>旨在討論如何通過國際協(xié)調(diào)行動(dòng)來降低 AI 帶來的風(fēng)險(xiǎn)。
蘇納克在演講中表示，這個(gè)即將成立的研究所將推動(dòng)世界對(duì) AI 安全的認(rèn)識(shí)，并將對(duì)新型 AI 技術(shù)進(jìn)行仔細(xì)研究、評(píng)估與測(cè)試，以便了解每種新模式的能力，并探索從“偏見和誤導(dǎo)”等社會(huì)危害到“最極端風(fēng)險(xiǎn)”的所有風(fēng)險(xiǎn)。
蘇納克稱，“AI 可以讓制造化學(xué)或生物武器變得更容易，但這項(xiàng)技術(shù)也會(huì)被犯罪分子所利用。在最不可能但最極端的情況下，人類甚至有可能通過有時(shí)被稱為超級(jí)智能的 AI，在 AI 面前完全失控。”
此外，在下周舉行的 AI 安全峰會(huì)上，蘇納克將提議成立一個(gè)“真正全球化的專家小組”—— 該小組的成員由與會(huì)國家和組織提名，屆時(shí)還將發(fā)布一份 AI 科學(xué)現(xiàn)狀報(bào)告。
另據(jù)IT之家此前報(bào)道，英國反壟斷監(jiān)管機(jī)構(gòu) CMA（競(jìng)爭(zhēng)與市場(chǎng)管理局）上個(gè)月提出了管理 AI 模式的新標(biāo)準(zhǔn)，涵蓋了問責(zé)、訪問和透明度等事宜。CMA 當(dāng)時(shí)公布的監(jiān)管原則中，包括 AI 開發(fā)人員和部署人員應(yīng)對(duì)輸出內(nèi)容負(fù)責(zé)、不得從事反競(jìng)爭(zhēng)行為等內(nèi)容。
