10 月 27 日消息，綜合 CNBC、路透社等報道，當?shù)貢r間周四，英國首相蘇納克宣布計劃成立世界上第一個 AI 安全研究所，并于 11 月 1-2 日舉行 AI 安全峰會。此次峰會將匯聚世界各國 AI 公司、政府、民間團體和相關(guān)領(lǐng)域?qū)＜遥?STRONG>旨在討論如何通過國際協(xié)調(diào)行動來降低 AI 帶來的風險。
蘇納克在演講中表示，這個即將成立的研究所將推動世界對 AI 安全的認識，并將對新型 AI 技術(shù)進行仔細研究、評估與測試，以便了解每種新模式的能力，并探索從“偏見和誤導”等社會危害到“最極端風險”的所有風險。
蘇納克稱，“AI 可以讓制造化學或生物武器變得更容易，但這項技術(shù)也會被犯罪分子所利用。在最不可能但最極端的情況下，人類甚至有可能通過有時被稱為超級智能的 AI，在 AI 面前完全失控�！�
此外，在下周舉行的 AI 安全峰會上，蘇納克將提議成立一個“真正全球化的專家小組”—— 該小組的成員由與會國家和組織提名，屆時還將發(fā)布一份 AI 科學現(xiàn)狀報告。
另據(jù)IT之家此前報道，英國反壟斷監(jiān)管機構(gòu) CMA（競爭與市場管理局）上個月提出了管理 AI 模式的新標準，涵蓋了問責、訪問和透明度等事宜。CMA 當時公布的監(jiān)管原則中，包括 AI 開發(fā)人員和部署人員應(yīng)對輸出內(nèi)容負責、不得從事反競爭行為等內(nèi)容。
