拜登政府12月19日表示,它正在邁出第一步,為安全部署生成式人工智能以及如何測(cè)試和保護(hù)系統(tǒng)編寫(xiě)關(guān)鍵標(biāo)準(zhǔn)和指南。
美國(guó)商務(wù)部國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院(NIST)稱(chēng),將在2月2日之前征求公眾意見(jiàn),以進(jìn)行對(duì)確保人工智能系統(tǒng)安全至關(guān)重要的關(guān)鍵測(cè)試。美國(guó)商務(wù)部長(zhǎng)雷蒙多表示,這項(xiàng)努力是拜登10月份關(guān)于人工智能的行政命令所推動(dòng)的,旨在制定“圍繞人工智能安全、保障和信任的行業(yè)標(biāo)準(zhǔn),使美國(guó)能夠繼續(xù)在負(fù)責(zé)任地開(kāi)發(fā)和使用這一迅速發(fā)展的技術(shù)方面引領(lǐng)世界!
NIST正在制定評(píng)估人工智能的指導(dǎo)方針,促進(jìn)標(biāo)準(zhǔn)的制定,并為評(píng)估人工智能系統(tǒng)提供測(cè)試環(huán)境。該請(qǐng)求尋求人工智能公司和公眾就生成式人工智能風(fēng)險(xiǎn)管理和減少人工智能產(chǎn)生錯(cuò)誤信息的風(fēng)險(xiǎn)提供意見(jiàn)。
此前包括特斯拉CEO馬斯克在內(nèi)的多家科技公司高管,都呼吁建立人工智能監(jiān)管框架,防范其對(duì)人類(lèi)文明可能造成的風(fēng)險(xiǎn)。拜登10月份簽署的人工智能行政命令涵蓋層面廣泛,包括建立人工智能安全新標(biāo)準(zhǔn)、保護(hù)美國(guó)民眾隱私、推動(dòng)平等和民權(quán)、保護(hù)消費(fèi)者和工人、促進(jìn)創(chuàng)新和競(jìng)爭(zhēng),確保美國(guó)在全球人工智能競(jìng)賽中處于領(lǐng)先位置。
這項(xiàng)行政命令還援引美國(guó)《國(guó)防生產(chǎn)法》,要求科技公司研發(fā)任何可能危及美國(guó)國(guó)家安全、經(jīng)濟(jì)安全、公共衛(wèi)生安全的人工智能系統(tǒng)時(shí),必須告知美國(guó)政府。