作者:中國信息通信研究院人工智能研究所所長 魏凱
隨著生成式人工智能技術(shù)快速發(fā)展,利用人工智能技術(shù)生成或合成文字、圖像、音樂、視頻、3D等數(shù)字內(nèi)容成為網(wǎng)絡(luò)空間內(nèi)容的主要生產(chǎn)方式,不斷為數(shù)字經(jīng)濟(jì)、產(chǎn)業(yè)發(fā)展甚至社會變革注入強大動力。然而,伴隨內(nèi)容生成合成門檻的不斷降低,新技術(shù)的濫用也對網(wǎng)絡(luò)空間治理提出了更大挑戰(zhàn)。當(dāng)前,中美歐等均探索將內(nèi)容披露和標(biāo)識義務(wù)入法,國內(nèi)外多家互聯(lián)網(wǎng)公司也逐步推進(jìn)標(biāo)識嵌入和管理舉措,內(nèi)容標(biāo)識已然成為全球打擊虛假有害信息的通行做法。為順應(yīng)這一實踐趨勢和產(chǎn)業(yè)需求,國家互聯(lián)網(wǎng)信息辦公室等部門適時發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》(下稱《辦法》)及配套國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法》(下稱《標(biāo)識方法》),全方位、多層次地規(guī)范人工智能內(nèi)容標(biāo)識要求和方法,邁出了完善我國人工智能治理制度的重要一步。
一、問題導(dǎo)向,破解人工智能生成合成內(nèi)容新需求新風(fēng)險
立足于生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,《辦法》以問題為導(dǎo)向,通過系統(tǒng)性、創(chuàng)新性制度設(shè)計,全面回應(yīng)了對人工智能生成合成內(nèi)容標(biāo)識的要求。
一是先行提出生成合成內(nèi)容標(biāo)識的中國方案。針對人工智能內(nèi)容生成合成帶來的顛覆性風(fēng)險挑戰(zhàn),國際層面也在不斷探索內(nèi)容標(biāo)識方法和路徑。歐盟2024年8月正式生效的《人工智能法案》規(guī)定了要確保人工智能生成合成內(nèi)容的透明度義務(wù),要求平臺添加強制性水印。美國加州2024年8月發(fā)布《數(shù)字內(nèi)容溯源標(biāo)識法案》,要求在人工智能生成物中嵌入可溯源數(shù)據(jù),以確保內(nèi)容來源的透明度。國際電信聯(lián)盟2024年7月發(fā)布《檢測深度偽造和生成式人工智能:人工智能水印和多媒體真實性標(biāo)準(zhǔn)研討會的報告》,包括內(nèi)容標(biāo)識在內(nèi),初步探討了深度合成內(nèi)容檢測的標(biāo)準(zhǔn)協(xié)作安排!掇k法》根植于我國發(fā)展實踐,立足長遠(yuǎn)、著眼前瞻、行動快速,率先通過標(biāo)準(zhǔn)完善補充生成式人工智能綜合治理機(jī)制,有力支撐了科技向善的治理理念,為世界貢獻(xiàn)發(fā)展與安全并行的人工智能治理中國方案。
二是著力加強服務(wù)商生成合成內(nèi)容標(biāo)識的規(guī)范性。隨著人工智能生成合成內(nèi)容工具的普及化和可及化發(fā)展,技術(shù)應(yīng)用的門檻較之前大大降低。早在2022年中央網(wǎng)信辦等就發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》(以下簡稱《規(guī)定》),明確指出深度合成服務(wù)提供者應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識,向公眾提示深度合成情況。但《規(guī)定》主要明確了需要添加標(biāo)識的情況,對于添加標(biāo)識的位置、字型和表達(dá)并未做出具體要求,因此各類企業(yè)在實施過程中出現(xiàn)了文本內(nèi)容顯式標(biāo)識不明顯、難察覺,音頻、視頻等內(nèi)容顯式標(biāo)識未插入、淺提示,隱式標(biāo)識少信息、難校驗等問題,對于落實監(jiān)管提出了挑戰(zhàn)。出臺《辦法》,是進(jìn)一步推進(jìn)生成合成內(nèi)容標(biāo)識工作的必要舉措,對規(guī)范互聯(lián)網(wǎng)信息服務(wù)深度合成管理、解決生成合成內(nèi)容標(biāo)識突出問題、推進(jìn)信息網(wǎng)絡(luò)生態(tài)環(huán)境治理意義重大,影響深遠(yuǎn)。
三是進(jìn)一步完善生成式人工智能監(jiān)管問責(zé)體系。生成式人工智能生成合成內(nèi)容涉及多種類型的主體,清晰界定各主體義務(wù)更有利于壓實主體責(zé)任,便利技術(shù)檢測實施,進(jìn)而落實精準(zhǔn)問責(zé)!掇k法》不僅界定了人工智能生成合成內(nèi)容的基本概念,更針對服務(wù)提供者、傳播平臺、應(yīng)用服務(wù)分發(fā)平臺和用戶分別規(guī)定了具體標(biāo)識要求,為各相關(guān)主體落實合規(guī)指明了方向。由此,《辦法》就現(xiàn)行責(zé)任制度作出補充,充分細(xì)化了《規(guī)定》提出的深度合成服務(wù)提供者和技術(shù)支持者行為規(guī)范,為促進(jìn)新技術(shù)新應(yīng)用的規(guī)范發(fā)展提供了有益范例。
二、明確要求,促進(jìn)人工智能生成合成內(nèi)容精細(xì)化治理
人工智能生成合成內(nèi)容不僅包括文本、圖像、音頻、視頻等多種表現(xiàn)形式,更在“元宇宙”等交互式、沉浸式場景中提供了更多實現(xiàn)方案!稑(biāo)識方法》對于人工智能生成合成內(nèi)容進(jìn)行了全方位覆蓋,并且進(jìn)一步明確了《辦法》要求和具體操作指引。
一是區(qū)分顯式標(biāo)識和隱式標(biāo)識規(guī)范要求。為滿足當(dāng)前可感知和不可感知的兩類標(biāo)識方法需要,《標(biāo)識方法》清晰闡述了各自的關(guān)鍵要素要求,對于顯式標(biāo)識主要圍繞文字要素、位置、字型、顏色、音頻節(jié)奏、視頻像素和交互提示等提出要求,對于元數(shù)據(jù)和內(nèi)容隱式標(biāo)識提出生成合成標(biāo)簽要素、服務(wù)提供者要素和內(nèi)容編號要素等關(guān)鍵指引。
二是列舉顯式標(biāo)識典型應(yīng)用場景。《標(biāo)識方法》通過列舉式的方式對于顯式標(biāo)識的應(yīng)用場景做出了進(jìn)一步細(xì)化,在《規(guī)定》中提到的五類顯著標(biāo)識應(yīng)用場景之外加以補充,包括文生圖片等圖片內(nèi)容生成服務(wù);音樂等音頻內(nèi)容生成服務(wù);文生視頻、圖生視頻等視頻內(nèi)容生成服務(wù)。新列舉的三類典型應(yīng)用場景屬于2022年后迅速發(fā)展起來新型生成合成內(nèi)容形式,尤其是ChatGPT、Sora展示出視頻內(nèi)容生成的強大潛能!稑(biāo)識方法》囊括此三類典型應(yīng)用場景有利于針對性、前瞻性開展監(jiān)管,符合生成式人工智能的技術(shù)原理與產(chǎn)業(yè)需要。
三是規(guī)范元數(shù)據(jù)隱式標(biāo)識格式要求。此前生成合成內(nèi)容隱式標(biāo)識方法在不同規(guī)模、不同技術(shù)水平的企業(yè)間應(yīng)用各不相同,標(biāo)識的標(biāo)簽信息也未有一致,這就導(dǎo)致識別隱式標(biāo)識對于監(jiān)管主體和內(nèi)容平臺而言面臨挑戰(zhàn)!稑(biāo)識方法》為解決這一問題,對于隱式標(biāo)識擴(kuò)展字段關(guān)鍵詞和應(yīng)包括的標(biāo)簽、編號、預(yù)留字段的值等添加了具體說明,為行業(yè)統(tǒng)一、穩(wěn)定、持續(xù)落實隱式標(biāo)識要求提供了有效措施。
四是展示顯式和隱式標(biāo)識各要求對應(yīng)示例。《標(biāo)識方法》以圖片示例的形式對于各類顯式和隱式標(biāo)識要求進(jìn)行了展示,有助于企業(yè)直觀了解標(biāo)準(zhǔn)要求,避免因文字表述引發(fā)的模糊和歧義,從而推動行業(yè)協(xié)同落實,提升治理效能。
三、守正創(chuàng)新,兼顧內(nèi)容生成合成服務(wù)管理與技術(shù)創(chuàng)新應(yīng)用
人工智能生成合成技術(shù)應(yīng)在安全的前提下規(guī)范使用、加速發(fā)展,以高水平的治理保障高質(zhì)量發(fā)展!掇k法》及《標(biāo)識方法》充分考慮“用”和“管”兩側(cè)需求,最大限度減少內(nèi)容標(biāo)識對于用戶使用的影響,推動企業(yè)自主自愿展示標(biāo)識。一是提供多種標(biāo)識方法,適應(yīng)更多產(chǎn)品形態(tài)。《標(biāo)識方法》對于文本內(nèi)容顯式標(biāo)識創(chuàng)新提出角標(biāo)形式,僅需在內(nèi)容末尾加注角標(biāo)“AI”即可高效滿足要求,對于音頻內(nèi)容則首次提出音頻節(jié)奏標(biāo)識,在音頻適當(dāng)位置加入“短長短短”節(jié)奏的摩斯碼表示即可達(dá)到提示作用。此類標(biāo)識方法不僅對于企業(yè)而言便于打造不同產(chǎn)品樣態(tài),也能保障用戶使用體驗和認(rèn)知效果,在實現(xiàn)監(jiān)管目的的同時也為技術(shù)發(fā)展提供了有效保障。二是劃分不同主體責(zé)任,精細(xì)化避風(fēng)港原則適用。《辦法》雖然將標(biāo)識添加的責(zé)任主要施加于服務(wù)提供者和上傳內(nèi)容的用戶,但未對傳播平臺和應(yīng)用分發(fā)平臺實施“一刀切”式的避風(fēng)港規(guī)則。《辦法》采取一種更為精細(xì)化的路徑,詳細(xì)規(guī)定傳播平臺應(yīng)當(dāng)對文件元數(shù)據(jù)中的擴(kuò)展字段進(jìn)行核驗,提示用戶生成合成內(nèi)容信息,并在文件元數(shù)據(jù)中添加傳播要素信息;應(yīng)用服務(wù)分發(fā)平臺應(yīng)在應(yīng)用程序上架或上線審核前核驗服務(wù)提供者是否按要求提供生成合成內(nèi)容標(biāo)識功能。此舉有助于適當(dāng)調(diào)整服務(wù)提供者、使用者和傳播分發(fā)平臺的義務(wù)分配,避免相關(guān)平臺“隱身”于深度合成監(jiān)管體系,從而真正實現(xiàn)齊抓共管、協(xié)同共治的治理機(jī)制,有效維護(hù)健康向善的信息網(wǎng)絡(luò)生態(tài)環(huán)境。