飛象原創(chuàng)（遠山/文）當一段視頻通話中的“領導”以急事為由要求轉(zhuǎn)賬，當社交媒體上突然出現(xiàn)“明星代言”的虛假廣告，當父母收到“子女”聲淚俱下的求助語音……這些看似荒誕的場景，正隨著AI換臉與語音克隆技術的普及，成為新型犯罪的溫床。
技術的光影之下，人性的貪婪與法律的滯后交織成一張復雜的網(wǎng)，既時刻威脅著個體的權益，同時也拷問著社會治理的智慧。
技術濫用的現(xiàn)實圖景：從個案到現(xiàn)象
2025年春節(jié)前夕，西安市雁塔區(qū)法院審理的一起案件引發(fā)關注。某公司未經(jīng)授權使用AI換臉技術，將一名女演員的肖像嫁接至帶貨視頻中，誤導消費者認為其與商品存在代言關系。法院最終判決該公司賠償經(jīng)濟損失并公開道歉。
這僅是冰山一角。更惡劣的案例中，杭州的虞某利用AI換臉制作并傳播淫穢視頻，非法牟利超百萬元，最終被判處七年三個月有期徒刑。
技術的“易得性”與犯罪的“低成本”形成鮮明對比——廣州南沙區(qū)法院2024年判決的一起案件中，五名被告人僅憑購買教程和開源軟件，便搭建起一條通過偽造人臉識別視頻非法修改系統(tǒng)數(shù)據(jù)的黑色產(chǎn)業(yè)鏈，涉案金額高達120萬元。
而更具迷惑性的，是技術對人際信任的瓦解。天津市民李先生接到“領導”視頻電話，畫面中對方神態(tài)自若，聲音與慣常無異。在“眼見為實”的心理暗示下，他分三次轉(zhuǎn)賬95萬元，直到次日當面確認才知受騙。
類似案件中，江西一位老人甚至因網(wǎng)戀“假靳東”AI換臉視頻，不惜貸款200萬元資助“偶像拍戲”，最終血本無歸。這些案例揭示了一個殘酷現(xiàn)實：當技術能夠完美復刻人類的外貌與聲線，傳統(tǒng)的社會信任機制正在遭遇降維打擊。
技術雙刃劍：重構(gòu)認知與沖擊秩序
AI換臉與語音克隆的負面影響早已超越個體受害范疇，演變?yōu)橄到y(tǒng)性風險。首先是對人格權的全面侵蝕。《民法典》明確肖像權與聲音權受法律保護，但實踐中，一張照片、一段錄音便足以讓技術偽造出以假亂真的數(shù)字分身。2023年河北李先生遭遇的案例中，詐騙者利用其社交照片制作虛假色情視頻實施敲詐，致其社會評價斷崖式下跌。
其次是經(jīng)濟秩序的混亂。廣州南沙案件中，犯罪團伙通過篡改企業(yè)認證數(shù)據(jù)，幫助未達標公司非法獲取資質(zhì)，直接擾亂市場競爭環(huán)境。類似通過AI技術手段進行不當牟利的事件還有很多，已經(jīng)對正常的經(jīng)濟秩序造成越來越顯著的危害。
更深層的危機在于社會認知基石的動搖。當“有圖有真相”淪為過去式，公眾對信息真實性的集體焦慮可能催生普遍的懷疑主義，甚至削弱司法取證的公信力。一旦整個社會的認知基礎受到削弱，隨之而來的就是因信任成本抬升而讓整個社會彌漫著低效、遲鈍與悲觀的氣氛。
我們不得不認識到，技術濫用的危害鏈條仍在延伸。從個人隱私泄露到網(wǎng)絡詐騙，從商業(yè)詆毀到政治謠言，技術的每一次迭代都在為犯罪提供新工具，而技術革新的步伐是不可阻擋的，存在可能為潛在的犯罪行為提供機會的漏洞也是在所難免。
據(jù)公安部網(wǎng)安局統(tǒng)計，2024年利用深度合成技術實施的詐騙案件同比激增230%，單案最高損失逾千萬元。這種“技術黑產(chǎn)”的蔓延速度，已遠超傳統(tǒng)法律規(guī)制的反應周期。
如何治理：法治框架的補位與革新
面對技術狂飆，法律必須成為勒住韁繩的手。現(xiàn)行法律體系已具備初步規(guī)制能力：《民法典》第1019條明確禁止利用信息技術偽造他人肖像，第1034條將生物識別信息納入個人信息保護范疇；《刑法》中詐騙罪、侵犯公民個人信息罪等條款可覆蓋多數(shù)技術濫用行為。杭州虞某案與廣州南沙案的判決表明，司法機關正通過擴大解釋將新型犯罪納入傳統(tǒng)罪名框架。
但專項立法的缺位仍顯尷尬。全國政協(xié)委員靳東在2025年兩會期間直言：“現(xiàn)有法律對AI換臉侵權的低成本與維權高難度失衡，客觀上縱容了技術濫用”。這種困境在《慶余年》AI剪輯侵權案中尤為突出——盡管法院判定侵權，但維權方需耗費數(shù)月完成技術鑒定，而侵權者僅需幾分鐘即可生成新內(nèi)容。
治理創(chuàng)新已在路上。技術治理層面，數(shù)字水印技術的推廣為內(nèi)容溯源提供可能。該技術可在視頻中嵌入隱形標識，記錄創(chuàng)作者與版權信息，一旦內(nèi)容被篡改即可追蹤源頭。
立法層面，2025年實施的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》要求AI生成內(nèi)容添加顯著標識，這為平臺審核提供了抓手。
司法實踐層面，多地法院開始探索“舉證責任倒置”，要求技術使用者自證合法性，減輕被侵權方舉證壓力。
行業(yè)新范式：在規(guī)制與創(chuàng)新間尋找平衡點
規(guī)范技術應用絕不等于扼殺創(chuàng)新。歷史經(jīng)驗表明，印刷術催生了版權制度，互聯(lián)網(wǎng)孕育了數(shù)據(jù)安全法，每一次技術革命都伴隨著法律體系的適應性進化。
關鍵在于劃定清晰的“技術紅線”：對于影視特效、醫(yī)療仿真等正向應用，應通過許可制與行業(yè)標準予以鼓勵；而對身份偽造、內(nèi)容篡改等高風險場景，則需建立分級分類監(jiān)管體系。全國人大代表雷軍提出的“建立AI換臉技術備案庫”建議，正是試圖在開放創(chuàng)新與風險管控間找到平衡。
企業(yè)的技術倫理建設同樣重要。部分平臺已推出“生物特征脫敏”工具，允許用戶上傳照片時自動模糊關鍵特征，既滿足社交需求又降低濫用風險。這種“隱私設計（Privacy by Design）”理念，將合規(guī)性嵌入技術開發(fā)生命周期，或?qū)⒊蔀樾袠I(yè)新范式。
多元共治：3.15視角下的治理緊迫性
在2025年“3.15國際消費者權益日”來臨之際，治理AI技術濫用更具現(xiàn)實意義。據(jù)中消協(xié)最新調(diào)查，67%的消費者遭遇過AI合成內(nèi)容誤導，其中超三成造成直接經(jīng)濟損失。
當技術欺詐成為消費侵權的重災區(qū)，不僅全社會應提高對技術欺詐的警惕性，相關管理職能部門更應強化防范與治理的措施。對于技術欺詐行為，治理行動或可根據(jù)具體情況從三方面發(fā)力。
一是強化平臺責任，要求社交、電商平臺部署深度合成內(nèi)容識別系統(tǒng)，對未標注“AI生成”標識的內(nèi)容限流或下架，同時也應完善甄別與補救措施，避免對正常內(nèi)容的限制與誤傷；
二是完善救濟機制，建立“AI侵權快速響應通道”，簡化電子證據(jù)取證流程，并與相關管理職能部門進行聯(lián)動；
三是提升公眾素養(yǎng)，通過案例宣傳揭露常見技術騙局，培養(yǎng)“多重驗證”的安全習慣——正如公安部網(wǎng)安局提示：“涉及轉(zhuǎn)賬務必通過電話、見面等二次確認”。
技術的列車不會停歇，但軌道必須延伸在法治與倫理的基石之上。從兩會代表呼吁專項立法，到法院判決樹立裁判規(guī)則，從企業(yè)探索技術合規(guī)，到公眾提升防范意識，多元共治的格局正在形成。
唯有讓技術創(chuàng)新在陽光下奔跑，才能避免“技術利維坦”的陰影籠罩人類的未來。
