本刊記者 焦艷

近日，安徽一女子用AI工具生成了高度逼真的“流浪漢臥坐餐廳”等圖片，發(fā)送給在外聚餐的丈夫，丈夫當(dāng)即報(bào)警求助。此類以“戲謔”為名的AI生成內(nèi)容濫用事件已在多地頻發(fā)，部分案件引發(fā)公安機(jī)關(guān)連夜處警，暴露出AI生成合成內(nèi)容(含虛擬圖像、數(shù)字人像、合成語(yǔ)音等多模態(tài)形式)的法律風(fēng)險(xiǎn)防控漏洞。有觀點(diǎn)認(rèn)為，此類行為僅為“戲謔”;也有觀點(diǎn)認(rèn)為，該行為絕非單純的“玩笑”，亟須從法治層面明確規(guī)范，以防范潛在的社會(huì)危害。

AI“整蠱”亂象頻發(fā)

近日，安徽銅陵一名女子使用AI生成“流浪漢臥坐家中餐廳”的逼真圖像，丈夫收到后立即報(bào)警，當(dāng)?shù)嘏沙鏊鶈?dòng)應(yīng)急機(jī)制，民警連夜出警，最終證實(shí)為虛假情況。警方隨后對(duì)該女子進(jìn)行批評(píng)教育，指出其行為“屬于浪費(fèi)公共資源”。

隨著生成式AI技術(shù)迭代演進(jìn)，其“雙刃劍”效應(yīng)日益凸顯：一方面，便利了創(chuàng)意表達(dá)，另一方面，因技術(shù)門檻低，催生了深度偽造、虛假信息、有害信息傳播等多重亂象。據(jù)記者了解，用戶只需打開(kāi)AI生圖工具，上傳一張家中內(nèi)部照片，輸入一句簡(jiǎn)單的提示詞，幾秒即可生成以假亂真的“流浪漢闖入家中”畫面，再用圖生視頻功能，即可生成“流浪漢在家中行走”的視頻畫面。更有平臺(tái)在相關(guān)視頻下方直接接入生圖工具入口，用戶刷到類似內(nèi)容后，可一鍵跳轉(zhuǎn)、選擇同款模板，迅速生成“整蠱”圖片，極易誘導(dǎo)用戶模仿。

“生成式AI大模型的多維度演進(jìn)，使內(nèi)容生成呈現(xiàn)‘低門檻+高逼真’的特征，導(dǎo)致網(wǎng)絡(luò)違法信息的演化路徑更趨復(fù)雜?！庇坡蓭熓聞?wù)所數(shù)字經(jīng)濟(jì)研究會(huì)主任王風(fēng)和表示，此類“整蠱”名義的行為，不僅導(dǎo)致權(quán)利侵害和公共資源占用，還給清朗網(wǎng)絡(luò)空間有效治理帶來(lái)一定挑戰(zhàn)。

法律治理存在瓶頸

上海政法學(xué)院上海司法研究所講師周陳在接受采訪時(shí)表示，當(dāng)前AI生成內(nèi)容治理面臨以下瓶頸：一方面，法律規(guī)制與技術(shù)發(fā)展存在適配時(shí)差?，F(xiàn)有法律條款對(duì)AI工具使用的規(guī)制大多停留在禁止性條款層面，缺乏對(duì)技術(shù)濫用場(chǎng)景的動(dòng)態(tài)調(diào)整。“同樣是生成虛假圖像，個(gè)人基于好奇向親友分享與商業(yè)主體為流量變現(xiàn)發(fā)布至公共平臺(tái)的行為，其社會(huì)危害性與主觀惡性差異顯著，亟須差異化的法律責(zé)任配置?！敝荜愓f(shuō)。

另一方面，網(wǎng)絡(luò)有害信息傳播呈現(xiàn)“量產(chǎn)化+病毒式”特征。生成式AI技術(shù)為網(wǎng)絡(luò)違法有害信息的批量生產(chǎn)提供了技術(shù)支撐，部分自媒體、營(yíng)銷機(jī)構(gòu)利用AI工具快速生成聳人聽(tīng)聞的虛假新聞蹭取流量，相較于傳統(tǒng)文字謠言，其傳播效率提升數(shù)倍，導(dǎo)致監(jiān)管部門的被動(dòng)處置難以跟上傳播速度。

王風(fēng)和補(bǔ)充道，短視頻與社交平臺(tái)作為主要傳播渠道，面臨海量信息審核壓力與技術(shù)識(shí)別短板的雙重制約，部分平臺(tái)為追逐流量收益，未落實(shí)實(shí)質(zhì)審核義務(wù)，僅依賴關(guān)鍵詞篩查機(jī)制，導(dǎo)致違規(guī)內(nèi)容得以規(guī)避監(jiān)管。當(dāng)前，高度逼真的合成內(nèi)容疊加“娛樂(lè)化”包裝，降低了公眾的辨別難度，且缺乏成熟的生成式內(nèi)容快速核驗(yàn)技術(shù)，進(jìn)一步加劇了虛假信息的傳播風(fēng)險(xiǎn)。

濫用或面臨多重法律責(zé)任

“AI‘整蠱’絕非法外之地，其制作與傳播行為可能觸及民事、行政乃至刑事多重法律責(zé)任?！敝荜愓f(shuō)，在行政責(zé)任層面，若該類行為構(gòu)成散布謠言擾亂公共秩序的情形，將違反現(xiàn)行治安管理處罰法第二十五條規(guī)定，行為人需承擔(dān)相應(yīng)行政處罰責(zé)任;在刑事責(zé)任層面，故意編造、傳播虛假信息，情節(jié)嚴(yán)重的可能觸犯刑法第二百九十一條之一規(guī)定的編造、故意傳播虛假信息罪，若針對(duì)特定主體實(shí)施誹謗行為，則可能構(gòu)成第二百四十六條規(guī)定的誹謗罪。

在民事侵權(quán)領(lǐng)域，未經(jīng)授權(quán)使用他人肖像、聲音生成合成內(nèi)容的，違反民法典第一千零一十九條關(guān)于肖像權(quán)保護(hù)、第一千零二十四條對(duì)名譽(yù)權(quán)保護(hù)的規(guī)定。實(shí)踐中，利用AI生成虛假名人代言視頻進(jìn)行商品推銷的，可能構(gòu)成欺詐或虛假?gòu)V告;將合成內(nèi)容用于低俗傳播的，侵害他人人格權(quán)益的，受害人可依法主張停止侵害、賠禮道歉及精神損害賠償。

《生成式人工智能服務(wù)管理暫行辦法》第十四條明確規(guī)定平臺(tái)方的審核義務(wù)，若未履行標(biāo)識(shí)核驗(yàn)、違規(guī)處置等義務(wù)，需承擔(dān)連帶責(zé)任，但應(yīng)遵循技術(shù)中立原則，合理劃分平臺(tái)與用戶的責(zé)任邊界，避免過(guò)度苛責(zé)抑制技術(shù)創(chuàng)新。

構(gòu)建剛性法律制度

2025年9月1日施行的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》(以下簡(jiǎn)稱《標(biāo)識(shí)辦法》)，標(biāo)志著我國(guó)生成式AI治理從原則性規(guī)范進(jìn)入精細(xì)化規(guī)制階段?！稑?biāo)識(shí)辦法》明確AI生成內(nèi)容的使用規(guī)范與法律責(zé)任，要求生成環(huán)節(jié)的服務(wù)提供者必須在內(nèi)容產(chǎn)出時(shí)自動(dòng)添加顯性標(biāo)識(shí)與隱性標(biāo)識(shí)，顯性標(biāo)識(shí)通過(guò)文字、聲音、圖形等方式讓用戶明顯感知，隱性標(biāo)識(shí)嵌入文件元數(shù)據(jù)記錄生成屬性、服務(wù)提供者編碼等信息，確保內(nèi)容可識(shí)別、可追溯。

“構(gòu)建可信的AI生成內(nèi)容生態(tài)，需要產(chǎn)業(yè)鏈上各方的共同努力?！蓖躏L(fēng)和提出，應(yīng)依托網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法及《標(biāo)識(shí)辦法》，構(gòu)建剛性法律制度，明確AI生成內(nèi)容的產(chǎn)權(quán)歸屬、責(zé)任劃分及懲戒標(biāo)準(zhǔn)，尤其要完善“算法黑箱”穿透式監(jiān)管機(jī)制，解決證據(jù)鏈溯源難題。

周陳建議，建立分級(jí)分類的治理機(jī)制：針對(duì)個(gè)人非商業(yè)使用、商業(yè)推廣、惡意侵權(quán)等不同場(chǎng)景，設(shè)置差異化的規(guī)制措施;推動(dòng)建立跨部門協(xié)同監(jiān)管平臺(tái)，整合網(wǎng)信、公安及行業(yè)協(xié)會(huì)等監(jiān)管資源，實(shí)現(xiàn)違法線索的快速移送與處置。同時(shí)，須強(qiáng)化行業(yè)自律與公眾教育，提升公民的AI素養(yǎng)與權(quán)利保護(hù)意識(shí)，引導(dǎo)技術(shù)應(yīng)用“向善發(fā)展”。

“生成式AI的治理絕非簡(jiǎn)單的‘禁止’或‘放任’，而是要在保護(hù)創(chuàng)新活力與守住法律底線之間找到平衡點(diǎn)。”王風(fēng)和說(shuō)，未來(lái)應(yīng)持續(xù)推進(jìn)技術(shù)標(biāo)準(zhǔn)與法律規(guī)范的協(xié)同創(chuàng)新，完善“標(biāo)準(zhǔn)-檢測(cè)-評(píng)價(jià)”的閉環(huán)治理機(jī)制，讓生成式AI真正服務(wù)于社會(huì)進(jìn)步與公眾福祉，實(shí)現(xiàn)“以人為本、技術(shù)向善”的治理目標(biāo)。