□ 本報記者　趙麗

□ 本報見習記者 丁一

近年來，人工智能技術迅猛發(fā)展，AI換臉、擬聲技術逐漸從專業(yè)領域走向大眾應用。然而，隨著生成內(nèi)容逼真度的提升和使用門檻的降低，此類技術已被濫用于制作虛假視頻、侵犯個人隱私乃至實施詐騙等違法違規(guī)活動。

AI換臉換聲技術背后潛藏哪些法律風險?該如何有效治理?帶著問題，《法治日報》記者采訪了中央財經(jīng)大學法學院教授王葉剛、北京航空航天大學法學院副教授王天凡和京都律師事務所律師常莎。

記者：近年來，利用知名人士形象進行AI換臉換聲的視頻層出不窮，一些有心人士將其用于直播帶貨甚至詐騙。這種行為可能觸犯哪些法律法規(guī)?

常莎：通過AI技術生成明星抑或普通民眾的人臉形象，前提是要采集、提取其面部特征生物識別信息。這些信息屬于法定的敏感個人信息，侵權方未經(jīng)授權使用，構成對公民個人信息權益的侵害;還可能侵犯他人肖像權、名譽權等。

若平臺“明知”侵權方利用AI換臉實施詐騙、銷售假冒商品等犯罪，仍為其提供幫助，則可能構成幫助信息網(wǎng)絡犯罪活動罪。

AI換臉直播事件中，侵權方的直播帶貨屬商業(yè)廣告行為，其通過AI偽造明星肖像與聲音，營造名人本人推薦的虛假表象，使消費者因信任明星作出購買決策，違反誠信原則，符合虛假廣告認定標準。同時，AI換臉行為還可能涉嫌不正當競爭。

此外，偽造特定名人形象、虛構事實以獲取非法收入，主觀上具有非法占有目的，客觀上實施了欺騙行為，符合詐騙罪的基本構成要件，該行為涉嫌構成詐騙罪。

記者：目前針對AI換臉、換聲類視頻，我國有哪些相關規(guī)定?此類亂象屢禁不止，是否反映出相關法規(guī)尚存不足?

王葉剛：對于此類視頻，我國目前已有《生成式人工智能服務管理暫行辦法》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》《人工智能生成合成內(nèi)容標識辦法》等規(guī)定。其中，《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》要求，任何組織和個人不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經(jīng)濟和社會秩序、侵犯他人合法權益等法律、行政法規(guī)禁止的活動。深度合成服務提供者和技術支持者提供人臉、人聲等生物識別信息編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，并取得其單獨同意。

《人工智能生成合成內(nèi)容標識辦法》要求相關行為人必須對AI生成圖片或者視頻作出標識。但僅依靠內(nèi)容標識制度，還無法徹底遏制此種行為。標識只能解決AI生成內(nèi)容的識別問題，無法解決相關的責任認定和承擔問題。同時，從責任認定層面來看，標識行為本身在法律上具有何種意義，特別是其在民事責任認定方面具有何種義務，缺乏明確規(guī)定。

記者：對于AI換臉換聲技術背后潛藏的法律風險，該如何有效治理?

王天凡：解決問題的關鍵路徑，在于《人工智能生成合成內(nèi)容標識辦法》所鼓勵的“數(shù)字水印”。對數(shù)字水印的技術要求和準確性、穩(wěn)定性等要進一步提升，例如確保水印從生成源頭即被嵌入。為此，相關部門應盡快建立明確的技術標準，同時推進構建第三方投訴反饋機制。

王葉剛：應進一步明確刪除、篡改、偽造、隱匿標識行為的法律責任?，F(xiàn)有相關規(guī)定只是規(guī)定行為人不得實施惡意刪除、篡改、隱匿標識的行為，但行為人實施相關行為需要承擔何種法律責任，相關規(guī)定亟待進一步明確。

對于通過技術手段能夠發(fā)現(xiàn)的AI換臉直播帶貨行為，平臺應當盡到必要的審核義務，在發(fā)現(xiàn)相關行為后，可以考慮采取禁止或者限制直播、下架產(chǎn)品或者服務等措施。

實現(xiàn)多部門聯(lián)合執(zhí)法，網(wǎng)信部門、市場監(jiān)管部門等在行使本部門職權的基礎上，與其他部門進行溝通、配合，實現(xiàn)對違法AI換臉換聲等行為的全過程監(jiān)管和治理。

常莎：在技術方面，防范與創(chuàng)新并重，支持研發(fā)反深度合成技術，提升鑒別能力，為監(jiān)管部門和個人提供可靠的技術工具。

個人應提高對肖像權和隱私權的保護意識，謹慎發(fā)布包含個人清晰肖像、獨特聲線的影像資料，避免給不法分子可乘之機。同時，如果侵權行為發(fā)生，則應積極通過法律途徑維護自身合法權益，及時收集并保留侵權內(nèi)容截圖、傳播記錄等相關證據(jù)，以便為后續(xù)維權提供有力支持。