編者按:AI換臉技術(shù)作為一種深度偽造技術(shù),基于深度學習算法和計算機視覺技術(shù),能夠精準地進行面部特征轉(zhuǎn)移。然而,這一技術(shù)的廣泛應(yīng)用,誘發(fā)了一系列違法濫用行為,也帶來諸多安全和法律風險,亟須加以規(guī)范和治理。為了推動AI換臉技術(shù)的合法使用,促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,本刊特邀請專家學者對相關(guān)問題進行探討,敬請關(guān)注。

特邀嘉賓

田宏杰

(中國人民大學教授)

張建忠

(最高人民檢察院經(jīng)濟犯罪檢察廳副廳長)

陰建峰

(北京師范大學教授)

嘉賓兼主持人

高艷東

(浙江大學數(shù)字法治研究院副院長)

問題一:AI換臉技術(shù)存在哪些應(yīng)用風險?

主持人:AI換臉作為深度合成技術(shù)的一種新發(fā)展形態(tài),具有哪些特征,存在哪些應(yīng)用風險?

田宏杰:AI換臉技術(shù)又稱人臉深度偽造技術(shù),是一種基于人工智能深度學習和計算機視覺的前沿技術(shù)應(yīng)用,具有高仿真性、高效自動化、數(shù)據(jù)依賴性、可擴展性、即時性、大眾化等特征。目前,該技術(shù)被廣泛應(yīng)用于影視和娛樂行業(yè)、社交媒體內(nèi)容創(chuàng)作、教育培訓、心理治療、身份驗證、科學研究等領(lǐng)域。伴隨該技術(shù)在各領(lǐng)域中的加速應(yīng)用,其潛在風險也逐漸展露。

一是引發(fā)信任危機�；�于AI換臉技術(shù),可以輕易在視頻、圖片中偽造他人面部特征和可識別的身份信息。當公眾意識到互聯(lián)網(wǎng)所見存在偽造可能性時,便會動搖其對數(shù)字身份認證的信任,在長期面對真假難辨的信息環(huán)境時,將引發(fā)社會焦慮,對媒體、政府公信力產(chǎn)生普遍懷疑。

二是激化社會矛盾。使用AI換臉技術(shù)偽造的名人、政治人物或公眾人物的視頻、圖像被用于制造虛假新聞、誤導(dǎo)輿論,其中的不當言論可能引發(fā)社會動蕩。而基于換臉技術(shù)生成的一般侮辱性內(nèi)容,則可能引發(fā)或加劇網(wǎng)絡(luò)暴力,導(dǎo)致現(xiàn)實世界中的歧視或沖突。

三是挑戰(zhàn)社會倫理。AI換臉被用于不道德的娛樂內(nèi)容或違反倫理的內(nèi)容,可能挑戰(zhàn)社會倫理底線。尤其是對于難以識別視頻是否屬于偽造內(nèi)容的未成年人以及中老年人等群體而言,由于缺乏辨別能力,往往選擇相信偽造內(nèi)容,以致引發(fā)倫理危機事件。

四是威脅國家安全。偽造國家領(lǐng)導(dǎo)人講話或者涉軍事視頻、照片可能引發(fā)國際問題,造成國家間對信息的誤判或外交沖突,引發(fā)軍事對峙�？植澜M織利用AI換臉技術(shù)制作虛假宣傳視頻,則會混淆公眾視聽或制造恐慌。

張建忠:AI換臉技術(shù)作為深度合成技術(shù)的一種形式,通過深度學習算法和計算機視覺技術(shù),將一張人臉特征映射到另一張臉上。AI換臉不僅可以進行靜態(tài)圖像置換,還可結(jié)合動作捕捉與語音識別,實現(xiàn)更復(fù)雜的動態(tài)視頻和交互場景。AI換臉技術(shù)具有高度擬真性,能夠捕捉并復(fù)現(xiàn)面部細節(jié),如表情、光照與肌肉運動等,使得最終合成結(jié)果與真實人臉極為相似,通常肉眼難以分辨。隨著技術(shù)普及,許多手機應(yīng)用或在線工具都能一鍵生成換臉內(nèi)容,技術(shù)使用門檻大幅降低。

AI換臉技術(shù)在很多領(lǐng)域展現(xiàn)出積極的應(yīng)用潛力,但其潛在的風險也不容忽視。一是侵犯公民權(quán)利。例如,擅自使用他人肖像制作、傳播惡搞視頻,可能造成名譽侵權(quán);或者通過換臉技術(shù)偽造身份實施電信詐騙,威脅個人財產(chǎn)安全。二是破壞社會公共秩序、商業(yè)秩序。例如,利用換臉技術(shù)偽造重大公共事件、商業(yè)事件的不實視頻,引發(fā)輿論混亂或擾亂市場秩序。三是危害國家安全。例如,通過換臉技術(shù)偽造領(lǐng)導(dǎo)人的發(fā)言視頻,煽動恐怖暴力情緒,教唆進行恐怖活動。四是給司法辦案帶來挑戰(zhàn)。例如,AI換臉技術(shù)被用于視聽資料等證據(jù)材料的偽造,給司法取證與證據(jù)審查帶來挑戰(zhàn),等等。

陰建峰:AI換臉的本質(zhì)是深度偽造技術(shù)的應(yīng)用,核心獨特性在于以數(shù)據(jù)為燃料、算法為引擎的智能生成范式,其技術(shù)特征既體現(xiàn)了深度學習在表征學習和生成任務(wù)上的突破,也凸顯了合成媒體時代技術(shù)倫理與治理的復(fù)雜性。其具有以下特征:

一是高度擬真性。AI換臉技術(shù)通過深度學習算法捕捉源臉部的微表情、肌肉運動、光照變化等動態(tài)特征,實現(xiàn)表情與口型的精準同步以及圖像和視頻中人物面部的精準替換,生成的換臉效果在視覺上高度逼真,幾乎與真實畫面無異。這種高度擬真性不僅體現(xiàn)在靜態(tài)圖像中,更在動態(tài)視頻中展現(xiàn)出流暢自然的替換效果,甚至可以配合合成的聲音進一步增強真實感。

二是成本低廉性。諸如DeepFaceLab、FaceSwap等技術(shù)的開源,降低了技術(shù)接入門檻,推動了技術(shù)普及,制作換臉視頻所需的硬件設(shè)備只需一臺性能較高的普通電腦或者一部手機;同時,通過網(wǎng)絡(luò)爬蟲等技術(shù)可輕松獲取大量人臉圖像作為訓練數(shù)據(jù),大幅降低了數(shù)據(jù)采集成本。這些因素使得AI換臉技術(shù)的操作變得極為便捷且成本極低,幾乎達到了“零門檻”的程度,甚至普通用戶也能通過簡單的App操作實現(xiàn)“一鍵換臉”。

三是場景泛化性。AI換臉技術(shù)可處理不同分辨率、角度甚至藝術(shù)風格的素材,適配影視特效、虛擬主播、元宇宙化身等場景,支持復(fù)雜光照和遮擋環(huán)境下的換臉。通過模型壓縮和邊緣計算,可在手機等移動設(shè)備實現(xiàn)實時視頻換臉。既可結(jié)合語音合成和3D建模技術(shù),實現(xiàn)視聽統(tǒng)一的深度偽造內(nèi)容,也可結(jié)合神經(jīng)渲染技術(shù),在直播或視頻會議中達到毫秒級響應(yīng)。

AI換臉技術(shù)在諸多領(lǐng)域得到了廣泛運用,在給我們的生活帶來巨大便利的同時,也存在潛在的應(yīng)用風險:

一是存在侵犯他人合法權(quán)益的風險。就人格權(quán)益而言,未經(jīng)他人同意將其面部替換到視頻或圖片中,并用于不當場景,如色情視頻、虛假廣告等,會導(dǎo)致被換臉者形象受損、名譽被貶損,給當事人帶來嚴重的社會負面影響,侵犯他人的肖像權(quán)、名譽權(quán)及個人信息相關(guān)權(quán)益。就財產(chǎn)權(quán)益而言,該技術(shù)可能被用于破解人臉識別系統(tǒng),從而非法訪問或竊取個人賬戶、財產(chǎn)信息,導(dǎo)致直接的經(jīng)濟損失。

二是存在虛假信息傳播,引發(fā)社會信任危機。AI換臉技術(shù)生成的圖像具有高度欺騙性,容易滋生虛假信息甚至是網(wǎng)絡(luò)謠言。而虛假信息的快速傳播不僅會損害個人聲譽,還會削弱公眾對媒體、政府和其他權(quán)威信息來源的信任。當公眾難以區(qū)分真實與虛假信息時,社會信任機制將受到嚴重沖擊,導(dǎo)致公眾對各種信息的普遍懷疑,增加社會治理成本,影響誠信社會的建設(shè)。

三是存在危害社會穩(wěn)定和國家安全的風險。利用該技術(shù)偽造政治人物的言論或行為誤導(dǎo)公眾、干擾選舉,會產(chǎn)生嚴重的政治負面影響,進而影響社會穩(wěn)定。如果該技術(shù)被用于合成虛假新聞或恐怖主義宣傳內(nèi)容,則會加劇社會恐慌和分裂,從而對國家的穩(wěn)定和安全造成不可預(yù)測的風險。

高艷東:AI換臉技術(shù)具有以下三個特征:第一,以假亂真性。通過大量的數(shù)據(jù)訓練,模型能夠不斷進化,學習到面部的細節(jié)乃至神態(tài),在視覺上逐漸達到以假亂真的效果,甚至肉眼無法識別。第二,高度人身性。由于個人生物識別信息具有唯一性,換臉視頻可識別并關(guān)聯(lián)到特定自然人。第三,技術(shù)門檻低。隨著人工智能技術(shù)的普及,大量軟件都可以做到AI換臉。

新技術(shù)總有新風險,AI換臉技術(shù)存在如下風險:第一,可能導(dǎo)致社會、法律關(guān)系的混亂。工業(yè)時代的法律都是以自然人為核心而建立起來的,是自然人的法律,而AI換臉技術(shù)可能產(chǎn)生沒有真實對應(yīng)自然人的數(shù)字人,尤其未來智能數(shù)字人的誕生,將打破法律單一主體的局面,法律將面臨“自然人+數(shù)字人”的雙主體困惑。第二,侵犯個人信息和隱私。根據(jù)國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部印發(fā)的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,使用深度合成服務(wù)時,使用者需要取得被編輯個人的單獨同意,AI換臉使用他人的信息尤其是生物識別信息,如果沒有征求對方同意,就會侵犯他人的個人信息權(quán)。

問題二:違法濫用AI換臉技術(shù)面臨哪些法律責任?

主持人:實踐中,由于AI換臉技術(shù)應(yīng)用門檻較低,出現(xiàn)了一些違法濫用行為。這些違法濫用行為有哪些具體表現(xiàn)?行為人可能承擔哪些法律責任?

田宏杰:AI換臉技術(shù)應(yīng)用門檻較低、隱蔽性強,從而常常成為違法犯罪行為使用的工具。實踐中,濫用AI換臉技術(shù)的違法行為目前主要表現(xiàn)為以下三類:一是濫用換臉技術(shù)侵犯個體人格權(quán)益,如未經(jīng)授權(quán)采集、處理人臉特征數(shù)據(jù)等;二是濫用換臉技術(shù)沖擊知識產(chǎn)權(quán)保護機制,如非法截取影視作品、圖像等受著作權(quán)保護的素材實施換臉合成視頻或者圖片等;三是濫用換臉技術(shù)破壞社會管理秩序,如利用深度合成技術(shù)偽造身份認證信息、傳播虛假輿情或?qū)嵤┓墙佑|式詐騙等。

張建忠:AI換臉技術(shù)在推動科技創(chuàng)新和社會進步的同時,在實踐中衍生出了一系列違法濫用行為,需要引起高度重視。在案件辦理中,我們發(fā)現(xiàn)此類技術(shù)被用于違法犯罪,并呈現(xiàn)出復(fù)雜化和多樣化的特點,主要表現(xiàn)包括侵犯人格權(quán)利、傳播違法內(nèi)容、冒用他人身份等。根據(jù)違法行為的性質(zhì)和后果,行為人可能觸犯以下罪名:一是通過偽造視頻或身份實施詐騙,非法獲取財物的,涉嫌詐騙罪。二是利用偽造視頻散布虛假信息,嚴重損害他人名譽的,涉嫌誹謗罪。三是利用AI換臉技術(shù)制作、傳播淫穢內(nèi)容,情節(jié)嚴重的,涉嫌制作、販賣、傳播淫穢物品犯罪。四是制作虛假信息引發(fā)公眾恐慌或擾亂社會秩序,涉嫌危害公共安全、擾亂公共秩序等犯罪。

陰建峰:AI換臉技術(shù)的違法濫用行為在現(xiàn)實中的具體表現(xiàn)多樣且危害深遠,行為人可能面臨以下法律風險:一是民事侵權(quán)的法律風險。未經(jīng)他人同意,擅自將他人的肖像用于視頻、圖片或其他形式的傳播,將構(gòu)成對他人肖像權(quán)的侵犯。二是行政違法的法律風險。行為人違法濫用AI換臉技術(shù)可能面臨多方面的行政違法風險,如未經(jīng)授權(quán)采集、使用或泄露人臉信息,違反了個人信息保護法中關(guān)于敏感個人信息保護的相關(guān)規(guī)定;未對換臉內(nèi)容進行顯著標識或制作、發(fā)布、傳播虛假信息,違反了關(guān)于網(wǎng)絡(luò)信息管理的相關(guān)要求,可能面臨警告、罰款、責令停產(chǎn)停業(yè)等行政處罰。三是刑事犯罪的法律風險。行為人在使用AI換臉技術(shù)時,非法收集、使用或泄露他人的人臉信息等敏感個人信息,可能會構(gòu)成侵犯公民個人信息罪。制作嘲諷或丑化他人的換臉視頻,實施網(wǎng)絡(luò)欺凌或者發(fā)布侮辱性內(nèi)容的,可能構(gòu)成侮辱罪。行為人利用AI換臉技術(shù)制作、傳播含有淫穢內(nèi)容的視頻或圖片,可能構(gòu)成制作、傳播淫穢物品牟利罪或傳播淫穢物品罪。行為人利用AI換臉技術(shù)偽造他人身份,通過視頻通話等方式實施詐騙,騙取他人財物的行為則可能構(gòu)成詐騙罪。制作虛假視頻威脅被害人支付贖金,實施敲詐勒索活動的,可能構(gòu)成敲詐勒索罪。偽造視頻作為法庭證據(jù),干擾司法公正的,可能構(gòu)成偽證罪。

高艷東:根據(jù)違法濫用AI換臉技術(shù)行為的危害程度,行為人可能承擔以下法律責任:首先,違規(guī)使用者可能侵犯隱私權(quán)、肖像權(quán)、著作權(quán)、名譽權(quán)等,以及構(gòu)成不正當競爭,損害消費者利益,需承擔相應(yīng)的民事責任。其次,AI服務(wù)提供者可能因管理不當而受到行政處罰。根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,如果服務(wù)提供者未履行規(guī)定的安全評估、備案、標識等義務(wù),可能會面臨行政處罰。再次,違法使用者可能被追究刑事責任。第一,可構(gòu)成侵犯財產(chǎn)類犯罪。AI換臉視頻可被用于詐騙或敲詐勒索,如偽造色情視頻后向他人索要封口費,可能構(gòu)成詐騙罪或敲詐勒索罪。第二,可構(gòu)成侵犯公民個人信息罪。AI換臉需要收集個人的面部特征,這屬于可以識別到個人的生物信息,如果沒有經(jīng)過他人同意,可能構(gòu)成侵犯公民個人信息罪。第三,可構(gòu)成傳播淫穢物品類犯罪。若利用AI換臉技術(shù)制作淫穢照片和視頻,尤其是將他人的臉部特征植入色情視頻中并傳播,涉嫌傳播淫穢物品罪。

問題三:如何構(gòu)建AI換臉技術(shù)應(yīng)用規(guī)制體系?

主持人:新技術(shù)的應(yīng)用需要一定之規(guī)。當前,我國對AI換臉技術(shù)的違法濫用采取的監(jiān)管手段與規(guī)制措施還存在哪些局限?未來應(yīng)如何進一步建立健全AI換臉技術(shù)應(yīng)用規(guī)制體系,以實現(xiàn)技術(shù)發(fā)展與法律規(guī)則的和諧共生?

田宏杰:為規(guī)范AI換臉技術(shù)的應(yīng)用,我國已基本建立起法律層面的治理框架,通過民事、行政、刑事法律的協(xié)同作用,對AI換臉技術(shù)進行多維度規(guī)制。但是,隨著技術(shù)的迭代升級和濫用行為的日漸增多,現(xiàn)有治理框架和規(guī)制措施的局限亦逐漸顯現(xiàn)出來。一是缺乏專門立法和分級監(jiān)管制度。目前我國規(guī)制AI換臉技術(shù)應(yīng)用的法律規(guī)范分散于民法典、個人信息保護法、網(wǎng)絡(luò)安全法等法律和部門規(guī)章中,尚未針對AI換臉技術(shù)制定專門法律,也尚未根據(jù)風險等級對AI技術(shù)建立分類管理制度。二是數(shù)據(jù)使用限制不足,溯源要求不明確。個人信息保護法雖然規(guī)定了處理人臉等敏感信息需要征得他人同意,但并未明確禁止使用未經(jīng)同意收集的公開數(shù)據(jù)訓練AI。對于AI生成的內(nèi)容雖然規(guī)定了應(yīng)當進行標識,但是并未規(guī)定具體的形式和技術(shù)檢測標準。三是用戶權(quán)利保護不足。AI合成內(nèi)容傳播過程中“生成端”與“發(fā)布端”的時空分離,導(dǎo)致民法典第1195條規(guī)定的“通知—刪除”規(guī)則陷入行為鏈條斷裂的規(guī)制困境。四是缺乏強制性檢測技術(shù)和認證機制。目前對于AI內(nèi)容的檢測和管理主要由平臺自行審核,缺少國家層面的檢測系統(tǒng)或工具,導(dǎo)致監(jiān)管和查處力度明顯不足。五是平臺責任界定模糊。無論是AI訓練模型平臺還是社交平臺,目前僅要求平臺審核用戶輸入內(nèi)容,但未明確平臺對AI生成內(nèi)容的實質(zhì)性審核義務(wù),致使關(guān)涉普通人的侵權(quán)事件因平臺怠于處理而難以得到及時有效處置。

有鑒于此,需以“技術(shù)過程法律化”與“法律要求技術(shù)化”的雙向互動為內(nèi)核,圍繞以下方面進一步健全完善AI換臉技術(shù)的規(guī)制體系,以達成技術(shù)賦能與法律規(guī)制的動態(tài)平衡。一是制定專門立法規(guī)范。有必要突破分散立法模式,探討制定人工智能合成內(nèi)容管理法,確立技術(shù)應(yīng)用負面清單制度,區(qū)分娛樂創(chuàng)作、公共傳播、身份認證等場景設(shè)置差異化合規(guī)標準;同時,引入“技術(shù)過程責任”概念,將訓練數(shù)據(jù)合法性、算法可解釋性納入重點監(jiān)管內(nèi)容。二是升級技術(shù)嵌入治理。推行“防濫用”技術(shù)強制標準,要求開發(fā)者預(yù)置內(nèi)容失效觸發(fā)機制與不可逆數(shù)字水印;推動平臺建立“技術(shù)篩查+人工復(fù)核+第三方評估”的復(fù)合審核機制,根據(jù)內(nèi)容風險等級設(shè)置差異化的審核標準和響應(yīng)時限;構(gòu)建國家級深度偽造檢測平臺,整合微表情分析、虹膜紋理匹配等多模態(tài)鑒別技術(shù),嘗試建立“生成—傳播—消除”的全周期響應(yīng)體系。

張建忠:為了在保障技術(shù)發(fā)展與法治秩序之間實現(xiàn)平衡,實現(xiàn)技術(shù)發(fā)展與法律規(guī)則的和諧共生,我國已制定相關(guān)規(guī)定。首先,在法律層面,民法典對人格權(quán)的保護作出了明確規(guī)定;個人信息保護法明確將生物識別信息納入敏感個人信息范疇;數(shù)據(jù)安全法規(guī)定數(shù)據(jù)處理活動應(yīng)符合國家安全、公共利益的要求等。其次,在行政監(jiān)管層面,《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等對服務(wù)提供者、使用者等進行規(guī)范。再次,在技術(shù)治理層面,部分內(nèi)容平臺建立了技術(shù)識別和審核機制,運用算法或水印技術(shù)標記AI生成或深度偽造內(nèi)容,對違規(guī)或高風險內(nèi)容實施警示、下架或封禁等處置手段。

盡管我國已在立法、行政和司法層面進行了積極探索,但仍存在以下不足:一是現(xiàn)有規(guī)定多散見于不同層級、不同領(lǐng)域的法規(guī)政策,尚未針對AI換臉或深度偽造進行專門立法,導(dǎo)致規(guī)制體系較為分散,系統(tǒng)性和針對性不足。二是面對深度偽造、AI換臉等快速迭代的技術(shù),監(jiān)管部門檢測與溯源手段多依賴相關(guān)企業(yè)或機構(gòu)的技術(shù)儲備,亟須建立統(tǒng)籌的檢測標準和行業(yè)規(guī)范。三是技術(shù)開發(fā)企業(yè)的合規(guī)管理機制仍有待完善。尤其是對客戶的使用追蹤與風險評估較為薄弱,部分平臺缺乏針對用戶上傳內(nèi)容的嚴格審核流程,導(dǎo)致大量違法或不當?shù)暮铣蓛?nèi)容可能在短期內(nèi)流轉(zhuǎn)、擴散,難以及時發(fā)現(xiàn)、下架與追責。

未來可通過立法、行政、技術(shù)、社會以及國際多維度協(xié)作,建立健全具有前瞻性、系統(tǒng)性和針對性的規(guī)制體系,確保技術(shù)發(fā)展造福社會。一是明確技術(shù)應(yīng)用的邊界、使用規(guī)則以及違法責任追究機制,重點關(guān)注技術(shù)開發(fā)者、服務(wù)平臺和使用者的權(quán)責邊界,構(gòu)建全面的責任鏈條。二是明確技術(shù)平臺和內(nèi)容平臺的審查義務(wù),要求相關(guān)平臺對AI合成內(nèi)容進行檢測與標注,并在出現(xiàn)違法或高風險內(nèi)容時及時預(yù)警和處置。三是推動技術(shù)創(chuàng)新,支持科研機構(gòu)與企業(yè)開發(fā)更加高效的識別算法與溯源技術(shù),如數(shù)字指紋、水印技術(shù)等,加強對換臉內(nèi)容的真實性驗證工具研發(fā)。四是加強與國際社會的交流與合作,可以在全球范圍內(nèi)建立信息共享和執(zhí)法合作機制,借鑒域外經(jīng)驗,推動更廣泛的國際規(guī)則對接,形成跨國打擊AI技術(shù)濫用行為的聯(lián)動網(wǎng)絡(luò)。

陰建峰:我國通過過完善法律規(guī)范、強化行政監(jiān)管的方式,對AI換臉技術(shù)的違法濫用行為進行嚴格監(jiān)管和規(guī)制。這些措施不僅有效遏制了技術(shù)濫用帶來的風險,也為技術(shù)的合理應(yīng)用提供了法律保障,但還存在一些局限:一是我國對于AI換臉技術(shù)法律規(guī)制采取分散化的立法模式,導(dǎo)致不同法律規(guī)范之間缺乏有效銜接,存在用語、定性不一致甚至存在沖突的情況。二是專門性規(guī)范效力位階偏低,規(guī)制力度較弱。雖然民法典、個人信息保護法等高位階法律對個人信息和人格權(quán)保護提供了基礎(chǔ)框架,但這些法律的條款較為原則化,對于AI換臉技術(shù)的具體應(yīng)用場景和細節(jié)問題缺乏針對性的詳細規(guī)定�，F(xiàn)有專門性規(guī)范多以部門規(guī)章或規(guī)范性文件的形式出現(xiàn),效力層級相對較低,難以對復(fù)雜的技術(shù)應(yīng)用進行全面、系統(tǒng)的約束。三是法律規(guī)范內(nèi)容偏原則,缺乏進一步的細化、解釋。《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》雖然對深度合成服務(wù)提供者、使用者及應(yīng)用程序分發(fā)平臺應(yīng)當履行的義務(wù)等作出了原則性規(guī)定,但并未限制AI換臉技術(shù)的應(yīng)用范圍和目的,也未對其使用者設(shè)定資格條件。此外,相關(guān)規(guī)范對于責任主體的認定和責任的劃分也缺乏明確的規(guī)定,由此導(dǎo)致受害者維權(quán)困難。

健全完善AI換臉技術(shù)的規(guī)制體系可從以下方面著手:一是針對AI換臉技術(shù)構(gòu)建系統(tǒng)全面的法律體系。制定統(tǒng)一上位法,提高立法效力位階,并明確規(guī)定統(tǒng)一的安全責任底線和基本使用標準,包括必要性原則、知情同意原則、第三方監(jiān)督機制以及損害賠償機制等內(nèi)容,增強法律的權(quán)威性和系統(tǒng)性。優(yōu)化規(guī)則供給機制,加強復(fù)合型規(guī)范治理。應(yīng)對新興技術(shù)引發(fā)的法律問題,特別重視軟法的功用,發(fā)揮好軟法規(guī)則小而精、快而準、迅捷靈活治理的優(yōu)勢,建立人工智能安全標準、倫理準則和行業(yè)自律規(guī)范,推動行業(yè)的自治自律。二是細化現(xiàn)有的法律規(guī)定,對一些關(guān)鍵性問題予以及時回應(yīng)。確立以區(qū)分應(yīng)用場景前提下的合理使用為基本規(guī)制原則,根據(jù)不同場景的風險程度和利益平衡,制定差異化的規(guī)制措施。對違法主體法律責任的承擔予以明確規(guī)定。例如,明確侵權(quán)責任主體的認定及責任劃分標準,在民事責任領(lǐng)域考慮設(shè)立懲罰性賠償機制,在刑事制裁方面考慮適用禁止令。

高艷東:目前,我國能夠直接對AI換臉技術(shù)進行監(jiān)管的規(guī)定如下:一是國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國家廣播電視總局《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》,要求網(wǎng)絡(luò)音視頻信息服務(wù)提供者和服務(wù)使用者在制作、發(fā)布、傳播基于深度學習、虛擬現(xiàn)實等的新技術(shù)新應(yīng)用所生成的非真實音視頻信息時,以顯著方式予以標識。二是國家互聯(lián)網(wǎng)信息辦公室《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》,雖然不是專門針對AI換臉,但其強調(diào)對于包括但不限于深度偽造在內(nèi)的新技術(shù)應(yīng)用需要加強規(guī)范管理,對于非真實音視頻信息應(yīng)該以顯著方式予以標識,這間接適用于AI換臉技術(shù)。三是國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》,提到了對五類(包括生成合成類)算法設(shè)立一般性義務(wù)規(guī)則,并且提到,發(fā)現(xiàn)未作顯著標識的算法生成合成信息時應(yīng)作出顯著標識后才能繼續(xù)傳輸。四是《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,這是我國首部專門針對深度合成領(lǐng)域的法律文件,明確規(guī)定了深度合成服務(wù)提供者的責任,包括用戶身份認證、內(nèi)容審核、特征庫建立以及違法不良信息的處置等。五是國家互聯(lián)網(wǎng)信息辦公室等7部門《生成式人工智能服務(wù)管理暫行辦法》,為生成式人工智能服務(wù)提供了初步的管理框架,涵蓋了從研發(fā)到部署的整個生命周期。

雖然我國出臺了一系列規(guī)定,但仍存在法律位階較低、責任主體不明、監(jiān)管盲區(qū)較大等問題,未來的監(jiān)管應(yīng)把握以下三點:一是明確合理使用原則。區(qū)分應(yīng)用場景,以應(yīng)用場景為基本出發(fā)點選擇加強管制還是放松管制,確保技術(shù)向善。二是建立全鏈條多主體的監(jiān)管規(guī)則。一方面,利益鏈條上建立健全“事前備案—事中內(nèi)容審查—事后處罰”的監(jiān)管體系;另一方面,明確技術(shù)開發(fā)者、平臺運營者、使用者的法律責任。三是加強國際合作。與國際社會合作,共同應(yīng)對AI換臉技術(shù)帶來的挑戰(zhàn),分享技術(shù)和經(jīng)驗,加強司法協(xié)作,形成全球治理合力。

問題四:檢察機關(guān)如何在依法履職中加強對AI換臉技術(shù)應(yīng)用的法律監(jiān)督?

主持人:AI換臉技術(shù)的違法濫用嚴重威脅個人利益、國家和社會公共利益。檢察機關(guān)在履職辦案中,如何加強對AI換臉技術(shù)應(yīng)用的法律監(jiān)督?

田宏杰:AI換臉技術(shù)帶來的法律和倫理問題不容忽視,檢察機關(guān)作為憲法規(guī)定的法律監(jiān)督機關(guān),可重點圍繞以下方面加強對AI換臉技術(shù)應(yīng)用的法律監(jiān)督。一是建立刑事追責與公益訴訟并行機制。基于AI換臉技術(shù)的多重違法性特征,在依據(jù)刑法對涉罪行為追究刑事責任的同時,檢察機關(guān)可視案情同步推進民事公益訴訟,以確保當事人的合法權(quán)益得到及時保護。尤其是對于侵害不特定多數(shù)人生物識別信息安全的案件,通過公益訴訟程序的及時介入,能夠在保護公共利益、追究行為人刑事責任的同時,實現(xiàn)對當事人“停止侵權(quán)+損害賠償”的復(fù)合救濟。二是強化行刑銜接機制。檢察機關(guān)可聯(lián)合網(wǎng)信、公安等部門,建立違法線索雙向移送機制,對違法案件中的犯罪線索及時立案。明確證據(jù)轉(zhuǎn)化要求與電子數(shù)據(jù)固定標準,推動建立跨部門技術(shù)鑒定與評估體系。針對疑難案件,檢察機關(guān)可通過適時介入引導(dǎo)偵查取證,并為技術(shù)違法行為的定性提供指導(dǎo)。三是推進企業(yè)整改。檢察機關(guān)應(yīng)結(jié)合辦案積極向企業(yè)發(fā)送整改建議,督促企業(yè)進行算法安全評估和素材來源合規(guī)審查,并指導(dǎo)整改。四是推動建立跨國司法協(xié)作機制。針對跨境服務(wù)器托管、虛擬貨幣支付等黑灰產(chǎn)環(huán)節(jié),以檢察機關(guān)為主體推進國際交流與合作,完善電子證據(jù)跨境調(diào)取與聯(lián)合執(zhí)法程序。

張建忠:作為法律監(jiān)督機關(guān),檢察機關(guān)肩負著保障法律統(tǒng)一正確實施、保護國家利益和社會公共利益的重要職責。檢察機關(guān)在AI換臉技術(shù)法律監(jiān)督中應(yīng)以問題為導(dǎo)向,充分發(fā)揮引導(dǎo)偵查、公益訴訟、檢察建議等職能,為技術(shù)治理提供法治保障。具體可從以下方面著力:一是依法追究刑事責任,形成司法震懾。對于利用AI換臉技術(shù)實施詐騙、傳播淫穢內(nèi)容等犯罪行為,檢察機關(guān)應(yīng)嚴格依照刑法追責,維護法律權(quán)威和社會秩序。對于重大案件,適時介入引導(dǎo)偵查機關(guān)精準取證,尤其是針對技術(shù)鏈條和責任主體的溯源偵查,深挖幕后組織者和核心技術(shù)提供者。二是充分發(fā)揮公益訴訟職能。對因監(jiān)管缺失導(dǎo)致違法內(nèi)容廣泛傳播的平臺或技術(shù)提供方,檢察機關(guān)可以依法提起公益訴訟,倒逼相關(guān)平臺和技術(shù)提供方盡快完善合規(guī)管理,主動加強內(nèi)容審核與風險防范措施。三是強化檢察建議,完善監(jiān)管制度。在案件辦理過程中,發(fā)現(xiàn)監(jiān)管漏洞,檢察機關(guān)應(yīng)及時向相關(guān)部門提出完善建議。針對平臺內(nèi)容審核、標注等不足之處,通過檢察建議督促其履行主體責任。通過不斷跟進建議執(zhí)行情況,實現(xiàn)對違法合成內(nèi)容的事前、事中和事后全流程監(jiān)督。四是建立聯(lián)動機制,提高監(jiān)督效率。檢察機關(guān)應(yīng)當與網(wǎng)信、公安等部門建立聯(lián)動機制,實現(xiàn)信息共享、技術(shù)共用和資源整合,提高監(jiān)督效率。五是加強法治宣傳教育,提升社會防范意識。充分利用新媒體平臺和線下普法活動,向公眾普及深度偽造技術(shù)的風險與辨別方法;同時增強技術(shù)使用者的責任感與底線意識,共同抵制和舉報涉AI換臉違法行為,推動行業(yè)自律與社會共治。

陰建峰:檢察機關(guān)在依法履職辦案中,應(yīng)通過多種手段加強對AI換臉技術(shù)應(yīng)用的法律監(jiān)督,確保AI換臉技術(shù)在合法合規(guī)的軌道上運行。一是提高法律監(jiān)督的精準性和有效性。一方面,利用好大數(shù)據(jù)和人工智能技術(shù)。積極應(yīng)用大數(shù)據(jù)法律監(jiān)督模型,通過數(shù)據(jù)分析、模型預(yù)測等手段,建立AI換臉技術(shù)檢測機制,精準發(fā)現(xiàn)AI換臉技術(shù)濫用的線索,提高監(jiān)督的針對性和有效性。另一方面,探索建立針對AI換臉技術(shù)濫用的公益訴訟制度,通過提起公益訴訟的方式,維護公民個人信息安全和社會公共利益。此外,檢察機關(guān)還可以通過公益訴訟推動相關(guān)技術(shù)治理和源頭防控,督促技術(shù)開發(fā)者和使用者履行法律責任。二是加強跨部門協(xié)作和信息共享。檢察機關(guān)可以與公安、網(wǎng)信等部門加強協(xié)作,共同打擊利用AI換臉技術(shù)進行詐騙、傳播淫穢物品等違法犯罪行為。通過信息共享、線索移送等方式,形成合力,提高打擊效果。此外,針對AI換臉技術(shù)濫用的行為,檢察機關(guān)可以與其他執(zhí)法部門共同開展專項整治等活動,加強對該技術(shù)的監(jiān)管和治理。三是針對AI換臉技術(shù)濫用的新型案件,制定司法解釋,發(fā)布指導(dǎo)性案例,明確案件的定性、量刑標準等,為司法實踐提供指導(dǎo)和參考。四是加強宣傳教育和預(yù)防工作。通過開展法治宣傳和警示教育,增強公眾對AI換臉技術(shù)濫用危害的認識和防范意識,引導(dǎo)公眾正確使用AI換臉技術(shù),避免將其用于違法或不當用途。例如,通過公開庭審、媒體報道等方式,向社會公眾普及相關(guān)法律法規(guī),引導(dǎo)公眾在使用新技術(shù)時遵守法律和道德規(guī)范。

高艷東:對于AI換臉,法律應(yīng)當采用“不管私用、嚴管公用”的思路。檢察機關(guān)應(yīng)采取更積極措施,防止技術(shù)被惡意濫用。第一,監(jiān)督公安機關(guān)、行政監(jiān)管部門的執(zhí)法工作。加強與公安、網(wǎng)信等部門合作,共同構(gòu)建高效的案件偵辦體系。對于涉及AI換臉的刑事案件,如詐騙、誹謗等,適時介入引導(dǎo)取證,利用專業(yè)技術(shù)手段固定證據(jù)。同時,促進社會共治,與網(wǎng)信、公安等部門建立常態(tài)化的信息共享和協(xié)作機制,共同加強對AI換臉技術(shù)的監(jiān)管。第二,探索人工智能技術(shù)應(yīng)用領(lǐng)域的公益訴訟職能。針對AI換臉引發(fā)的新類型侵權(quán)糾紛,可嘗試采用公益訴訟等形式維護不特定多數(shù)人的合法權(quán)益。特別是當個人受害者難以單獨提起訴訟時,由檢察機關(guān)啟動公益訴訟程序。對明確的侵權(quán)主體,可向法院提起民事公益訴訟,要求侵權(quán)人停止侵害、消除影響、恢復(fù)名譽、賠償損失等;若相關(guān)職能部門監(jiān)管不到位,則啟動行政公益訴訟進行法律監(jiān)督。第三,推動法律完善。檢察機關(guān)在辦案過程中積累了豐富的AI換臉技術(shù)相關(guān)案件經(jīng)驗,可根據(jù)最新技術(shù)發(fā)展特點,針對已有規(guī)定的不足,向立法機關(guān)提出完善相關(guān)法律法規(guī)的建議。

(此為刪減版,詳情請閱讀《人民檢察》2025年第9期)