幾句引導(dǎo)性的文字,加上一份售價(jià)不到10元的專用“提示詞”,就能設(shè)定好人物形象、動(dòng)作細(xì)節(jié)乃至鏡頭效果,生成一段“大尺度視頻”。近日,央視《財(cái)經(jīng)調(diào)查》曝光了一條借助生成式人工智能,批量制造色情、擦邊內(nèi)容并以此牟利的“造黃”產(chǎn)業(yè)鏈。從教程兜售、模板分發(fā),到引流變現(xiàn)、規(guī)避審核,相關(guān)違法行為已成為一門規(guī)模不小的生意,值得社會(huì)高度警惕。

與過去的涉黃視頻依賴人工拍攝或素材拼接不同,在這條產(chǎn)業(yè)鏈中,只需使用AI工具,任何人都能批量生成此類內(nèi)容,且可以反復(fù)調(diào)整、迎合受眾偏好,其傳播門檻被壓得極低。借助圖片生成、換臉等功能,虛構(gòu)影像可能指向具體個(gè)人,很容易侵犯他人合法權(quán)益。

本應(yīng)用于提高社會(huì)生產(chǎn)力的技術(shù),被有心人用作違法行為的工具,這不是技術(shù)本身的問題,而是治理環(huán)境的問題。上述報(bào)道提到,一些商家一邊賣教程,一邊教人如何繞開審核,改寫提示詞、替換關(guān)鍵詞,以便讓系統(tǒng)“看不出來”。這說明平臺(tái)并非毫無約束,只是規(guī)則易于規(guī)避,才讓鉆空子、打擦邊球的行為屢禁不絕。

當(dāng)前,我國對(duì)生成式人工智能已經(jīng)作出了一系列具體規(guī)范。如《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》就明確要求:提供深度合成服務(wù),應(yīng)當(dāng)遵守法律法規(guī),尊重社會(huì)公德和倫理道德,堅(jiān)持正確政治方向、輿論導(dǎo)向、價(jià)值取向,促進(jìn)深度合成服務(wù)向上向善。結(jié)合此次曝光的情況看,當(dāng)前的AI“造黃”亂象,其癥結(jié)并不在于無規(guī)可依。加強(qiáng)監(jiān)管與治理,重點(diǎn)在于規(guī)則能落地、有效落地。

對(duì)AI服務(wù)提供者而言,需要把責(zé)任壓實(shí)到生成和分發(fā)的關(guān)鍵環(huán)節(jié),既要識(shí)別結(jié)果,也要識(shí)別生成過程,對(duì)提示詞及其變形保持更高敏感度。對(duì)以售賣相關(guān)教程、提示詞牟利的行為,也有必要明確其性質(zhì),使其無法再以“經(jīng)驗(yàn)分享”等名義游走于監(jiān)管盲區(qū)。這類有組織的“造黃”鏈條,理應(yīng)成為執(zhí)法和治理的優(yōu)先對(duì)象。

對(duì)普通用戶來說,在使用AI生成內(nèi)容時(shí),也務(wù)必要認(rèn)清其中的法律風(fēng)險(xiǎn)。無論是參與制作、傳播涉黃內(nèi)容,還是以其他方式濫用技術(shù),一旦逾越法律法規(guī)的邊界,便要承擔(dān)相應(yīng)的責(zé)任。如果涉嫌侵害他人權(quán)利,更將付出沉重代價(jià)。

技術(shù)不能突破社會(huì)規(guī)范的底線,對(duì)已經(jīng)成形的違法產(chǎn)業(yè)鏈,越早看清其危害并出手治理,社會(huì)要付出的代價(jià)就越小。把規(guī)則立住,把責(zé)任壓實(shí),既是維護(hù)網(wǎng)絡(luò)空間秩序的需要,也是對(duì)個(gè)人權(quán)益的保護(hù)。