9.9元就能輕松購得“利用AI技術(shù)制作色情擦邊視頻”教程;發(fā)布售賣AI生成擦邊視頻“提示詞”,稱只需復(fù)制到AI軟件即可獲得擦邊視頻;開發(fā)灰色通道,供用戶下載境外大尺度涉黃AI聊天軟件……目前,部分不法商家、網(wǎng)絡(luò)博主公開售賣各類“秘籍”,以傳授人工智能生成色情內(nèi)容的方法非法牟利,已形成一條產(chǎn)業(yè)鏈(據(jù)央視《財經(jīng)調(diào)查》4月12日報道)。

幾張普通照片、幾句簡單指令,再花幾塊錢買個所謂“教程”,就能批量生成低俗色情內(nèi)容,甚至靠傳播牟利。AI“造黃”門檻低、傳播快,讓違法成本變得更低,危害無須多言。

事實上,監(jiān)管紅線早已劃定。根據(jù)2023年8月起施行的《生成式人工智能服務(wù)管理暫行辦法》和2025年11月正式實施的《網(wǎng)絡(luò)安全技術(shù) 生成式人工智能服務(wù)安全基本要求》,提供和使用生成式人工智能服務(wù),不得生成暴力、淫穢色情等內(nèi)容,還要對明顯誘導(dǎo)生成違法不良信息的問題拒絕回答。這不僅為服務(wù)提供者和使用者設(shè)定了基本準則,也說明兜售人工智能“造黃”教程,幫助使用者“造黃”同樣違反監(jiān)管要求。

進一步講,部分不法分子挖空心思教人“鉆空子”,精心設(shè)計隱晦提示詞、將敏感詞翻譯為英文、教唆使用境外軟件或本地離線部署,從而規(guī)避限制機制,此類行為雖未直接提供“造黃”軟件,亦未直接生成色情淫穢信息牟利,卻能夠為AI“造黃”相關(guān)違法違規(guī)行為提供關(guān)鍵幫助,其社會危害性也不可小覷。

此前,中央網(wǎng)信辦部署開展的“清朗·整治AI技術(shù)濫用”專項行動,曾明確將傳授、售賣違規(guī)AI產(chǎn)品教程和商品等作為重點打擊對象。這也傳遞出一個信號:為利用AI技術(shù)實施不法活動提供引導(dǎo)和幫助的行為,已經(jīng)引發(fā)監(jiān)管部門高度關(guān)注,且被納入重點懲治范圍。

值得欣慰的是,約束AI濫用的“籠子”也在越扎越緊。將于今年7月15日施行的《人工智能擬人化互動服務(wù)管理暫行辦法》明確規(guī)定,提供擬人化互動服務(wù)時,不得傳播淫穢、色情、暴力等內(nèi)容,進一步明確了安全評估和算法備案的相關(guān)要求,還對未成年人和老年人使用擬人化互動服務(wù)作出了相關(guān)規(guī)定�？梢�,隨著一系列監(jiān)管政策的出臺與落地,打擊傳授AI“造黃”行為、斬斷相關(guān)產(chǎn)業(yè)鏈的依據(jù)愈發(fā)堅實。

AI“造黃”看似是新技術(shù)帶來的新問題,實際上是老套路披上了新馬甲。解決的方法依然是拿起法律利器,嚴格監(jiān)管、持續(xù)整治。

“造黃”教程可以公開兜售、“提示詞”真能獲得擦邊視頻,這也說明,安全攔截依然是整治AI“造黃”的重中之重。AI服務(wù)提供者理應(yīng)把好“第一道關(guān)”,嚴格落實訓(xùn)練數(shù)據(jù)管理與過濾職責(zé),筑牢防范AI“造黃”的前置防線。監(jiān)管部門也要緊跟AI“造黃”產(chǎn)業(yè)鏈演變特點,及時調(diào)整細化監(jiān)管措施,督促平臺清理兜售AI“造黃”教程的信息,封堵境外涉黃AI軟件流入的灰色通道,讓監(jiān)管真正做到常態(tài)化、不松懈。