應對“水軍”等網(wǎng)絡黑灰產(chǎn),平臺不能“唯流量”,而要將內(nèi)容的真實性、建設性納入推流權重,將公序良俗和社會價值納入算法視野,讓惡意炒作失去經(jīng)濟動力;應升級技術手段,建立異常內(nèi)容的分發(fā)熔斷機制,防止謠言利用算法漏洞實現(xiàn)病毒式傳播。

“死鴨子嘴硬,月銷量沒突破過四位數(shù)”“交付遙遙無期,投訴榜遙遙領先”……據(jù)新華社報道,近期,山東煙臺警方抓獲兩個專門炒作新能源汽車負面信息的新型網(wǎng)絡“水軍”團伙,關停網(wǎng)絡賬號8000余個。辦案民警介紹,相較于過去以“造謠引流”“輿情敲詐”“有償刪發(fā)帖”等為目的的網(wǎng)絡“水軍”案件,新型網(wǎng)絡“水軍”不敲詐、不收費、不引流,利用AI技術等批量炮制“黑稿”,“量大管飽”,只掙平臺流量費。

“水軍”一直是網(wǎng)絡空間的“毒瘤”。以往模式下,他們或是“拿錢辦事”,替雇主貶損、抹黑對手企業(yè),或是把企業(yè)當“搖錢樹”,以“刪帖”“撤稿”為名進行敲詐。隨著新技術的發(fā)展,這一群體呈現(xiàn)出新變化。在AI的加持下,只需輸入關鍵詞,大模型便能根據(jù)各平臺的風格,迅速生成大量細節(jié)豐富、煽動性強的“黑稿”,由此,這些“水軍”僅靠平臺的流量費就能賺得盆滿缽滿。

“一個人就是一支隊伍”,新型“水軍”造謠成本低、生產(chǎn)效率高,破壞力極強。不法分子往往抓住企業(yè)上市、融資、新品發(fā)布等關鍵節(jié)點,批量生成、地毯式推送“黑稿”,影響著消費者的決策,極大損害了企業(yè)的商譽和經(jīng)濟利益。同時,這些“流量套利者”的無差別攻擊,還會讓企業(yè)同行陷入互相猜忌攻訐,損耗寶貴的精力。從監(jiān)管角度看,AI生成的文案角度參差、表述各異,巧妙偽裝成網(wǎng)友的吐槽,給治理增加了難度。

近年來,被新型“水軍”盯上的,不只新能源車企。從長期網(wǎng)暴明星運動員,到屢屢攻擊知名民營企業(yè),再到對一些社會新聞、熱點事件添油加醋,“誰紅蹭誰”“誰熱黑誰”,其危害已從網(wǎng)絡空間蔓延到現(xiàn)實社會。

新型“水軍”吃上“流量飯”,是對平臺“游戲規(guī)則”的精準利用。當下,不少平臺流量分成的關鍵指標是閱讀量、互動量、完播率,而那些情緒化、爆料性的內(nèi)容往往更能引來關注;同時,一些平臺的算法只看熱度不問真假,“黑稿”因此被推向更多人,“水軍”也能獲益更多。當流量成為舉足輕重的“指揮棒”,平臺推薦什么,“水軍”就生產(chǎn)什么。

作為數(shù)字時代的重要基礎設施,社交平臺的發(fā)展應當與社會文明的進步同頻共振。應對“水軍”等網(wǎng)絡黑灰產(chǎn),一方面,平臺不能“唯流量”,而要“唯真唯實”“唯善唯美”,將內(nèi)容的真實性、建設性納入推流權重,將公序良俗和社會價值納入算法視野,讓惡意炒作失去經(jīng)濟動力;另一方面,應升級技術手段,建立異常內(nèi)容的分發(fā)熔斷機制,當某個領域、實體或個人在短時間內(nèi)出現(xiàn)大量負面內(nèi)容,平臺應當啟動核查程序,防止謠言利用算法漏洞實現(xiàn)病毒式傳播。

治理新型“水軍”,監(jiān)管層面正在積極部署。去年,中央網(wǎng)信辦開展“清朗·整治AI技術濫用”專項行動,其中重點整治利用AI從事網(wǎng)絡水軍活動,包括利用AI技術“養(yǎng)號”、洗稿、批量點贊跟帖評論等。從長遠看,打擊不斷進化的“水軍”群體,還需要更多主體積極探索、主動作為。例如,針對人工智能成為“水軍”的“外援”,技術提供方應直面如何有效限制此類內(nèi)容生成;以往案件多以敲詐勒索、非法經(jīng)營定罪判罰,而新型“水軍”不交易也不敲詐,法律層面的規(guī)制應盡快提上日程;“流量商人”狡兔三窟,普通網(wǎng)友應該提升辨別能力。

新技術讓謠言生成更加輕而易舉,也不斷改變著“水軍”“黑產(chǎn)”的運行方式。今天網(wǎng)絡“水軍”瞄準的是新能源汽車,明天就可能是任何行業(yè)、任何人。面對“水軍”的進化,相關治理思路需要及時更新,讓規(guī)則跑在技術前面,讓制度跑在風險前面,合力守護和諧、清朗的網(wǎng)絡社會秩序。