【摘要】人工智能時代的網(wǎng)絡(luò)水軍技術(shù)高超、行為隱蔽、規(guī)模龐大，極易破壞信息真實性，繼而影響和操縱輿論。這種操縱不僅扭曲公共議程，持續(xù)的虛假信息和負(fù)面言論的傳播還可能逐漸侵蝕社會信任和公民的道德標(biāo)準(zhǔn)，導(dǎo)致公共空間的討論質(zhì)量下降。對此，建議加強監(jiān)管和懲治力度，完善相關(guān)法律法規(guī)；不斷創(chuàng)新技術(shù)，優(yōu)化現(xiàn)有識別工具和技術(shù)；引入?yún)^(qū)塊鏈技術(shù)，提升信息溯源能力；加強實名驗證和用戶行為分析；完善和簡化用戶舉報機制；提升公眾媒介素養(yǎng)；加強企業(yè)社會責(zé)任，制定危機管理計劃等。
【關(guān)鍵詞】人工智能 網(wǎng)絡(luò)水軍 輿論
【中圖分類號】D602 【文獻標(biāo)識碼】A
隨著信息傳播技術(shù)的飛速發(fā)展，受眾越來越依賴于諸如微博之類的社交媒體平臺來獲取信息，并將其作為了解新聞的重要渠道。然而，在便捷的信息獲取方式背后，潛藏著一些令人憂慮的問題，如微博熱搜榜上頻繁出現(xiàn)的一些熱門話題，看似是社會關(guān)注的焦點，但并不完全反映真實的社會關(guān)切。事實上，有些熱搜話題可能是網(wǎng)絡(luò)水軍制造出的假象，這些有組織的網(wǎng)絡(luò)團隊借助先進的傳播手段，人為地推高某些話題的熱度，引導(dǎo)公眾關(guān)注焦點，從而操縱輿論。人工智能時代，網(wǎng)絡(luò)水軍借助各種新技術(shù)、新手段、新平臺，操縱輿論更隱蔽、更高效、也更難以辨別。
網(wǎng)絡(luò)水軍的發(fā)展演進
網(wǎng)絡(luò)水軍是指那些由商業(yè)利益驅(qū)動，為達到如影響網(wǎng)絡(luò)民意、擾亂網(wǎng)絡(luò)環(huán)境等不正當(dāng)目的，通過操縱軟件機器人或水軍賬號，在互聯(lián)網(wǎng)中制造、傳播虛假意見和垃圾信息等網(wǎng)絡(luò)垃圾意見產(chǎn)生者的總稱。網(wǎng)絡(luò)水軍是一種通過人為手段攫取網(wǎng)絡(luò)影響力服務(wù)于私人目的的工具，其方式是充分利用UGC的機制和特點，通過各種手段，如針對網(wǎng)絡(luò)情緒化消費需求編制特定內(nèi)容，配以驚悚標(biāo)題“博眼球”，從而吸引網(wǎng)絡(luò)關(guān)注和流量，并不斷“自我論證”最終達到攫取網(wǎng)絡(luò)影響力的效果。隨著互聯(lián)網(wǎng)的迅猛發(fā)展，網(wǎng)絡(luò)水軍作為一個獨特的現(xiàn)象，其演變與技術(shù)進步、媒體環(huán)境的變遷以及社會需求的演化緊密相連。網(wǎng)絡(luò)水軍從最初的粗糙操作逐漸演變成模式化、產(chǎn)業(yè)化的新趨勢，這一過程不僅揭示了技術(shù)與社會需求相互作用的結(jié)果，還反映了互聯(lián)網(wǎng)時代信息傳播的復(fù)雜性和多樣性。以時間線為脈絡(luò)梳理網(wǎng)絡(luò)水軍的演進歷程與特點如下：
初始階段（2005-2009年）：論壇時代興起，影響力有限。早期的網(wǎng)絡(luò)水軍源于2005年前后在網(wǎng)絡(luò)論壇和社區(qū)中活動的網(wǎng)絡(luò)推手，他們主要通過創(chuàng)建管理多個賬號進行定向發(fā)帖或回帖、散布虛假信息、惡意傳播信息等手段以達到某種目的。這一時期，網(wǎng)絡(luò)水軍的操作相對簡單，主要依賴數(shù)量取勝。因其在網(wǎng)絡(luò)論壇和社區(qū)有一定的影響力，開始有人雇傭他們推廣產(chǎn)品或服務(wù)。但由于當(dāng)時的互聯(lián)網(wǎng)用戶相對較少，加之技術(shù)限制，網(wǎng)絡(luò)水軍的活動并未形成大規(guī)模影響，相關(guān)報道和公眾的關(guān)注都比較少。
發(fā)展階段（2009-2010年）：社交媒體時代興起，開始組織化和商業(yè)化運作。隨著技術(shù)的不斷發(fā)展和微博等社交媒體平臺的興起，網(wǎng)絡(luò)水軍開始利用輔助軟件實現(xiàn)賬號的批量注冊、自動發(fā)布、管理多個賬號等功能，在微博等平臺進行操作。這一階段的網(wǎng)絡(luò)水軍逐漸走向組織化，形成專業(yè)的團隊和公司，開始被更多商業(yè)利益所利用，除了發(fā)帖和回帖，還通過轉(zhuǎn)發(fā)、評論、點贊等方式迅速擴散信息或觀點，如通過刷好評提升產(chǎn)品銷量，或通過散布負(fù)面信息打擊競爭對手等，為客戶提供全方位的網(wǎng)絡(luò)推廣和輿情管理服務(wù)。他們還招募大量普通網(wǎng)友或收買控制某些實名認(rèn)證賬號代為發(fā)帖，在網(wǎng)絡(luò)上發(fā)布虛假信息、刷評論等，以達到某種目的。比起初始階段，這個階段的水軍模式成本低、客戶范圍廣。
爆發(fā)性增長階段（2011-2015年）：社交媒體深度應(yīng)用，開始專業(yè)化和協(xié)同化運作。2011年至2015年期間，社交媒體平臺的功能不斷豐富和優(yōu)化，尤其微信的啟用和普及，為網(wǎng)絡(luò)水軍提供了更加多樣化的操作手段。例如，通過策劃話題、發(fā)起投票、組織線上活動等，有效吸引網(wǎng)民參與并操縱輿論方向。在這個階段，網(wǎng)絡(luò)水軍開始呈現(xiàn)出更明顯的專業(yè)化和協(xié)同化特征，越來越多的網(wǎng)絡(luò)營銷公司提供專業(yè)的網(wǎng)絡(luò)水軍服務(wù)，業(yè)務(wù)范圍涵蓋品牌推廣、形象塑造、輿情控制等多個方面。同時，網(wǎng)絡(luò)水軍的操作手法也更為精細(xì)，包括制造假新聞、使用僵尸粉等手段，其隱蔽性和迷惑性也大大增強。
產(chǎn)業(yè)化發(fā)展階段（2016年-至今）：AI技術(shù)介入，開始產(chǎn)業(yè)化和模式化運作。大數(shù)據(jù)和人工智能技術(shù)的應(yīng)用，使網(wǎng)絡(luò)水軍的行動更為精準(zhǔn)和高效。網(wǎng)絡(luò)水軍開始采用更加隱蔽的手段操控網(wǎng)絡(luò)流量，如通過模擬正常用戶行為規(guī)避平臺監(jiān)測，或是利用AI生成的內(nèi)容進行互動，其危害性和隱蔽性都顯著提高。通過使用AI技術(shù)，網(wǎng)絡(luò)水軍能夠生成更加逼真的賬號、自動產(chǎn)生大量具有針對性的內(nèi)容，甚至模擬人類的情感和反應(yīng)進行互動。這種技術(shù)的使用大大降低了人力資源的需求，同時提高了操作的效率和隱蔽性，使得對網(wǎng)絡(luò)水軍的檢測和管理變得更加困難。這個階段的網(wǎng)絡(luò)水軍活動呈現(xiàn)產(chǎn)業(yè)化、模式化的趨勢，從事網(wǎng)絡(luò)水軍服務(wù)的公司提供從內(nèi)容制作到發(fā)布、推廣的全鏈條服務(wù)。隨著全球化的推進，網(wǎng)絡(luò)水軍的活動也逐漸跨國化，一些組織開始面向國際用戶提供服務(wù)，參與全球范圍內(nèi)的信息戰(zhàn)和輿論爭奪。
人工智能時代網(wǎng)絡(luò)水軍的特征及其危害
人工智能時代，網(wǎng)絡(luò)水軍呈現(xiàn)出新的特點和發(fā)展趨勢，不僅影響信息的傳播方式，也對網(wǎng)絡(luò)生態(tài)和社會秩序產(chǎn)生深遠(yuǎn)的影響。
自動化與智能化助推產(chǎn)業(yè)化發(fā)展。隨著人工智能技術(shù)的發(fā)展，網(wǎng)絡(luò)水軍開始使用更加復(fù)雜的算法和自動化工具來模擬真實的用戶行為，如使用人工智能生成的內(nèi)容、自動化腳本以及程序化賬戶來模擬真實用戶的活動，從而提高其活動的隱蔽性和效率。無論是在日常養(yǎng)號期間，還是在執(zhí)行大規(guī)模網(wǎng)絡(luò)任務(wù)時期，網(wǎng)絡(luò)水軍需要大量文本支撐其操作，而純?nèi)斯ぞ帉懖粌H成本高昂，效率也難以保證。利用AIGC（人工智能生成內(nèi)容）技術(shù)，網(wǎng)絡(luò)水軍能在極短的時間內(nèi)產(chǎn)出風(fēng)格多樣、表述豐富的文本，不僅降低了成本，還提升了整體的工作效率。AIGC（人工智能生成內(nèi)容）通常具備多種強大能力，諸如文本生成、風(fēng)格遷移、摘要提煉、語言翻譯等。其顯著特性是對自然語言交互的支持，網(wǎng)絡(luò)水軍只需輸入簡單的提示要求，就能引導(dǎo)模型生成各種類型的文本。這些模型在語義理解方面的準(zhǔn)確性極高，能夠依據(jù)輸入的指令生成高度相關(guān)的內(nèi)容，極大降低了專業(yè)門檻。更值得一提的是，它們還能利用背后龐大的語言模型，汲取海量知識，為生成的文本提供詳實的數(shù)據(jù)說明和精準(zhǔn)的文獻引用。因此，智能化與自動化使得網(wǎng)絡(luò)水軍的產(chǎn)出低成本高效能，而且數(shù)量龐大，助推網(wǎng)絡(luò)水軍的產(chǎn)業(yè)化發(fā)展，同時極大地增加了辨別的難度和成本。
AI自動生成虛假評論和帖子，溯源和識別難度大。為了逃避監(jiān)控和審查，現(xiàn)代網(wǎng)絡(luò)水軍采用高度隱秘的操作模式和更高級的身份偽裝技術(shù)和策略，比如使用虛擬身份、動態(tài)IP地址切換、以及模仿正常用戶行為模式等方法來隱藏自己的真實意圖和來源，使得偵測和追蹤變得更加困難。利用先進的AI技術(shù)，如循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN），網(wǎng)絡(luò)水軍可以通過模擬人類行為模式來操作社交媒體賬戶，使這些賬戶看起來像是由真人操作的，這項技術(shù)使網(wǎng)絡(luò)水軍可以自動生成幾乎無法被檢測出的虛假評論和帖子，從而繞過平臺的自動監(jiān)測系統(tǒng)。他們還使用Deepfake（深度偽造）技術(shù)制作看起來非常真實的視頻或音頻內(nèi)容，這些內(nèi)容可以用來冒充知名人士發(fā)表的言論，影響公眾意見，也可以冒充普通民眾發(fā)表觀點，主動或跟風(fēng)造勢。
精準(zhǔn)目標(biāo)用戶定位和投放，規(guī)避平臺檢測。人工智能時代的網(wǎng)絡(luò)水軍成員通常具備較高的網(wǎng)絡(luò)技術(shù)和營銷能力，能夠熟練運用各種工具和平臺，借助大數(shù)據(jù)分析和營銷技術(shù)精準(zhǔn)地識別和定位受眾目標(biāo)，并根據(jù)受眾的興趣和行為習(xí)慣實現(xiàn)信息的定向傳播，從而更有效地影響特定群體的觀點和行為。同時，他們使用高度發(fā)達的工具和軟件，配合自動化腳本和程序，能夠迅速且頻繁更改其IP地址，或使用臨時賬號和一次性手機號碼等，在眾多設(shè)備進行操作，有效規(guī)避平臺檢測。
內(nèi)容及行為模式多樣，影響輿論。除了傳統(tǒng)的評論、點贊等行為外，人工智能時代的網(wǎng)絡(luò)水軍操作手法變得更加多樣化，不僅發(fā)布原創(chuàng)內(nèi)容，還能迅速模仿熱門話題或流行格式，吸引流量和增加用戶參與度。他們可以生成各種類型的內(nèi)容，從簡單的狀態(tài)更新到復(fù)雜的互動評論，內(nèi)容多樣化且針對性強，并且能夠根據(jù)目標(biāo)群體的興趣和關(guān)注點進行調(diào)整。通過精心策劃一系列相互關(guān)聯(lián)的帖子，使用特定的標(biāo)簽和話題，主動吸引和引導(dǎo)公眾的注意力，從而在短時間內(nèi)將某一內(nèi)容推至熱門，實現(xiàn)對網(wǎng)絡(luò)輿論的操縱和影響。
沒有既定立場，隨意操縱輿論。網(wǎng)絡(luò)水軍往往受經(jīng)濟利益驅(qū)動，通過制造虛假的熱度和趨勢影響消費者或民眾的觀點與決策。因此，網(wǎng)絡(luò)水軍本身并沒有既定的立場，他們的行為完全取決于特定的利益。通過產(chǎn)生大量的虛假信息和評論，網(wǎng)絡(luò)水軍極易扭曲公眾對真實情況的理解，導(dǎo)致錯誤的判斷和決策。在產(chǎn)品和服務(wù)評價方面，虛假的正面或負(fù)面評論都可能誤導(dǎo)消費者，影響他們的購買決策，損害消費者權(quán)益；在政治立場方面，網(wǎng)絡(luò)水軍還可能基于某種價值觀，推動特定議題的輿論導(dǎo)向，甚至通過制造大量的虛假信息和評論，影響公共意見的形成。
聚合效應(yīng)強，負(fù)面影響大。網(wǎng)絡(luò)水軍通過大規(guī)模的信息傳播，能夠在短時間內(nèi)形成強大的輿論壓力，影響公眾事件的發(fā)展和社會觀點的形成。第一，網(wǎng)絡(luò)水軍的行為往往缺乏公正性和客觀性，他們的言論和行為主要是為了迎合雇主的需求而刻意制造出來的，這使網(wǎng)絡(luò)上的信息變得混亂和不真實；第二，網(wǎng)絡(luò)水軍的存在使一些原本應(yīng)該被公眾關(guān)注和討論的問題被淹沒在大量的水軍帖子中，從而導(dǎo)致公眾對這些問題的關(guān)注和討論程度大大降低；第三，網(wǎng)絡(luò)水軍的行為對互聯(lián)網(wǎng)的影響力造成負(fù)面影響，當(dāng)公眾發(fā)現(xiàn)網(wǎng)絡(luò)上的大量信息是由水軍制造出來的，他們對于網(wǎng)絡(luò)信息的信任度會大大降低；第四，在媒介平臺各種信息營造的擬態(tài)環(huán)境中，持續(xù)的虛假信息和負(fù)面言論的傳播可能逐漸侵蝕社會信任和公民的道德標(biāo)準(zhǔn)，導(dǎo)致公共空間的討論質(zhì)量下降，尤其年輕人和不成熟的用戶容易受到網(wǎng)絡(luò)水軍生成內(nèi)容的欺騙和影響，對其價值觀和世界觀產(chǎn)生不良影響。
人工智能時代的網(wǎng)絡(luò)水軍治理與應(yīng)對
人工智能時代，網(wǎng)絡(luò)水軍的治理和應(yīng)對策略面臨新的技術(shù)挑戰(zhàn)和機遇。人工智能技術(shù)的利用使得網(wǎng)絡(luò)水軍活動更加高效、隱蔽，傳統(tǒng)的治理方法已難以完全應(yīng)對，必須結(jié)合先進技術(shù)和社會法規(guī)進行多維度的治理與應(yīng)對。
加強監(jiān)管和懲治力度，完善相關(guān)法律法規(guī)。目前有關(guān)部門已經(jīng)開始采取措施打擊網(wǎng)絡(luò)水軍的行為，但由于技術(shù)的快速發(fā)展，現(xiàn)有的法律法規(guī)存在一定的滯后性。與此同時，網(wǎng)絡(luò)水軍的行為引發(fā)了關(guān)于信息真實性、商業(yè)誠信等方面的道德討論，加劇了社會對這些基本價值的擔(dān)憂和反思，道德問題的復(fù)雜性凸顯。首先，加強針對網(wǎng)絡(luò)水軍活動的立法，明確網(wǎng)絡(luò)空間中的合法與非法行為界限，增加公正性和透明性，確保所有措施都在法律和道德的框架內(nèi)執(zhí)行，避免濫用權(quán)力和侵犯人權(quán)的情況發(fā)生；其次，加強監(jiān)管和懲治力度，讓網(wǎng)絡(luò)水軍為其行為付出高昂代價，加大執(zhí)法力度，提高其違法成本；再次，政府和相關(guān)機構(gòu)應(yīng)加強聯(lián)合，促進網(wǎng)絡(luò)安全、信息監(jiān)管和執(zhí)法部門的協(xié)調(diào)與合作，共同打擊網(wǎng)絡(luò)水軍活動，確保網(wǎng)絡(luò)空間的清朗，讓真正的社會熱點得以呈現(xiàn)，維護健康的傳播生態(tài)和公共討論環(huán)境。
不斷創(chuàng)新技術(shù)，優(yōu)化現(xiàn)有識別工具和技術(shù)。隨著人工智能和機器學(xué)習(xí)的發(fā)展，要不斷研發(fā)和創(chuàng)新技術(shù)，并優(yōu)化現(xiàn)有工具，對網(wǎng)絡(luò)水軍的行為進行識別和監(jiān)控。這就要求改進現(xiàn)有的監(jiān)控和分析工具，使其能夠更精準(zhǔn)地識別和處理網(wǎng)絡(luò)水軍產(chǎn)生的各種形式的內(nèi)容。一方面，利用機器學(xué)習(xí)算法對網(wǎng)絡(luò)行為進行模式分析，準(zhǔn)確識別社交機器人及其背后的網(wǎng)絡(luò)水軍。另一方面，進行實時監(jiān)控，及時發(fā)現(xiàn)并阻止惡意信息的擴散。與此同時，社交媒體平臺和搜索引擎可以改進推薦算法，減少虛假信息的傳播，優(yōu)先展示高質(zhì)量、可信度高的內(nèi)容。
引入?yún)^(qū)塊鏈技術(shù)，提升信息溯源能力。區(qū)塊鏈技術(shù)的去中心化特征意味著沒有單一的權(quán)威機構(gòu)控制整個系統(tǒng)，這有助于建立更加公平和透明的網(wǎng)絡(luò)環(huán)境，其分布式賬本技術(shù)允許所有參與者訪問相同的數(shù)據(jù)副本，這增加了數(shù)據(jù)的透明度，使得任何試圖操縱信息的行為都更容易被發(fā)現(xiàn)，比如，其不可篡改性確保信息的一致性和準(zhǔn)確性，從而有助于防止網(wǎng)絡(luò)水軍通過偽造數(shù)據(jù)誤導(dǎo)公眾，使新聞和評論更加真實可信。與此同時，通過多重數(shù)字簽名等技術(shù)，區(qū)塊鏈技術(shù)可以有效地驗證參與方的身份，減少匿名行為，并確保只有授權(quán)用戶才能訪問敏感信息或執(zhí)行特定操作，這能有效提升抑制不誠實行為、打擊網(wǎng)絡(luò)水軍的匿名活動、針對不實信息和敏感信息的溯源、建立可靠的信任網(wǎng)絡(luò)的能力。
平臺應(yīng)加強實名驗證和用戶行為分析。社交媒體平臺應(yīng)加強實名驗證和用戶行為分析，強化內(nèi)容審核機制，及時發(fā)現(xiàn)和處理虛假信息及不當(dāng)言論。實施更嚴(yán)格的身份驗證機制，如實名制可有效減少匿名賬戶的濫用。而通過分析用戶行為模式，識別其包括短時期內(nèi)集中大量發(fā)帖或發(fā)表評論的異常行為，標(biāo)注和識別可疑賬戶，同時建立高效的內(nèi)容審核機制，確保用戶發(fā)布的內(nèi)容符合社區(qū)準(zhǔn)則，及時移除違規(guī)內(nèi)容。平臺可定期公開平臺規(guī)則，以及處理網(wǎng)絡(luò)水軍的具體措施和懲罰規(guī)則，讓用戶了解什么樣的行為會被視為不當(dāng)，并公布處理網(wǎng)絡(luò)水軍的最新情況進展。
完善和簡化用戶舉報機制，及時反饋。鼓勵公眾積極參與打擊網(wǎng)絡(luò)水軍的活動，簡化舉報流程，提供便捷的舉報機制，讓用戶能夠快速報告可疑行為，并給予及時反饋。建立有效的激勵機制，鼓勵公眾和網(wǎng)絡(luò)平臺積極舉報網(wǎng)絡(luò)水軍活動，鼓勵用戶參與監(jiān)督，通過正規(guī)渠道反應(yīng)問題，支持正面的聲音，通過社會力量的廣泛參與共同凈化網(wǎng)絡(luò)環(huán)境。
提升公眾媒介素養(yǎng)與意識。在學(xué)校和社區(qū)開展媒體素養(yǎng)教育，教授公眾如何辨別虛假信息，了解和認(rèn)識網(wǎng)絡(luò)水軍的危害，培養(yǎng)批判性思維能力，并提供防范建議。除了教育，還可通過公共宣傳等活動提高公眾的網(wǎng)絡(luò)素養(yǎng)及其對于網(wǎng)絡(luò)水軍的認(rèn)識，培養(yǎng)辨識并抵制網(wǎng)絡(luò)水軍信息的能力，減少其影響。同時，鼓勵個人在分享信息之前核實其真實性，對信息來源進行審視和篩選，避免無意中傳播虛假信息或卷入網(wǎng)絡(luò)水軍信息流。
強化企業(yè)社會責(zé)任意識，制定危機管理計劃。強化企業(yè)社會責(zé)任意識，對雇傭網(wǎng)絡(luò)水軍進行不正當(dāng)競爭的行為堅決制止和懲戒，鼓勵企業(yè)專注于提升自身產(chǎn)品和服務(wù)的質(zhì)量，注重品牌建設(shè)和口碑營銷，通過提供優(yōu)質(zhì)的產(chǎn)品和服務(wù)贏得消費者的信任，減少水軍的負(fù)面影響。同時建立健全的危機管理體系，一旦遭遇網(wǎng)絡(luò)水軍攻擊，能夠迅速作出反應(yīng)，及時澄清事實，挽回公眾的信任。
（作者為中國社會科學(xué)院大學(xué)新聞傳播學(xué)院教授、中國社會科學(xué)院新聞與傳播研究所研究員）
【注：本文系中國社會科學(xué)院2024年度重大經(jīng)濟社會調(diào)查項目“中國網(wǎng)絡(luò)民意和輿情指數(shù)調(diào)查（2024-2026）”（項目編號：2024ZDDC006）階段性成果】
【參考文獻】
① 莫倩、楊珂：《網(wǎng)絡(luò)水軍識別研究》，《軟件學(xué)報》，2014年第7期。
②龍曉蕾、莫凡、卓采標(biāo)：《網(wǎng)絡(luò)水軍與 AIGC 結(jié)合應(yīng)用場景及風(fēng)險研究》，《廣東通信技術(shù)》2024年第3期 。
責(zé)編/李一丹 美編/陳媛媛
聲明：本文為人民論壇雜志社原創(chuàng)內(nèi)容，任何單位或個人轉(zhuǎn)載請回復(fù)本微信號獲得授權(quán)，轉(zhuǎn)載時務(wù)必標(biāo)明來源及作者，否則追究法律責(zé)任。
