隨著智能技術(shù)的發(fā)展，計(jì)算宣傳作為一種操縱輿論的新方式，對國家網(wǎng)絡(luò)生態(tài)的安全有著重要的意義。對此，本文從計(jì)算宣傳的概念界定、應(yīng)用現(xiàn)狀、影響以及相應(yīng)的治理路徑做了分析，希望對你有所幫助。

在當(dāng)前政治傳播日趨復(fù)雜化的背景下,計(jì)算宣傳已成為新一輪“社交媒體新冷戰(zhàn)”的主要手段。尤其值得關(guān)注的是，西方國家針對中國的計(jì)算宣傳機(jī)制已經(jīng)初具規(guī)模，對我國國家形象和聲譽(yù)的維護(hù)形成了嚴(yán)峻挑戰(zhàn)。

計(jì)算宣傳(Computational Propaganda)最早被美國華盛頓大學(xué)的塞繆爾·伍利（Samuel Woollery）和英國牛津大學(xué)的菲利普·霍華德（Philip N.Howard）定義為“社交媒體平臺、自主代理、算法和旨在操縱輿論的大數(shù)據(jù)的組合”。

計(jì)算宣傳是為達(dá)到特定目的所開展的傳遞虛假或錯誤信息、制造信息污染、攻擊政治對手等一系列破壞網(wǎng)絡(luò)信息環(huán)境和政治傳播生態(tài)的行動，具有隱匿性、自動化、精準(zhǔn)化等特點(diǎn)。

2020年的一項(xiàng)統(tǒng)計(jì)表示：全球有超過81個國家在社交媒體上進(jìn)行“計(jì)算宣傳”與傳播政治錯誤信息。作為一種操縱輿論的新方式，計(jì)算宣傳在全球蔓延的態(tài)勢對我國網(wǎng)絡(luò)安全和意識形態(tài)安全造成了重大負(fù)面影響。

本期小羊?qū)⒔o大家分享計(jì)算宣傳的概念界定、應(yīng)用現(xiàn)狀、影響以及相應(yīng)的治理路徑。

一、計(jì)算宣傳的概念界定

計(jì)算宣傳的興起源于智能技術(shù)的發(fā)展，是當(dāng)前國際輿論戰(zhàn)的手段之一，對國家網(wǎng)絡(luò)生態(tài)的安全有著重要的意義，故而引起了諸多研究者的關(guān)注。

在定義方面，不同的研究者的闡釋角度有所不同，依據(jù)文獻(xiàn)梳理，已有研究對計(jì)算宣傳的定義主要從操作系統(tǒng)、目標(biāo)以及群體等角度進(jìn)行切入。

（1）計(jì)算宣傳是社交媒體平臺、自動化代理人和大數(shù)據(jù)的集合體，旨在有組織地操縱公共輿論。

——Samuel C. Woolley；Philip N. Howard

Woolley S C, Howard P N. Political communication, computational propaganda, and autonomous agents: Introduction[J]. International Journal of Communication, 2016, 10.

（2）人類主體有意利用計(jì)算工具誤導(dǎo)或操縱信息生態(tài)系統(tǒng)，以影響目標(biāo)群體的信念、態(tài)度和偏好，進(jìn)而實(shí)現(xiàn)宣傳者的社會或政治目標(biāo)。

——Yochai Benkler；Robert Faris；Hal Roberts

Benkler Y, Faris R, Roberts H. Network propaganda: Manipulation, disinformation, and radicalization in American politics[M]. Oxford University Press, 2018.

（3）從定義上看，計(jì)算宣傳運(yùn)動故意瞄準(zhǔn)并引發(fā)有爭議的政治和社會文化議題，試圖將涉事主體劃分為內(nèi)群體和外群體，隨后將議題進(jìn)行擴(kuò)散，并將個體視為對二元意識形態(tài)之一的忠誠追隨者。

——Michael Hameleers

Hameleers M. Separating truth from lies: Comparing the effects of news media literacy interventions and fact-checkers in response to political misinformation in the US and Netherlands[J]. Information, Communication & Society, 2022, 25(1): 110-126.

二、計(jì)算宣傳的應(yīng)用現(xiàn)狀

由于社交機(jī)器人、深度偽造等技術(shù)的發(fā)展，計(jì)算宣傳在智能技術(shù)的加持下呈現(xiàn)著普遍性、隱匿性、代理性的特點(diǎn),導(dǎo)致其治理難度日益增加，治理范圍逐步擴(kuò)大。

面對計(jì)算宣傳帶來的重重障礙和嚴(yán)峻挑戰(zhàn)，現(xiàn)有研究多從國家輿論戰(zhàn)、政治選舉等方面對計(jì)算宣傳進(jìn)行應(yīng)用研究，力圖深入和全面地揭示計(jì)算宣傳給人類社會帶來的負(fù)面效應(yīng)。

注：社交機(jī)器人（Social Bots）是指“在社交媒體上通過各種計(jì)算機(jī)腳本與程序?qū)W習(xí)模仿人類、操縱輿論的一些社交媒體賬號”。

（1）事實(shí)上，世界各地的政治競選活動、政府和普通公民都在社交媒體平臺上使用人和機(jī)器人的組合，來制造操縱性的虛假信息運(yùn)動。它們可以支持或淹沒某一特定政治家的觀點(diǎn)或政策理念，也可以利用“人類噴子”，以“制造共識”或營造一種大眾普遍支持某一政治家或某一政治家較為受歡迎的錯覺。

——Samuel C. Woolley；Douglas Guilbeault

Woolley S C, Guilbeault D. Computational propaganda in the United States of America: Manufacturing consensus online[J]. 2017.

（2）本文收集數(shù)據(jù)以檢驗(yàn)推特平臺上與中國政治相關(guān)的標(biāo)簽以及微博平臺上官方新聞信息的評論中是否存在自動化機(jī)器人的身影。這些數(shù)據(jù)表明，中國政府并沒有將機(jī)器人應(yīng)用于國內(nèi)或國際宣傳工作中。

然而，令人驚訝的是，在推特平臺上發(fā)現(xiàn)了反華國家機(jī)器人活動的重要證據(jù)，這些機(jī)器人的信息主要用簡體中文發(fā)布。

——Gillian Bolsover；Philip Howard

Bolsover G, Howard P. Chinese computational propaganda: Automation, algorithms and the manipulation of information about Chinese politics on Twitter and Weibo[J]. Information, Communication & Society, 2019, 22(14): 2063-2080.

（3）應(yīng)美國國會調(diào)查俄羅斯參與2016年總統(tǒng)大選的要求，推特于2017年10月31日提交了一份被刪除的推特賬戶列表。這次調(diào)查顯示了一個與俄羅斯政府高度有關(guān)的“巨魔工廠”。據(jù)推特稱，共有36746個俄羅斯賬戶產(chǎn)生了大約140萬條與美國大選有關(guān)的推文。

——S Fiegerman；D Byers

Fiegerman S, Byers D. Facebook, Twitter, Google defend their role in election. CNN, 1 November 2017[J].

注：巨魔工廠，具體指俄羅斯互聯(lián)網(wǎng)研究所，成立于2013年，隸屬于俄聯(lián)邦通訊社，旨在利用網(wǎng)絡(luò)手段操縱輿論，維護(hù)俄羅斯政治、商業(yè)利益，是俄羅斯“信息戰(zhàn)”的主力。

三、計(jì)算宣傳的影響

研究顯示，2020年6月到8月之間社交媒體上流傳的有關(guān)疫情“陰謀論”的15000多條謠言中，有2427條謠言及其所包含的話題標(biāo)簽出自同個信源。這充分說明，計(jì)算宣傳已成為各國在社交媒體平臺中進(jìn)行輿論戰(zhàn)的新形式之一。

使用社交媒體進(jìn)行計(jì)算宣傳和傳播政治虛假信息的國家和政黨數(shù)量逐年增長，表明計(jì)算宣傳的工具和技術(shù)已經(jīng)成為政治和公共外交等領(lǐng)域必不可少的組成部分。而其產(chǎn)生的影響大多集中在負(fù)面效果上，具體而言包括虛假新聞、加劇公眾輿論意見對立以及左右政治選舉活動的結(jié)果等。

（1）針對計(jì)算宣傳對2016年總統(tǒng)大選前后政治意向的影響進(jìn)行研究，結(jié)果表明整個政治對話的很大一部分是計(jì)算機(jī)生成的。社交媒體機(jī)器人的存在可能會對民主的政治討論產(chǎn)生負(fù)面影響，這反過來又可能會改變公眾輿論，危及選舉的完整性。

作者指出了計(jì)算宣傳存在的三個負(fù)面影響；第一，公眾的影響力可以被重新分配到可能存在惡意目的的可疑賬戶上；第二，政治對話可能會進(jìn)一步兩極分化；第三，計(jì)算宣傳可以加強(qiáng)虛假信息和未經(jīng)證實(shí)的信息的傳播。

——Alessandro Bessi；Emilio Ferrara

Bessi A, Ferrara E. Social bots distort the 2016 US Presidential election online discussion[J]. First Monday, 2016, 21(11-7).

（2）計(jì)算宣傳技術(shù)使政治鼓動者很容易監(jiān)控公共領(lǐng)域的內(nèi)容，同時政治鼓動者可以通過“機(jī)器人”發(fā)出的信息對公共領(lǐng)域輿論做出回應(yīng)，因而這些信息來自人類而不是機(jī)器人。

——Bruce Bimber；Homero Gil de Zú?iga

Bimber B, Gil de Zú?iga H. The unedited public sphere[J]. New Media & Society, 2020, 22(4): 700-715.

（3）政治機(jī)器人是數(shù)字競選團(tuán)隊(duì)的工具包中最新的溝通工具之一。這種無處不在的技術(shù)在指導(dǎo)公眾情緒、操縱意見和規(guī)避現(xiàn)行法律程序方面發(fā)揮著越來越重要的作用。特別是在數(shù)字民主和競選活動方面，這些軟件驅(qū)動的自動化設(shè)備對研究政治交流、民主及其過程的學(xué)者來說越來越重要。

——Phil Howard；Samuel C. Woolley；Ryan Calo

Howard P N, Woolley S, Calo R. Algorithms, bots, and political communication in the US 2016 election: The challenge of automated political communication for election law and administration[J]. Journal of Information Technology & Politics, 2018, 15(2): 81-93.

四、計(jì)算宣傳的應(yīng)對策略

隨著當(dāng)前社交媒體平臺已經(jīng)成為國家與國家之間進(jìn)行輿論戰(zhàn)的主要陣地，計(jì)算宣傳也成為當(dāng)前網(wǎng)絡(luò)治理的重要內(nèi)容。因此，有必要積極參與國際互聯(lián)網(wǎng)治理，在計(jì)算宣傳治理方面贏得主動權(quán)和話語權(quán)。

計(jì)算宣傳的治理應(yīng)“推進(jìn)多邊、民主、透明的國際互聯(lián)網(wǎng)治理體系，攜手構(gòu)建網(wǎng)絡(luò)空間命運(yùn)共同體”，具體而言可以從平臺、系統(tǒng)、用戶、法律等角度來對計(jì)算宣傳采取相應(yīng)的治理措施。

（1）在用戶層面，應(yīng)允許觀念市場正常流動和運(yùn)作。在系統(tǒng)層面，通過個人數(shù)據(jù)進(jìn)行定位的平臺行為和發(fā)布計(jì)算宣傳的相關(guān)過程應(yīng)得到規(guī)范。最后，為了確保針對選民的宣傳材料的適當(dāng)性，需要在內(nèi)容層面上進(jìn)行適當(dāng)?shù)膹V告監(jiān)管。

——M R Leiser

Leiser M R. Regulating computational propaganda: Lessons from international law[J]. Cambridge International Law Journal, 2019, 8(2): 218-240.

（2）為了應(yīng)對媒體和學(xué)術(shù)界對在線自動化的關(guān)注，社交媒體平臺已承諾控制機(jī)器人。因此，平臺已知的機(jī)器人賬戶發(fā)布的帖子可能會被阻止出現(xiàn)在用戶的歷史記錄和搜索結(jié)果中。

——Gillian Bolsover；Philip Howard

Bolsover G, Howard P. Chinese computational propaganda: Automation, algorithms and the manipulation of information about Chinese politics on Twitter and Weibo[J]. Information, Communication & Society, 2019, 22(14): 2063-2080.

（3）通過數(shù)字渠道控制信息流的科技公司有更大的責(zé)任來減少虛假內(nèi)容和虛假賬戶，同時科技公司也應(yīng)受到相應(yīng)的監(jiān)管。

——Emily Bienvenue

Bienvenue E. Computational Propaganda: Political Parties, Politicians, and Political Manipulation on Social Media[J]. International Affairs, 2020, 96(2): 525-527.

（4）學(xué)生對計(jì)算宣傳的基本理解，對于培養(yǎng)其在多元信息背景下選擇權(quán)威的和有效的信息至關(guān)重要，同時也可以避免那些導(dǎo)致認(rèn)知失敗的認(rèn)知陷阱并控制虛假信息的進(jìn)一步傳播。

為了讓民眾免受計(jì)算宣傳的危害，并維護(hù)信息生態(tài)系統(tǒng)的正常運(yùn)行，培養(yǎng)批判性算法素養(yǎng)對個人和社會越來越緊要。

—— Ian O’Hara

O’Hara I. Automated epistemology: Computational propaganda, algorithmic curation, and epistemic practice[C]. The University of Arizona, 2022.

隨著智能技術(shù)的發(fā)展，計(jì)算宣傳越來越深入到我們的日常生活中，我們也應(yīng)該持有批判的態(tài)度來對其進(jìn)行探討。

一方面，面對當(dāng)前國際輿論環(huán)境進(jìn)一步惡化的境況，我們需要加強(qiáng)對計(jì)算宣傳的研究和監(jiān)測，防止境外勢力利用社交機(jī)器人破壞國內(nèi)安定團(tuán)結(jié)的政治局面。同時，應(yīng)當(dāng)采取更為多元的平臺和靈活的方式，對境外勢力進(jìn)行有理、有據(jù)、有節(jié)的“反宣傳”。

另一方面，計(jì)算宣傳技術(shù)給網(wǎng)絡(luò)社交平臺帶來治理新挑戰(zhàn)的同時，也可以為人類的發(fā)展與進(jìn)步創(chuàng)造新的機(jī)遇。近年來出現(xiàn)的虛擬現(xiàn)實(shí)、物聯(lián)網(wǎng)等技術(shù)手段正在為計(jì)算宣傳帶來更廣闊的生存與成長空間。

盡管我們無法消除計(jì)算宣傳技術(shù)的負(fù)面影響，但是作為技術(shù)的創(chuàng)造主體，人類不僅需要思考如何應(yīng)對計(jì)算宣傳的不足或危害，還需要創(chuàng)造對相關(guān)技術(shù)的善用機(jī)制，從而激發(fā)出該技術(shù)的最大價值。

參考文獻(xiàn)：

[1] 鄒軍,劉敏.全球計(jì)算宣傳的趨勢、影響及治理路徑[J].現(xiàn)代傳播(中國傳媒大學(xué)學(xué)報),2022,44(06):28-36.

[2] Woolley S C, Howard P N. Political communication, computational propaganda, and autonomous agents: Introduction[J]. International journal of Communication, 2016, 10.

[3] Bradshaw S, Howard P N. Challenging truth and trust: A global inventory of organized social media manipulation[J]. The computational propaganda project, 2018, 1: 1-26.

[4] 陳昌鳳,袁雨晴.社交機(jī)器人的“計(jì)算宣傳”特征和模式研究——以中國新冠疫苗的議題參與為例[J].新聞與寫作,2021(11):77-88.

[5] Edward Tian, WHO Director-General Attacked on Twitter with CCP-Related Memes [EB/OL]（2020-08-21）[2022-12-20],https://www.bellingcat.com/news/2020/08/21/who-director-general-attacked-on-twitter-with-ccp related-memes/.

[6] Arnaudo D. Computational Propaganda in Brazil: Social Bots During Elections. Oxford: Computational Propaganda Project, Aguest, 2017. p. 1.

[7] 羅昕.世界信息傳播新秩序建構(gòu)的脈絡(luò)變遷與中國進(jìn)路[J].內(nèi)蒙古社會科學(xué)(漢文版),2019,40(01):160-166+189.

inclusion[J]. Information Technology & People, 2021, 35(7): 1884-1911.