近年來,，恐怖組織和極端勢力越來越多地將社交媒體作為工具,，傳播暴恐思想,、進行招募培訓、相互傳遞訊息,、組織恐怖活動等,。一些青少年因長期受網(wǎng)絡暴恐內(nèi)容毒害，導致思想極化,，甚至淪為恐怖活動幫兇。各國和地區(qū)越來越認識到,，社交媒體暴恐內(nèi)容已經(jīng)嚴重威脅國家安全,，給國際反恐行動帶來巨大挑戰(zhàn)，必須加強治理,、重拳打擊,。

　　一、社交媒體暴恐內(nèi)容國際治理的現(xiàn)狀

　　目前,，國際社會在社交媒體暴恐內(nèi)容治理方面沒有統(tǒng)一和權(quán)威的國際法,。歐洲委員會于 2005 年發(fā)布的《防止恐怖主義公約》（European Conventionon the Prevention of Terrorism）要求締約國將“公開煽動恐怖主義行為”（public provocation to commita terrorist offence）定罪懲治。但是,，聯(lián)合國及其他多邊框架下的 30 多個反恐公約,，沒有一項明確要求成員國打擊網(wǎng)絡暴恐內(nèi)容。聯(lián)合國,、亞非法協(xié)等多邊組織曾就網(wǎng)絡有害內(nèi)容的國際治理組織過一些討論,，但沒有實質(zhì)的國際立法動作。2019 年新西蘭清真寺槍擊案后,，在新西蘭總理阿德恩與法國總統(tǒng)馬克龍共同推動下,，英國、加拿大等 18 個國家的政要與臉書,、微軟等 8 家社交媒體平臺及科技公司的代表共同簽署《克賴斯特徹奇倡議》（ChristchurchCall）,，承諾加強協(xié)調(diào)合作，采取更有力措施及時刪除社交媒體上的暴恐內(nèi)容,，遏制暴力極端主義的網(wǎng)上擴散,。2021 年 5 月，阿德恩與馬克龍共同主持召開《克賴斯特徹奇倡議》簽署兩周年峰會,，特朗普時期一直拒絕加入的美國政府宣布加入倡議,。至此，倡議簽署國達到 60 個,，企業(yè)達到 10 個,，臉書,、谷歌、推特,、微軟,、亞馬遜等均在其中。但總體看,，參與倡議的國家和企業(yè)數(shù)量仍比較有限,，倡議本身也不具法律約束力，極大制約了其在社交媒體暴恐內(nèi)容治理方面的作用,。

　　對暴恐內(nèi)容的治理現(xiàn)階段仍主要依賴平臺自律和各國法律的規(guī)制,。美國的《通信規(guī)范法》（Communication Decency Act）第 230 節(jié)使社交媒體得以對用戶發(fā)布的內(nèi)容豁免民事責任，同時將網(wǎng)絡內(nèi)容的監(jiān)管和處置權(quán)幾乎完全交予社交媒體,。社交媒體在新用戶注冊時,，會要求用戶接受統(tǒng)一適用的“社區(qū)守則”，絕大多數(shù)“社區(qū)守則”禁止用戶在平臺上散布恐怖主義或仇恨言論,。平臺通過網(wǎng)絡內(nèi)容審核機制,，依據(jù)“社區(qū)守則”對暴恐內(nèi)容采取屏蔽、刪除等處理措施,，甚至直接封禁發(fā)布此類內(nèi)容的用戶賬號,，以阻止其傳播擴散。一些大的社交媒體也加強了在處置暴恐內(nèi)容方面的合作,。例如,，臉書、推特,、谷歌和微軟于 2016 年共同發(fā)起成立“全球互聯(lián)網(wǎng)反恐論壇”,，建立了一個甄別暴恐內(nèi)容的哈希共享數(shù)據(jù)庫，并承諾與加入該論壇的各國企業(yè)分享該技術(shù),。加入論壇的任何一家企業(yè)如發(fā)現(xiàn)相關(guān)暴恐內(nèi)容,，首先自己會刪除，然后還會將該內(nèi)容的哈希值放入數(shù)據(jù)庫,，其他成員公司可以查看這個哈希值,，從自己的平臺查找和刪除相同的內(nèi)容，這有利于提升企業(yè)間的協(xié)作,，在更廣范圍遏制暴恐內(nèi)容的傳播,。

　　隨著社交媒體上暴恐內(nèi)容的泛濫，各國也加強了打擊力度,。一些國家將在社交媒體傳播暴恐內(nèi)容的行為規(guī)定為網(wǎng)絡犯罪,。歐洲傳統(tǒng)上將言論和表達自由作為基本人權(quán)，對網(wǎng)絡內(nèi)容的監(jiān)管態(tài)度寬松，主要依靠社交媒體通過自律處理,，政府很少介入,。但近年來網(wǎng)絡暴恐內(nèi)容泛濫使政府的監(jiān)管變得更加積極主動。例如,，德國聯(lián)邦議會于 2017 年 6 月通過了《改進社交網(wǎng)絡中的法律執(zhí)行的法案》（NetzDG Law）,，明確將建立恐怖組織、煽動族群仇恨的網(wǎng)絡言論規(guī)定為“違法內(nèi)容”,，要求平臺對其進行通報并及時刪除,，否則將追究法律責任。法國國民議會于 2020 年 5 月通過《打擊網(wǎng)絡仇恨言論法》（Online Hate SpeechLaw）,，將包含煽動恐怖主義行為,、為恐怖主義罪辯護、鼓動仇恨的內(nèi)容認定為非法,，強制平臺在 24 小時內(nèi)刪除,，否則就承擔法律責任。歐盟于 2021 年通過的《防止恐怖主義內(nèi)容在線傳播條例》（Terrorist ContentOnline：Council Agrees on Regulation）（將于 2022 年5 月生效）規(guī)定,，歐盟任一成員國均有權(quán)向在歐盟境內(nèi)運營的社交媒體發(fā)出指令，命令其在一小時內(nèi)刪除相關(guān)恐怖主義內(nèi)容,，或確保所有歐盟成員國無法訪問該內(nèi)容,，否則將對其處以最高可達全年營業(yè)額 4%的罰款。英國 2019 年發(fā)布《在線危害白皮書》（OnlineHarms White Paper）,，提議立法強化社交媒體自我監(jiān)管,，以保護用戶免受恐怖主義等有害內(nèi)容影響。根據(jù)媒體報道,，英國議會正擬定《在線危害法案》OnlineHarms Bill）,，預計于 2021 年內(nèi)出臺。

　　歐洲之外的其他西方國家在這方面也有很多動作,。澳大利亞政府于 2019 年通過刑法修正案,，強化打擊網(wǎng)絡暴恐內(nèi)容，對社交媒體克以嚴格的內(nèi)容監(jiān)管責任,。新西蘭,、馬來西亞、新加坡等國也都紛紛通過立法等手段,，加強對社交媒體平臺暴恐等有害內(nèi)容的監(jiān)管,。加拿大政府正在推進打擊恐怖主義等有害內(nèi)容的立法。

　　二,、社交媒體暴恐內(nèi)容國際治理的難點

　　一是暴恐內(nèi)容難界定,。國際層面對暴力極端主義和恐怖主義的定義缺乏普遍共識。2001 年提交聯(lián)大的《關(guān)于國際恐怖主義的全面公約》（ComprehensiveConvention on International Terrorism）草案對恐怖主義進行了定義，但也正因各國對該定義存在分歧,，公約談判進程陷入停滯,。目前，對暴恐內(nèi)容的界定很大程度上由各個成員國自主決定,，其中難免隱含政治性成分,，且受到各國不同文化、風俗,、價值觀深度影響,。從社交媒體角度而言，一些暴恐內(nèi)容處于“社區(qū)守則”的灰色地帶,，作出處理決定常常很困難,。例如，社交媒體上不少支持恐怖主義的言論多含有政治宣示,、自我表達等成分,，在美國受到憲法第一修正案保護，社交媒體采取刪除等措施十分謹慎,。

　　二是不同管網(wǎng)治網(wǎng)理念難協(xié)調(diào),。不同國家對網(wǎng)絡內(nèi)容的治理理念和模式存在差異。政府管理互聯(lián)網(wǎng)上與暴恐相關(guān)內(nèi)容的權(quán)力邊界何在,，一直都存在爭議,。中國和俄羅斯等國家強調(diào)依法管理互聯(lián)網(wǎng)的主權(quán)權(quán)力，嚴格規(guī)管網(wǎng)絡有害內(nèi)容,，希望營造安全有序的網(wǎng)絡空間,。而美國等西方國家則強調(diào)所謂“網(wǎng)絡言論自由”，反對政府過度介入網(wǎng)絡內(nèi)容監(jiān)管,，主張“無為而治”,，通過平臺自律處理網(wǎng)絡有害內(nèi)容。在這一背景下,，當一個國家要求刪除它認為的暴恐內(nèi)容,，但這些內(nèi)容托管在另一個管網(wǎng)治網(wǎng)理念完全不同的國家的服務器上時，這種沖突常會在個案中被擺上桌面,。

　　三是平衡內(nèi)容審核與保障人權(quán)難,。社交媒體刪除或屏蔽網(wǎng)絡內(nèi)容主要與用戶的言論和表達自由相關(guān)。根據(jù)《世界人權(quán)宣言》（Universal Declarationof Human Rights）和《公民和政治權(quán)利國際公約》（International Covenant on Civil and PoliticalRights）,，人人享有言論和表達自由,，國家應當保護此項人權(quán)?！稓W洲人權(quán)公約》（European Conventionon Human Rights）等其他區(qū)域人權(quán)條約也有類似條款,。這些人權(quán)條約的締約國承擔保護言論與表達自由的國際法義務,，具體到社交媒體內(nèi)容治理，則是通過立法監(jiān)督本國社交媒體在審核用戶內(nèi)容時不侵犯言論與表達自由,。

　　社交媒體平臺也有“尊重人權(quán)”的責任,。根據(jù)聯(lián)合國人權(quán)理事會的《工商企業(yè)與人權(quán)：實施聯(lián)合國“保護、尊重和補救”框架指導原則》（Guiding Principles on Business and Human Rights:Implementing the United Nations“Protect, Respect andRemedy”Framework）,，企業(yè)應切實尊重人權(quán),，將其內(nèi)化為戰(zhàn)略、愿景或文化,，綜合評估其活動對人權(quán)的潛在影響,，在已造成負面影響后積極補救。行使言論和表達自由也要受到國際人權(quán)法的一些限制,。例如,，出于保障國家安全或公共秩序的需要，或在宣布了“緊急狀態(tài)”情況下,，國家可以對言論與表達自由進行合法限制,。煽動民族、種族或宗教仇恨的言論也不受言論與表達自由的保護,。在社交媒體煽動恐怖主義以號召更多人支持暴恐行動,，是暴力極端勢力和恐怖組織常用的戰(zhàn)略。而禁止煽動恐怖主義是保護國家安全和公共秩序的應有之義,，構(gòu)成上述限制言論與表達自由的合法理由,。

　　更突出的挑戰(zhàn)在于，很多網(wǎng)絡內(nèi)容游走在“煽動恐怖主義”的邊緣,，國家既要審慎處理這些言論，又要確保相關(guān)的措施是必要和相稱的,。聯(lián)合國《互聯(lián)網(wǎng)被用于恐怖主義》報告（The Use of the Internetfor Terrorist Purposes）也指出,，在評估對網(wǎng)絡內(nèi)容的干預辦法和水平時，政府需考慮有關(guān)言論自由權(quán)的憲法或其他保障等多種因素,。此外,，對暴恐內(nèi)容的認定往往涉及法律、倫理,、價值觀等層面,，一些社交媒體用來審核內(nèi)容的網(wǎng)絡過濾、內(nèi)容 ID,、算法等技術(shù)可能導致過度刪除或算法歧視等問題,，存在引發(fā)人權(quán)和倫理問題的風險。

　　四是國際合作難,?；ヂ?lián)網(wǎng)的全球聯(lián)通使社交媒體內(nèi)容治理天然就是跨國問題，但完善的國際合作機制卻尚未建立。實體上,，各國認定網(wǎng)絡暴恐內(nèi)容的標準存在差異,。經(jīng)常出現(xiàn)的情況是，同一個涉嫌暴恐的內(nèi)容在一國可能違法并會被平臺移除,，但在另一國可能不違法,。為調(diào)查網(wǎng)絡暴恐內(nèi)容，一國經(jīng)常需要向另一國提出司法協(xié)助請求,，調(diào)取某些重要的數(shù)據(jù),，但如果相關(guān)內(nèi)容在被請求國不構(gòu)成暴恐內(nèi)容，就會被拒絕,。程序上,，國家對網(wǎng)絡暴恐內(nèi)容的管轄權(quán)需要協(xié)調(diào)，根據(jù)屬地管轄原則,，一國只對本國境內(nèi)的網(wǎng)絡有害內(nèi)容有管轄權(quán),，可以要求平臺采取屏蔽、刪除等活動,。2019年,，歐盟法院在皮斯?jié)煽耍≒iesczek）訴臉書一案中開創(chuàng)性地提出了歐盟對網(wǎng)絡內(nèi)容的域外管轄權(quán)。根據(jù)這個判決,，社交媒體的內(nèi)容如果被歐盟或其任一成員國認定為非法,，則社交媒體不僅應在歐盟境內(nèi)刪除非法內(nèi)容，還應在全球范圍內(nèi)刪除,。歐盟法院的這一判決在國際上引起了很多非議,，側(cè)面反映了各國對“全球刪帖”仍持消極態(tài)度。對域外的網(wǎng)絡有害內(nèi)容如何處理,，仍將是各國長期頭疼的難題,。社交媒體之間的合作也有局限性，類似“全球互聯(lián)網(wǎng)反恐論壇”的信息共享與合作機制只能對各家企業(yè)存在共識的有害內(nèi)容發(fā)揮作用,，但不同社交媒體認定有害內(nèi)容的標準常常并不一致,。

　　三、社交媒體暴恐內(nèi)容國際治理的前景展望

　　雖然對社交媒體暴恐內(nèi)容的國際治理面臨各種挑戰(zhàn),，但各國的合作共識正逐步凝聚,。2017 年的 G7峰會呼吁社交媒體平臺加大合作力度，共同治理網(wǎng)絡暴恐內(nèi)容,，提升平臺自動檢測此類內(nèi)容的能力,。2019 年的 G20 峰會發(fā)布《關(guān)于防止利用互聯(lián)網(wǎng)從事恐怖主義和暴力極端主義活動的聲明》（G20 OsakaLeaders' Statement on Preventing Exploitation of theInternet for Terrorism and Violent Extremism Conduciveto Terrorism），強調(diào)各國政府有責任加強與網(wǎng)絡平臺的合作,，防止恐怖主義勢力利用網(wǎng)絡進行恐怖活動,。2005 年 7 月 倫敦恐襲后,，聯(lián)合國安理會通過第 1642號決議，呼吁各國預防和禁止“煽動恐怖主義”的行為,。

　　打擊網(wǎng)絡暴恐內(nèi)容的國際法雖然發(fā)展緩慢,，但也并非全無建樹。歐盟正計劃就打擊仇恨言論立法,，將有助于進一步明確仇恨言論和暴恐言論的關(guān)聯(lián)與區(qū)別,。《克賴斯特徹奇倡議》的簽署國逐年增加,，有成為某種程度的國際標準的潛力,。正如外交部涉外安全事務專員程國平在《全球網(wǎng)絡反恐格局中的中國力量》一文中所言，在應對網(wǎng)絡恐怖主義問題上,，沒有哪個國家能夠獨善其身,，也沒有哪個政府或組織能夠單獨應對，需要在全球,、區(qū)域和國家各層面采取協(xié)調(diào)一致的行動,。由于各國逐漸認識到打擊網(wǎng)絡暴恐內(nèi)容的緊迫性，在該問題上也有較高的政治共識,，未來預計將在不同多邊平臺圍繞暴恐內(nèi)容的認定標準與國際合作等關(guān)鍵問題展開討論,，甚至不排除開啟一個國際談判進程。

　　隨著互聯(lián)網(wǎng)領(lǐng)域多利益攸關(guān)方的治理模式獲得更多認可,，社交媒體暴恐內(nèi)容的國際治理未來也將日益呈現(xiàn)國家,、企業(yè)、技術(shù)社群等不同主體多方共治的特點,。國家要承擔主導角色,，推進相關(guān)政策與立法的出臺和完善，積極參與網(wǎng)絡有害內(nèi)容治理的國際討論,，推動形成打擊網(wǎng)絡有害內(nèi)容的國際規(guī)則,。平臺企業(yè)要提升內(nèi)容審核技術(shù)和能力，更迅速,、精準地識別和處理暴恐內(nèi)容，加強與其他平臺的信息共享,，針對打擊暴恐內(nèi)容的需要改進內(nèi)容政策,，主動參與行業(yè)標準和規(guī)則的制定。只有各方共同努力,，才能在社交媒體上徹底清除暴恐內(nèi)容,，打贏網(wǎng)絡反恐的一場硬仗。