上周末,网络阴谋论和关于巴西大选结果的虚假说法引发了巴西首都的骚乱,极端分子效仿了2021年1月6日袭击国会大厦时使用的数字战术。
几个月来,研究人员和倡导人士一直在警告科技公司采取行动,降低巴西在现实生活中受到伤害的可能性。现在他们说,主流巨头遏制助长骚乱的内容传播的努力太少,也太迟了——他们说,这种模式在硅谷很常见。
由于社交媒体公司缺乏他们认为足够的保障措施,专家警告说,网上政治尖刻言论的上升可能会在未来再次引发类似事件。
“当我们看到这种内容,这种态度,被一遍又一遍地重复。这非常令人担忧,”倡导组织Sum of Us的活动主管弗洛拉·雷贝洛·阿杜尼(Flora rebelo Arduini)说。
“历史正在重演,但不是以积极的方式,”Arduini说。
周日,支持巴西前总统雅伊尔·博尔索纳罗(Jair Bolsonaro)的暴徒袭击了巴西国会、最高法院和总统府,他们受到总统路易斯Inácio卢拉·达席尔瓦(Luiz Inácio Lula da Silva)窃取该国10月选举的虚假说法的煽动。
就像两年前美国国会大厦遇袭事件一样,巴西的骚乱发生在极端分子在网上宣传这些言论之后,为呼吁暴力埋下了种子。
巴西国家数字民主科学技术研究所博士后尼娜·桑托斯说,在过去的一年里,博尔索纳罗的网络在网上积极加强反对选举人票合法性的言论,并“质疑整个选举过程”。她说,这为周末爆发的暴力事件奠定了基础,暴徒呼吁“恢复国家的权力”,他们认为权力是“被偷走的”。
在某些情况下,在巴西和1月6日的骚乱之前,推动这种言论的声音实际上是相同的。梅根·康罗伊(Meghan Conroy)是大西洋理事会(Atlantic Council)数字法医实验室(Digital forensics Lab)的研究员,此前曾在众议院特别委员会调查1月6日的袭击事件。她说,一些在1月6日骚乱事件中“真正带头造反的关键人物”“在煽动巴西大选出现同样的情况方面发挥了巨大作用”。史蒂夫·班农(Steve Bannon)和亚历克斯·琼斯(Alex Jones)等右翼有影响力的人物和媒体人利用他们在网上的存在,宣传有关巴西大选的虚假叙事。
周日巴西骚乱的画面与1月6日的画面如出一辙,“这不是偶然的,他们受到了启发,”康罗伊说。
康罗伊说,这些事件之间的另一个相似之处是,社交媒体公司未能充分解决引发这些事件的言论。她说,尽管平台在巴西骚乱发生之前和之后采取了行动,就像它们在1月6日前后的几周所做的那样,但“这些措施还不够”。
“(前总统特朗普和博尔索纳罗)获得了足够多的忠诚和支持,所以他们的支持者会冲进联邦大楼,破坏民主进程或抗议民主结果。但社交媒体平台、在线论坛和即时通讯应用程序包含虚假信息和协调手段,我认为如果没有社交媒体,这些骚乱就不会发生,”她补充道。
今年9月,在巴西10月大选之前,一个由100多个民间社会组织组成的组织发布了一份评估报告,评估了Twitter、YouTube、Facebook和Instagram以及消息分享平台WhatsApp和Telegram的政策。
根据评估,除了推特,没有任何平台有适当的政策来防止反对民主秩序的叛乱或干涉和平权力交接。
自这份报告发布以来,在埃隆·马斯克(Elon Musk)以440亿美元完成对Twitter的收购后,Twitter转换了所有权,私有化了,并撤销了之前的许多内容审核政策。目前尚不清楚在马斯克控制下的巴西骚乱发生之前或之后,Twitter可能采取了哪些措施,Twitter发言人也没有回应置评请求。
Sum of Us在9月至12月期间进行的研究还发现,平台未能缓解虚假叙事在网上的传播。
上周骚乱爆发后,相关内容也得以在网上广泛传播。截至周一,警方似乎已镇压了大部分暴力活动。但根据Sum of Us周三发布的一份报告,在他们这样做之前,极端主义影响者对政府场所袭击的直播被发布在主流社交媒体平台上,累积了数十万次的观看量。
研究人员分析了极右翼youtube用户参与骚乱的五个直播节目,并绘制了这些内容是如何在其他平台(主要是Facebook)上发布的。
一名极端主义影响者在YouTube上连续直播了5个多小时的骚乱。据报道,他们的账号在周一被撤下,但在此之前,在不到24小时内,他们的骚乱内容获得了67万次阅读。
据报道,在入侵期间,Sum of Us的一名研究人员打开了他们的个人YouTube页面,并被积极推荐在他们的主页上直播,而之前从未搜索过这位网红的频道。
截至周五,这位网红的脸书页面仍然存在类似的视频内容。
该报告还确定了TikTok上的骚乱内容,其中至少有一个视频的播放量高达150万次。被确认的TikTok内容已于本周全部删除。抖音发言人拒绝就该报道进一步置评。
YouTube和Facebook和Instagram的母公司meta在声明中表示,该公司正在删除支持或赞扬侵入政府大楼的暴徒行为的内容。
YouTube发言人艾薇·崔(Ivy Choi)表示,该平台终止了2500多个频道,并删除了1万多个与巴西大选有关的视频,“其中绝大多数播放量不到100次。”
根据YouTube的说法,Sum of Us研究中提到的频道和视频正在审查中,但该平台此前已经从几个提到的频道中删除了内容。
meta的一位发言人表示,巴西的情况被指定为“违规事件,这意味着我们将删除支持或赞扬这些行为的内容。”
纽约大学计算机科学副教授、该校网络安全民主研究团队成员达蒙·麦考伊(Damon McCoy)说,除了关注哪些内容在网上被删除之外,平台还需要关注它们允许某些内容在不经过审查的情况下传播的速度。
“当他们看到一些东西在他们的平台上迅速传播时,他们可以减慢它的传播速度,直到有一个人来审查它。我认为这种方法可能比仅仅专注于删除内容更好,因为现实情况是,算法feed在平台上传播这些内容非常迅速,”他说。
接受《国会山报》采访的专家广泛敦促各平台聘请内容审核团队,这些团队不仅要了解帖子所使用的语言,还要了解文化上的细微差别,这样帖子就可以绕过针对本地受众使用关键词的政策。
查塔姆研究所(Chatham House)数字社会计划(Digital Society Initiative)高级研究员亚历克斯·克拉索多姆斯基(Alex Krasodomski)表示,平台可以做出政策改变,使其对某些群体(如右翼极端分子)“更加不友好”,但这些群体总是可以选择其他空间。
自1月6日以来,越来越多的替代平台标榜自己只有最低限度的内容审核规则来吸引右翼用户,包括特朗普自己的Truth Social。它们缺乏主流网站那样广泛的用户基础,但却允许虚假叙事在右翼的回音室中滋生。
克拉索多姆斯基说,阻止这些主张传播所面临的另一个障碍是其背后运动的“超主流”性质。
他说,在几十个国家,是“负责人”或“主要反对派”率先提出这些理论,包括博尔索纳罗和特朗普。同样的趋势在整个欧洲都很明显。
他说:“有很多人质疑他们所生活的民主制度是否为他们服务,他们中的许多人拥有巨大的政治权力。试着筛选并说,'好吧,不,这是错误的信息'是一件非常困难的事情。我并不羡慕那些试图解决这一问题的平台。”