报告 2020-03-23 07:03

兰德报告:社交媒体恶意或颠覆性信息检测工作——可扩展的预警分析

郭道平 摘自 兰德公司网站

2020年3月16日,兰德公司网站发布题为《Detecting Malign or Subversive Information Efforts over Social Media:Scalable Analytics for Early Warning》的报告,作者是威廉·马切利诺(资深行为和社会学家,帕蒂兰德研究生院教授)和科里斯蒂娜·马西内克(政策助理研究员、帕蒂兰德研究生院博士候选人)等4人。报告要点如下:

研究的问题

(1)关于社交媒体上的恶意或颠覆性信息活动,目前有哪些证据?

(2)可以使用哪些分析方法来检测社交媒体上的此类活动?

(3)将来如何在美国政府、其他研究人员和社交媒体公司中使用这种方法?

在其实质上影响大量受众的态度和行为之前,美国在检测恶意或颠覆性信息活动的能力上存在差距。尽管目前正在进行研究以检测这种活动的某些部分(例如,被盗用的账户和“假新闻”故事),但本报告提出了一种检测整个活动的新颖方法。报告改编了现有的社交媒体分析方法,将网络分析和文本分析相结合,以映射、可视化和理解在社交媒体上互动的各方。作为案例研究,报告考察了俄罗斯及其代理人是否可能利用了俄罗斯主办的2018年世界杯足球赛作为发起恶意和颠覆性信息工作的起点。报告分析了事件发生前一个月和比赛结束后一个月用3种语言撰写的有关世界杯足球赛的大约6900万条推文,并确定了俄罗斯似乎着力于两种不同的信息活动,一种针对俄语受众,另一种针对法语受众。值得注意的是,后者专门针对民粹主义(黄背心)运动;在其成为头条新闻的几个月前就检测到这种活动说明了这种方法的价值。为了帮助其他人使用和开发该方法,报告详细介绍了其分析细节并分享了经验教训。外部实体应该能够在具有新数据集的新环境下复制该分析。考虑到检测社交媒体上不良信息工作的重要性,希望美国政府能够有效、快速地实施此方法或类似方法。

重要发现

(1)俄罗斯有两种不同的宣传活动,一种是俄语的,另一种是法语的

• 俄语活动的特点是具有较高的信心,可能包括国家支持的行动;这些活动集中在两个领域。

• 法语活动也集中在两个领域;从是否得到了国家支持的角度看,其中一个具有较高的信心,另一个则信心不足。

• 尽管不能将这些宣传活动直接与俄罗斯联系起来,但检测发现它们的确可能是俄罗斯有意进行的宣传活动。

(2)检测恶意和颠覆性信息工作面临挑战

• 当前在信息检测方面的研究存在重大技术差距:当前的研究重点是检测单个元素,而不是聚合级别的整体。

• 在可预见的将来,仅仅基于机器的方法不太可能具有像人类一样的精度,即不太可能具有可靠检测恶意信息所需的语言数据。本报告概述了一种“环环相扣”的方法,该方法利用了计算机和人类最擅长的方面,但是需要数据输入专业知识,并且整个过程是由专家驱动的。

建议

• 鉴于迫切需要检测恶意和颠覆性信息,并且鉴于这项概念验证研究的希望,美国、盟国以及合作伙伴应强烈考虑将这种方法以及互补的方法和技术付诸实践。

• 任何由美国政府主导的信息开发、检测方法和技术工作都应解决当前的研究空白。 研究应该集中在总体层面,而不是检测单个要素。

• 美国政府应投资于发展专业知识,以适当支持早期发现有害信息。此类专业知识包括针对选定目标受众的数据科学、社交网络分析、文本分析和文化/语言专业知识。

阅读 收藏

相关专题: