新研究甚至可以在发布危险内容之前在线识别极端分子

新的研究已经找到了一种方法来识别极端分子,例如与恐怖组织ISIS有关的极端分子,通过监视他们的社交媒体账户,甚至可以在发布威胁内容之前识别它们。

最近在INFORMS期刊运营研究中发表的“寻找在线社交网络中的极端主义者”的研究由麻省理工学院的Tauhid Zaman进行;克里斯托弗·马克斯中校,美国陆军;和Brandeis大学的Jytte Klausen

使用社交网络骚扰用户,招募新成员和煽动暴力的在线极端主义团体的数量和规模正在迅速增加。虽然社交媒体平台正在努力解决这个问题(2016年,Twitter报道它关闭了360,000个ISIS帐户),但他们传统上严重依赖用户的报告来识别这些帐户。

此外,一旦帐户被暂停,几乎无法阻止用户开设新帐户或多个帐户。

“社交媒体已经成为极端主义团体的强大平台,从伊斯兰国到白人民族主义者”右倾“团体,”扎曼说。“这些团体利用社交网络传播仇恨宣传,煽动暴力和恐怖袭击,使其成为对公众的威胁。”

在极端分子在网上构成威胁之前识别他们

研究人员收集了来自大约5,000名“种子”用户的Twitter数据,这些用户既可以是ISIS成员,也可以作为朋友或粉丝与许多已知的ISIS成员相关联。他们通过执法机构和智库发布的新闻报道,博客和报告获得了他们的名字。

除了从这些用户的时间轴(包括文本,链接,哈希标签和提及)中查看480万条推文的内容外,他们还会跟踪帐户暂停,以及他们的朋友和关注者帐户的任何暂停。

为了这项研究的目的,研究人员专注于已知的ISIS和基地组织的同情者和已知的外国战士以及被Twitter标记为恐怖主义的内容构成的帐户网络。

通过使用优化的搜索策略和实际的ISIS用户数据对极端主义行为进行统计建模,研究人员开发了一种方法来预测新的极端主义用户,识别是否有多个帐户属于同一个用户,以及预测已暂停的极端主义用户的网络连接。开始一个新帐户。

此外,通过跟踪和比较屏幕名称,用户名,个人资料图像和横幅图像上的数据,研究人员还能够识别极端主义用户持有的70%的其他Twitter个人资料,错误分类个人资料的发生率仅为2%。

“我们创建了一套新的运营能力来应对网络极端分子在社交网络中构成的威胁,”马克斯说。“我们能够在发布任何内容之前预测谁是极端主义者,然后能够预测他们在被暂停后将重新进入网络的位置。简而言之,我们可以自动找出谁是极端分子,并保留他们的社交网络。”

虽然该研究是使用Twitter上属于ISIS极端分子账户的数据进行的,但他们的方法可以应用于任何极端主义团体和任何社交网络。

“参与某种形式的在线极端主义或骚扰的用户在社交网络中会有非常相似的行为特征,”克劳森说。“他们将连接到一组特定的用户组成他们的极端组。他们将创建新的帐户,在暂停后将类似于他们的旧帐户,并且在暂停后返回社交网络时,他们很可能会重新与某些以前的朋友联系。“