热议新冠疫情的推特用户,可能有一半是机器人

机器人
热议新冠疫情的推特用户,可能有一半是机器人
麻省理工科技评论 2020-05-22

2020-05-22

热议新冠疫情的推特用户,可能有一半是机器人
机器人
热议新冠疫情的推特用户,可能有一半是机器人

社交平台是热点信息和重大新闻的关键获取渠道之一,尤其是在当下新冠疫情大流行时期。

一个公认的事实是,出于各式各样的目的,无论是国内的微博,还是国外的推特,平台上经常会有机器人账号,也就是所谓的 “僵尸账号” 出没。不过,这些伪装成真人的虚假账号通常不会占据太大比例。

以推特为例,卡内基梅隆大学计算机科学系教授凯瑟琳 · 卡莉(Kathleen M. Carley)带领团队分析过,在美国出现值得关注的自然灾害和政治事件时,平台上的互动通常有 10%-20% 是机器人账号参与的。

然而,另一项同样来自卡莉教授的最新调查显示,在与新冠病毒有关的话题讨论中,虚假推特账户的参与比例可能高达 45%-60%,活跃程度是平时的 3-5 倍,而且有组织痕迹,行为模式更加复杂,隐藏得更深。

它们中的一大部分都是今年 2 月份创建的,非常热衷于参与新冠疫情讨论,包括传播错误医疗建议,夸大不实信息,转发病毒起源的阴谋论,并且积极推动居家令的终止和呼吁“重开美国(Reopen America)”。

研究人员认为,他们虽然使用了老套的方法来增加影响力,但其策略已经奏效:自美国疫情进入暴发期以来,推特上的相关话题讨论呈现出极大的两极分化态势。

热议新冠疫情的推特用户,可能有一半是机器人

图 | 卡内基梅隆大学计算机科学系教授凯瑟琳 · 卡莉(来源:卡内基梅隆大学)

有许多因素可以解释这一变化。疫情在全球大规模流行,意味着更多人会受到更大的利益驱动,转而利用危机来赚取政治利益和资本。与此同时,越来越多的机构正在开展影响力运动,施加强大的力量来主导不实信息的传播。

但是卡莉教授指出,最值得担心的一点并非机器人账号的数量,而是它们愈发复杂的行为模式,不仅使其更难被发现,还进一步增强了破坏力。

在有意培养下,如今的僵尸账号与其他账号之间的联系更加深入,交际网络更广,从而使假消息更容易广泛传播。它们还会采取更多策略针对美国的高风险群体,比如移民和少数群体,并且拉拢发表或参与讨论仇恨言论的真实账号,帮助他们组建和加入 Facebook Group 这样的在线群体,有意引导他们的情绪。

在最新的调查分析中,研究团队收集了自今年 1 月以来的 2 亿多条推文,全都与冠状病毒或 COVID-19 等关键词有关。

他们随后使用机器学习和网络分析技术,来确定哪些账户传播了虚假信息,又有哪些存在机器人账户的嫌疑,其中也包括由人控制,但借助辅助工具,短时间内实现大批量转发、快速回复和超高频率发文的账户——这种账号又被称为“cyborg(半机器人)”,行为通常带有很强的目的性。

研究人员所使用的系统可以寻找 16 种不同操作模式,都是虚假账户身上常见的行为习惯,包括 “桥接” 两个在线社群,用集中关注的方式 “支持” 一个账户以提升影响力,以及 “爆破” 一个在线社群致其解散。

热议新冠疫情的推特用户,可能有一半是机器人

图 | 自动发推工具的宣传图(来源:YouTube)

经过分析,他们发现了 100 多种版本的新冠病毒“假故事”。凭借精心编织的假故事,机器人账号不仅吸引了大量注意力和关注者,还在转发推文中占据了极高的比例。

在排名前 50 的转推账号中,有高达 82% 是机器人账号。如果范围扩大到前 1000 名,这一比例下降到了 62%,但仍然超过半数,其影响力不可小觑。这些虚假信息对社交网络环境的污染和破坏可想而知。

现在研究团队的工作重心已经转向 Facebook,Reddit 和 YouTube,以了解假信息如何在多个平台之间传播。这项工作仍处于初级阶段,但一些令人意外的模式已经显现。

首先,他们发现许多 “假故事” 最早起源于常规网站或博客,然后才被节选或转载到社交平台上加以放大。不同类型的故事也有不同的出处模式,比如声称病毒是生化武器的通常是那些以 “披露黑料” 或“炮制假新闻”著称的网站,运营方大多来自美国境外。与之相反的是,类似于 “抵制居家令,重开美国” 的言论主要来自美国境内的博客和 Facebook 主页。

其次,研究团队还意识到,不同平台的用户应对此类内容的方式非常不一样。以 Reddit 论坛为例,管理者更倾向于戳破并禁止虚假信息。当 Facebook 上的 “重开美国” 号召流传到 Reeddit 论坛上时,有的用户会主动发言抵制其传播。

热议新冠疫情的推特用户,可能有一半是机器人

图 | 呼吁 “重开加州” 的游行(来源:Watchara Phomicinda/Orange County Register/AP)

在虚假信息中,关于治愈和预防病毒的迷惑资讯最为普遍,包括从注射漂白剂到服用类固醇在内的一系列概念。

值得注意是,像是 “注射漂白剂可以杀死病毒” 这样一段说辞,对不同人的作用也不一样,甚至是截然相反的:有的人觉得很滑稽,为了讽刺而转发,有的人却会信以为真地转发。

因此,即使因为讽刺和滑稽而传播这种虚假信息,如果不明确说明,也可能会造成意想不到的破坏性。

至于如何解决这一系列问题背后的根源——虚假账号泛滥,卡莉认为“没有简单的方法”。单纯地禁用或删除账号是徒劳的,因为背后的人会创建更多账号,禁用无法解决任何问题。

虚假信息在任何时刻都会出现,尤其是危机和灾难降临时,几乎无法避免。每个人在接收信息和网上互动时,都应该认真思考互动的内容和方式。有时,直接点出这是虚假信息,或许就能阻止其进一步传播。

“很多虚假信息通过影射、暗示或不合逻辑的表述来完成,很难被发现,” 卡莉补充称,“我们需要研究人员、企业和政府共同努力,进行协调,以提出更有效的策略和措施。我认为需要某种综合监督小组,因为没有人可以独自完成这一切。”

麻省理工科技评论

From Tech to Deeptech