任何人都可能在网上受到骚扰,但这对于活动家和记者来说是不可避免的,他们会报道有争议的话题并挑战他们国家的当局——尤其是如果她们是女性的话。谷歌的 Jigsaw 部门已经发布了一个名为 Harassment Manager 的网络应用程序的开源代码,该应用程序可以帮助他们审查、分类和导出他们在社交媒体上收到的有害评论。开发人员可以在代码的基础上创建自己的工具版本,但 Jigsaw 确实有实施合作伙伴,包括汤森路透基金会,该基金会将于 6 月为其记者推出一款功能性网络应用程序。
以目前的形式,骚扰管理器在 Twitter 上工作,Twitter 与 Jigsaw 合作开展了该项目。它使用该单元的 Perspective API 来检测最有可能有害的评论,并允许用户轻松记录和隐藏这些回复,以及静音或阻止骚扰他们的帐户。 Jigsaw 至少从 2017 年开始就一直在训练 Perspective检测在线骚扰,方法是向其提供被人类评论者认定为有毒的评论。
正如The Verge报道的那样,Perspective 让 Harassment Manager 能够检查用户收到的消息,并将它们分类为高、可能和未知的危害级别。然后,用户可以分批处理它们,而不是一个一个地处理它们,如果他们不想阅读有毒信息,他们可以模糊它们。
根据 Jigsaw 的研究,70% 的女记者在网上受到威胁,其中超过 40% 的人因此停止报道她们的故事。该部门希望该代码能够为开发人员提供他们需要的东西,以便他们能够创建一种工具来保护“处理不成比例的高毒性在线”的人,尤其是“女性记者、活动家、政治家和其他公众人物”。 Jigsaw 表示,开源该工具只是帮助那些经常处理在线骚扰的人的一步。它将继续与新闻和人权领域的非政府组织合作,以找出 Harassment Manager 的技术如何帮助保护他们的社区安全。