据《纽约时报》报道,Facebook 的内容版主使用的一份培训文件提出了一个问题,即该社交网络是否低估了潜在的儿童性虐待图片。据报道,该文件告诉版主在评估图片时要“站在成年人一边” ,版主对这种做法提出了质疑,但公司高管对此进行了辩护。
问题在于 Facebook 版主应该如何处理主题年龄不是很明显的图像。该决定可能会产生重大影响,因为涉嫌虐待儿童的图像会报告给国家失踪和受剥削儿童中心 (NCMEC),该中心会将图像提交给执法部门。另一方面,描绘成人的图片如果违反 Facebook 规则,可能会从 Facebook 上删除,但不会报告给外部当局。
但是,正如《纽约时报》指出的那样,没有可靠的方法可以根据照片确定年龄。据报道,版主接受过培训,可以使用 50 多年前的方法来识别“青春期的进展阶段”,但该方法“并非旨在确定某人的年龄”。而且,由于 Facebook 的指导方针指示版主假设他们不确定的照片是成年人,版主怀疑许多儿童的图像可能会漏掉。
由于 Facebook 的合同审核员为外部公司工作,并没有获得与全职员工相同的福利,因此情况变得更加复杂,他们可能只有几秒钟的时间来做出决定,并且可能会因犯错而受到处罚称呼。
Facebook 向 NCMEC 报告的儿童性虐待材料比任何其他公司都多,该公司表示,在成年人方面犯错是为了保护用户和隐私,并避免可能妨碍当局调查实际虐待案件能力的虚假报告。该公司的安全负责人 Antigone Davis 告诉该报,他们做出虚假报告也可能是一种法律责任。值得注意的是,并非每家公司都认同 Facebook 在这个问题上的理念。据报道,苹果、Snap 和 TikTok 都采取了“相反的方法”,并在不确定年龄时报告图像。