克什米尔希尔在《纽约时报》上发表的关于马克的优秀文章的第一个也是最重要的收获，该男子被谷歌标记为儿童性虐待材料 (CSAM) 的供应商，因为他拍摄了他儿子的阴茎照片并将其发送给他们的家庭医生，后来，当谷歌删除他的帐户时，他几乎失去了他数字生活的方方面面，是不加选择地扫描用户云数据所带来的巨大权衡。
一方面，让一家私人公司有效地查看您上传的每张照片似乎是对隐私的难以置信的侵犯，特别是当这些上传是作为您的智能手机操作的预期方式的一部分时（用户在技术上同意这种扫描，但作为无休止的最终用户许可协议的一部分，该协议既长得可笑，更确切地说，如果您想按预期使用手机，这是不可避免的）。此外，Google 不会简单地通过PhotoDNA 数据库中的受剥削儿童照片扫描已知存在的 CSAM 照片；该公司还利用机器学习来寻找尚未确定的新 CSAM。
另一方面，与 PhotoDNA 数据库中的材料一样可怕，其中大部分已经在互联网上流传多年，也就是说，所描述的滥用行为发生在很久以前；谷歌的方法有可能在虐待发生时发现虐待，使当局有可能调解和营救有问题的孩子。希尔的故事指出，2021 年，国家失踪和受剥削儿童中心的 CyberTipline 是唯一合法获准持有 CSAM 的实体（NCMEC 还管理 PhotoDNA 数据库），“提醒当局‘有超过 4,260 名潜在的新儿童受害者’”。我们不知道其中有多少儿童随后获救，但值得向任何单方面反对谷歌方法的人提出一个问题是，这个数字必须有多大才值得？
但是，回到原来的情况，这 4,260 名潜在的新儿童受害者之一是马克的儿子（另一个被希尔发现的第二个父亲卡西奥带走了，出于同样的原因）：对于那些人的问题为谷歌的做法鼓掌的是，要关闭整个系统，误报的数量有多大？
对这些权衡的探索是我上周写的关于希尔故事的更新的核心；正如我所指出的，没有简单的答案：
这个故事的几乎每个方面都非常复杂，我理解并尊重双方的论点：是否应该扫描与云相关的内容？是否应该利用机器学习来寻找新照片？考虑到他们可能犯下可怕罪行的可能性，抹杀某人的数字生活是否合理——除了你给警察的东西？这些都是非常困难的问题，尤其是在没有数据的情况下，因为权衡如此之大。
但是，在我看来，该案的一个方面非常清楚：
不过，故事的一部分是非黑即白的。谷歌不恢复有问题的帐户无疑是错误的。事实上，我对公司在这些情况下的做法感到震惊。即使您同意这种令人敬畏的监视活动是有必要的论点，考虑到所涉及的权衡，这使得在过程出错时采取最大的谨慎措施变得更加重要。谷歌应该害怕它拥有这种能力，并对误报保持高度警惕；相反，公司却反其道而行之，将自己定位为法官、陪审团和刽子手，即使我们集体委托关押罪犯的人确定没有犯罪。这太傲慢了，让我对这家公司普遍感到非常不安，尤其是它对人工智能的长期投资。
没关系，有人可能会争辩说：谷歌可以做他们想做的事，因为他们是一家私营公司。这是一个可能听起来很熟悉的论点。
科技与自由
2019 年，我在Tech and Liberty中讨论了公共和私人言论限制之间的区别：
亚历山大·汉密尔顿反对权利法案，尤其是第一修正案。这部著名的 xkcd 漫画解释了原因：
根据作者兰德尔·门罗（Randall Munroe）的说法，“言论自由权”是由第一修正案授予的，这正是汉密尔顿在联邦党人第 84 号中所担心的结果：
我更进一步，并确认权利法案，在它们被争论的意义上和范围内，不仅在拟议的宪法中是不必要的，而且甚至是危险的。它们将包含各种未授予的权力的例外情况；并且，正因为如此，他们会提供一个可圈可点的借口来要求比被授予的更多。为什么宣布不做那些没有权力做的事呢？例如，为什么要说新闻自由不受限制，而没有赋予可以施加限制的权力？我不会争辩说这样的规定会赋予监管权力；但很明显，它会为那些想要篡夺权力的人提供一个看似合理的借口来声称拥有这种权力。他们可能会以一种表面上的理性敦促，不应该指责宪法规定禁止滥用未授予的权力是荒谬的，并且反对限制新闻自由的规定提供了一个明确的含义，即制定有关它的适当条例的权力旨在赋予国家政府。这可以作为对建设性权力理论的众多处理的一个样本，通过放纵对权利法案的不明智的热情。
汉密尔顿的论点是，由于美国宪法的创建不是为了抵御暴虐的国王和王子，而是由独立的国家创建，所有基本自由都由序言（强调原文）保障：
我们，美国人民，为了确保我们自己和我们的子孙后代获得自由的祝福，为美利坚合众国执行和制定本宪法。
汉密尔顿补充说：
在这里，严格来说，人民没有放弃任何东西；因为他们保留了所有东西，所以他们不需要特别保留。
然而，门罗却假设相反：自由，在这种情况下是言论自由，是法律的产物，仅延伸至政府行为，而没有进一步延伸。 Pat Kerr于 2016 年在 Medium 上对这部漫画进行了评论，他认为这是思考言论自由的完全错误的方式：
言论自由的连贯定义实际上很难获得，但我个人认为这是“自愿表达（和接受）意见而不会因此受到过度惩罚的能力”。这是对他人宽容的自由原则。这不是绝对的，不是全面的，不是严格定义的，也不是法律。
它是一种文化。
那篇 2019 年文章的背景是 Facebook 和 Twitter 在允许在其平台上投放政治广告方面的不同决定；在随后的三年里，这些和其他大型科技平台愿意去警察言论的意愿和长度急剧扩大，即使私人审查确实是好的确定性实际上已经成为传统智慧。我在《纽约时报》一篇关于 Elon Musk 试图收购 Twitter 的文章中发现了这一段引人注目：
该计划与马斯克、多尔西和阿格拉瓦尔对不受约束的言论自由的信念相吻合。马斯克先生批评 Twitter 对其平台的限制过于严格，并表示应该允许更多的言论。去年，多尔西先生也对将前总统唐纳德·J·特朗普 (Donald J. Trump) 解雇的决定做出了努力，称他没有“庆祝或感到自豪”这一举动。阿格拉瓦尔先生曾说过，公开对话为社会提供了一种内在的好处。随着越来越多的人质疑过多的言论自由是否助长了错误信息和分裂性内容的传播，他们的立场越来越成为全球在线言论自由辩论中的异类。
换句话说，文化变了；法律仍然存在，但它并不适用，据《纽约时报》报道，它不应该适用于私营公司。
科学家
谷歌案与第一修正案无关，无论是法律上还是文化上。第一修正案不是绝对的，CSAM 就是一个明显的例子。在 1957 年的Roth v. United States 案中，最高法院裁定淫秽言论不受第一修正案保护；小威廉布伦南法官写道：
所有具有哪怕是最轻微的社会价值的想法——非正统的想法、有争议的想法，甚至是对主流舆论的仇恨的想法——都得到了充分的保障，除非因为它们侵犯了更重要的利益的有限领域而被排除在外。但在第一修正案的历史中隐含的是对淫秽的拒绝，因为它完全没有挽回社会重要性。出于这个原因，这种拒绝反映在普遍的判断中，即应该限制淫秽，反映在 50 多个国家的国际协议、所有 48 个国家的淫秽法律以及国会从 1842 年颁布的 20 部淫秽法律中到 1956 年。
这种推理提醒人们，法律最终源于文化。尽管如此，法律就是法律，需要定义，最高法院在 1973 年的米勒诉加利福尼亚案中提供了定义。淫秽作品 (1) 唤起对性的淫荡兴趣，(2) 以明显令人反感的方式描绘相关法律明确规定的性行为，以及 (3) 缺乏严肃的文学、艺术、政治或科学价值。最高法院在 1982 年的纽约诉费伯案中就 CSAM 走得更远，认为对儿童造成的伤害足以使所有形式的 CSAM 非法，超过米勒规定的标准。拜伦怀特大法官写道：
将儿童色情制品识别和归类为不受第一修正案保护的材料类别与我们之前的决定并不矛盾。 “言论是否受第一修正案保护的问题通常取决于言论的内容”……
对儿童色情的测试与米勒所阐述的淫秽标准是分开的，但为了清楚起见，可以将其与之进行比较。米勒公式在以下方面进行了调整：事实的审判者不必发现材料符合普通人的淫荡兴趣；不要求所描绘的性行为以明显冒犯的方式进行；争议中的材料不需要作为一个整体来考虑。我们注意到，不涉及现场表演或现场表演的照片或其他视觉再现的对性行为的描述或其他描述的分发（非淫秽）保留了第一修正案的保护。与淫秽法律一样，如果没有被告方面的某些科学因素，则不得施加刑事责任。
“科学家”，即“对个人行为性质的了解”，将这段司法历史与谷歌对马克的行为的最初讨论联系起来。正如希尔在《纽约时报》中解释的那样：
我看过马克给他儿子拍的照片。标记它们的决定是可以理解的：它们是儿童生殖器的露骨照片。但背景很重要：他们是被一位担心孩子生病的父母带走的。
在这种情况下，问题来自于谁来决定科学家。
谷歌和权利法案
很明显，马克并不打算将他为儿子的远程医疗拍摄的照片用于色情目的。旧金山警察局在一名人工审查员确认机器学习驱动发现马克的儿子照片后，已收到谷歌的通知，该警察局同意了。来自希尔的故事：
2021 年 12 月，马克收到了旧金山警察局寄来的马尼拉信封。它包含一封通知他已接受调查的信，以及在谷歌和他的互联网服务提供商上提供的搜查令的副本。一名提供了联系信息的调查员询问了马克的谷歌账户中的所有内容：他的互联网搜索、他的位置历史、他的信息以及他在公司存储的任何文件、照片和视频。
与“儿童剥削视频”相关的搜索发生在 2 月份，当时他拍摄了儿子的照片后一周内。马克打电话给调查员尼古拉斯·希拉德，他说案件已经结案。希拉德先生曾试图与马克取得联系，但他的电话号码和电子邮件地址都打不通。 “我确定这起事件不符合犯罪的要件，也没有发生犯罪，”希拉德先生在他的报告中写道。警方获得了谷歌掌握的关于马克的所有信息，并认定这不构成虐待或剥削儿童。
马克问希拉德先生是否可以告诉谷歌他是无辜的，这样他就可以取回他的帐户。 “你必须和谷歌谈谈，”希拉德先生说，马克说。 “我无能为力。”马克再次向谷歌上诉，提供警方报告，但无济于事……谷歌发言人表示，该公司坚持其决定，尽管执法部门清除了这两名男子。
简而言之，关于谷歌行为的问题与言论自由无关；不过，他们确实触及了《权利法案》中的其他修正案。例如：
- 第四修正案禁止“不合理的搜查和扣押”；虽然您可以证明一旦发现相关照片就可以证明搜查令是合理的，但说照片之所以被发现，是因为首先对马克的照片库进行了不分青红皂白的搜查。
- 第五修正案规定，未经正当法律程序，不得剥夺任何人的生命、自由或财产；马克丢失了他所有的数据、电子邮件帐户、电话号码，以及谷歌在没有正当程序的情况下永远接触到的所有其他东西。
- 第六修正案是关于审判权的；马克在现实世界中没有被指控犯有任何罪行，但当谈到他的数字生活时，正如我所指出的，谷歌是“法官、陪审团和刽子手”（相关地，第七修正案是关于陪审团审判的权利对于所有超过 20 美元的争议）。
同样，谷歌不受权利法案的保护；所有这些修正案，就像第一修正案一样，只适用于政府。然而，这个案例之所以有用，是因为它提醒我们，具体的法律定义与对错问题不同。
反过来说，谷歌在法律上没有强制要求让马克就他的数字生活进行听证（第六修正案）；他们不这样做是错误的。谷歌在永久删除他的数字生活之前没有法律强制要求给予马克正当程序（第五修正案）；他们不这样做是错误的。 Google 在法律上没有强制要求不搜索上传到 Google 的所有照片（默认情况下，如果您点击所有 EULA）；他们是……嗯，这就是复杂的地方。
我在开始这篇文章时讨论了 CSAM 问题所带来的不可能的权衡。人们可以而且确实证明，不去寻找这种卑鄙的行为，特别是如果它有可能拯救受虐待的孩子，这本身就是错误的。然而，以这种方式解决这种权衡——即违反第四修正案的精神和文化——使得尊重第五和第六修正案的精神和文化变得更加重要。
纸屏障
詹姆斯麦迪逊在向国会介绍权利法案的演讲中回答了汉密尔顿的反对意见。有趣的是，虽然汉密尔顿认为人们会知道并重视自己的权利，但麦迪逊认为文化会朝着相反的方向发展，阐明这些权利不仅对约束政府很重要，而且提醒人们多数人不践踏少数人的权利：
但我承认，我确实认为，在美国这样一个经过修改的政府中，最大的危险在于滥用社区而不是立法机构。支持自由的药方应该针对存在最大危险的地方，即拥有最高权力特权的地方。但这不是在政府的行政部门或立法部门中发现的，而是在多数人反对少数人的人民团体中发现的。
人们可能会认为，所有反对社区权力的纸质壁垒都太弱了，不值得关注。我觉得它们并没有那么强大，以至于无法满足各种类型的绅士，他们已经彻底了解并检查了这种防御的结构。然而，由于他们倾向于给他们留下一定程度的尊重，建立有利于他们的公众舆论，并引起整个社区的关注，这可能是控制大多数人的一种手段，使其不采取他们可能采取的行动另有倾向。
这篇文章是麦迪逊希望的体现。从一个现实开始，回想起来，如果没有法律效力，任何权利法案都将被保留，这似乎很奇怪。这是互联网和聚合器崛起的重要教训之一：当压制言论需要对印刷机进行物理破坏或逮捕小册子时，限制对现实世界暴力保持垄断的政府就足以保护言论。同样，除了政府，没有必要对任何实体要求正当程序或限制搜查和扣押，因为只有政府才能拿走你的财产或将你送进监狱。
然而，聚合器使私人行动比以往任何时候都更有可能和更强大：是的，如果你被推特或 Facebook 踢出，你仍然可以在街角说任何你想说的；同样，如果您丢失了所有数据、电话和电子邮件，您仍然没有入狱——谢天谢地，情况就是这样！同时，认为被社交媒体平台禁止并不侵犯个人言论自由权似乎很愚蠢，即使是公司自己的言论自由权使他们能够合法地这样做，只是因为认为没有追索权而失去整个数字生活并不是没有正当程序的财产损失是愚蠢的。大型互联网公司正在表现出麦迪逊对多数人反对少数人的恐惧，而权利法案对此无能为力。
剩下的是那些纸上的障碍，如果有可能“引起整个社区的关注”，它们可能还会产生什么样的尊重。权利大于法律，谷歌违反了前者，即使不受后者约束。公司不仅应该改变其对马克和卡西欧的政策，而且还应该从根本上重新评估它在其对人们生活的前所未有的权力与确保权力不被滥用的流程之间取得的平衡。如果没有，人们应该用他们仍然保存的力量为他们做这件事。