上周，我们获悉了一次重大机密材料泄露事件，该事件暴露了乌克兰战争努力和美国安全机构的关键细节。肇事者？不是极端组织或犯罪网络，而是我们更熟悉的人。一个花太多时间上网的年轻人。
技术和我们无法对其进行监管再次使事情变得更糟。更糟糕。泄密者首选的平台是 Discord，该平台已被用于分享儿童色情内容和协调夏洛茨维尔的白人至上主义骚乱。不和谐并不孤单。最近，Instagram 通过提供绞索和剃须刀刀片的图片帮助一名年轻的英国女孩自杀。 Facebook 在缅甸引发了一场暴乱。清单还在继续： 青少年抑郁症、病毒性错误信息、对国家机构的普遍不信任、两极分化、针对愤怒和激进化优化的算法……我们之前已经讨论过这个问题。
这一最新丑闻令人吃惊的是平庸。一个鲁莽的年轻人试图在网上获得社会地位，却意外地影响了世界大事。史蒂夫乔布斯称计算机为“思维自行车”，因为它们极大地增强了我们的能力。这是一个很好的形象。然而，对于许多年轻人来说，一个更恰当的类比是川崎 H2 Mach IV，这是一辆动力过大且重量平衡偏向后方的摩托车，这使得事故随时可能发生。力量太大，平衡不够，受伤在所难免。科技已成为子弹头自行车，成为令人不安的事故和器官捐赠的可靠来源。 
愚蠢的证明
人总是愚蠢的，每个人都有愚蠢的时候。 （注：Cipolla 教授的定义是那些行为对自己和他人具有破坏性的人。）社会的功能之一是通过建立保障措施来保护我们免受自己的愚蠢之害，从而防止公地悲剧的发生。我们通常称其为“监管”，里根和撒切尔将这个词作为官僚和繁文缛节的代名词。是的，空中交通管制延误和 DMV 非常烦人，但不会在飞往希思罗机场的途中撞上另一架 A-350，不会因过敏反应导致喉咙肿胀而窒息，并且能够使用 FTX 账户中的资金，这些都是非常棒。
六十年前，美国每年登记的车祸死亡人数超过 50,000 人。因此，我们成立了国家公路交通安全管理局，并责成它让道路更安全。如果你不到 60 岁，这可能很难想象，但就在不久之前，许多美国人认为安全带是对他们个人自由的侵犯——有些人将安全带从车上剪下来。然而，民主战胜了愚蠢，从 1966 年到 2021 年，美国的车辆死亡率减半。 
NHTSA 是对健康社会至关重要的众多无聊的州和联邦机构之一。在食品和药物管理局之前，食品和药品的销售和分销是免费的。美国联邦航空管理局是您在飞机失事中死亡的几率为33.7 亿分之一的原因。下次有人告诉您他们不信任政府时，请问他们是否信任汽车、食品、止痛药、建筑物或飞机。
这些机构对创新施加的限制——他们的繁文缛节——是真实存在的，也是值得的。数以百万计的人之所以活着并繁荣昌盛，是因为我们有远见和纪律，用民主监督的护栏来钝化工业进步的尖端。直到你打开手机……
豁免
美国监管史上最大的反常现象是我们中越来越多的人花费大部分时间的地方：在线。复杂性、游说、对技术领导者的文化崇拜和反政府的自由意志主义长篇大论的致命混合物使技术不受基本安全和保护标准的影响。致命是正确的术语。技术有时会进入其他机构的权限范围。 （虽然它总是抱怨它很特别，不应该被 FTC 和 DOJ 的旧人限制。）而且该行业的阻止努力是有效的。科技行业没有 FDA 或 SEC，而科技行业是美国市值最大且增长最快的行业。 
这样做的理由是进入新经济的出狱词：“创新”。当技术刚刚起步且利基市场时，我们明智地在增长与监管方面犯错。那部电影十年前就结束了。电话不是早期使用者的玩具，搜索和社交已经走出了校园。我们不需要驾照来驾驶 Big Wheel，但如果 Big Wheel 5G 以每小时 750 英里的速度行驶，我们可能会限制进入，或者至少需要安全气囊。
每次新灾难发生后，这些平台的首选叙述是复杂性的错觉。互联网只是另一种通信技术（例如，电话、信件），是社会的反映，几乎不可能设置防护栏。另外，加入一些关于言论自由的废话。这都是胡说八道。人工智能可以用莎士比亚的声音写出宋飞正传的剧本。它可以扫描平台上与风险相关的文字和图像——他们已经在这样做，以寻找您可能正在购买 Crocs 的信号。但是，平台对任何编辑评论进行投资的动机是什么？除了体面和对他人的尊重，那是什么？
我们已经很好地防止了线下世界的愚蠢行为，但我们生活的地方越来越多，尤其是年轻人， 他们现在上网的时间与睡觉的时间大致相同。他们（我们）在没有安全气囊、驾照或红绿灯的车辆中度过了我们醒着的大部分时间。此外，道路上有数百万辆由不明行为者控制的自动驾驶汽车，它们很容易碾过行人。
操作暂停
Tech 正在着手进行下一次大冒险：人工智能。这可能意味着快速创新、生产力提高，以及另一场无法预料的社会危害海啸。预测人工智能将如何撕裂文明的结构是新的宾果游戏。访问银行账户的人形网络钓鱼诈骗、人工智能生成的“摄像机镜头”和使真相越来越不透明的头条新闻，流氓人工智能神决心消灭人类。专家一致认为：这一切都是可能的。
说明问题的是技术人员对他们自己的创造的集体反应。他们第一次想要放慢脚步。几周前，他们写了一份请愿书，呼吁人工智能实验室“立即暂停”所有最强大的人工智能模型的训练六个月——数百名技术领袖在这封信上签名。 OpenAI 的首席执行官山姆奥特曼 (Sam Altman) 以 ChatGPT 开启了炒作螺旋，他说他“害怕”他公司自己的算法。一位人工智能专家表示，六个月的暂停期还不够严厉；相反，他说， “把它全部关掉。”破坏这封信真实性的是一位签署人埃隆马斯克，他要求其他人在他快速跟踪自己的人工智能程序时停下来。 （像往常一样，他满嘴都是狗屎。）
双手
我们应该双手抓住这个机会。具体来说，双手放在方向盘上。不是“暂停”，在我看来，这是个坏主意。 （中国、俄罗斯和朝鲜不会暂停。）如果刚刚让我的蓝色支票消失的那个人没有被踢出 OpenAI，而是控制它，你相信他会主张暂停吗？更好的主意：下载量超过Prof G Pod的 78 个播客应该暂停他们的节目。你知道……只是为了让我们拥抱这个新的、有潜在危险的播客媒体。
但我们确实需要抓住这个时刻，可能是短暂的，因为一些技术领导者已经记住了政府监督的优点。我们需要在联邦层面做出认真、持续和集中的努力，也许是一个新的内阁级机构，以带头监管……我们可以称之为人工智能，因为很快人工智能将在科技领域无处不在。
我们已经在全面的技术监管方面做出了努力，我们可以拿起并完成终点线。例如，去年参议员 Michael Bennet 提出了数字平台委员会法案，该法案将创建一个联邦机构来“对数字平台进行合理的监督和监管”。换句话说：正是我们所说的。但仍停留在“引进”阶段。与任何政治问题一样，它需要公众的支持。
虚假监管是行不通的——当政府就公司通常应该做什么发表广泛、模糊的声明时。这就是拜登对加密货币所做的，他正在用人工智能再次这样做。具体来说，他的“人工智能权利法案蓝图”充满了老生常谈、陈词滥调，而且没有法律。同样，NIST 发布了“人工智能风险管理框架”。再一次，不是法律。
精神病患者和无家可归者
本月早些时候，一名科技高管不幸被刺伤身亡。直言不讳的科技行业成员立即推测凶手是“精神病无家可归者”。几天后，受害人的一位熟人（也是一名科技企业家）被捕并被起诉。注意：无家可归的人 更有可能成为犯罪的受害者而不是肇事者。
以上是在创新经济中反复讲述的故事的另一种变体，我们错误地将财富和创新与品格混为一谈。越来越多的技术社区（风险灾难主义者）部署了大规模分散注意力和恐惧的武器来掩盖一个难以忽视的事实：过去二十年对美国释放的威胁不是精神病无家可归者或犯罪浪潮，而是技术社区产品使我们的青少年感到沮丧，使我们的公众两极分化，并使我们的话语更加粗俗……使我们不太可能聚在一起解决包括无家可归和犯罪在内的问题。正如我们对其他所有部门所做的那样，我们未能对这个部门进行监管，这是愚蠢的。
生活如此丰富，
PS 本周在G Pod 教授中，我与 Freakonomics Radio 播客的主持人 Stephen Dubner 进行了交谈。我们讨论了亚当·斯密、私募股权和七大罪——收听。
PPS 想要以不破坏世界的方式进行创新吗？ 5 月 16 日免费加入我，讨论如何取得突破。带着问题过来。
Guardrails帖子首先出现在No Mercy / No Malice上。