我们欠未来，但为什么呢？

对于通常缓慢的 8 月在线三伏天，当视图和分享到海滩度假时，这是一个忙碌的一周。这是由于我最近发表的文章“为什么我不是一个有效的利他主义者”，它打破了有效利他主义 (EA) 的双重性质：在实践中很好，但基于糟糕的哲学推理，并引发了许多回应。

这篇文章也恰逢 EA 突然进入公众意识，这是由有效利他主义中心的联合创始人 William MacAskill 上周刚刚发布的最新书引发的。从《大西洋》到NPR再到《卫报》 ，我们对未来的责任继续被报道。这本书在很大程度上是 EA 运动的直接产物。毕竟，没有多少本书有三个“参谋长”领导编写本书的团队，也没有两个不同的“执行助理”，也没有四个“研究员”，也没有额外的“常规顾问”，所有的MacAskill 本人称其为“合著者”。这本书的宣传和文字一样精心制作，以至于很难说出没有写过这本书的主要媒体（也有一些负面的文章，尽管这些都在少数民族）。 MacAskill 无处不在的播客之旅甚至成为 Twitter 上开玩笑的主题。

MacAskill 的我们欠未来的目标是向公众介绍“长期主义”，这也代表了 EA 从传统慈善事业（尽管它采用金钱球风格）转向更雄心勃勃的主题的一个支点。长期主义意味着关心我们未来的后代，有时甚至是数千年后。它涉及诸如让地球成为一个好地方、防止人工智能杀死所有人、亲生主义、特许城市、小行星探测、结束工厂化养殖以防止动物受苦、防止经济停滞以及确保我们不会意外锁定等问题可怕的做法很长一段时间。所有这些原因在直觉上都很有吸引力，并且可以通过许多其他方式证明是合理的。这并不是说将它们作为一揽子交易是显而易见的，因为 MacAskill 和其他长期主义者的功劳确实很少如此明确地倡导文明的未来，而这本书非常干练和恰当地做到了这一点。然而，构成长期主义运动的具体原因是高度退化的（在这个词的生物学定义中），也就是说，它们在许多方面都是合理的（例如，参见Matthew Yglesias 最近关于功利主义微积分是多么必要的文章关心人工智能安全）。

在某些方面，这本书准确地代表了我所写的我希望在 EA 运动中出现的内容（尽管当时我还没有读过它）。毕竟，“为什么我不是一个有效的利他主义者”的结论是，该运动应该通过转向诸如长期主义之类的东西来淡化 EA 对功利主义的厌恶，只要这些目标具有更广泛和模糊的目标，比如“帮助人类生存”。 ”我将我希望看到的最初的厌恶描述为：

“令人反感的结论”一词最初是由 Derek Parfit 在他的著作《原因与人》中创造的，讨论了这种功利主义推理的最终状态是如何更喜欢所有可用土地都变成比孟加拉国最糟糕的贫民窟更糟糕的地方的世界，使生活变得糟糕到几乎不值得生活的程度，但是有这么多人，当您将其插入算法时，这种令人反感的场景会变得更可取。 . .

这就是我认为最忠诚的功利主义者，甚至是那些仅仅同情哲学的人，会出错的地方。发生的事情是，他们认为帕菲特的令人反感的结论（通常被称为令人反感的结论）是来自所谓“人口伦理”的某种超具体的学术思想实验，只会发生在极端情况下。它不是。这只是一个非常明显的例子，说明功利主义如何通过详细描述一个在严格的功利主义统治下的世界的“最终状态”，不断地违反明显的道德原则（比如不为他们的器官而谋杀随机的人）。 . .功利主义实际上导致到处都是令人反感的结论，即使是最小的一滴，你也会发现反感。

MacAskill 的书至少在几个地方展示了为什么这种稀释是必要的。以下是我们欠未来的一些摘录，讨论了关于“人口伦理”的不同可能观点，这应该是这本书的一部分，作为长期主义的学术技术理由：

关于什么是正确的人口伦理观，哲学界仍然存在深刻的分歧。 . .事实上，我不认为任何人都应该对人口伦理充满信心。

因此，如果您想拒绝令人反感的结论，那么您必须拒绝该论点所基于的前提之一。但这些前提中的每一个似乎都无可争议。我们留下了一个悖论。一种选择是简单地接受令人反感的结论。 . .这是我倾向于的观点。许多其他哲学家认为我们应该拒绝其他前提之一。

与人口伦理学中的所有观点一样，批判性观点也有一些非常不吸引人的缺点。

关于什么是正确的人口伦理观，仍然存在深刻的分歧。 . .事实上，我不认为任何人都应该对人口伦理充满信心。

MacAskill 的个人立场基本上是举手，宣称功利主义问题的解决方案看起来都不是很好，我们应该在如何处理人口的各种令人反感的理论之间妥协，希望我们采取的任何妥协都是没那么糟糕。

老实说，读者留下的印象是潜在的理由是。 . .有点乱。在我看来，问题归结为功利主义如何将善与恶概念化，就像一大堆泥土一样。作为一个土堆，道德价值是完全可以替代的。它总是可以交易和套利的，而且越多越好。

这种观点本质上会导致荒谬的比较。例如，大屠杀的邪恶泥土是一定的体积，如果我们在历史上等待足够长的时间并数一数脚趾头，你有一天会得到另一个体积相同的邪恶泥土。然后你可以用一个换另一个。因此，一些脚趾头的残端加起来就是一场大屠杀，这看起来更像是一个减少荒谬的事情。

人们可能会相当公平地问，这种道德作为一种土堆观点（以及随之而来的不可避免的反感）是否真的对 MacAskill 的思想产生了任何真正的影响。确实如此。只是在几个地方，但足以展示我关于功利主义令人反感的本质的原始观点。例如，在讨论人工智能是否会终结人类文明时，MacAskill 对人类的种族灭绝/接管提出了这种不温不火的“它可能很糟糕，谁知道”：

. . .从道德的角度来看，人工智能接管看起来与其他灭绝风险非常不同。例如，如果人类因大流行而灭绝，而没有其他物种进化来代替我们建立文明，那么文明将结束，当膨胀的太阳使我们的星球无法居住时，地球上的生命也将结束。相比之下，在已经讨论过的人工智能接管场景中，人工智能代理将继续文明，可能持续数十亿年。这样的文明会有多好或多坏，这是一个悬而未决的问题。 . .即使超级智能 AGI 杀死我们所有人，文明也不会终结。相反，在 AGI 价值观的指导下，社会将以数字形式继续存在。

MacAskill 觉得有必要解释为什么 AI 接管/人类灭绝实际上是不好的，实际上他在本节专门讨论 AI 风险的唯一解释是：AGI可能会在很长一段时间内锁定不良的道德价值观。而已。这就是他为什么我们不应该让 AI 杀死我们的后代的重要长期主义原因。那是因为从功利主义的角度来看，从长远来看，人类灭绝和被人工智能取代可能不是一件坏事。哦，这里是种族灭绝，那里是种族灭绝，当然，这很糟糕，但如果 AI 能够将整个太阳系转化为hedonium ，从而最大限度地提高 10 个 Google-gazillion AI 在原本没有生命的太阳系中的幸福感呢？那里的好处如何不超过坏处，我们不应该在尽可能保持中立的同时最大化好处吗？例如，人工智能可以编辑自己的源代码并通过单击复制/粘贴来复制自己——想想当地球上所有的原子都致力于计算时可能有多少，以及他们的有意识体验会多么令人愉快。想想所有的污垢！一大堆好土！

作为另一个例子，考虑一下 MacAskill 对野生动物的看法，他认为野生动物遭受了过度的痛苦，例如，许多动物死于被吃掉，而且通常很年轻。由于他的功利主义伦理，他随后提出：

将人类对野生动物生命的影响视为巨大的道德损失是非常自然和直观的。但是，如果我们将野生动物的生活平均评价为比没有还差，我认为这是有道理的（尽管不确定），那么我们会得出一个令人眼花缭乱的结论，即从野生动物本身的角度来看，野生动物的巨大增长和扩张智人一直是件好事。

需要明确的是，MacAskill 是在说野生动物具有负面的道德价值，因为它们对“邪恶的污垢”的贡献比“好污垢”的贡献更多，而且现在由于人类在兔子窝上铺路来建造停车场，它们的数量减少了，这是一件好事，因为宇宙中的“邪恶污垢”较少。我认为大多数人不会接受这种主张宇宙更道德、更多流离失所和杀死野生动物的主张。它直接基于 mound-o’-dirt 观点，正如我所写的那样，没有考虑到：

各种积极和消极的事物之间存在质的差异，而不仅仅是数量上的差异，这确保了永远不会有一个简单的通用公式。绝大多数人都能看到这些质的差异，即使他们很少表达出来。例如，打嗝是一种轻微的不便，无论我们谈论多少打嗝，你都不能证明将小女孩喂给鲨鱼以防止它们是合理的。 . .

MacAskill 将野生动物归为“邪恶的污垢”类别的错误是由于误解了道德的一个定性方面， 1一个可以追溯到柏拉图的古老真理：当生物表现出它们的本性时，这是一件好事。根据其柏拉图式的形式，北极熊应该忠实于其本性，并尽可能成为最好的北极熊，即使这意味着吃其他动物。反过来，人类阻止它这样做是不道德的，是对自然秩序的干扰。这就是为什么绝大多数人都认为北极熊灭绝是不好的，即使它们偶尔会吃海豹，这会造成痛苦。诗人迪恩·杨的理解表达为：

即使最后一只北极熊坐着

在他不断缩小的伯格思维中，

我是恶毒的，但我的灵魂是纯洁的。

但是这种柏拉图式本质的制定是这种新的道德演算没有时间研究的古老真理。

在最初的文章之后我注意到的一件事是，人们似乎对功利主义对 EA 的重要性有着截然不同的看法。这变得更加困难，因为有时运动的领导者会说“我不是一个功利主义者！”——事实上，找到一个真正的功利主义者似乎和找到一个真正的苏格兰人一样难。威廉·麦克阿斯基尔本人就是这方面的一个例子，他在推特上声称自己不是功利主义者（尽管至少他承认自己是苏格兰人），但他在最新著作中提出的长期主义的大部分论点都是直接诉诸于 mound-o’ -污垢式功利主义。我怀疑的是，当 EA 领导者说“我不是功利主义者”时，这实际上意味着他们不相信某些高度具体的功利主义版本（“完全功利主义”等），或者他们已经放弃了最极端的未稀释的通过添加一点水来制作它的版本。或者，有些人干脆喝下毒药并宣称功利主义是同义的。 2

但是稀释真的有必要吗？运动中是否有任何对功利主义的反感？我们已经在“我们欠未来”中看到了一些内容，但此外，这里还有一组来自不同人的最新推文，这些人自称是有效的利他主义者。我没有去寻找这些，这些实际上只是我在过去几周里偶然发现的推文，而我一直在思考这些问题。所有这些都是我在“为什么我不是一个有效的利他主义者”中提到的反感的版本。

当今社会面临最大压迫的群体是非人类动物、后代和非犯罪的恋童癖者。

一个人与死去的狗发生性关系在道德上并没有错，前提是没有人知道这件事并且尸体被放回原处。你对此感到厌恶并不是反对它的论据。

结构性暴力对于减缓人工智能的发展是必要的，我们应该考虑将暗杀悬赏悬赏给顶尖的人工智能研究人员。

我不打算采购这些，因为我永远不会挑出个人进行在线谴责。即使在推特的公共广场上，引号的上下文也是针对人们特定圈子的，所以请不要搜索它们，因为它们都有我随机更改的单词，或者是释义，以确保很难找到它们。但它们都是我称之为“毒药”的很好的例子，它让 EA 运动令人反感，我建议尽可能地淡化它。是的，其他道德哲学也有反感，我只是不认为它们会无情地或自然地导致它们。 3

总而言之：虽然 EA 运动在实践中取得了很多好处，并且普遍促进了良好的事业，但它的领导人应该停止使用像“如果人类文明被摧毁但被人工智能取代，那么他们将会更多这样的二年级字面主义”只有当错误的价值观被锁定时，人类种族灭绝才是一件坏事。”

一个简短的结尾。因为也许我不是一个有效的利他主义者有一个更简单的原因。在美国目前的化身中，EA 是一种哲学，既与加利福尼亚州和美国西海岸相关，并且在某些方面与加利福尼亚州和美国西海岸有着形而上学的联系。在某种程度上，这一直是乌托邦式的。它实际上是在空气中，当我上个月访问时，它根本感觉不到空气。我什至不能告诉我我在外面，所以温度是无害的。在如此美丽的国家，如此完美的天气，在硅谷炽热的技术、金融和文化提升中，安居于这个新世界的思想家肯定会觉得乌托邦是可能的——如果乌托邦是可能的，那么一定有一些算计把我们带到那里，功利主义就是那个微积分。

相比之下，我在东海岸长大。洛夫克拉夫特国家。这里下雪，建筑物吱吱作响。这并不一定很糟糕——我住在科德角，很多夏天的晚上都在海滩上读书。但东海岸的风化程度更高，从字面上看，也更紧密地联系在一起，从文化到常春藤，再到食物，再到大海另一边的旧世界欧洲传统。而这些旧世界的思想和文化常常对乌托邦的可能性持怀疑态度。甚至我们的宗教也有一定的悲观情绪——我们是禁止镜子的人的后代。我个人认为 EA 的功利主义核心与我们文化积累的智慧及其数千年来演变的道德分离，从哈马拉比法典到柏拉图，从基督教到法国存在主义哲学，这是一个长期且经常相互矛盾的道德传统，无法概括由一个方程。

所以也许这只是对我出身的一种不可避免的矫揉造作。也许就像葡萄酒的头脑一样，他们的环境有一定的风土，一种不可还原的味道或味道。而我的只是与乌托邦微积分不匹配。

原文： https://erikhoel.substack.com/p/we-owe-the-future-but-why