做出选择是做人的基本状态。从小时候选择玩什么，到年轻时选择学习什么，再到选择在哪里工作，再到选择和谁一起出去，我们从出生到死的那一刻都陷入了选择的泥潭。在我们要做的几乎所有这些选择中，先天和后天都限制了我们面前的菜单。我们中的大多数人不会选择不成为一名宇航员或选择不成为一名水下石油钻井平台的潜水员，这些选择会随着我们的前进而在生命之树的树枝上逐渐消失。
然而，选择最佳选择的雄心仍然存在。选择最好的冰淇淋，选择最好听的音乐，选择最好的大学专业，选择最好的工作。所有这些都依赖于对某些标准进行排序和最大化输出的某个版本。因为事实是，我们不再住在小村庄里了。如果我们能瞥见真正的广度，那无穷无尽的选择就会让我们不知所措。因此，每个孩子与生俱来的功利主义精神就这样诞生和消亡了。
但是一旦你是一个年轻人，你就会更多地了解这个世界，并想做年轻人所做的事情。在大多数情况下，对于最雄心勃勃的人来说，这是一种对世界产生不可磨灭影响的令人难以置信的冲动。这种轻微的空虚感与令人难以置信的活力以及对理解他们所做非凡工作的社区的需求相结合，一直是各种组织寻找人才的素材。看看我的朋友 Paul Millerd 的这份清单，了解公司在招聘宣传中做出的各种承诺。
但这很好。这是正常的，几乎与大多数以年轻人的野心为基础的组织所做的销售宣传几乎相同。如果它被明确推动使世界变得更美好，那是一件好事。
但是，您所做的选择受到人们可以看到的东西的限制。与往常一样，复杂性是对我们凡人的上帝眼中优化的破坏。随着世界变得越来越大，做出最佳选择变得越来越难。
就像我们不知道如何最好地组织我们的经济和分配资源以获得最好的结果一样，我们也不知道如何最好地利用我们的资源来做世界上最好的事情。
由于我们实际上并不知道，因此我们必须找出来估计。这就是为什么今天，EA 的很大一部分本质上是为非政府组织服务的麦肯锡。众所周知，非政府组织和援助组织容易出现治理不善、管理不善和效率低下的问题。顺便说一句，这并不是因为它是由坏演员经营的，而是因为缺乏足够强大的转向力通常会使航向修正几乎是不可能的。
综上所述，EA 具有相同的故障模式。作为一个机构，一个运动，它取得了令人难以置信的成功，并建立了一个非常强大的社区，有才华的人加入。然而，它的故障模式因此是双重的：
-
它不会以目前的方法实现其在世界上做最好的事情的既定目标，因为它可以做的大多数有趣的事情目前都超出了范围
-
如果要发挥其成员的潜力，它需要从根本上增加对做事的关注，而不是优先考虑、思考和研究
EA 在优先级游戏方面做得很好。给它一组选项，他们会对其进行第 n 级分析，在可能的地方分配数字，在不能的地方分配不确定的概率，创建 QALY 收益的计算，并比较列表。
当我在麦肯锡时，我们也会这样做，并且经常在影响力与易处理性矩阵中比较备选方案。衡量影响力和可追踪性自然需要大量的猜测，但另一种选择是向棋盘投掷飞镖并凭直觉行事。优先顺序和对流程的批评大致相同。
但是奈特式的不确定性很高。并且输出通常不是解释您发现说服他人的文件的文件。这意味着每个人都在努力就他们最热衷的事业领域提出令人信服的推销。但是没有足够的实际行动。它让我想起了高盛内部制作的宣传书。它试图尽可能详细地表达对未来的愿景，主要目的是利用它来推进议程并说服他人。
然而，然而，无论你如何切分它，麦肯锡不以在其处方方面的非凡创新而闻名是有原因的。这不是因为缺乏智力上的严谨性或这样做的意愿，而是组织精神有助于优化，在他们可以衡量的事情上做得更好。正如它的工作是支持在半确定的选项之间做出选择所涉及的不确定性一样，它通常对重新创造的潜力视而不见。
对我来说，这是我与 EA 分歧的核心。我不是 EA，不是因为利他主义的根本问题，或者实际上是它的有效版本，甚至是冷酷的功利主义算计让我误入歧途，而是因为我觉得 EA 试图影响世界的机制是，在一些核心方法，无效。考虑到过去五十年来我们看到的最大的减贫和生活改善来自经济的事实，它的核心方法论，即找出并做“最好的”事情并不是那么有效。增长与发展。 EA 在它面前看到的选择只是总图的一小部分。
这似乎是 EA 的很大一部分旨在解决负面外部性的部分原因——消除 xrisk、减少痛苦、减少短期思维——而不是积极专注于创造积极影响。它专注于可以创建定义测量或创建高度不特定（甚至不是错误）德雷克方程的领域。与此同时，我们在社会和物质进步方面取得的最大进步是鼓励技术和经济进步，而这似乎已从 EA 应考虑的事项组合中删除。
这是 Scylla-Charybdis 的选择。要么 EA 可以完全开放其决策过程，说尽你所能，包括通过初创公司和游说、研究和探索、小说、诗歌和社区组织，要么它限制在它认为最重要的领域，同时确保社区它创造的仍然活着并参与其中！
我开玩笑说 EA 应该赞助科幻小说，因为这是许多从根本上重塑世界的人的动机的上游。但这不是那种得到资助的东西，因为它非常难以辨认。
因此，EA 发挥着极其重要的作用，主要专注于提高我们的基线。它把减少痛苦的事实视为首要的好处。它的对应可能是新成立的进步研究领域，他们更专注于做必要的实验来增加馅饼，从经济增长一直是我们历史上唯一的灵丹妙药的论点开始，这就是我们应该的地方集中。
不同之处在于，支撑底部策略试图将整个曲线向上推，但主要作用于长尾。另一个是在前五分之一和十分位数中使用的，这有助于推高曲线的顶端。他们制定的策略最终会慢慢渗透并成为常识，一旦传播开来，就不再是 alpha 的来源。
关于实际上帮助做最好的事情的第一点，我们确实有一些事后诸葛亮。过去的一个世纪被称为信息时代的一部分。或者全球化时代。但是，当我们回顾过去的一个世纪时，突然出现的一件事是人类苦难的显着减少。
贫穷当然不等于受苦，但它们之间的关联性非常好。
当我们考虑减少人类痛苦或增加人类幸福的既定目标时，如果选择是找出痛苦的根源并消除它们，无论是疾病还是贫困，我们都会看到直接的行动方案。你离让你的美元真正有价值只有一步之遥。
但图表讲述了一个不同的故事。世界历史上最大的消除苦难的努力发生在20世纪下半叶，中国变得更加富裕。它使 6 亿人摆脱了赤贫，比大约一个世纪前的地球人口还要多。这是了不起的！
如果我们查看这些个人公民并尝试各种版本的再分配，这也不会发生得那么快或那么快。我们可能已经能够启动某种形式的自下而上的能力，让他们中的一些人尝试构建他们梦想中的东西，但这并不容易。它不会拥有整个州的巨大力量来提高其能力并提供推动增长的强大基础。
这也是为什么捐赠必须集中在边缘（因为只有这么多）、被忽视（否则你没有反事实影响）和易于处理（显然）的领域。这足以移动球门柱，以便您既确定需要处理的主要领域，又消除您认为已完成足够工作的领域。
我们想出解决这种认知超载的唯一方法是不要在顶部做出决定。专注于被忽视就像试图专注于一个新的利基市场来创办一家公司。传统上，这不是你确定什么是最好的想法的方式。
这是第二点。行动和迭代是我们发现解决大问题的最佳方法，从微小的种子开始。正如初创公司在商业世界中提供这种动力一样，EA 应该帮助在援助领域提供这种动力。
如果我们看看它最大的成功，例如 GiveDirectly，这些成功源于简单、易读和创造的非凡价值。无论这些成就是否确实是花钱的“最佳”方式，这些成就都是正确的。
就像我们不知道挽救一条生命是否是花费这笔钱的最佳方式，而不是投资它并在十年后挽救三条生命。不管 QALY 假设或功利主义计算，我们可以帮助多少人。如果比尔盖茨直到现在才开始他的基金会，他将有 5000 亿美元可以捐赠，而不是五分之一。那是正确的决定吗？
想象一下，你有一个选择。你可以给 EA 1 万美元，挽救 2-3 条生命。或者你可以投资这笔钱。有了这项投资，您可以在 30 年内挽救 10 条生命，以 3% 的折现率仍然可以挽救更多生命，即 4 条生命。你选择哪个？如果你有未来生活的贴现率，你就可以解决均衡问题。
我的直觉反应是选择第一个。这是直接的，有一个真正受苦的人，你实际上正在帮助他，这是肯定的。但不确定性也是为什么会有一系列未来的结果和贴现率！
如果我们都集体投资资本，这会提高经济增长率，让每个人都变得更富有，那会怎样？我们知道，如果您的收入高于中位数，您的预期寿命会更高。如果你从最贫穷的 1% 转移到最富有的 1%，那就多出 14.6 年。高出 15-16%！这意味着，如果你设法让大部分人的收入水平上升，随着国家变得更加富裕，对健康和预期寿命都有很大的好处！
关键不是你不能通过推理来解决困境。关键是，我们倾向于帮助今天的人们，也倾向于在近期（和长期）的未来帮助人们。这些不一定兼容或可比，但我们选择我们自己的道德体系来分配我们的资源。从显示偏好的角度来看，它是功利主义（如果 IRR 大于 17%，投资）、义务论（如果我们看到溺水的孩子，我们应该帮助溺水的孩子）和美德伦理（我应该付出 10%收益，因为这是正确的做法）。
这三者的任何组合，受我们进化的内在自我的约束，都会产生类似于现代系统的东西——在那里你可以经营一个巨大的加密对冲基金并用这笔钱做好事，人们把他们的钱、时间和精力捐给帮助他们从未见过或见过的人，以及人们将肾脏捐赠给陌生人的地方！值得重复一遍——人们真的把他们的肾脏捐给了陌生人！ EA 人员的个人行为堪称典范（除了我不同意的小角落），这一点不容小觑！
想象一下，如果一家风险投资公司负责识别和投资未来最好的公司。这将是一次彻头彻尾的失败。只有通过培养 1000 家风险投资公司，他们拥有广泛不同的视角、投资风格、采购网络和尽职调查方法，我们才能获得任何类似于运作市场的东西，以确定未来的表现。
围绕确定最佳边际机会的凭证和逻辑受限的对话过于强调团队中领导/团队/个人能够识别这些机会的能力。这门槛太高了！
我的论点的答案是 EA 需要创建一个城市。有文章说 EA 并非全是指挥和控制，而且意见存在异质性，一方面它们是正确的，因为它不像比尔和梅琳达盖茨基金会那样有一个明确的领导者。但这也不像 EA 旗下的不同组织在追求“尽你所能”是什么的截然不同的想法 – 他们是从同一本赞美诗集唱的。它有许多头，但身体相同。
金钱是可替代的，有很多方法可以实现尽你所能做到最好的目标。正如盖茨基金会所做的那样，用于根除疟疾的资金听起来非常接近用于制造 mRNA 疫苗的资金。通过倡导小行星防御来对抗全球灾难性风险非常接近于建立太空殖民地或定居火星。除了第一个恰好落入“EA”桶，而后者则落入“有梦想的亿万富翁”桶或“风险投资”桶。
重点不仅在于这些类别是为人而设的，而且要实现一个总体目标需要多次尝试。当前的尝试大多看起来过于分析，我敢说学术，做作，其中基本论点接近“如果我们以正确的形式获得正确的想法，我们可以改变一切”。而实际更好的解决方案可能应该更加注重行动。
纯粹是一种防御型而另一种进攻型的区别吗？如果是这样的话，这些差异在现在被广泛夸大，并且被未来高度短暂地夸大了！因此，EA 应该对那些有可能让人类变得更好的想法更加开放，即使它没有通过立即的 QALY 检查。
不仅如此。对于很多棘手的问题，找到好的解决方案的唯一方法就是实际去做。与每家初创公司一样，获得成功的唯一途径就是进行创业，因为公司从一个想法到一家成功公司的转变、变化和编辑以及一般路径从一开始就是不可知的，也无法确定。
异质性在这里会是什么样子？赠款组织是否更加多样化？更高水平的实验，远离 QALY 测量的束缚？
实现这一目标的方法是创建一座城市，理想情况下将那些想要做最好的事情的人聚集在一起，然后让他们自由地去建造他们需要建造的东西。正如巴拉吉所说，最好将其视为原始网络状态。或者确实是自由主义者的论点，即 EA 计划仍然是非常命令和控制的，而不是基于市场的。
也许运行预测市场应该是什么影响最大的投资，并根据人们把钱（投票）放在嘴边（意见）的基础上分配资金。这同时意味着要消除试图弄清楚要资助哪些事情的集中因素，而是要看看城市本身是如何蓬勃发展的。这是让“个人对如何做最好的事情做出最佳猜测”和“我们不能自上而下解决世界面临的所有问题”的唯一方法。
这意味着今天对当前 EA 程序的修改形式归结为 – “尽你所能，一旦你弄清楚该做什么” – 从而消除了具有有限预知能力的中央权威的问题，处理难以辨认的商品，以及您自己的晴雨表，将“做好事”与“去参观帕台农神庙”或“买一辆很酷的汽车”等其他激励因素进行比较。
这当然没问题。没有运动需要回应我们所有的无私努力。它的目标市场不需要是“世界上所有的好事”。它可能是尝试将中间派留给非政府组织和政府的边缘路径，或者是解决分配中间问题的主流路径，而目标仍然是自由的，需要更多的特殊干预。 （对二维特征表示歉意）。它可以解决更明确的领域、导致疟疾网的更实用和平淡的分析，以及通过核安全宣传或生物武器研究禁令来降低生存风险的稍微复杂的领域。
对概率易读性的信念和对做研究的增强信念结合在 EA 所支持的一些长期主义工作中。不是因为数学意义上的固有缺陷，尽管我不为地理或时间购买零贴现率的论点，而是从实际实施的角度来看。
遵循轨迹来完成 x 风险、AI 安全类型工作的一个关键问题是，EA 工作的很大一部分实际上变成了维护工作。如果正确猜测的奖励是 10^6 倍，那么您最终可能会将大量精力投入到概率领域的遥远领域。而且我从根本上认为，我们确定最佳低概率高回报探索领域的方法还不够好。
我们在政府方面不擅长，我们在社会科学方面不擅长，我们在真正的科学方面也不擅长，我们在赠款方面不擅长，我们在风险资本投资。令我震惊的是，超出了合理性的障碍，我们只是很难从 0.00001% 的机会事件中识别 0.1% 的机会事件，甚至是 1% 的机会事件。
这意味着解决“重大问题”的重点变成了“发现重大问题”的问题，我们又回到了投入大量的行政和官僚努力来搞清楚该做什么。值得注意的是，EA 的最大影响确实发生在像 GiveDirectly 这样的领域，它试图减少或消除这种负担。
我也担心，因为我喜欢 EA，这种方法会限制它的寿命。
-
如果人们在没有真正回报或真正利益的领域花费了十年或更长时间，那么你今天就会精疲力尽，并为吸引下一代创造更大的障碍。倦怠本身对我来说听起来不是一个大问题，许多成功的大公司非常乐意将倦怠用作其增长的动力，但在其他地方没有明确回报的倦怠是一种双赢的局面。
-
如果围绕 EA 的更多对话围绕其关注低概率高影响领域，这将从根本上扭曲现有 EA 和想要加入它的未来 EA 的体验。是的，以 0.01% 的几率防止生物风险很重要，但你最好也有足够的影响力，当它失败时（因为它会在 10000 次中出现 9999 次），你不仅仅是一个士气低落的外壳。
这就是为什么我担心 EA 专注于一种奇怪的杠铃策略——它可以在矩阵中清晰地分析和优先排序的项目，同时也涉足可能永远不会得到回报的高风险长期赌注！这样做的代价是没有真正投入努力，这实际上可以让很多人的生活变得更好。
EA 已经创建了一个强大的社交网络和社区。他们牺牲了部分薪水，甚至选择了能够最大限度地发挥其能力的职业。很少看到一个相对自下而上的运动成功地俘获了一群有意义的聪明人的心，并让他们直接为改善同胞而努力。
这是太棒了！
很多关于它的批评也是完美主义的谬论。批评将 EA 比作以奉献为中心的组织的柏拉图式理想，并找出其不足之处。就像我理所当然地认为，一个致力于做 X 的组织通常会在 X 的模糊边缘遇到困难。我也理所当然地认为，一定比例的人，如果他们全心全意地做一件事并成为一名一个组织的一部分，最终可能会撞上一堵倦怠的墙。
但这些对 EA 组织并不不利。大多数现实世界的实现都不完美，通常很短，但它们仍然有效。我想看看如果 EA 组织按照自己的方式行事，他们可能会以何种方式碰壁，这并没有错，而是适得其反。
所以我的总体感觉是，考虑到 EA 想要尽其所能，他们看待世界的方式很容易弄巧成拙。它更像是对我认为它试图实现自己的目标不可信的评论，这将是一种耻辱，因为它的目标是好的！
EA 让我相信，在这个世界中，产生高度影响是很容易的，在那里你可以与真正聪明、有动力和善良的人一起工作，在那里你相信人类有可能长达一百万年的逗留，在那里人们捐赠肾脏陌生人，无论出生地或出生年份如何，每个人的价值都应该大致相同。这感觉非常接近成为一个辉煌的社会的一部分。
EA 还提供了一个道德框架、一个志同道合的人的社会社区，以及一个在世界上创造变化的机构。对我来说，这是 EA 的绝对优势。这是一种积极的意识形态。它有助于为聪明、年轻、雄心勃勃的人提供一种在世界上明显产生影响并做好事的方式。而且这些数量远远少于应有的数量。当 Google、Goldman Sachs 或 McKinsey 等大型知名组织要求同一个人在他们的招聘宣传中为他们工作时，这些正是他们的真实感受。我宁愿让 EA 也有它应得的。
虽然它不能解决它可以解决的所有问题，或者在所有方面都以最佳方式工作，但这也是一个相当愚蠢的目标。没有多少愚蠢的博客文章谴责确切的资助方法，因为粗粒度的大动作比细粒度的微调更重要。大多数情况下，尽管我希望 EA 没有以教条式的信念、哲学基础和最终目标的形式提出强烈的道德问题，但每当它们被戳或刺激时，它们就会变成常识。
效果好吗？是的。它能做到最好吗？不。它的追随者是否会不停地争论它行善的方式是否是最佳的？哦，上帝是的。是否每个人都有多个哲学分歧，这些分歧最终无关紧要，但让每个人都觉得他们有发言权？好像是这样的。
因此，我希望它继续为更多的生命赋予意义，并因此拯救更多的生命，即使它不是。
原文： https://www.strangeloopcanon.com/p/ea-is-a-fight-against-knightian-uncertainty