切斯特顿围栏和有效利他主义的 X 风险

TL;DR：有效利他主义 (EA) 缺乏成熟机构中几乎普遍的保护规范，使其容易受到组织猝死的两个主要原因：腐败和性丑闻的影响。

对 EA 的基本信念是意外负面后果的重要性； Chesterton’s Fence是一个著名的可操作的启发式方法：

让我们说，为了简单起见，在马路上竖起栅栏或大门。更现代的改革者兴高采烈地走过去说：“我看不出这个有什么用；让我们把它清除掉吧。”更聪明的改革者会很好地回答：“如果你看不到它的用途，我当然不会让你清除它。走开想想。然后，当你可以回来时告诉我你确实看到了它的用途，我可能会让你毁掉它。

这并不是说你永远无法拆除围栏，只是你认识到你正在失去什么，以便你可以权衡它与你所获得的东西。但是，我认为 EA 不小心拆除了有价值的围栏，而获得的收益却相对较少。至少有一些低垂的水果围栏可以用很少的成本获得超大的回报。

1）拆除的围栏：低估外部经验

这已经被广泛讨论过，所以我不会进一步评论，只是要指出外部经验是广泛社区的一种通过仪式。 ^[1]

可能是这种普遍缺乏外部经验阻碍了 EA 采用其他地方来之不易的规范：

EA 中的 Meme：你所有的朋友、室友和合作伙伴都是 EA。

这不是一件好事。包括 Will MacAskill 在内的许多人评论说，这对个人来说是次优的，并试图纠正它。 EA 一致的原因似乎是工作与生活的平衡或观点的多样性。

这些原因是有道理的，但并不是几乎每个成功的组织都对此制定规则：因为这对使命来说是一种生存风险。

也不是以某种次要的方式，过度亲密和乱伦的关系直接导致功能障碍，尤其是让它成为现代组织猝死的主要原因：性丑闻。

成功的机构有关于联谊和权力关系的规则，EA 似乎在这里很大程度上缺乏明确的规范——如果有的话，规范似乎实际上与主流背道而驰。

我知道关系是社区的组成部分，但糟糕的关系会造成一个糟糕的社区，同时也会危及使命。 ^[2]

您可能会读到“腐败”并想到“贪污”，但这通常是腐败阶梯上的最后一级。一开始并没有那么明显或有意识，更像是自我交易、利益冲突和裙带关系。

很少有明确的规则能够解决上述问题，并且至少在 EA 中存在这样的看法（但这种看法可以通过可见的规范来减轻）。 ^[3]

成熟的机构有防止这种失败模式的规则。然而，EA 现在将友爱与围绕自我交易和偏袒的一些规则结合起来，为组织死亡创造了巨大的机会，而没有可比的上升空间。

这些围栏不仅可以防止现有成员无意中陷入丑闻，还可以作为不良行为者的免疫系统。

EA 现在拥有巨大的权力、金钱和影响力。当它很小且没有吸引力时，它可能会因默默无闻而获得安全性，但现在它的奖品太大了，无法在免疫功能受损的情况下存在。