假设你是一名心理医生。一个好人，在你的领域享有盛誉，虽然你不是一个公开的名字。在某些时候，你开始怀疑你的学科中有什么东西已经腐烂了——这种腐烂超出了误用或误诊的范围。不，精神病学本身的基础出了点问题。特别是在抑郁症周围。你认为它被过度诊断了，而且不仅仅是一点点，而是很多，而且目前的治疗，在他们整个模式的层面上，是错误的。事实上，某些荟萃分析表明，精神科药物对抑郁症根本没有长期影响。所以你开始批评这个领域。
首先，你要保持学术性。你在会议上发表演讲，声称抑郁症不仅被过度诊断，而且实际上数据表明，体育锻炼和参与有意义的仪式和其他生活方式的改变与药物一样，如果不是更好的话。你还指出许多关于抑郁症的研究缺乏可复制性，并声称不断强调抑郁症是“脑残”的症状实际上会使人变得更糟。你指出荷尔蒙失调，这是很常见的，正在被误诊。你主张人们应该，除了在极少数情况下，应该努力让自己戒掉药物，并建立例行的体育锻炼、社交互动，最重要的是，参加教堂等仪式，或者，如果不愿意信教，创建不可知论/无神论的仪式为他们自己（你甚至提倡在这些仪式中使用裸盖菇素）。你编译研究和论点就像一个军备库，确保你的论文。
似乎没人在乎。整个领域都在做他们的事。
所以你要公开。你写一本书。你去播客。你在社交媒体上谈论它。一切顺利。太好了，真的。很快，您的 Twitter 关注者将接近 200,000。你的书一夜之间成为畅销书。你可以在最大的播客上发表你的论点。大约在这个时候，批评开始形成。它始于一些学者的批评，然后是一些媒体文章，然后随着官方组织的介入而成为压倒性的浪潮。
首先，学者批评你忽视好的学习而挑剔坏的学习。你回应了，但事情很复杂，而且基于元分析和统计数据——不仅如此，它还基于你对这个领域本身几十年的观察，当你表达它时，最终会变得非常难以形容。最终，一家新闻机构将您描述为“希望人们在树林里跑来跑去吃裸盖菇素而不是服药”的人。这是转折点。问题很快归结为：你在说服人们不要吃药，这可能会伤害数百万人。一位博主精确计算了如果每个患有抑郁症的人都听你的信息，你每年会杀死多少人——根据他们的计算，你会增加数十万人的自杀率（当然，假设你错了）。 CDC、AMA 和 WHO 的发言人都对精神病治疗及其必要性有严格的指导方针，他们发表的声明明确表示：你违背了科学共识。这是错误信息。继续吃药。
您甚至有可能被禁止使用社交媒体，或者至少被禁止使用影子。毕竟，根据美国外科医生的说法，公司应该
. . .进行有意义的长期投资以解决错误信息，包括产品变更。重新设计推荐算法以避免放大错误信息，建立“摩擦”（例如建议和警告）以减少错误信息的共享，并使用户更容易报告错误信息。
在英国，皇家学会现在正式建议将科学错误信息的概念从个人扩展到更普遍（和无定形）的“社会危害”概念：
作为其在线危害战略的一部分，英国政府必须打击可能造成社会危害和个人危害的错误信息，尤其是在涉及健康的科学交流环境时。
因为如果你的观点确实在个人或社会层面造成了过多的死亡，造成了伤害，这还不足以证明接下来发生的事情是正当的吗？
这个假设的人可能不会被认为是现实的。他们似乎，也许，有点过分同情——毕竟，他们是你。也许如果我们检查假设的精神科医生的证据，它就会完全崩溃，而 AMA、CDC、世界卫生组织、皇家学会和推特等社交媒体公司实施禁令，都是正确的。
所以让我们用一些细节来巩固我们的例子。假设你是一个真实的人：Alexey Guzey，优秀的New Science的创始人。他一直在研究睡眠科学，以下是他的结论：
我不信任睡眠科学家。 . .原因是我对睡眠科学领域的完整性的信任度约为 0。 . .
2年前，我对加州大学伯克利分校心理学神经科学教授、世界领先的睡眠研究人员和最著名的睡眠专家、人类睡眠中心的创始人和主任所写的《我们为什么要睡觉》一书进行了详细的批评加州大学伯克利分校的科学，马修·沃克。
这只是本书的几个最大问题（还有更多问题）。
沃克写道：“通常每晚睡眠少于六七个小时会破坏你的免疫系统，使你患癌症的风险增加一倍以上”，尽管没有证据表明癌症与睡眠有关。显然没有这方面的随机对照试验，事实上， 一般癌症风险和睡眠时间之间甚至没有相关性。
沃克完全伪造数据来支持他的“睡眠流行病”论点。沃克在下图中显示的睡眠时间数据根本不存在：
到我的评论发表时，这本书已售出数十万册，甚至数百万册，并受到 《纽约时报》 、 《卫报》和许多其他备受推崇的报纸的好评。 . .
是否有睡眠科学家表达了他们对这本书或沃克的担忧？不。他们忙着听他在认知神经科学学会 2019 年会议上的主题演讲。
在我发表了详细说明其错误和捏造的文章后，是否有睡眠科学家表达了他们的担忧？不。 。 .
沃克是否失去了他在社区中的地位、他的 NIH 拨款或他的任何任命？不，不，也不。
我不相信一个拒绝警察欺诈并且沃克是其中最重要代表的科学家社区（回想一下他是加州大学伯克利分校人类睡眠科学中心的主任）可能是一个科学家社区会产生一个值得信赖和可靠的科学工作机构。
相当野蛮的批评。现在，就我个人而言，我认为睡眠可能具有特定的生物学功能，尤其是对于梦想，正如我在大脑过度拟合假设中所概述的那样，所以我个人认为，在某种程度上，获得适量的睡眠可能很重要。而且我认为马特沃克不应该因为阿列克谢的批评而丢掉工作。我认为大受欢迎的非小说类书籍不可避免地不会有同样严谨的科学论文。语言会更宽松（在这里尽可能对马特沃克表示慈善）阿列克谢的很多批评实际上都是关于这种宽松的。因为文献浩如烟海：如果我们有两篇论文，Matt Walker 决定强调其中一篇是“正确的”，而 Alexey Guzey 决定强调另一篇，但它们相互矛盾，这是对的吗？
阿列克谢的观点是“科学错误信息”吗？因为阿列克谢与我们假设的精神病学家处于几乎相同的位置——拒绝科学共识。事实上，阿列克谢甚至积极地对自己进行试验，并呼吁人们以一种直接违反 CDC 指导方针的方式减少睡眠。据我所见，媒体中没有人嘲笑阿列克谢，除了在 Lesswrong 论坛上的一些措辞强硬的分歧（我认为这低估了他的情况），而且 CDC 或 WHO 的任何人都会觉得这似乎很荒谬发表正式声明的必要性。但是在现在流行的文化标准下，他们可以，不是吗？确切地说，有什么区别？
为什么我个人关心这个问题？好吧，首先，我正在为 Simon & Schuster 写一本非小说类书籍。在其中，我大量批评神经科学是范式前的，甚至没有错，许多神经科学家（当然不是全部，但相当多）介于浪费金钱和欺骗公众之间。这显然是一个远没有假设的精神病医生那么极端的例子。有人可能会合理地指出，由于阿列克谢的观点，不存在大规模的失眠流行病，也不可能因为我的观点而导致大规模放弃神经科学的资助。但即使这些对科学共识的批评确实没有流行起来，我、Alexey Guzey 和假设的精神病学家之间似乎没有原则上的区别，除了伤害的规模、即时性和政治化——在所有情况下，我们正在“违背科学共识”。这让我很担心，因为回想起来，科学错误信息的概念最终可能会成为那些经典的过于广泛的标准之一，就像在 2000 年代，当音乐公司试图弄清楚如何以重罪起诉数百万下载的美国人时点对点音乐。
解决方案是什么？既然埃隆马斯克已经收购了 Twitter ，监管机构已经警告（包括欧盟官员的一些威胁），放松对错误信息的限制将会产生后果。埃隆的新推特如何解决对科学错误信息的合理担忧以及科学共识应该受到批评的合理担忧？
退后一步：在我看来，当前围绕“科学错误信息”的辩论看起来很像 1990 年代围绕“伪科学”的辩论。我想这是因为两者都是划界问题的表现。划界问题问“什么是科学，什么是伪科学？”，事实证明这是一个非常难以回答的问题。科学家有时会根据直觉而不是逻辑进行操作，有时他们更多地来自非理性的痴迷而不是理性他们乐于推测不可证伪的事件和理论，他们经常改变他们的理论，将分歧与经验数据结合起来，而不是伪造原始理论，事实上，有时他们完全拒绝经验结果，他们经常强烈反对同事的共识。 Kuhn、Popper、Lakatos 都有解决划界问题的机会，但没有达成一致的解决方案。
当然，在粗粒度级别上，分界问题很容易解决。正如一位最高法院大法官曾经谈到色情时所说：“我一看到就知道了。”占星术是一门伪科学，导致自闭症的疫苗是科学错误信息（Nb，“科学错误信息”的含义与“对科学共识的伪科学批判”基本相同）。这样的例子是粗略的划分——严肃地说疫苗导致自闭症就是不参与科学文献（因为众所周知，只有一项现已撤回的研究表明了这一点），该领域的顶级专家都没有相信，等等。
但在细粒度级别上，划界问题基本上是不可能解决的。并且关闭对科学共识的批评，尤其是对认真参与文献的有资格的专家的批评，意味着已经解决了细粒度的划分问题。这个蕴涵结构看起来像：
-
一些对科学共识的批评可以基于批评者的来源不可靠、缺乏专业知识或缺乏对现有科学文献的参与（即粗略的考虑）而被驳回。然而，在某些情况下，批评不能仅仅基于这些考虑而被驳回。
-
后者的专家级批评通常无法通过诉诸当前的科学共识来解决，因为它们在定义上是对该共识的批评。
-
在这种分歧水平上，区分合法批评与非法批评等同于解决划界问题，因为它意味着能够指定科学批评与伪科学批评。
问题是你不能只引用自成一体的科学文献，因为这正是许多批评者所反对的——批评者有太多的责任说一切都应该在文学。马克斯·普朗克说，“科学一次只推进一场葬礼”是有原因的。此外，审查某人的信心是一个隐含的假设，即划界已经成功发生，即问题得到了令人信服的解决。
由于冠状病毒的流行，整个情况都形成了鲜明的对比。我不会详细说明这样一个明显的应用程序，尤其是因为存在一些同样明显的复杂性，涉及全球大流行的严重性和即时性。那些情有可原的情况是存在的，否认它们就是否认现实。然而，科学错误信息的概念已经远远超出了仅针对疫苗的辩论——例如，请参见《名利场》关于实验室泄漏假设如何进行的调查分析，尽管它是关于病毒起源的可行科学假设（尽管未经证实） )，被禁止超过一年：
Daszak 很早就开始在《柳叶刀》医学杂志上秘密组织一封信，试图将实验室泄漏假说描述为一种毫无根据的破坏性阴谋论。福奇和包括安徒生和加里在内的一小群科学家在 2020 年 2 月上旬的秘密讨论中努力将自然起源理论奉为圭臬，尽管他们中的一些人私下表示他们认为与实验室有关的事件更有可能发生。就在这些讨论开始前几天， 《名利场》获悉，病毒学家兼疾病控制和预防中心 (CDC) 主任罗伯特·雷德菲尔德博士私下敦促福奇对实验室和自然假设进行大力调查。然后他被排除在随后的讨论之外——后来才知道他们甚至发生了。 “他们的目标是有一个单一的叙述，”雷德菲尔德告诉名利场。
为什么顶级科学家会联手压制公众对实验室泄漏的猜测——即使他们通过FOIA 请求和国会审查披露的电子邮件表明他们有类似的担忧——仍然不清楚。
结果是 Facebook 直到2021 年 5 月才解除了提及实验室泄漏假设的禁令。 1但这并没有阻止最近在加利福尼亚州颁布的AB-2098 法案，该法案将传播 COVID-19 错误信息的惩罚视为失去执照（请记住，直到去年 5 月，任何关于实验室泄漏的讨论都是标记错误信息）。
即使人们假设（正确与否）在大流行期间有充分的理由建立一个影响深远的系统来审查对科学共识的批评，我担心这个系统将在大流行结束后仍然存在并最终应用于比任何人预期的更广泛的科学领域。例如，考虑到就在几周前，《科学》杂志对卡尔·伯斯特罗姆（Carl Berstrom）的工作进行了热烈的评论，他呼吁将科学错误信息的研究变成一门“危机学科”：
“胡说八道”是伯格斯特罗姆对在线传播的虚假信息的总称——包括无意传播的错误信息和旨在故意传播虚假信息的虚假信息。 . .在去年发表在PNAS上的观点中，伯格斯特罗姆和其他 16 位来自不同领域的科学家认为，关于信息生态系统如何影响人类集体行为的研究需要成为一门“危机学科”，就像气候科学一样，它也可以提出解决问题的方法。解决[错误信息]问题。
从PNAS论文中可以清楚地看出 Berstrom等人的科学错误信息的概念。不仅限于围绕 COVID-19 大流行的问题，还包括有关人工智能、气候变化、经济学、心理学等方面的主张。
在许多情况下，这些领域确实存在广泛的科学错误信息！其中许多是我们“一看到就知道”的明显粗略划分。但在其他情况下，很难知道。是的，有像实验室泄漏假说这样的明显案例，但也有，例如多发性硬化症等疾病的传染病起源被认为是一种边缘观点，但最近的研究正在证实这一点。
在 Elon 的新 Twitter 中，公司细粒度的划分（例如作为其领域专家之间科学辩论的最终裁决者）似乎将显着减少频率。老实说：我认为，在科学方面，这是正确的举措。因为这不是一个可以被暴力破解或设计出来的工程问题，也不是一个可以妥协的政治问题；分界问题是一个从未解决过的野兽，即使是最优秀的科学哲学家也是如此。要求公司给出一个好的答案实在是太过分了。
批评是科学过程中最脆弱的部分。这是令人不快的，而且批评者本身往往是错误的。然而，对科学共识的批评可能会引起人们对紧迫问题的关注，以及我们理解和知识中的漏洞。这就是为什么审查制度和科学从来没有成为好伙伴的原因。以及为什么他们应该尽可能继续睡在不同的卧室里。
只是把我的牌摆在桌面上，我个人认为实验室泄漏假设的可能性低于自然原始假设，但也不大（只有约 40% 的机会），基于武汉湿货市场是震中的统计分析（但这只是暗示性的，而不是确认性的）。自然起源假说和实验室泄漏假说都是可行的，而且应该从一开始就摆在桌面上。
原文： https://erikhoel.substack.com/p/elon-musks-twitter-and-the-crisis