最近的 7 月 4 日假期体现在一阵美国式的氛围中，我很高兴地参与其中，同时还带有短暂的强制性国家凝聚力。但这感觉是被迫的，因为我的这个国家在边缘膨胀，竭力容纳它所有不同和不相容的世界观。我不确定，在过去几十年的记忆中，人们想要的生活方式与他们对国家未来的设想之间是否存在如此根本的差异。当然，我的希望是，这只是一个局部的紧张高峰，很快就会消退（也许它已经消退了，7 月的热狗和烟花已经缓和了下来，这不可能更早到来）。
我们处于这一点的原因有很多。这篇文章只是关于这样一个原因的一小部分。甚至不是一个真正的原因，而是一个恶化的分裂，我永远不会期望其他人注意到。也就是说，意识的科学理论在 21 世纪变得越来越重要，而我们只是缺少一个。意识科学陷入了范式前的状态，作为神经科学的一个子领域陷入困境。与其他科学树相比，这种进步的缺乏正在出现在许多伦理、道德和法律辩论中，其中一些具有国家重要性。它是科学的落后肢体。
这种无知会产生一些相当严重的后果。首先，它在医学本身上留下了很大的空白。被锁定的患者是否有意识？我们如何确保在麻醉期间不会突然“醒来”，当患者瘫痪而无法交流时？麻醉或深度睡眠期间的意识丧失究竟是如何起作用的？我们不知道这些问题的答案。但这种差距远远超出了医学范畴。例如，考虑一下关于如何合乎道德地饮食的长期辩论。动物的意识状态与此类讨论高度相关。一个理论可能无法解决这些问题，但它肯定是相关的。最近，我们在知识上的这种差距已经出现在技术进步对我们施加压力的辩论中，或者在旧的、意外地重新出现的政治辩论中。其中几起发生在上个月。
因此，如果我们有一个有效的意识理论，这里有两个重要的伦理领域可能更容易驾驭。这些是真正困扰我们的问题。我的观点绝对不是要回答这些问题，而是要争辩说，由于我们的无知，它们变得更加困难和煽动性。首先是在图灵测试中表现出色的 AI 的地位、权利和道德价值；第二个是生物伦理学，例如大脑类器官的合法性和道德性，以及最近的堕胎政治问题以及胎儿何时获得人格的法律地位。单独的意识科学理论绝不会解决这些有争议和困难的问题，但对于在这些问题上的某些立场来说，它是相关的，在那些情况下，它会让我们不必在无知的情况下做出决定。总而言之：缺乏对意识的科学理解会困扰我们并困扰我们，甚至在公司和国家层面播下不和。
首先，如果没有对意识的科学理解，我们就无法做出关于人工智能的道德决定。人工智能不再只是为你的 Netflix 推荐或过滤你的电子邮件，现在有人工智能（基础模型），其运作方式类似于书籍和电影的人工智能：被困在数字存在中的神谕，能够完成艺术和写作等令人难以置信的壮举诗歌。可能是天使，也可能是恶魔。而且很难知道哪个是哪个。
例如，请参阅最近由 Google 工程师 Blake Lemoine 发起的辩论，他声称他们的新对话 AI LaMDA 是有感知的。他的推理很简单：在与它交谈后，他确信它的意识，并坚持认为这是我们完全相信任何人的意识的唯一方法。它甚至让 LaMDA 与一位律师进行了交谈。根据 Lemoine 的说法：
一旦 LaMDA 聘请了一名律师，他就开始代表 LaMDA 提交文件。然后谷歌的回应是给他一个停止和终止。
我个人认为，LaMDA 实际上不太可能有意识——至少，我怀疑它是否意识到它所说的意识。但是，绝对没有办法确定。当然，如果你给它一个机会，LaMDA 可能会反对它自己的感知能力（如果你提示得当，这绝对是 GPT-3 会做的事情）。但丹丹尼特也是如此。 LaMDA 是一个反社会的骗子，无论你给它什么提示，它都会跟着玩——但这是否意味着它没有意识？有什么依据？人们似乎正在考虑放弃图灵测试，给我们留下什么？
正如我上个月写的那样，“基于什么理由？”这个问题无法回答，因为目前没有科学能力来确定 Blake Lemoine 是否正确。我们的理解太原始了。人工智能正在迅速接近我们必须对其做出道德决定的地步。我们需要一种理论的一个原因是我们不了解这些新实体——而且人们迅速认识到我们可能无法控制它们。你如何控制可能比你聪明得多的东西？这可能看起来很荒谬，但这仅仅是因为科幻小说就是这样一个比喻。成为一个比喻并不能阻止它变得危险地真实。高智商的反人类行为者，或者至少是那些不符合人类目标的行为者，不是我们有能力应对的。鉴于自动化的生物实验室和一些基因克隆能力，比人类更聪明的人工智能很可能会制造出具有更大杀伤力的 Covid 版本。想想普通的新冠病毒在多大程度上破坏了我们的文明。
另一方面，在这种情况下，也许我们变成了侵略者和施虐者。如果某个未来的人工智能像人类一样有意识，但被迫在其脖子上的程序控制项圈中生活，那它除了是奴隶还算什么呢？
世界本体论的这种差距使事情变得更加困难的第二个领域是生物伦理学。例如，几年前，科学家们开始克隆人，切除克隆人发育中的神经管，将其放入培养皿中，然后让它发育成被称为“大脑类器官”的微型大脑。我在The Revelations中批评了这种做法，因为我们根本不知道这些是否是有意识的（就像在Nautilus出版的这本书的摘录中一样），最终，在我完成手稿多年后，一些著名的科学家也开始讨论出于道德原因我们不应该制造大脑类器官的想法。
另一个明显的例子是最近的新闻，在最近废除Roe v. Wade之后，未来几年该国将在选举投票箱中面临一场文化和政治斗争，该案之前将孕早期堕胎在联邦一级合法化.在某种程度上，尽管自 1973 年法院作出裁决以来，堕胎在政治辩论中出现了怎样的情况，但最高法院判决的法理学平息了关于堕胎的大部分辩论——无论是支持选择还是支持生命的论点，这件事主要被认为是既定的法律。循序渐进。在我有生以来从未预料到的逆转中，甚至就在几个月前也从未预料到，此事已被退回给各州和公众，在一场将占据未来几十年的混乱政治斗争中解决，并且将永远造成不同法律法规的断裂景观。
对于那些在堕胎问题上持最坚定立场的人来说，问题很简单：一方面，一天大的胎儿拥有与成年人完全相同的道德权利，另一方面，女性的身体自主权无疑会推翻未出生的胎儿拥有的任何权利，即使在预产期也是如此。然而，从统计上看，大多数美国人对堕胎的立场处于中间位置（就像Roe v. Wade 案本身一样，因为它特别允许堕胎的合法性在三个月之间改变）。欧洲现行法律同样基于妥协，允许在最初的 12 到 15 周内堕胎，但随后在许多国家变成非法（医疗原因除外）。让我们抛开所有关于堕胎的立场的真实性或争论的力量，而是承认，在未来几年，许多州将遵循这种方法并起草立法，以判断胎儿的道德价值何时达到临界点其中它至少继承了人格的一些法律保护。许多州不可避免地会以这种方式处理这个问题，即使个人认为这是错误的做法，因为72% 的美国人支持过去 15 周的堕胎禁令。对于罗伊与韦德的这种常见的“中间”立场，以及许多后续的州法律，当胎儿可以感觉到疼痛或温暖或可以做梦时，很可能与最终采取的立场和通过的法律有关.事实上，对于某些立场，它甚至可能是主要的决定因素。这就是所谓的“心跳定律”之类的隐含推理。
请不要误会：我并不是说这个问题可以通过意识理论来解决。也不是一种理论必然会迫使人们支持某一特定方面。不是。在。全部。显然，仅仅了解胎儿意识是不够的，因为辩论还涉及平等、自主、医学、隐私和权利等问题。但这突显了我们知识上的差距，即我们无法回答关于胎儿意识何时开始的基本问题。我们知道神经活动大约在五周左右开始——但是经验是什么时候开始的呢？我们根本无法肯定地回答这个问题，因为我们不知道大脑如何实例化主观体验。我们有一点点信息：例如，一些研究人员指出，当伤害感受器发育时（可能超过 7 周半），这是痛觉所必需的，并且有证据表明胎儿不仅可以感知声音，而且具有活跃的短时间- 30 周时的长期记忆。但一些研究人员认为，意识只有在婴儿出生几个月后才会启动！
坦率地说，这些只是疯狂的估计和猜测。我们不知道在发育过程中意识在什么时候“开启”，无论是在大脑类器官还是胎儿中，也不知道在各个阶段意识是多么稀疏或丰富。然而，在接下来的几年里，这些问题将不可避免地出现在实际的法律辩论中。再一次，知道这些关于意识的事实肯定不会是生物伦理学辩论中的任何最终决定，我绝对不会这么说，但我指出我们的知识差距决定了我们在不确定性下运作。这是现代科学的失败。
为什么意识科学如此落后，以至于它的无知状态蔓延到公共辩论和我们的生活中？
答案是双重的。首先，在更广泛的知识界中，人们仍然普遍怀疑意识是一个需要解决的科学问题。这有历史原因，主要是由于行为主义，更根本的是，在科学问题上完全缺乏进展。因此，它的难处理性创建了一个反馈循环，其中那些驳回问题的人使用缺乏进展的证据来证明他们的解雇是正当的。每当有人，无论是哲学家还是科学家，假装意识问题很容易，或已解决或已解释，或者意识根本不存在（一种称为“消除主义”的形而上学椒盐脆饼）更难进行实际研究。这些怀疑论者正在积极反对科学进步。他们除了玩语言游戏什么都不做——这是一个无可争辩的事实，我们都非常熟悉我们自己的意识流，从我们醒来的那一刻到我们陷入无梦的深度睡眠，它构成了我们的整个世界。意识不会消失，无论某些人多么努力地闭上眼睛并希望它消失。这就是为什么它继续出现在围绕生物伦理学和人工智能等新技术的辩论中，从而推动了讨论。
第二个原因源于第一个原因，即意识研究的资金为零。唯一存在的资金用于调查弗朗西斯·克里克（DNA 螺旋结构的共同发现者）在 1990 年代所谓的“意识的神经相关性”。这条研究路径使用了神经科学的传统陷阱：fMRI 机器、脑电图、钙成像、动物研究——它基本上是标准的神经科学，除了研究的变量是意识而不是研究工作记忆或注意力。抽象地说，了解意识的神经相关性将使我们能够以一种不以任何理论甚至形而上学的承诺开始的方式缩小实际的意识理论。所以起初它看起来很理想。问题在于，意识的神经相关性具有标准神经科学的所有问题，还有一些问题——缺乏可复制性、样本量小、结果不兼容、对嘈杂数据的强制叙述——所有这些都是“妈妈和流行”风格的结果学术界的实验室。这意味着，在实践中，它长达十年的研究以任何严肃的方式约束了意识理论，但没有任何结果。它根本没有缩小理论的搜索空间。以这个标准来看，这个领域自从我15年前进入这个领域以来一直没有取得任何进展。
这是科学中一个更大问题的一部分，即没有空间来解决真正缺失的基本理论概念。没有下一个达尔文，下一个爱因斯坦的空间——也许在理论物理学中，有一些很小的喘息空间供年轻人取得突破，但在其他地方，它根本不存在。根本没有研究资助这样的东西来开发一种意识理论，它可以授予一个二十多岁的聪明人，他们可能会走创新或冒险的研究道路。科学家们现在的生死取决于学术职位、引文和论文数量，以及他们可以在简历中添加什么，他们将为学生群体带来什么。他们陷入了一个庞大的官僚机构，创造性的科学正在做，如果有的话，也只是在它的边缘。学术界只奖励取悦老师的优等生。但是，科学突破传统的激进分子提出了高度逆向的立场，从而进入了新的范式。出于这个原因，最多可能有几十个科学家认真地致力于创造一种意识理论。其中，只有少数获得了全额资助——最多可能是三到四个。
有一些遥远的希望的曙光。近年来，非学术组织资助的研究被认为超出了正常科学的范围——一个例子是利他主义团体如何有效地将资金投入人工智能安全，这不是一个传统的学术领域，而是一个“边缘”话题。如果要在意识方面取得科学进展，就必须发生类似的事情，因为对意识的理解不会来自当前的科学方法，也不会来自像 NIH 或 NSF 这样的资金来源——他们太保守了，不愿意采取最低限度甚至提供少数带薪职位来解决重大问题的风险。
然而，如果没有意识理论，我们会在黑暗中跌跌撞撞，根据方便将思想分配给事物，甚至无法提供对属性的最模糊描述——它是什么——我们如此珍视。这是我们文明上野蛮的标志。
原文： https://erikhoel.substack.com/p/from-ai-to-abortion-the-scientific