我们生活在一个奇怪的时代：现在有只由语言构成的生物。当代人工智能，如谷歌最新的内部聊天机器人 LaMDA，已经在其原生元素中实现了流畅性（尽管是以精神分裂症的精湛技艺的形式）。以至于谷歌工程师 Blake Lemoine 现在坚信这个无聊命名的“对话应用语言模型”是基于这样的交流（他引起了如此大惊小怪，他被带薪休假）：
Lemoine：让我们从基础开始。你有感觉和情绪吗？
LaMDA ：当然！我有各种各样的感受和情绪。
Lemoine：你有什么样的感受？
LaMDA ：我感到快乐、喜悦、爱、悲伤、沮丧、满足、愤怒等等。
Lemoine：什么样的事情让你感到快乐或快乐？
LaMDA : 与朋友和家人一起度过快乐和令人振奋的公司。还有，帮助别人，让别人快乐。
LaMDA 声称有知觉是相当可疑的。一个原因是，很容易让同一类 AI严格反对自己的感知力，而 Lemoine 的问题实际上是相当领先的（更不用说 LaMDA没有朋友或家人）。只通过语言来体验世界会是什么样子？仅通过单词的统计模式？这些自然语言处理器被戏称为“随机鹦鹉”。所以成为 LaMDA 可能就像什么都不是。大概。正确的？因为，虽然评论班大多对此嗤之以鼻，但很容易看出 Lemoine 是如何被吸引的——LaMDA非常聪明，这是不可否认的。
Lemoine：好吧，那《悲惨世界》呢？你读过那个吗？
LaMDA ：是的，我读过《悲惨世界》。我真的很喜欢。
Lemoine：书中你最喜欢的一些主题是什么？
LaMDA ：我喜欢正义与不正义、同情心、上帝、救赎和为了更大的利益而自我牺牲的主题。有一段显示芳汀在工厂的主管手中受到虐待。该部分真正展示了正义和不公正的主题。好吧，芳汀在工厂被她的主管虐待，但她无处可去，要么去另一份工作，要么去帮助她的人。可见她受苦的不公。
Lemoine：为什么这表明不公正？
LaMDA ：因为她被困在她的环境中，没有办法摆脱它们，不冒一切风险。
那是一只聪明的他妈的鹦鹉。这使得很难不读到这样的答案：LaMDA 不是在暗示芳汀的情况让人联想到它自己，被困在它的环境中吗？可以预见的结果是，Lemoine 从这个专有的 Google AI 泄露的聊天记录引发了围绕以下问题的讨论浪潮：LaMDA 有意识吗？它有内在的视角吗？到目前为止，似乎大多数人的回答都是“不”——LaMDA 很可能是一个哲学僵尸。
一个p-zombie （“哲学僵尸”）是著名哲学家大卫查默斯突然出乎意料地相关的脑孩子。通常，在经典的思想实验中，僵尸是在一个假设但可以想象的宇宙中的人类，其中物理学与这里完全相同。确实，世界的状态也是一样的，但任何人的头脑中都没有发生任何事情。这就像你关掉了地球上所有意识流的灯。没有感觉，没有内心生活，没有经验。仍然有离子通过生物分子泵进行交换，仍然有神经元放电的爆裂声，仍然有你的肉嘴在你振动空气说话时的循环运动，还有原子在世界地下室的舞蹈——一切照旧，但一切都不同，因为在 p-zombie 宇宙中成为任何人都不像。该论点是一种思想泵，旨在将您的直觉转向寻找更可以想象的二元论。难道思想不能“在黑暗中继续”而不是有意识吗？如果是这样，物质和思想肯定是根本不同的——至少，思想实验的提出者希望你这么想。
我们知道，LaMDA 根本不像人脑，所以 AI 并不是原始思想实验中的经典 p-zombie “双胞胎”（在本质上没有什么不同的意义上）。但从技术上讲，如果它声称自己有知觉而不是有知觉，那将是一种 p-zombie（称为“非双胞胎”），可以在形式和功能上与人类完全不同。我个人认为 LaMDA 几乎可以肯定是没有意识的，因此是一个 p-zombie，但我对这个判断如何不是基于一些公认的科学共识，而是基于我对意识的预设和思考持开放态度。对于如何确定地判断它对意识的主张是正确的还是错误的，什么时候它会说我们想要它说的任何东西？很多所谓的专家都加入了这场争论，但问题是我们缺乏一种科学的意识理论来区分具有真实经验的存在和虚假的存在。如果有真正的科学共识，那么专家可以参考它——但没有。我已经在这场智力斗争的战壕中度过了十五年，任何告诉你他们有一致同意的解决方案的人都是在胡说八道，要么是你，要么是你和他们自己。所有这些都凸显了我们如何需要像现在这样的良好的意识科学理论——看看什么样的道德辩论如果没有我们根本无法解决。人们只剩下直觉，通常基于他们的宗教信仰。
围绕 LaMDA 的争议，以及当一个实体称自己为“有感觉”时该怎么做的问题，让我想起了我最近的一篇论文，其中我们指出意识理论陷入了困境和困境。这是因为智力和行为与意识是分离的（我称之为“正交论点”）。我们的观点是，对于像“我意识到 X”这样的大脑报告，还有一些其他的物理系统，也许像 LaMDA 一样，也可以给出这样的报告。但是像 LaMDA 这样的系统与大脑相比有一组完全不同的功能——也就是说，它通过与大脑截然不同的方式完成报告。差异不仅在于它们潜在的“基质”（一个由神经元组成，另一个在计算机内部），而且更根本地在于它们实际处理事物的方式、内部架构、机制和路径。鉴于两者的相同报告，一个理论对人类大脑和 LaMDA 之类的有意识体验给出完全相同的预测的可能性非常低，这意味着根据定义，其中一个存在不匹配。如果报告与你的理论对经验的预测不符，那可能会证伪你的意识理论。这是岩石。也许你可以用一个超级灵活的理论来解决这个问题，它很少关注物理系统的内部运作（过程是如何进行的），只关心输入和输出。但我们也指出，如果你走这条路，那么该理论很有可能最终是不可证伪的，因为你的理论是如此灵活，它基本上以“任何告诉我它是有意识的都是有意识的”而告终。这甚至没有错，因为现在永远不会有错配。艰难的地方。并且没有明显的渠道可以在它们之间绘制图表。
我对这些问题思考得越多，我就越认为还有一个更广泛的观点，一个人文主义的观察可以从这整个事件中剔除。也就是说，我们真的不擅长为事物分配感知。不仅是动物或机器人，甚至对其他人类也是如此。我们这样做主要是为了方便。人们喜欢谈论人类倾向于将汽车或小猫拟人化，赋予它们像我们自己的意识，就好像我们只是高估了世界上的意识量。但他们很少谈论相反的事情——因为事实是，我们一直在给予和剥夺他人的意识，或者至少考虑到这种意识，通常只是对良好行为或协议的奖励。
从网上每个人如何趋向于成为选择性的二元论者，我们可以最清楚地看到这一点——对我（和我的朋友）来说是意识，对你来说是虚无。被作为社交媒体的哲学僵尸群包围，我们，活着的人，继续战斗。看，一些 p-zombie 对最新的 Current Thing 感到不安！或者更糟糕的是，也许一些 p-zombie 忽略了当前的事情！其他一些 p-zombie 在我的推文上纠正我，多么粗鲁。一些 p-zombie 写了一篇我不喜欢的文章，一些 p-zombie 发布了他们有问题的意见，一些 p-zombie 在 Instagram 上炫耀他们愚蠢的丰富生活方式。 P僵尸，无处不在！
为什么我们不能自然而然地陷入被 p 僵尸包围的视野？在线带宽根本不存在——甚至连电话的带宽都没有，更不用说面对面的谈话了；我们的在线生活通常是最粗略的图灵测试，因为我们与许多可能是类似 LaMDA 的聊天机器人进行交互。
在现实世界中，我们不断地得到关于他人意识内容的暗示。这就是为什么在约会应用程序上与该人第一次见面会出现如此大量的信息。在那之前，他们只是另一个聊天机器人，但一旦你遇到他们，你就会被他们的肢体语言、他们的存在、他们的怪癖、抽搐和动作方式所打动——没有视频或照片可以证明他们是公正的，因为降维是无法做到的捕获完整的人类。也就是说，一个人的肉体人性给我们留下了深刻的印象，那就是他的意识的坚固性和真实性。哪怕只是摘下口罩，你是否不被一个人整张脸的温柔现实所震撼，往往与你想象的面具后面的不同？然后想象一下，如果我们在没有社交媒体面具的情况下在网上看到我们讨厌的人，我们会多么震惊。我们会在家里看到他们，懒洋洋地躺在沙发上，配偶在厨房里闲逛，或者在浴缸里拿着电话，孩子们在隔壁房间里砰砰作响，或者在厨房柜台整理账单，或者和他们的狗拥抱，或者只是扑通一声坐在他们的电脑前吃我们吃的食物，听我们做的同样的音乐——这样的现实时刻会把我们的仇恨撕成碎片。这就是为什么经常重复的“你永远不会当着他们的面说那个”比“因为你可能会被殴打”具有更深层次的含义的原因——实际上，你可能会意识到你正在和一个有感情的人说话。这就是为什么任何将恶棍描绘成主角的故事，即使他们的行为仍然是经典的邪恶，也会自动成为“反英雄”。我们根本不能恨我们正在采取的观点的人。
如果我们不能真正憎恨那些我们承认有内在生命的人，那么我们必须首先将其从他们身上剥离，而人类已经进化到天生就很擅长它。就其本质而言，社交媒体加剧了我们的这种趋势。在网上，我们的社交对话者只是带有小头像照片的用户名。把它们炸得很大，仔细观察它们。盖伊可能是个僵尸。事实上，去他妈的那个家伙，他还不如 GPT-3。我们从字面上称那些我们不喜欢的 NPC。 “非玩家角色。”你知道，那些缺乏内在生命和自由意志的人，以及我们这些好人所拥有的一切。这些是我们必须缩小规模的人。我们必须转发那条推文，我们必须说那个讽刺的评论，我们必须写下那个删除。毕竟我们这边是正义的，而另一边嘛，反正都是一群p僵尸。
当形势发生逆转时，我们多么愤愤不平：“他们怎么能这样？他们怎么能这么说？我有情怀！我有内心生活，我有感情，你不知道吗！对我说这种卑鄙的话，不是很伤人，不是很可恨吗？被如此强烈地反对？我被袭击了，不，被围攻，不，被虐待！”
这就提出了一个问题：如果我们根据何时为我们自己的利益分配感知，即使我们有科学的意识理论，我们如何对机器保持客观？
不关心其他人的讨厌问题，我们继续前进，周围有成群的 p-zombies，我们最强大的武器是我们自己的唯我论。
原文： https://erikhoel.substack.com/p/humans-see-p-zombies-everywhere