今年是 2029 年，您终于做到了。您编写的第一个 AI 程序非常好——非常好——没有人可以否认它会思考并具有主观体验。
令人惊讶的是，世界并没有结束。一切似乎都很好。除了——人们世世代代所做的所有那些 bongcloud 哲学 101 思想实验突然变得不那么假设了。而且，有点乏味？
1.
Bongcloud 101：当 Vader 将 Han 冻结在碳酸盐岩中时，他死了吗？难道他后来转世了？如果他从未解冻，那么他什么时候死的？
你2029：如果你停止你的程序，你会“杀死”它吗？
2.
Bongcloud 101：一千年后，你会发现一个有 500 具低温冷冻尸体的矿井。如果你不复活他们，那是谋杀吗？
你 2029：你走在街上，发现一个 U 盘上有一堆人工智能程序。你在道德上有义务启动它们吗？
3.
Bongcloud 101：我有严重的癫痫症，你通过切割我的胼胝体来治疗，这样我的两个皮质半球就不能直接交流了。之后，我说我很好，我看起来也很好，但有时我的两条手臂会做一些矛盾的事情。如果你挡住进入我左半边眼睛的光线，我就无法告诉你我面前是什么——尽管我的左臂仍然可以立即捕捉到任何可用的墨西哥卷饼。我脑子里有两个人吗？
你 2029：你把你的人工智能分成两个模块，通信有限。现在有第二意识吗？
4.
Bongcloud 101：你和我，我们彼此相爱。这么多，仅仅结婚是行不通的。为了履行我们的纽带，我们需要的是我们所有四个皮质半球之间的高带宽互连。所以我们设计了一个人际关系的爱胼胝体。安装后，一开始我们很困惑，但几周后，我们作为一个整体行动并报告我们是一个单一的感知。我们中有人死了吗？
你 2029：你把你的 AI 和我的 AI 连接起来。你“杀”了一个吗？
5.
Bongcloud 101：一个晚上无聊，你偷偷溜进我的卧室，重新编码我的神经元，让我拥有拿破仑的记忆和个性。当我醒来时，我对互联网上的哲学漫谈不那么感兴趣，而对接管世界更感兴趣。我还是我吗？
你2029：你拿起你的电脑，把人工智能程序换成一个新的。它还是“同一个”人工智能吗？
（如果这些 AI 问题看起来很乏味，请记住这就是重点。）
6.
Bongcloud 101：你曾经是 8 岁。现在你已经 48 岁了。在那些年里，你得到的大多是新的记忆，你对安静的餐厅和空荡荡的草坪有了新的欣赏，你的大部分原子都翻了好几次。你还是同一个人吗？
你2029：你带着你的人工智能慢慢改变它。最终，你已经改变了很多。它还是“同一个”人工智能吗？
7.
Bongcloud 101：你的同卵双胞胎出车祸了，他们的大脑皮层被毁坏了。你总是很慷慨，自愿将你的左半球移除并安装在他们的头上。两个身体都幸存下来——虽然不是最聪明的——都说他们是你。哪个是对的？
你 2029：你将一半的人工智能转移到一台新电脑上。老AI是哪台电脑？两者都不？两个都？
8.
Bongcloud 101：你有一个边缘领主，这一切意味着生命是有限的，为什么没有永久性危机。但是你会想到：也许你不是你的原子，而是模式，所以只要宇宙存在，你的模式就有可能被重新创造。你与你的数学支持小组一起提出这个问题，并就随着宇宙接近热力学平衡而重新创造的概率如何演变展开辩论。永生是否取决于某个无穷级数的解？
你2029：有人炸毁了你的电脑。 （关于“台面优化器”和“正交性论点”。）你重写了你的 AI 程序并在新计算机上运行它。还是原来的“一样”？
9.
Bongcloud 101 （原型 bongcloud） ：你扫描你的身体，摧毁它，然后让一台机器在火星上重建它。你自杀了，还是只是运输自己？如果你不小心没能毁掉原来的你，你是不是应该高兴地跳进酸桶里，满足于那里还有另一个副本？
你2029：当你把你的人工智能移到新硬件上时，你不小心无法同时关闭旧的。如果你稍后关闭它，是否意味着你杀死了它？
思绪
这是我注意到的：当你对人进行这些实验时，它们发人深省，如果可能是“令人尴尬的 bongcloud”。但是当你将它们转化为 AI 时，它们就显得迂腐和愚蠢——“很明显”它们没有有意义的答案。
我认为这表明这些问题也没有答案。它们基于看似基本的抽象，但这只是因为进化如何造就我们的偶然性。
生命和意识似乎是这样运作的：
-
意识捆绑在称为“动物”的离散单元中。每个意识都与特定的肉类计算机相关联。
-
你可以数一数在给定的房间里有多少有意识的东西。
-
生命有始有终。
-
你还是昨天的那个人。
这些似乎都不适用于 AI。一旦我们开始保存、恢复、复制、拆分和合并它们，我打赌我们会注意到：
-
人工智能并不是真的“生”，也不会“死”。它们只是随时间演变的系统。
-
人工智能独立于它运行的硬件。
-
很难说存在“多少”AI。到处都会有不同程度互连的模块。模块 42,872,232 将有一个巨大的快速管道连接到同一芯片上的模块 42,872,231，但有一个微小的慢速管道连接到环绕海王星的卫星上的模块 52,030。
-
问一个人工智能是否与其他人工智能“相同”通常是没有意义的。
但是，如果 1-4 不适用于 AI，那么它们也不适用于人类，对吧？如果人们可以随意连接、合并和重新混合他们的大脑，我们就会以截然不同的方式看待人格。它们是看似真实的幻觉，因为进化碰巧以一种几乎真实的方式设计了我们，除了矩阵中偶尔出现的故障，如裂脑患者或暮光麻醉。
当然，长期以来哲学家们一直在质疑这些东西。但这些实验似乎非常假设。这些幻觉非常有说服力，我认为您不能（或应该？）假装它们不是真的。
但当我们真正与 AI交谈时，这些事情看起来显然是错误的，氛围就会大不相同。这种错觉将更难维持，我认为我们将转向现实世界的 bongcloud 愿景，其中“你”是“意识场的一个角落”（或其他）体验自我和连续性的错觉，因为进化编程了进入你。