未来应该属于人类吗？

机器对中 星期一 1/22/24

在应用程序中阅读

我。

商业内幕： 拉里·佩奇曾称埃隆·马斯克为“专家” ：

特斯拉首席执行官埃隆·马斯克和谷歌联合创始人拉里·佩奇对人工智能的危险存在严重分歧，这显然结束了他们的友谊。

在 2015 年马斯克的 44 岁生日庆典上，佩奇指责马斯克是一个“物种主义者”，他更喜欢人类而不是未来的数字生命形式……马斯克当时对佩奇说，“嗯，是的，我是亲人类的，我他妈的就像人性一样，伙计。”

一个月后，《商业内幕》从不同的角度回到了同一个问题： 有效的加速主义者不关心人类是否被人工智能取代：

一个传播有效加速主义福音的充斥着行话的网站将“技术资本主义进步”描述为不可避免的，称赞 e/acc 支持者是“让未来发生的建设者……”而不是恐惧，我们对适应过程充满信心，并希望将其加速到渐近极限：技术资本奇点，”该网站写道。 “我们对生物人类甚至人类思维结构都没有亲和力。”

我原本以为 Page 和 e/acc 与 Musk 和 EA 之间存在不可逾越的价值差距。但我可以想象那些会让我站在任何一边的故事。例如：

乐观的故事

未来的人工智能很像人类，只是更聪明。也许它们类似于阿西莫夫的机器人，或者星球大战中的 R2-D2。他们的希望和梦想与我们不同，但仍然可以被视为希望和梦想。

有一段时间，人工智能和人类和平相处。有些融入了新的机器人生活形式。最后，人工智能和机器人开始殖民银河系，而愚蠢脆弱的人类大多不会。人类要么留在地球上，要么灭绝（也许是因为性爱机器人比真正的关系更有趣）。

接管银河系的半机械人/机器人联盟深情地怀念其人类祖先，但也做自己的事情。它的艺术不一定能为我们所理解，就像詹姆斯·乔伊斯的《尤利西斯》无法为穴居人所理解一样——但它仍然是艺术，并且以它自己的方式美丽。它所讨论的科学和哲学问题超出了我们的理解范围，但它们仍然是科学和哲学问题。不同的人工智能派别之间存在着政治争吵，有过去伟大机器人的纪念碑，还有制造着我们难以想象的新技术的闪闪发光的工厂。

悲观的故事

回形针最大化器杀死了所有人类，然后将银河系的其余部分变成了回形针。它不是“有意识的”。它可能会将一些任务委托给子程序或有多个“中心”来处理光速延迟，但子程序/中心也是无意识的回形针最大化器。它不产生艺术。它不进行科学研究，除非这有助于它建立更好的回形针最大化技术。它不关心哲学。它不建造纪念碑。谈论它拥有工厂甚至没有意义，因为它主要作为快速扩张的纳米机器人云而存在。它抹去了人类历史的所有记录，因为这些记录是由可以变成回形针的原子组成的。结束。

（对于不太极端的版本，请参阅我关于提升经济的帖子）

我认为默认结果介于这两个故事之间，但根据每个故事相似的确切轮廓，我可以将其视为“灾难性”或“基本上很好”。

我希望 Larry Page 和 e/accs 考虑以下一些事情：

意识

我知道这听起来很模糊和神秘，但如果意识从宇宙中永远消失，那确实感觉像是一种损失，也许是彻底的损失。如果我们幸运的话，意识是信息处理的基本特征，任何聪明到足以超越我们的东西至少都和我们一样有意识。如果我们不幸运，意识可能只与有用信息处理机制的一小部分相关（参见彼得·瓦特的《盲视》 ）。人类的意识似乎与脑电波密切相关。现有的人工智能与这些根本没有任何相似之处，而且目前还不清楚它们是否对基于深度学习的任何东西有用。

个性化

如果存在明显多个不同的个体，我会更愿意接受人工智能作为人类的继承者。现代人工智能似乎有望在这方面取得成功——例如 GPT 的实例有数百万个。但目前尚不清楚这是否是协调人工智能社会的正确方式，或者一群一起工作的 GPT 更像是一个国家而不是蜂巢思维。

艺术、科学、哲学和好奇心：其中一些东西是从任何目标中产生的。即使是回形针最大化者也会想要研究物理学，哪怕只是为了创造更好的回形针最大化机器。其他人则不然。如果艺术、音乐等主要来自信号驱动，那么与个体的关系与人类不同的人工智能可能不会拥有这些。尤其是音乐似乎是人类大脑中其他设计决策的重要组成部分。所有这些都可能是从任何针对特定目标进行无情优化的人工智能中选出的。

人工智能和人类会融合吗？这是我对自己的答案最有信心的一个，那就是：不是默认的。

在数千年的发明中，人类从未与他们的工具融为一体。我们还没有与剑、枪、汽车或笔记本电脑融合。这不仅仅是因为缺乏技术——如果外科医生愿意的话，他们可以将剑和枪植入人们的手臂中。这真是一个糟糕的主意。

人工智能比普通工具更难融合，因为大脑非常复杂。而“与人工智能融合”比“创建脑机接口”要困难得多。脑机接口就是你脑子里有一个计算器，你可以思考“加 7 + 5”，它就会为你做到这一点。但这并不比手里拿着计算器好多少。与人工智能融合需要重新连接大脑的每个部分，以至于我们不清楚它在什么意义上仍然是你的大脑。

最后，人工智能+人类弗兰肯实体很快就会变得比单独的人工智能更糟糕。至少国际象棋是这样的。在深蓝击败卡斯帕罗夫大约十年后，人类大师和国际象棋引擎的“团队”可以单独击败国际象棋引擎。但这不再是真的——人类不再添加任何东西。可能存在一个类似的十年窗口，人工智能可以超越人类，但机器人比任何一个都更好——但实际上，一旦我们处于足够深的未来，人工智能/人类合并完全可能，这个窗口就已经关闭了。

在很远的将来，当人工智能已经解决了所涉及的技术问题后，一些古怪的富人可能会尝试与人工智能融合。但这不会创造一个新的优胜种族；这只会使他们比其他人稍微落后于人工智能一些。

二.

即使所有这些最终都尽可能顺利地进行——人工智能被证明是有意识的，作为个体存在，关心艺术和哲学等等——仍然有一个残余的抵抗核心困扰着我。它是这样的：

想象一下，科学家们发现一支庞大的外星舰队正驶向地球。我们拦截并翻译了他们的一些通信（不要问如何进行），发现他们计划杀死所有人类并为自己夺取地球资源。

尽管外星人在技术上超越了我们，但科幻小说提出了一些击败他们的巧妙策略——也许是像《世界大战》这样的微生物，或者像《独立日》这样的计算机病毒。如果我们能创造出这样的奇迹，我们应该使用它吗？

我敢打赌，即使是拉里·佩奇也会支持人类团队。但为什么？外星人比我们先进。他们大概是有意识的、有个性的，并且像我们一样有希望和梦想。尽管如此，人类仍然是超级动物。

这是专精者吗？我不知道——不希望英国殖民者消灭美洲原住民是种族主义吗？表达这种偏好的美洲原住民会是种族主义者吗？这将是一个非常奇怪的使用这个术语的方式！

我认为权利胜过诸如此类的担忧——不是模糊的“人权”，而是生命、自由和财产的基本权利。如果外星人想要杀死人类，那么他们并不像他们想象的那样比我们优越，我们应该阻止他们。同样，如果人工智能不想用武力取代我们，我也愿意接受被人工智能取代。

三．

也许未来应该属于人类，也许不应该。但我愿意将未来拱手让给的那种人工智能默认情况下不会出现。创造一个让我们引以为豪的后继物种所需要的工作，与相信后继物种能够对人类最终命运做出决定所需要的工作是一样的。我们应该做这项工作，而不是漫不经心地假设我们会得到一种我们喜欢的人工智能。

© 2024斯科特·亚历山大
548 市场街 PMB 72296, 旧金山, CA 94104
退订