我有一个原型理论:我们的大脑总是倾向于做梦,而在醒着的时候,我们的大脑将做梦机器驯服为感知和真实。晚上,我们让它自由运行以保持大脑区域的活动。因此,智能的基本模式是做梦。
这是我到达那里的方式:一段时间以来,我一直在深入探索生成式 AI 系统,几乎每天都创建文本和视觉图像,我越来越被它们与梦境的相似性所震惊。人工智能似乎可以产生梦境图像、梦境故事和梦境答案。专业术语是“幻觉”,但我认为它们接近梦境。我开始怀疑梦境与生成式人工智能之间的这种相似性并非肤浅、诗意或巧合。我意想不到的预感是,我们会发现在我们自己的头脑中产生梦想的机制将与当前神经网络 AI 用来生成文本和图像的机制相同(或非常相似)。
当我审视自己的梦想时,我发现了几件事。一是他们的创造力似乎超出了我的范围,因为我不认为这是我可以想到的。这与神经网络瞬间产生的那种综合创造力非常相似。他们的创造是由系统本身产生的,而不是由个人的意志力或选择产生的。当我在做梦时,我收到的是为我制作的图像/故事,而不是我自己制作的。与生成式 AI 相同,它通过提示生成图像,这些图像“超越”提示词的力量,更依赖于它所训练的宇宙。
其次,梦中的图像通常是印象派的,但在给予关注时会产生细节。所以在我的梦中,我的大脑正在产生像孩子一样的形象,在道路图像上走向学校建筑结构。 “things-ish”中有足够的细节来暗示事物。这也类似于 NN 扩散模型,它基本上产生类似于其他事物的事物,而不是事物的实际特定记忆。当我的梦想头脑专注于那张照片的某个部分时,新的细节就会当场产生。仅在需要时才呈现更多细节,而且通常不需要。当它们出现时,渲染的细节也是印象派的(尽管它们的细节)并且不特定于任何真实的东西。这也是 NN 的工作原理。他们令人难以置信的具体结果就像是产生而不是回忆的记忆。
最后,梦想似乎只在短暂的瞬间变得现实。它们的细节几乎是超现实的,就像在当前的人工智能系统中一样。但随着我们的梦想继续进行,他们的逻辑摇摆不定,迅速转向超现实领域。梦的定义特征之一是这种梦的逻辑,这种不切实际的事件序列,这种因果关系的外星人脱节,这在今天的人工智能系统中是 100% 正确的。对于短片,AI 非常逼真,但在任何持续时间内它们都会很快变得超现实。一个场景、一个时刻、一段话,将是难以置信的真实,下一个时刻本身也是如此,但片段之间的连续叙事是缺席的,或者是荒谬的,没有现实主义。无论如何,人工智能的东西感觉就像梦一样。
我的猜想是它们感觉像梦,因为我们的头脑使用相同的方法、相同的算法。可以这么说。当然,我们的大脑正在使用湿神经元,其数量和连接比 GPU 集群大得多,但在算法上,它们将做类似的事情。
整个生成装置可能实际上是感知本身所必需的。普通视觉中的“提示”可能是来自眼球中视神经的数据流,它继续产生我们所看到的“视觉”。为 AI 艺术和人类梦想产生幻觉的相同算法也可能是我们用来感知(而不是仅仅“看”)的重型机制。如果是这样,那么我们需要额外的机制来压制并驯服我们视觉系统产生幻觉的先天倾向。这种机制可能是我们感官数据的源源不断,它不断纠正梦想引擎,就像源源不断的提示一样。更清楚地说,可能是我们眼中/头脑中的感知引擎的构建非常像生成式 AI 引擎。它抛出关于椅子概念的猜测、建议(这是一把椅子),然后在半秒后根据自身进行检查(是的,更像椅子),进行第二次猜测并最终确认,直到视野中的一切都发生了变化整整一秒钟后,当它重新生成它所看到的另一种景象时。
在清醒的时刻,来自我们所有感官的大量数据,加上我们有意识的注意力的疏忽,生成引擎产生幻觉的趋势得到了控制。但是到了晚上,当来自感官的提示减少时,梦就会以另一种提示接管,这可能只是我们潜意识所关注的点。生成算法产生这些丰富的图像、声音和故事,它们以某种方式再生以响应我们的潜意识关注。
神经生物学家 David Eagleman 有一个理论,即做梦的进化目的是保护我们的视觉器官。我们的大脑具有可塑性和可塑性,它们的处理能力可以迅速被不同的大脑功能接管。因此,如果巨大的视觉/听觉部门在晚上或一天的 1/3 时间关闭,其他大脑功能将开始占用这个未被使用的资源。为了防止这种劫持,大脑通过运行梦想使其感觉部门全天候 24/7 忙碌。这使它在白天保持忙碌和人员充足。
一个生成感知梦想引擎是这个的翻转。我建议这个引擎的默认状态是做梦,而不是允许它在晚上做梦以保持其健壮的感觉引擎,并且在白天对其进行管理以使其不产生幻觉。那么,做梦不是更高阶的功能,而是最原始的功能,只有通过更复杂的功能才能使它与现实保持一致。 (这也将是AI的发展路径,从Deepdream和幻觉到可靠的感知和答案。)
这个理论的一个推论——做梦是感知的原始状态——所有有眼球的动物都会做梦。没有语言,他们将无法以同样的方式进入他们的梦想,但他们可以梦想。这种梦想反转理论的第二个推论是,随着人工智能变得越来越复杂和复杂,能够以我们人类无法感知的方式感知,它们将在其核心保留产生幻觉的倾向。人工智能的梦想不会消失;它只会被教育、补偿、管理和压制,走向理性和现实主义。
原文: https://kk.org/thetechnium/dreams-are-the-default-for-intelligence/