超越我们自身智能的人工智能听起来像是科幻小说或电影中的东西。人工智能研究领域的专家如何看待这样的场景？他们是将这些想法视为幻想，还是认真对待这些前景？
人类级别的人工智能将是一台机器或机器网络，能够执行我们人类能够完成的相同范围的任务。正如 Norvig 和 Russell 在他们的 AI 教科书中所说的那样，这将是一台“能够学习做任何人类能做的事情”的机器。 1个
它将能够选择允许机器实现其目标的动作，然后执行这些动作。它可以胜任翻译、医生、插画家、教师、治疗师、司机或投资者的工作。
近年来，多个研究团队联系了人工智能专家，询问他们对机器智能未来的期望。此类专家调查是我们可以依赖的信息之一，可以让我们形成对人工智能未来可能是什么样子的想法。
图表显示了 352 位专家的答案。这是 Katja Grace 及其同事于 2022 年夏季进行的最新研究2 。
专家们被问及他们何时认为人类水平的人工智能存在的可能性为 50%。 3人类级别的人工智能被定义为能够比人类更好、更便宜地完成每项任务的无人机器。有关该研究的更多信息，请参阅本页文本末尾的折叠框。 4个
此图表中的每条垂直线代表一位专家的答案。答案差异如此之大这一事实清楚地表明，专家们对于开发这样一个系统需要多长时间没有达成一致。一些人认为这种技术水平永远不会被开发出来。有人认为这是可能的，但这需要很长时间。许多人认为它将在未来几十年内得到发展。
正如注释中所强调的那样，一半的专家给出了 2061 年之前的日期，90% 的专家给出了未来 100 年内的日期。
对人工智能专家的其他调查也得出了类似的结论。在下面的可视化中，我添加了 2018 年和 2019 年进行的两项早期调查的时间线。查看不同的调查很有帮助，因为它们在提出问题的方式以及对人类水平 AI 的定义方面有所不同。您可以在本文末尾找到有关这些研究的更多详细信息。
在所有这三项调查中，我们都看到专家之间存在很大分歧，他们也对自己的个人预测表示了很大的不确定性。 5个
我们应该如何看待 AI 专家的时间表？
专家调查是我们思考 AI 的未来时要考虑的信息之一，但我们不应夸大这些调查的结果。特定技术的专家不一定是预测该技术未来的专家。
正如芭芭拉·梅勒斯、菲尔·泰特洛克等研究人员所表明的那样，许多领域的专家在对自己的领域做出预测时并没有良好的记录。 6飞行的历史包括这种失败的一个显着例子。引用威尔伯赖特的话说，“我承认，在 1901 年，我对我的兄弟奥维尔说，人 50 年都不会飞。”两年后，“人”不仅会飞，而且正是这些人实现了这一壮举。 7
此外，这些研究通常会发现很大的“框架效应”，两个逻辑上相同的问题会以非常不同的方式得到回答，具体取决于问题的措辞方式。 8个
然而，我从这些调查中得出的结论是，大多数人工智能专家都认真对待非常强大的人工智能技术的前景。人工智能研究人员并非将极其强大的人工智能视为纯粹的幻想。
绝大多数人认为，在未来几十年里，我们甚至有机会看到人工智能技术对我们的世界产生变革性影响。虽然有些人的时间表很长，但许多人认为在这些技术到来之前我们的时间可能很少。在这三项调查中，超过一半的人认为，在 2060 年代的某个时间点之前，有 50% 的机会开发出人类水平的人工智能，而这段时间正好在当今年轻人的一生中。
Metaculus 社区的预测
在下面关于 AI 时间线的大型可视化中，我包括了 Metaculus 预报员社区的预测。
在线平台Metaculus.com上的预测员不是 AI 专家，而是致力于做出良好预测的人。预测研究表明，如果给予正确的激励和良好的反馈，一群人可以为未来事件分配惊人准确的概率。 9为接收此反馈，Metaculus 的在线社区跟踪他们在预测中的表现。
这群预测者对人工智能的未来有何期待？
在撰写本文时，也就是 2022 年 11 月，预测人员认为到 2040 年“设计、测试和公开宣布”“通用人工智能”的可能性为 50/50，距距此不到 20 年现在。
在他们关于这个特定问题的页面上，您可以找到所讨论的 AI 系统的准确定义、他们的预测时间线如何变化，以及各个预测者关于他们如何得出预测的论点。 10
Metaculus 社区的时间表最近变得更短了。到 2022 年春季，预期的时间线缩短了大约十年，几项令人印象深刻的 AI 突破发生的速度比许多人预期的要快。 11
Ajeya Cotra 的预测
最后显示的预测来自 Ajeya Cotra 的研究，他为非营利组织 Open Philanthropy 工作。 12 2020 年，她发表了一项详尽且有影响力的研究，询问世界何时会看到变革性的人工智能。她的时间表不是基于调查，而是基于对用于训练人工智能系统的计算的长期趋势的研究。在这篇配套文章中，我介绍并讨论了训练计算的长期趋势。
Cotra 估计，到 2050 年，变革性 AI 系统有 50% 的可能性成为可能并负担得起。这是她在“中值情景”中的中心估计。 Cotra 强调，这种中值情景存在很大的不确定性，并探讨了另外两种更极端的情景。这两个场景的时间线——她的“最激进的合理”场景和她的“最保守的合理”场景——也显示在可视化中。 Cotra 的“合理”预测中从 2040 年到 2090 年的跨度突显出她认为不确定性很大。
可视化还显示，Cotra 在首次发布两年后更新了她的预测。 2022 年，Cotra 发布了更新，将她的中位时间缩短了整整十年。 13
重要的是要注意，在这些不同的研究中，所讨论的人工智能系统的定义大不相同。例如，Cotra 所说的系统将比 Metaculus 预测者关注的系统对世界产生更具变革性的影响。更多细节可以在附录和各自的研究中找到。
我们可以从预测中学到什么？
可视化显示了 1128 人的预测——812 名个人人工智能专家，来自 Metaculus 平台的 315 名预测员的汇总估计，以及 Ajeya Cotra 的详细研究结果。
这些关于 AI 时间表的预测有两大收获：
- 没有共识，不确定性很大。关于何时开发出人类级别的人工智能，专家之间存在巨大分歧。一些人认为这需要几十年的时间，而另一些人则认为这种系统很可能会在未来几年或几个月内开发出来。专家之间不仅存在分歧；个别专家还强调他们自己的估计存在很大的不确定性。与往常一样，当不确定性很高时，重要的是要强调它是双向的。我们可能还需要很长时间才能看到人类级别的人工智能，但这也意味着我们可能没有多少时间准备。
- 同时，整体画面也有很大的一致性。许多专家的时间线都短于一个世纪，而且许多人的时间线比这短得多。大多数研究这个问题的人认为，在未来 50 年内，有 50% 的机会开发出变革性的人工智能系统。在这种情况下，这可能是我们孩子一生中甚至我们自己一生中最大的转变。
主要机构的公共话语和决策尚未跟上这些前景。在讨论我们世界的未来——从我们气候的未来，到我们经济的未来，再到我们政治机构的未来——变革性人工智能的前景很少成为对话的中心。通常它根本没有被提及，甚至没有在脚注中。
我们似乎处于大多数人几乎不考虑人工智能的未来的境地，而少数关注它的人发现人类历史上最大的变革之一很可能在我们的有生之年发生是合理的。
致谢：感谢我的同事 Natasha Ahuja、Daniel Bachler、Bastian Herre、Edouard Mathieu、Esteban Ortiz-Ospina 和 Hannah Ritchie 对本文草稿提出的有益评论。
我还要感谢我的同事 Charlie Giattino，他根据三项调查研究的数据计算了个别专家的时间表，并支持本文的工作。 Charlie 也是 Zhang 等人引用的研究的作者之一。在 AI 专家的时间表上。