我们的使命是确保 AGI（通用人工智能）造福全人类。
开始指向 AGI* 的系统正在进入人们的视野，因此我们认为了解我们所处的时刻很重要。AGI 是一个定义不明确的术语，但一般来说，我们的意思是它是一个可以在人类层面、在许多领域解决日益复杂的问题的系统。
人是工具制造者，具有理解和创造的内在动力，这使得世界变得更加美好。每一代人都建立在前几代人的发现的基础上，创造出更强大的工具——电力、晶体管、计算机、互联网，以及即将到来的通用人工智能。
随着时间的推移，断断续续地，人类创新的稳步前进给人们生活的几乎各个方面带来了以前难以想象的繁荣和改善。
从某种意义上说，通用人工智能只是我们共同构建的人类进步的脚手架中的另一个工具。从另一种意义上说，这是某种事情的开始，很难不说“这次不一样了”；我们面前的经济增长看起来令人震惊，我们现在可以想象一个可以治愈所有疾病、有更多时间与家人一起享受、并可以充分发挥我们的创造潜力的世界。
十年后，也许地球上的每个人都有能力比今天最有影响力的人取得更大的成就。
我们继续看到人工智能发展的快速进展。以下是关于人工智能经济学的三点观察：
1.人工智能模型的智能大致等于用于训练和运行该模型的资源的对数。这些资源主要是训练计算、数据和推理计算。看起来你可以花任意数量的钱并获得持续且可预测的收益；预测这一点的比例定律在多个数量级上都是准确的。
2.使用特定水平的人工智能的成本每 12 个月就会下降约 10 倍，而较低的价格会带来更多的使用。您可以从 2023 年初的 GPT-4 到 2024 年中期的 GPT-4o 的代币成本中看到这一点，在此期间每个代币的价格下降了约 150 倍。摩尔定律每 18 个月就以 2 倍的速度改变世界；这强得令人难以置信。
3.智力线性增长的社会经济价值本质上是超指数的。其结果是，我们认为没有理由在不久的将来停止呈指数级增长的投资。
如果这三个观察结果继续成立，对社会的影响将是巨大的。
我们现在开始推出人工智能代理，它们最终会让人感觉像是虚拟同事。
让我们想象一下软件工程代理的情况，这是我们期望特别重要的代理。想象一下，这个代理最终将能够完成具有几年经验的顶级公司的软件工程师可以完成的大部分事情，例如长达几天的任务。它不会有最大的新想法，它需要大量的人类监督和指导，它在某些事情上做得很好，但在另一些事情上却出人意料地糟糕。
不过，请将其想象为一个真实但相对初级的虚拟同事。现在想象一下 1,000 个。或者 100 万个。现在想象一下在知识工作的各个领域都有这样的代理人。
在某些方面，人工智能在经济上可能会像晶体管一样——一个可以很好扩展并渗透到经济的几乎每个角落的重大科学发现。我们对晶体管或晶体管公司考虑不多，而且收益分布非常广泛。但我们确实期望我们的电脑、电视、汽车、玩具等能够创造奇迹。
世界不会一下子改变；但从来没有。短期内，生活将大致相同，2025 年的人们大多会以与 2024 年相同的方式度过时间。我们仍然会坠入爱河、建立家庭、在网上打架、在大自然中徒步旅行等等。
但未来将以一种无法忽视的方式向我们走来，我们的社会和经济的长期变化将是巨大的。我们会找到新的事情要做，找到对彼此有用的新方法，以及新的竞争方式，但它们可能看起来不太像今天的工作。
能动性、意志力和决心可能非常有价值。正确决定要做什么并弄清楚如何驾驭不断变化的世界将具有巨大的价值；韧性和适应能力将是有助于培养的技能。 AGI 将成为有史以来影响人类任性的最大杠杆，并使个人的影响力比以往任何时候都更大，而不是更少。
我们预计 AGI 的影响将是不平衡的。尽管某些行业变化很小，但科学进步可能会比今天快得多； AGI 的这种影响可能超越其他一切。
许多商品的价格最终将大幅下降（目前，智力成本和能源成本限制了很多东西），而奢侈品和土地等一些固有有限资源的价格可能会大幅上涨。
从技术上讲，我们面前的道路看起来相当清晰。但关于如何将通用人工智能融入社会的公共政策和集体意见非常重要。我们尽早且经常推出产品的原因之一是让社会和技术有时间共同发展。
人工智能将渗透到经济社会各个领域；我们期望一切都是智能的。我们中的许多人期望需要给予人们比历史上更多的技术控制权，包括更多的开源，并接受安全和个人赋权之间需要权衡的平衡。
虽然我们不想鲁莽行事，而且随着我们越来越接近实现通用人工智能，可能会出现一些与通用人工智能安全相关的重大决定和限制，这些决定和限制将不受欢迎，但我们相信，更多地倾向于个人赋权是很重要的；我们可以看到的另一种可能的途径是独裁政府利用人工智能通过大规模监视和丧失自主权来控制其人口。
确保通用人工智能的好处得到广泛传播至关重要。技术进步的历史影响表明，我们关心的大多数指标（健康结果、经济繁荣等）从平均来看和长期来看都变得更好，但增加平等似乎并不是由技术决定的，要实现这一点可能需要新的想法。
特别是，资本和劳动力之间的力量平衡似乎很容易被破坏，这可能需要早期干预。我们对听起来很奇怪的想法持开放态度，比如提供一些“计算预算”，让地球上的每个人都能使用大量人工智能，但我们也可以看到很多方法，只要不懈地降低智能成本就可以达到预期的效果。
到 2035 年，任何人都应该能够具备与 2025 年每个人相当的智力能力；每个人都应该有机会获得无限的天才来指导，无论他们能想象什么。现在有大量的人才没有资源来充分表达自己，如果我们改变这一点，世界的创造性产出将为我们所有人带来巨大的利益。
特别感谢 Josh Achiam、Boaz Barak 和 Aleksander Madry 审阅了本文的草稿。
*此处使用术语 AGI 的目的是进行清晰的沟通，并且我们无意改变或解释定义我们与 Microsoft 关系的定义和流程。我们完全期望与微软长期合作。这个脚注看起来很愚蠢，但另一方面，我们知道有些记者会试图通过写一些愚蠢的东西来获得点击，所以在这里我们要先发制人……