下载 PDF

AI 可能会超越人类智能；我们应做好准备

人工智能（AI）正在迅速发展，近年来进展速度加快。2022 年 11 月发布的 ChatGPT 通过生成人类级别的文本和代码、无缝翻译语言、创作创意内容和以信息的方式回答问题，实现了前所未有的水平。

然而，生成式 AI 背后的基础模型在过去十年里已经迅速发展。过去十年，用于训练最先进 AI 系统的计算资源（或“compute”）每半年翻一番。 今天领先的生成式 AI 模型能做的事情，几年前根本不敢想象：它们为世界顶级咨询师、程序员和经济学家带来了显著的生产力提升（Korinek 2023）。

关于 AI 加速的猜想

最近的人工智能进展促使顶尖研究人员预测，当前的进展不仅不会停滞，甚至可能加速。2023 年 5 月，计算机科学家 Geoffrey Hinton 描述了他观点的重大转变：“我突然改变了对这些事物是否比我们更聪明的看法。”“他推测，通用人工智能（AGI）——能够理解、学习并完成人类所有智力任务的人工智能——可能在 5 到 20 年内实现。”

一些 AI 研究者持怀疑态度。这些不同的观点反映了对未来进展速度的不确定，以及进步是加速还是最终会停滞。此外，我们对人工智能技术进步的经济影响和日益复杂的 AI 应用程序带来的收益与风险之间的比例也感到高度不确定。

从本质上讲，不确定性也与对智能和人类大脑能力的深刻问题有关。图表 1 显示了两种关于人类大脑能完成的工作任务复杂度分布的观点。

图 1 展示了人类大脑解决复杂任务能力的无限潜力。这与工业革命以来的经济经验相吻合：随着自动化技术前沿的发展，人类已经自动化了简单的任务（机械和认知），并将剩余的任务分配给更复杂的任务——即，他们已经进入了复杂分布曲线的右尾。 直接的推断会认为，随着人工智能的发展和自动化认知任务的数量增加，这一过程将继续下去。

另一个视角，如图 1 中第 2 个面板所示，认为人类大脑的复杂性有上限。信息论指出，大脑是一个计算系统，不断处理大量数据。大脑的输入包括视觉、听觉和触觉等感知信息，而输出则表现为物理动作、思维和情感反应。 即使复杂的特性，如情感、创造力和直觉，也可以被视为计算输出，由神经元网络和化学反应的复杂互动产生。尽管这些过程极其复杂且我们尚未完全理解，但这一观点表明人类大脑执行任务的复杂性有明确的上限。

这两种观点对未来的自动化潜力影响巨大。2023 年，人类大脑在处理复杂任务方面是最先进的计算设备。然而，如果第二种观点成立，现代 AI 系统正在迅速赶上。事实上，许多衡量前沿基础模型计算复杂度的指标已经接近人类大脑的水平。 人类大脑的计算复杂度由生物学决定，而它向其他智能实体（如人类或 AI）传输信息的能力则受限于感官和语言的传输速度。然而，AI 系统仍在迅速发展，并且可以以显著更快的速度交换信息。

准备应对多种情况

经济学家长期以来认为，处理不确定性的最佳方法是采用组合投资策略。由于顶尖专家对 AI 未来进展的看法差异巨大，盲目地制定单一情景的经济计划是不明智的。 相反，对未来的不确定性应该激励我们调整策略，仔细分析各种可能实现的场景，从“按部而行事”到通用人工智能（AGI）的可能性。除了尊重当前的不确定性水平，情景规划使潜在的机会和风险变得具体化，并帮助我们制定应急计划和准备应对多种可能的结果。

以下是三个技术情景，涵盖可能的多种结果，经济政策制定者应关注：

情况 I（传统，按部行事）：AI 的进步提升了生产力，并自动化了认知工作任务，但也为受影响的工人提供了新的机会，让他们进入更高效的新工作。这一观点体现在图表 1 的第 1 面中。

情况 II (基线，20 年后实现 AGI): 在接下来的 20 年里，AI 逐渐发展到 AGI 水平，届时它将能够完成所有人类工作任务。这将对应图表 1 中第 2 组有限大脑能力的观点，以及认为需要 20 年才能让最复杂的认知任务对 AI 变得可及。

第三场景（五年后实现 AGI）：这个场景与 Scenario II 相似，但时间更短，AGI 及其对劳动力的后果将在五年内实现。

虽然我对此高度不确定，但写这封信时，我认为每个场景都有超过 10%的概率会实现。为了应对不确定性并充分准备未来，我认为政策制定者应该认真对待每个场景，模拟它们在每个场景下的经济和金融政策框架的表现，并必要时进行改革以确保其有效性。

这三个情景可能导致不同范围的经济指标，包括经济增长、工资水平和资本回报、财政可持续性、不平等和政治稳定性的显著变化。此外，它们要求对社会安全网进行改革，并影响货币政策、金融监管和产业政策的制定。

Korinek 和 Suh (2023) 分析了自动化主流宏观模型中描述的场景对产出和工资的影响。所有三个情景的结果如图 2 所示，左侧显示每个情景的产出路径，右侧显示每个情景的市场竞争性工资路径。

三个主要的洞察点脱颖而出：

首先，与过去几十年保守“按部而行事”的情景相比，两者的产出增长速度更快。因为劳动力的稀缺不再是限制产出的因素。

其次，无论在什么情况下，工资最初都会在劳动力稀缺时上升——但是一旦经济接近达到通用人工智能（AGI）水平，工资就会急剧下降。

第三，两个 AGI 情景下的产出增长和工资下降都由同一因素驱动：稀缺劳动力被相对更丰富的机器替代。这表明，设计能够补偿收入损失并确保 AGI 带来的收益促进共享繁荣的机构是可行的。

图 2 展示了技术变革对宏观经济的影响，但最好理解为可能性的说明。清单中的许多警告适用。首先，图表背后的模型假设了一个高效经济，其中劳动力获得竞争力的回报。 AGI 的部署可能受到多种因素的制约，从组织层面的障碍、法规限制到资本积累的瓶颈——如芯片供应链瓶颈——到社会对 AGI 实施方式的选择。即使在技术上可行的情况下，社会也可能选择保留人类在某些职能中——例如，作为牧师、法官或立法者。 这些“怀旧”的工作可以确保人类劳动力需求永无止境（Korinek 和 Juelfs，即将发表）。

为了确定未来哪些 AI 情景最相似，政策制定者应监控多个领域的领先指标，同时认识到预测技术进步的不确定性巨大。有用指标包括技术标准、AI 开发的投资水平、经济中 AI 技术的采用情况以及由此引发的宏观经济和劳动力市场趋势。 技术基准直接衡量了 AI 系统在各种劳动任务上的表现。投资水平，如研发投资、人才和计算机芯片，反映了我们资源的流向。经济各领域的 AI 采用率增长指标则能反映实际部署情况。 最终，宏观经济的影响会在生产率统计和劳动力市场趋势中显现出来。

追踪这些互补信号有助于政策制定者根据人工智能的现实情况调整政策。但我们必须保持谦逊——未来可能出乎意料地让我们感到惊讶。

前面描述的三种情景所显示的经济轨迹差异显著，这强调了发展灵活政策框架的重要性，以适应未来的变化。政策制定者应测试现有机构，根据每个情景进行改革，确保它们具有韧性。 这可能涉及逐步的步骤，比如改革税收系统和扩大社会安全网，或者引入新的项目，如提供基本收入以在必要时进行扩展。

政策制定者应让专家团队进行迭代的场景规划，帮助他们定期更新对各种情景概率变化的看法。通过灵活的、基于情景的方法来应对不确定性，我们将能够最大化经济领域的 AI 发展带来的收益，并减少风险。

文章和材料中的观点由作者提出，不反映基金组织政策。