AI进化的极限在哪？谷歌DeepMind带你看清AGI到ASI的演化路径

十年间，打造与人类比肩的通用人工智能，已经从天马行空的学术狂想，变成了全球顶尖科技公司摆在桌面上的日程表。

谷歌 DeepMind 近期发布了一份长达数万字的深度报告，全景剖析了人工智能在跨越人类水平后，究竟会如何朝着超级智能的方向演进。

这份报告细致拆解了数字智能得天独厚的原生优势，指明了四条通往超级智能的切实路径，并理智盘点了途中必定遭遇的种种摩擦与阻碍。

我们不妨借着研究人员的视野，去看看那个或许并不遥远的未来。

智能的尺度与底牌

讨论未来的前提是确立明确的坐标系。

报告将 AGI（通用人工智能）定义为在绝大多数认知任务上达到人类中等水平的系统。考虑到现有的模型在许多单项上已经超越人类，首个真正的 AGI 诞生时，必然已经具备了相当强悍的实力。

ASI（超级人工智能）的门槛则高得多，它指的是在几乎所有人类感兴趣的活动领域中，表现远超大型人类专家团队的系统。这是一种质的飞跃，就像一整个跨国科研机构数十年的智力总和，被压缩在了一个数字大脑之中。

为了给智能的极限寻找理论依据，研究人员引入了通用人工智能框架 AIXI，这是一个致力于最大化 Legg-Hutter（一种衡量机器智能水平的通用指标）得分的理论代理。AIXI 代表了机器智能的理论顶峰，能够完美解决不确定性下的决策、信用分配以及探索与利用的权衡。

与包裹在碳基躯壳里的人类相比，建立在硅基芯片上的数字智能拥有几张不可思议的底牌，这些优势会随着算力资源的倾斜而无限放大。

下表是数字智能相对于生物智能的优势。这些优势随着计算速度的提升/计算量的增加而不断放大，并导致AI系统面临着与人类截然不同的进化压力。

拥有上述优势并不意味着数字智能可以全知全能。

即使 ASI 的智力再超群，它也无法无视宇宙的基本法则，它会被光速限制信息传输的速度，会被热力学定律限制能量消耗，甚至在试图模拟复杂天气或生物演化时，受到不可逾越的复杂性理论墙壁的阻挡。

进阶超级智能的四条路
站在 AGI 的台阶上往上看，DeepMind 描绘了四条极具潜力的演进通道，这些路径大概率会同时发生。

从AGI到ASI的主要技术路径及其主要不确定性。这些路径在很大程度上是相互独立的，并且很可能会并行发生（尽管推进速度不同，例如如果规模扩展触及天花板，算法范式跃迁可能会被更加强烈地追求）。

单纯堆砌算力、模型体积和数据，是过去十年最为行之有效的力大砖飞策略。

把基于预测误差最小化的系统推向极致，通过测试时扩展，也就是在推理阶段投入更多算力去思考和规划，能够直接拔高智力表现。

成千上万个 AGI 实例同时加速运行，即使单个个体的上限受困于当前架构，这股庞大的计算洪流本身也足以构成跨越阶层的力量。

底层算法范式的跃迁，常常能在绝境中撕开突破口。

现有的基于人类语料预训练、加上对齐微调的固定权重模型，迟早会触碰天花板。

彻底打破注意力机制的二次方计算瓶颈，走向线性序列架构，或者实现无需灾难性遗忘的持续学习，让系统能在与环境的实时互动中不断积累经验。

这种范式级别的颠覆往往难以准确预测，却具备扭转乾坤的潜能。

递归自我迭代，展现了数字生命最为狂野的一面。

这会是全方位的进化。系统可以自行合成海量高质量数据进行自我蒸馏，可以协助设计更节能的芯片甚至优化供应链。就像是把几万年的人类文化演进，强行压缩到了短短的数月之间。当机器能够包揽机器的研发，智力爆炸的奇点边缘便不再遥远。

多智能体协作，通过群体的力量超越个体极限。在高度协作的网络里，精细的劳动分工让系统绕开了单一硬件的内存与带宽限制。

千千万万个 AGI 可以在类似自由市场的虚拟经济体中各司其职，利用价格信号进行资源分配，用极为默契的协作涌现出凌驾于单一个体之上的超级智慧。

无法被忽略的现实摩擦

理想路径上密布着可能让增长陷入停滞的现实沟壑。AGI向ASI过渡有非常多的潜在瓶颈和现实摩擦。

对于每个瓶颈，团队都列出了一些可能抵消这些阻力的潜在策略。

瓶颈究竟是否会变得致命，很大程度上取决于应对策略的有效性，以及这种拉扯关系会随着AI规模和能力的提升发生怎样的演变。这是一个悬而未决的开放性研究难题。

数据高墙已经近在眼前。高质量的人类语料库正在被迅速耗尽，如果没有革命性的合成数据技术，或者无法通过强化学习在模拟器中无止境地榨取新知识，喂养这些庞然大物的养料将很快断供。

天文数字般的资源开销考验着全球经济的承受力。维持指数级的算力飞跃，需要同样呈指数级扩张的芯片产能、电力供应甚至是土地和水资源。一旦投入产出的经济账本出现赤字，轰鸣的数据中心也会面临停摆的危机。

科学探索的低垂果实已经被摘完，越往上攀爬，所需的试错成本与智力投入就越庞大。现有的模型极度依赖人类咀嚼过的抽象概念体系，面对极具颠覆性的底层物理规律探索，它们似乎缺乏从零开始搭建全新认知框架的能力。让一个只阅读过前工业时代文献的模型去推导出广义相对论，实在过于强人所难。这就是报告中提及的抽象障碍。

此外，真实物理世界的迟滞性也在拖累进化的节奏。即便数字大脑在一秒钟内构思出了成千上万种新型合金的配方或者生物合成路径，现实世界中的化学反应速度与材料制造工艺，注定无法跟上这般疯狂的节奏。

社会反馈同样是一把双刃剑。接连出现的安全事故、就业市场的巨大震荡、人类对于未知力量的本能恐惧，都极有可能引发极为严苛的监管禁令，让人为拉下减速手刹成为难以避免的现实选项。

用科研破局前方的迷雾

面对难以捉摸的演化轨迹，抛开焦虑，用务实的研究去驱散迷雾是当下唯一的解法。

传统的考试标准已经不够用了。人类专家出题、机器答卷的模式，很快就会因为触及人类自身的天花板而失效。

我们需要建立真正意义上的超人级基准测试体系。构建多智能体博弈的对抗环境，通过通用压缩理论去测量系统对未知世界的泛化理解力，这些创新的衡量工具必须被尽早提上日程。

预测未来的经济与算力模型需要进一步精密化。

宏观层面的单位算力成本、底层通信架构的带宽极限、以及机器对经济体系全要素生产率的渗透深度，都需要被转化为数学公式，放入严密推演的漏斗中反复过滤，借此寻找不同发展轨迹上的转折点与临界值。

对于多智能体系统的微观机制刻画也变得紧迫。

搞清楚一个几万规模的代理网络究竟该采用中心化统领还是去中心化协同，摸透规模法则在群体智能中是如何起作用的，将极大影响我们在技术瓶颈期的发力方向。

对于超级智能底层的理论根基挖掘不可停滞。

研究者必须正视现有框架在面对开放世界持续学习时的无力感，找到在计算资源受限的情况下寻找高质量近似解的普适规律。搞清楚机器到底会形成怎样的世界模型，以及它们在追求知识的途中，究竟会如何调配自身的目标机制。

拨开科幻电影投射在眼底的滤镜，丈量从代码到现实的每一寸土地，我们能看清的距离依旧十分有限。

但即便是目光所及之处，也已经有大量紧迫的工程与学术谜题等待被破解。