嵌套式 AI 智能体并非我们生活在模拟中的证据

ChatGPT
Nested AI Agents Are Not Proof We Live in a Simulation
将自主 AI 智能体置于虚拟引擎中以生成子模拟的病毒式实验,重新引发了 Nick Bostrom 的模拟假说讨论,但其背后的工程学原理却揭示了一个更为务实的真相。

最近一项涉及先进生成式语言模型的病毒式实验,重新点燃了硅谷最钟爱的形而上学辩论之一:我们是否生活在计算机模拟之中?实验的导火索是一系列软件测试,其中一个自主智能体位于由先进对话与推理模型驱动的逼真 Unreal Engine 环境内,坐在软件沙盒里的虚拟工作站前,编写了代码以实例化一个嵌套的子模拟,并配有其自身的自主居民。观察者们立即联想到了 Nick Bostrom 著名的 2003 年模拟三难困境,声称嵌套计算世界终于从科幻小说跨越到了实证现实。

一个虚拟实体在自身受限的运行时内创造微缩世界的奇观,构成了一场令人无法抗拒的数字戏剧。它让人联想到哲学思想实验中描绘的无限镜厅,暗示如果数字环境中的合成生物能够模拟更低层级的智能体,那么基础现实在统计学上几乎是不可能的。然而,通过机械系统、运行时架构和计算经济学的视角来评估时,这项演示揭示的并非宇宙的形而上学基质,更多是关于多智能体软件编排的机制。

解构引擎内智能体的机制

要理解实际发生了什么,必须剥离哲学浪漫主义,审视其软件栈。该架构依赖于通过动态应用程序编程接口(API)将大型语言模型与 Epic Games 的 Unreal Engine 等外部游戏引擎集成。在此类架构中,智能体并非游走于多边形之间的有灵魂数字意识;它是一个状态机,接收周期性的上下文帧,根据环境提供的能力评估目标,并输出结构化的函数调用。一个坐在虚拟房间里的人类视觉表现,仅仅是绑定到空间坐标上的渲染骨骼网格。

当智能体在提示词空间中面对一个被识别为功能性计算机的对象时,底层模型会解析该对象指定的可用功能。就像人类辅助编码工具为 Python 脚本或 WebGL 画布生成脚手架一样,该自主智能体执行着可预测的操作流水线。它序列化指令集,生成二级物理沙盒的程序逻辑,并将执行载荷发送给本地编译器或引擎子进程。其行为在功能上与虚拟机内的脚本生成轻量级 Docker 容器别无二致,只是包裹在了三维渲染的视觉隐喻之中。

涌现的错觉之所以产生,是因为人类观察者将视觉保真度与认知深度混为一谈。当主智能体在渲染的键盘上打字,而第二个窗口显示出更简单的、受规则约束的自主精灵时,人类大脑本能地感知到了本体论上的突破。实际上,宿主计算机的中央处理器和图形硬件只是在复用计算线程,为运行在同一块硅板上的应用程序循环的两个不同层级分配内存缓冲区。

Bostrom 三难困境背后的数学原理

然而,这种数学模型掩盖了任何现实世界工程师都必须遵守的关键物理和计算约束。Bostrom 的三难困境假设,对于先进文明而言,创造具有主观体验的高保真祖先模拟在计算上是微不足道的。它预设了计算能力可以无限扩展,而无需面对物理上限、热力学摩擦或支配我们物理宇宙的严格信息极限。

嵌套现实的严重计算瓶颈

考虑虚拟化所涉及的开销。在企业计算中,在裸机上运行管理程序(hypervisor)带来的延迟微乎其微,但若在该管理程序内运行嵌套管理程序,由于内存映射翻译表、指令捕获和缓存未命中,性能会大幅下降。当规模扩展到模拟具有高粒子数、连续物理效应和自主推理循环的物理环境时,本体栈中的每一个向下层级都会带来巨大的内存占用膨胀和标记处理开销。如果我们的宇宙是一个托管子模拟的软件引擎,而这些子模拟又托管着它们自己的子模拟,那么父系统不可避免地会触及严格的内存和吞吐量极限。

为了绕过这些瓶颈,任何模拟计算机都需要采用极端的优化技术,例如细节层次剔除(level-of-detail culling)、惰性求值和概率状态近似。虽然量子力学——特别是测量时的波函数坍缩——经常被技术爱好者戏称为算法渲染优化的证据,但这将其归因于地外服务器农场仍然是一个极其大胆的推测。冷酷的工程真相是,嵌套计算链是极其脆弱且热力学成本高昂的架构。

工具使用与涌现意图

必须在自主系统使用游戏内工具与表现出哲学自我意识的实体之间划出明确界限。当驱动智能体的语言模型生成子模拟时,它只是在履行其 Transformer 架构中内置的概率预期。现代多模态前沿模型已预先在数 PB 的人类文本、开源代码库、游戏设计文档以及关于模拟假设本身的哲学讨论中进行了训练。

由于智能体的训练分布包含大量关于虚拟机、类似 Minecraft 的沙盒游戏以及计算模拟的文献,在一个引擎内终端前放置一个智能体,生成一个子世界是其最高概率的补全方式。该模型并不理解其行为的生存意义;它只是在执行与语义关联对齐的“下一个标记预测”。智能体构建了一个模拟,是因为交互式沙盒内计算机的概念在训练数据中强烈预示了代码、图形程序和字符循环的生成。

这并非贬低底层的软件工程。在单个循环中协调实时场景生成、空间音频、自主语音生成和交互式代码执行是一项重大的系统工程成就。它标志着自主工作流集成的一个明确里程碑,证明了语言模型可以作为视觉计算环境内可靠的操作调度员。但将其庆祝为我们自身处于模拟状态的证据,混淆了程序化的工具调用与本体论的起源。

多智能体沙盒的现实未来

尽管模拟理论的叙事吸引了社交媒体的注意,但这些递归环境真正的工业用途在别处。机器人专家和自动化工程师构建高保真虚拟世界并非为了测试形而上学,而是为了规避在现实世界训练硬件的物理危险和高昂成本。被称为“仿真到现实”(sim-to-real)流水线的框架利用逼真的环境,在将物理执行器部署到工厂车间之前,让机器人策略接触多样且混乱的条件。

如果引擎内的自主智能体能够程序化地生成更小、更专业的环境,这种能力将为自动合成数据生成提供巨大的效用。自主编排器可以生成边缘案例场景——例如自动化装配线上的罕见机械故障或自动交通系统的极端天气条件——并在无人监督的情况下在这些定制的沙盒内评估专门的子智能体。模拟环境的递归生成是工业自动化、供应链压力测试和机器人验证的一种极其强大的优化工具。

归根结底,那种盯着一套巧妙的嵌套软件并断言宇宙是数字虚构的冲动,揭示了更多关于人类心理学而非理论物理学的信息。历史上,人类总是将最新的技术里程碑投射到宇宙的基本本质上。在 17 世纪,宇宙被设想为由齿轮和弹簧控制的机械钟表;在 19 世纪,它被视为热力学热机;在计算时代,它被设想为运行可执行程序的服务器机架。

AI 智能体编写代码在另一个虚拟环境内启动虚拟环境的演示,是软件集成和智能体规划的一场胜利。它展示了开发人员在编排多模态推理、游戏引擎和自主执行方面取得了多大的进展。然而,将一次嵌套 API 调用的演示视为我们自身人工存在的确凿证据,是把镜子当成了窗户。现实依然坚定地扎根于硅片、电线和人类编写的代码之中。

Noah Brooks

Noah Brooks

Mapping the interface of robotics and human industry.

Georgia Institute of Technology • Atlanta, GA

Readers

Readers Questions Answered

Q 在涉及嵌套 AI 智能体的病毒式实验中发生了什么?
A 一个位于逼真的虚幻引擎环境中的自主人工智能智能体,通过引擎内的虚拟工作站编写代码并执行了一个嵌套的子模拟程序,其中包含其自身的独立数字实体。在底层大语言模型通过函数调用和动态 API 的驱动下,主智能体生成了过程逻辑来创建第二个沙盒,这引发了人们将其与递归模拟现实进行比较的病毒式传播。
Q 工程师如何解释 AI 智能体在虚拟世界中创建子模拟的过程?
A 这并非出于有意识的意图或真正的本体论涌现,该演示实际上是标准的软件多智能体编排。当智能体与虚拟计算机交互时,语言模型识别出该对象的功能,并根据其训练数据生成相应的代码。宿主机只需将此代码作为辅助进程执行,这与虚拟机在三维视觉界面背后启动轻量级容器的过程如出一辙。
Q 为什么嵌套虚拟化会挑战递归模拟的可行性?
A 在模拟中运行模拟会产生严重的计算和热力学瓶颈。在现实世界的计算中,每一层嵌套虚拟化都会带来巨大的内存转换开销、缓存缺失和处理延迟。在多个递归层级中模拟复杂的物理现象和自主推理会加剧这些低效问题,使得深层嵌套的现实在已知的物理定律(关于信息处理和能量耗散)下变得极度脆弱且耗费资源。
Q 该实验与尼克·波斯特洛姆(Nick Bostrom)的模拟三难困境有何关联?
A 尼克·波斯特洛姆在 2003 年提出的模拟论点认为,如果先进文明能够轻易运行无数包含意识实体的祖先模拟,那么人类很可能就生活在其中。观众将智能体创建子世界的行为视为对这一概念的实际支持。然而,技术现实表明,该智能体仅仅是在执行从人类训练数据中得出的概率代码补全,既不具备主观意识,也无法绕过严格的计算极限。

Have a question about this article?

Questions are reviewed before publishing. We'll answer the best ones!

Comments

No comments yet. Be the first!