本文详述了一项关于训练“世界模型”——即**联合嵌入预测架构 (JEPA)**——来游玩 1996 年版《宝可梦:红》的实验。
实验目标是打造一个能够在不依赖显性奖励的情况下,控制角色在宝可梦大木博士的研究所内走动并选择初始宝可梦的 AI。该模型并未直接预测原始像素,而是利用编码器将游戏截图映射到潜在的“嵌入空间”中,并通过按钮输入来学习预测未来的状态。为防止“潜在崩溃”(即模型将所有输入映射为相同的值),作者采用了 **SIGReg** 正则化技术,强制嵌入遵循标准正态分布。
虽然最初的规划尝试因长序列中的累积误差而失败,但作者通过在“预演”(即模型基于自身先前的预测而非真实数据来推演后续步骤的序列)上对预测器进行微调,成功提升了性能。最终模型在 52% 的尝试中成功获得了初始宝可梦。尽管该项目的应用范围有限,但它证明了世界模型能够有效地学习环境动态,并在复杂的、无奖励机制的模拟环境中规划目标导向的行为。
作者推出了一款名为“Nuanced”的桌面应用,其核心假设是:AI 驱动的软件开发需要一种结构化的“规划模式”(plan mode),以帮助人类保持对代码连贯的思维模型。然而,该项目最终证明这种方案存在缺陷。
作者总结了失败的四个原因:
1. **规划与计划书的区别:** 作者将“思考过程”与“创建冗长臃肿的文档”混为一谈。用户并不想阅读 AI 生成的长篇规范。
2. **模型能力提升:** 随着 AI 模型的发展,它们在导航代码库和自主决策方面的能力不断增强,从而减少了对人工编写死板指令的需求。
3. **工作流阻力:** 强行推行“先规划、后构建”的线性流程,反而阻碍了软件开发中自然且迭代式的本质。
4. **界面错位:** 将规划与构建过程分离开来,反而产生了不必要的认知负担。
最终,作者得出结论:尽管人类理解并推演复杂系统的需求依然至关重要,但“规划模式”并非正确的抽象方式。未来的工具不应将规划视为独立的产物,而应将其视为一种持续的、直觉性的过程,仅在人类注意力最能发挥作用的关键点提供干预。
请启用 JavaScript 以运行此应用程序。
发生了一个意外错误。
20260926T011140Z-176544447dfbq86fhC1SG1uuvg000000133g000000001nk1