知一知 · 今日
← 返回本期日报

AI 前沿

微型循环Transformer世界模型在Pico 2 W上生成并游玩游戏

本期日期 2026-10-30 · 08:00 北京时间

一名开发者在树莓派Pico 2 W上运行两个小型神经网络:世界模型根据当前画面和动作预测下一帧及奖励,行动网络根据生成画面选择动作。芯片运行时不访问真实游戏,还可切换为在板上从零学习的流式强化学习代理。

这个项目名为tinyworldformer,目标是验证循环Transformer世界模型能否小到在微控制器上运行。开发者选择RP2350芯片的Pico 2 W,因为其价格低并带浮点单元;小游戏则用数百行NumPy写成,便于把模型生成的每一帧与真实游戏逐格比较。

系统包含两个网络。世界模型接收当前帧和动作,预测下一帧与奖励;行动网络只看世界模型生成的帧并选择动作。部署到芯片后,二者都运行在RP2350的核心1,核心0负责USB和显示。真实游戏从不在板上参与运行,两个网络形成闭环的“梦境”。

模型把游戏画面切成2×2、4×4或6×6的补丁,形成每局36至80个令牌。网络主体是一个包含注意力和ReLU MLP的Transformer块,以同一组权重循环应用1至4次,每次都把输入加回,并对下一帧进行训练。Pico上为兼顾帧率采用两次循环。

项目支持Breakout、Doom-lite、Flappy、Pong和Pac-Man等游戏。预训练行动网络可换成在板上从零学习的stream-x代理,用户按下按钮也能接管并亲自游玩生成的游戏。开发者用“精确帧”衡量预测画面与真实游戏完全一致的比例,并指出随机事件后的帧只能采样、不纳入预测评估。

原文来源

Hacker News ↗
返回本期日报打开交互阅读页