让一块资源紧张的微控制器直接运行生成式 AI,通常像让计算器现场作画。Rozuzo 换了条路:一个仅 82.5 万参数的自回归 Transformer——按顺序预测下一条指令的模型——在主机上生成约 100 字节的绘图字节码,再交给 Raspberry Pi Pico 的 RP2040 执行。字节码是比完整源代码更短、更规整的指令,芯片只需照着画,不必运行模型。
最实在的结果来自执行端。据作者自述,Pico 上的解释器仅占 1,862 字节闪存,不使用静态内存,峰值栈内存为 492 字节;12,670 次生成轨迹全部与 Python 参考虚拟机一致。处理实测 QuickDraw 程序时,每幅图约需 7,334 个周期,在 12 MHz 下约为 0.61 毫秒,也不依赖浮点硬件或张量运行时。
它展示的是“主机生成、微控制器执行”的超低资源路线,并不意味着 Transformer 已被塞进 RP2040。模型自由生成时仍难稳定给出完全正确的后续指令,项目的成熟度也主要集中在执行端。