知一知 · 今日
← 返回本期日报

社媒话题

开发者把字符级语言模型推理引擎塞进510字节主引导记录

本期日期 2026-11-01 · 08:00 北京时间

一个启动扇区项目用510字节MBR容纳神经网络推理引擎,权重、词表和字符串放在后续扇区。单隐藏层int8字符模型学习Linux dmesg文本后可持续生成虚构启动日志;训练脚本与汇编执行相同整数运算以逐字核对。

项目灵感来自启动扇区演示圈:开发者曾看到人们在512字节内编写国际象棋、BASIC游戏甚至C编译器,于是尝试用神经网络替代固定程序,生成并不存在硬件的Linux启动日志。

完整推理引擎位于510字节主引导记录内,权重、词表和字符串存放在MBR之后的扇区。网络为小型字符级模型,只有一个隐藏层并使用int8运算,训练材料是机器生成的dmesg,因此运行时会不断产生类似Linux内核启动信息的文本。

为验证结果,train.py执行与汇编代码完全相同的整数运算,使训练侧输出与QEMU运行结果逐字符一致。差异调试曾发现激活计算中的idiv指令会把余数存入edx,而偏置表指针也在edx中,导致首个神经元偏置正确、后续神经元读到垃圾数据;修复后改为根据循环计数器确定偏置地址。

开发者还提到BIOS打印例程会清零bx,而bx保存预测字符编号,因此需要在打印前后压入和弹出bx。与可在1.2K汇编中运行五层、带注意力机制Llama2的sectorllm相比,该项目选择相反取舍:引擎必须放进一个扇区,只保留更简单的网络来“做梦”dmesg。

原文来源

Hacker News ↗
返回本期日报打开交互阅读页