大模型网摘bootgpt：把语言模型塞进 512 字节引导扇区的开源玩具
10 月 31 日，一个名为 bootgpt 的开源项目登上 Hacker News（52 分）：一台没有操作系统的 x86 机器，按下电源后开始逐字符"梦"出一份 Linux 启动日志——时间戳、PCI BAR、ACPI 事件，硬件一应俱全，只是全都不存在。
实现拆解：512 字节 + 23 个扇区
整个系统由两部分组成：512 字节的手写汇编 MBR，加上紧随其后的 23 个扇区里存放的 11.5KB int8 模型。全部前向传播在 386 的 16 位实模式下完成——没有操作系统，没有 C 运行时。模型是字符级的：上下文窗口只有 8 个字符，单隐层结构；权重全部量化到 int8，缩放因子取 2 的幂，于是引导扇区里的前向传播只需要 imul 指令外加一次 idiv 就能完成。
训练管线：先在宿主侧逐位模拟
项目的方法论比结果更有意思。corpus_gen.py 生成 3MB 的假 dmesg 语料，每个启动会话固定一个内核版本和一块磁盘——作者解释说，真实启动日志充满重复，而这种重复正是让小模型显得"通顺"的关键。train.py 用 numpy 训练（字符嵌入、单隐层、softmax），量化到 int8 后，还会逐位模拟汇编将执行的整数运算（连 LCG 采样器也一并模拟），因此 Python 输出与引导扇区输出可以逐字符 diff 且完全一致。boot.asm 则是全部运行时：int 13h 读权重、int 10h 打印、softclip 激活。
怎么玩
依赖只有 nasm、qemu 和 numpy：./build.sh 构建出 disk.img，./run.sh 在 QEMU 里启动。disk.img 是普通的启动镜像，dd 进 U 盘后可以在任何 BIOS 机器上真机引导——它只读取自己的扇区，不碰其他数据。
为什么值得一看
它把两件事做到了一起：一是展示了字符级小模型在极端约束下能走多远——8 字符上下文足以让启动日志"看起来像真的"；二是给出了一条严谨的极限工程流程：先在宿主侧完整模拟目标平台的整数行为，再落到汇编，最后用逐字符 diff 验证。对做端侧与嵌入式推理的工程师，这是一个可以照抄的方法框架；对大模型压缩这条主线，它与"把每 token KV 压到 890 字节"的 V4.1-Flash 技术报告恰好处在同一方向的两个极端尺度上，可对照阅读V4.1-Flash 技术报告解读。更多生态新品可看本站 10 月生态工具盘点，本地部署规格背景见 10 月开放权重旗舰规格对照。