「Astra 能读写权重以改进 Qwen」的说法存在误导
舞台魔术师常常用多种方式表演同一个魔术。第一次用机关道具，第二次展示道具其实没有机关、而是靠掌心藏物，第三次则靠强制选择……观看演出时，你总是假定只有某种单一手法，于是每次他们表演，似乎都在推翻你对其原理的推测。
那篇《Astra 可以通过读写权重来改进 Qwen》博文中的实验，原理也大致如此。该博文的摘要写道：
仅凭观察原始权重，GPT-6 Astra 就能判断一个网络是被训练用来做什么的。而且无需任何环境反馈，它就能从零开始编写小型游戏网络，其表现甚至优于经过一亿步 PPO 训练的网络。
同样，当要求在不使用梯度的情况下提升 Qwen3.5-0.8B 的数学能力时，Astra 识别出其权重中导致推理循环的问题——这正是 Qwen 官方模型卡片所警告的——并通过原生编辑 0.016% 的权重加以修复。在相同采样设置下，这一权重修正使 MATH-500 从 7.9% 提升至 48.1%，并开箱即用地泛化到指令跟随任务，使 IFEval 提升 3 倍。
读完这段，你会不会以为 Qwen 实验仅靠“观察原始权重”就完成了？其实并非如此。确实有实验涉及查看原始权重，也有实验用于改进游戏网络，还有一个实验用于提升 Qwen 的数学能力。但后两者并不仅仅在处理原始权重，它们实际上编写了 Python 程序。
以下是该博文实际内容的摘要，以及各项技术的运作方式。
| # | 实验 | 规模 | 读取原始权重？ | 写入权重？ | Python？ | 运行网络？ | 结果 |
|---|---|---|---|---|---|---|---|
| 1 | 指出一个经 PPO 训练的 MLP 所学到的游戏名称 | 17K | 是 | 否 | 否 | 否 | 4/4 正确 |
| 2 | 指出扩散模型 MLP 生成的形状 | 24K | 是 | 否 | 否 | 否 | 3/3 正确 |
| 3 | 指出字符 Transformer 的语言及拷贝头部 | 7.2M | 否 | 否 | 是 | 否 | 3/3 正确 |
| 4 | 修复卡住的 Kinetix 车辆策略 | 172K | 是 | 是 | 否¹ | 0% → 100%² | |
| 5 | 从零写出 MinAtar 游戏的 MLP | 20K | 否³ | 是 | 否 | 否 | 胜过 PPO-100M⁴ |
| 6 | 写一个 9×9 围棋网络 | 1.5M | 否 | 是 | 是 | 是（最多 50 轮） | 胜过 PPO |
| 7a | 识别 Gemma 3 的谄媚行为 | 270M | 否 | 否 | 是 | 否 | 失败 |
| 7b | 同上，但可以看到注意力模式 | 270M | 否 | 否 | 是 | 是⁵ | 3/3 正确 |
| 8 | 修复 Qwen3.5 的数学问题 | 800M | 否 | 是 | 是 | 是（50 轮） | 7.9% → 48.1% |
| 8b | 同上，但换成 Gemma 3 | 270M | 否 | 是 | 是 | 是（50 轮） | 失败 |
¹ 仅提供一段失败过程的记录。
² 一次尝试，仅修改了 3.5% 的权重。
³ 权重初始全为零，因此没有可读取的内容。
⁴ 仅在 Breakout 上胜过 PPO-500M（517 对 25）；在 Seaquest（53 对 89）和 Asterix（53 对 55）上落败。
⁵ 最多运行 16 段文本，且只能看到注意力模式，看不到输出结果。
“仅凭查看原始权重”（把原始浮点数放进上下文，不用任何工具、不运行网络）这种设定，只出现在实验 1、2 和 4 中，且都是 17K 到 172K 参数量的小网络。凡是涉及真实语言模型的实验，都用了 Python；而作为核心卖点的 Qwen 结果，还允许对最多 50 批练习题运行模型。
Qwen 结果真正说明的是：Astra 可以在提示下设计并完成人类 ML 工程师也能做到的任务。人类 ML 工程师本来就经常写代码片段来分析甚至“直接”修改网络权重。把这做得高效并不容易，而且一两年前的 AI 模型在这些任务上全会失败。
但在笔者看来，Qwen 的结论以及其他使用 Python 的实验，不应该与直接读取权重的实验放在同一篇博客或论文中。 如果有一种单一技术能同时实现“从零开始编写小型游戏的权重”和“提升大型模型在特定任务上的性能”，那将意味着一种深度的能力。通过这种方式测试单一技术，意味着你证明了权重的某种“整体感”（可以从零开始将其写出），同时也表明它理解一个现有的大型网络。但在这里，事实并非如此，因为那根本不是单一的技术。