MIT 研究：GPT-6 Astra 可直接修改其他模型权重

GPT-6 Astra 洞察矩阵本质，直接通过权重重编程其他 AI 模型

  [Maximilian Schreiner](https://the-decoder.com/author/maximilian-schreiner/) [查看 Maximilian Schreiner 的 LinkedIn 个人资料](https://www.linkedin.com/in/maximilian-schreiner-b6a5171aa/)   2026 年 11 月 4 日      

Nano Banana Pro 由 THE DECODER 生成提示词

麻省理工学院（MIT）的研究人员表明，GPT-6 Astra 无需传统训练即可直接理解并修改其他 AI 模型的内部设置。这种方法虽然存在局限性，但可能会改变 AI 系统的调优和控制方式。

把一份包含数千个数字的列表交给一个人，并询问基于这些数字训练的 AI 模型在玩什么游戏，你得不到任何答案。但 OpenAI 的 GPT-6 Astra 会给你一个答案：在一篇研究博客中，MIT 研究人员展示 GPT-6 Astra 能够分析并有意修改其他 AI 模型的内部设置，即所谓的“权重”（weights）。这些数值以庞大的表格形式组织，在数学上称为矩阵。

它不需要经过逐步数学优化的常规训练过程。根据实验不同，Astra 要么直接处理数字列表，要么使用编程工具并结合测试运行的反馈。

研究人员将这种方法称为“权重空间编程”（Weight-Space Programming）：与其昂贵地重新训练一个 AI 模型，不如让一个大语言模型像机械师一样调节各个旋钮。

Astra 仅通过观察模型的原始数字就能识别游戏

在多项实验中，研究人员向 Astra 输入已训练网络的原始权重，并询问这些网络学到了什么。Astra 正确识别出了网络本应玩的四个电脑游戏中的哪一个。它还识别出了图像生成器产生的基本形状，尽管它将实心形状与轮廓混淆了。此外，在没有访问训练数据且无法运行模型的情况下，它也正确匹配了小型语言模型的训练语言。

在另一项测试中，Astra 必须判断两个微调后的语言模型中哪一个是被训练为总是同意用户观点的。仅凭权重，它起初无法区分两者。只有当允许 Astra 同时观察模型在处理文本时的注意力分布时，它才在所有三组模型对中正确识别出了那个“阿谀奉承”（sycophantic）的模型。

从零编写的模型胜过经过训练的竞争对手

Astra 更进一步：它仅基于游戏规则和源代码，完全无需训练，就为旨在玩三款简单电脑游戏的模型生成了权重。据研究人员称，这些模型的表现优于采用标准方法训练超过 1 亿轮的模型。在 Breakout（打砖块）游戏中，Astra 生成的模型平均得分为 517 分，而经过训练的基线模型仅为 25 分。但在另外两款游戏中，Astra 的表现落后于训练时间最长的版本。

对于 9x9 网格上的围棋游戏，Astra 编写了一个拥有约 150 万参数的网络权重。在 50 次测试迭代的预算下，每轮网络进行最多 128 场练习对局，随后 Astra 修正其权重，结果击败了在一个规模相当、但基于约 2000 万场对局训练的模型。

针对性修复而非全量重训

最具实用性的实验涉及语言模型 Qwen3.5-0.8B。Astra 的任务是利用编码环境和 50 次包含练习题的测试迭代来提升其数学能力。评估则在 Astra 从未见过的独立题目上进行。

Astra 发现了一个问题，Qwen 自身的模型文档已对此发出警告：即“思维循环”现象，模型会无休止地重复相同文本而无法得出答案。随后，Astra 仅修改了所有权重的 0.016%。结果令人瞩目：MATH-500 基准测试的准确率从 7.9% 跃升至 48.1%，指令遵循能力从 21% 提升至 62%。不过，思维循环并未被完全消除，仍有三分之一的响应达到了最大文本长度限制，相比之前的 93% 已有显著下降。

对于一个极少陷入此类循环的小型模型（Gemma 3 270M），Astra 未能产生任何可测量的改进。

研究人员推测，Astra 能够移除 Qwen 模型中抑制现有能力的阻塞点，但在此实验中，仅通过重写个别权重无法添加模型从根本上缺乏的技能。

旧闻还是新范式？

AI 先驱 Jürgen Schmidhuber 在 X 上评论称该方法“早已过时”，并指出他自己在 20 世纪 90 年代的工作。Khattab 回应说，他们链接了那些论文，这些论文“远远超前于时代”。他表示，新的方面在于当今的语言模型能够多好地在人类语言和网络的数值之间进行转换。

研究人员认为，该方法在直接对模型权重进行安全审计或在不进行昂贵重训练的情况下实现针对性行为改变等方面具有潜力。他们也承认，目前的能力仍然有限。建立用于系统测量的基准是他们接下来的计划之一。实验日志已发布在 GitHub 上，编辑后的 Qwen 模型则托管在 Hugging Face 上。