IT之家 · 智能时代T2·基座大模型
88 分
MIT CSAIL 研究人员提出“权重空间编程”新方法,利用 GPT-6 Astra 直接读取并修改 Qwen3.5-0.8B 的神经网络权重。该方法无需梯度下降或传统训练循环,仅调整约 0.016% 的参数即可消除推理循环问题,使模型在 MATH-500 基准测试中的成绩从 7.9% 提升至 48.1%,为模型优化和可解释性研究提供了全新范式。
Reasoning Loop
模型在生成过程中陷入自我重复且无法收敛至最终答案的状态,常导致输出截断或逻辑停滞。
MIT CSAIL 研究人员提出“权重空间编程”新方法,利用 GPT-6 Astra 直接读取并修改 Qwen3.5-0.8B 的神经网络权重。该方法无需梯度下降或传统训练循环,仅调整约 0.016% 的参数即可消除推理循环问题,使模型在 MATH-500 基准测试中的成绩从 7.9% 提升至 48.1%,为模型优化和可解释性研究提供了全新范式。
MIT CSAIL 团队提出“权重空间编程”新范式,利用前沿大模型(如 GPT-6 Astra)直接读取并修改其他神经网络的原始权重,无需梯度计算或重新训练。实验显示,Astra 仅修改 Qwen3.5-0.8B 中 0.016% 的权重,便将其 MATH-500 准确率从 7.9% 提升至 48.1%,主要机制是消除推理循环障碍而非注入新知识。该研究证明了大模型具备原生读写神经网络权重的能力,为 AI 自我改进提供了新路径,但结果尚待独立复现。
MIT 研究人员展示了“权重空间编程”新范式,利用前沿大模型 GPT-6 Astra 直接编辑其他 AI 模型的权重参数。该方法无需梯度下降或传统训练,仅修改 0.016% 的权重即可修复 Qwen3.5-0.8B 的推理循环缺陷,使其在 MATH-500 基准上的准确率从 7.9% 飙升至 48.1%,实现了近 6 倍的性能跃升。