Anthropic 用 Claude 自动证明代码安全
原标题:Anthropic's Claude now writes code and proves it safe automatically
- Claude 在数周内生成约 1.8 亿行证明代码,验证了 123 个开源库的安全性
- 形式化验证从依赖专家人力(如 seL4 需 20 人年)转向 AI 自动化处理
- Theorem 路线图计划将验证范围扩展至 glibc、OpenSSL 等关键系统组件
AI 聚合热点事件 · 2026/10/21
Anthropic Frontier Red Team 联合 Theorem Labs 取得重大突破,利用 Claude 模型在数周内完成了对超过 100 个真实开源库的大规模形式化验证。这一成果标志着 AI 首次将传统上耗时数年、依赖顶尖专家的数学级安全证明扩展至工业规模,生成了约 1.8 亿行证明代码,彻底改变了软件正确性验证的范式。
多方信源交叉验证显示,该方案在 RISC-V 汇编级别成功证明了 Google OSS-Fuzz 中多个关键库的安全属性。与传统 seL4 等需耗费数十人年的项目相比,AI 自动化流程极大降低了门槛。此外,Anthropic 还提出了基于 Claude 的攻击面缩减策略,通过自动分析移除不必要的可达代码,从架构层面缓解零日漏洞风险,比逐个修复更具扩展性。
这一进展为构建具备“数学可证安全性”的软件基础设施提供了新路径。Theorem 计划将验证范围扩展至 glibc、OpenSSL 等核心系统组件,这不仅解决了 AI 生成代码的信任危机,更可能重塑全球软件供应链的安全标准,使高成本的形式化验证成为开发者可用的常规工具。
曲线只比较全程持续完整观测的同一批信源;缺口小时数据已插值平滑,保持趋势连续。
原标题:Anthropic's Claude now writes code and proves it safe automatically
原标题:Claude狂写1.8亿行证明!万亿次测试漏掉的Bug,被AI一锅端
原标题:LLMs are making formal software verification feasible at a much larger scale
原标题:New on our Frontier Red Team blog: using Claude to formally verify software at large scale.
原标题:Using Claude to reduce the attack surface of code