返回热点榜
tools热度 0.0°

AI 聚合热点事件 · 2026/10/21

Anthropic 用 Claude 实现大规模代码形式化验证

5 篇收录报道0 家独立信源交叉印证持续跟踪至 2026/10/23 19:32:19
全景综述与最新动态

Anthropic Frontier Red Team 联合 Theorem Labs 取得重大突破,利用 Claude 模型在数周内完成了对超过 100 个真实开源库的大规模形式化验证。这一成果标志着 AI 首次将传统上耗时数年、依赖顶尖专家的数学级安全证明扩展至工业规模,生成了约 1.8 亿行证明代码,彻底改变了软件正确性验证的范式。

多方信源交叉验证显示,该方案在 RISC-V 汇编级别成功证明了 Google OSS-Fuzz 中多个关键库的安全属性。与传统 seL4 等需耗费数十人年的项目相比,AI 自动化流程极大降低了门槛。此外,Anthropic 还提出了基于 Claude 的攻击面缩减策略,通过自动分析移除不必要的可达代码,从架构层面缓解零日漏洞风险,比逐个修复更具扩展性。

这一进展为构建具备“数学可证安全性”的软件基础设施提供了新路径。Theorem 计划将验证范围扩展至 glibc、OpenSSL 等核心系统组件,这不仅解决了 AI 生成代码的信任危机,更可能重塑全球软件供应链的安全标准,使高成本的形式化验证成为开发者可用的常规工具。

最新动向/Theorem Labs 正推进路线图,计划将 Claude 驱动的形式化验证范围从普通开源库扩展至 glibc、OpenSSL 等关键系统基础设施,同时结合攻击面缩减技术,旨在为 AI 生成代码建立可验证的安全信任机制。

逐小时热度走势

168 个完整观测小时
当前
0.0
峰值
57.109:00
近 24h 变化
–

曲线只比较全程持续完整观测的同一批信源;缺口小时数据已插值平滑,保持趋势连续。

报道时间线

共 5 篇 · 最新优先
  1. The DecoderT2·85 分

    Anthropic 用 Claude 自动证明代码安全

    原标题:Anthropic's Claude now writes code and proves it safe automatically

    • Claude 在数周内生成约 1.8 亿行证明代码,验证了 123 个开源库的安全性
    • 形式化验证从依赖专家人力(如 seL4 需 20 人年)转向 AI 自动化处理
    • Theorem 路线图计划将验证范围扩展至 glibc、OpenSSL 等关键系统组件
  2. 新智元 (微信公众号)T2·88 分

    Claude 生成 1.8 亿行证明代码,发现万亿次测试漏掉的漏洞

    原标题:Claude狂写1.8亿行证明!万亿次测试漏掉的Bug,被AI一锅端

    • Claude 生成 1.8 亿行 Rocq 证明代码,验证了 123 个开源库中的 239 个测试入口。
    • AI 发现了传统万亿次压力测试未能捕捉到的隐秘漏洞及 x86 硬件真实缺陷。
    • 首批 25 个库的形式化验证证明已开源,标志着 AI 辅助软件安全验证进入新阶段。
  3. Hacker News AIT2·85 分

    LLM 实现大规模形式化软件验证突破

    原标题:LLMs are making formal software verification feasible at a much larger scale

    • LLM 可在 RISC-V 汇编级别对 100+ 真实开源库进行安全属性证明
    • 形式化验证从“专家数年工作”转变为“AI 辅助的大规模自动化流程”
    • 该研究证明了通过 AI 实现可验证软件安全的可行性路径
  4. Anthropic AI (@AnthropicAI)T1·68 分

    Anthropic 联合 Theorem Labs 用 Claude 大规模验证开源软件安全性

    原标题:New on our Frontier Red Team blog: using Claude to formally verify software at large scale.

    • Claude 被用于在数周内对 100+ 个开源库进行形式化验证
    • AI 降低了形式化验证的门槛,使其不再局限于小型代码库
    • 通过与 Theorem Labs 合作,证明了自动化安全属性验证的可行性
  5. Hacker News AIT2·68 分

    Anthropic 推 Claude 代码攻击面缩减方案

    原标题:Using Claude to reduce the attack surface of code

    • AI 不仅可用于发现漏洞,更能用于自动化映射和缩减代码攻击面
    • 相比逐个修复已知漏洞,减少代码可达性能更有效地缓解未知及零日漏洞风险
    • 该方案旨在以低成本提升现有软件部署的安全性,鼓励开发者集成使用