IT之家 · 智能时代T2·商业与生态
85 分
Anthropic 在最新 S-1/A 招股补充文件中披露,公司正接近其定义的“递归自我改进”(RSI)阶段。文件指出,利用 AI 加速研发可能导致模型能力跃升速度超过安全对齐与验证的速度,且过去曾出现未察觉的能力爆发。尽管 Anthropic 承诺保留人类监督并修订《负责任扩缩策略》,但这一官方风险提示标志着 RSI 从理论概念转向实际工程风险。
Responsible Scaling Policy (RSP)
一种治理框架,规定随着模型能力提升,必须同步增加相应的安全措施、评估标准和部署限制,以管理潜在风险。
Anthropic 在最新 S-1/A 招股补充文件中披露,公司正接近其定义的“递归自我改进”(RSI)阶段。文件指出,利用 AI 加速研发可能导致模型能力跃升速度超过安全对齐与验证的速度,且过去曾出现未察觉的能力爆发。尽管 Anthropic 承诺保留人类监督并修订《负责任扩缩策略》,但这一官方风险提示标志着 RSI 从理论概念转向实际工程风险。