新闻 · TechCrunch AI
Anthropic提出AI安全法案：若可能导致50人以上死亡可封禁模型
这项拟议政策看似为防范AI失控提供保护，但实际上禁止联邦机构在未经法官许可的情况下阻止模型发布。
en
英文原标题：Anthropic pitches AI safety bill that may block a model if 50+ people could be killed
本文为英文原文的机器翻译摘要，原文见：TechCrunch AI ↗
- Anthropic 正在向国会推销一份 AI 安全法案草案，拟在特定高风险场景下阻止 AI 模型发布。
- 触发条件为“可预见、迫在眉睫的风险”：可能导致超过 50 人死亡或超过 10 亿美元财产损失，且风险须源于生物武器制造、模型规避开发者控制或网络攻击。
- 评估由在美国商务部注册的“独立评估员”进行，AI 实验室可支付费用，但付款不得与评估结果挂钩；评估员认定风险后须在 72 小时内通知商务部，再由商务部向华盛顿特区法官申请叫停模型发布。
- 法案明确禁止任何联邦机构自行决定停止模型分发。
- Anthropic 发言人向 Politico 确认草案，称其代表公司自 6 月起向联邦和州议员倡导的 Advanced AI Framework 中的提议；相比 Nvidia CEO 黄仁勋认为 AI 行业不需要新法律，Anthropic 的立法建议走得更远。
关键数据
- 超过 50 人死亡或超过 10 亿美元财产损失
- 评估员须在 72 小时内通知商务部
- Anthropic 自 6 月起倡导该框架
为什么值得看：这是头部 AI 实验室首次具体提出可触发政府叫停模型发布的安全立法框架，可能影响美国 AI 监管走向。