Gavin Newsom 推动设立 AI 紧急关停开关

英文原标题：Gavin Newsom is pushing for an AI kill switch

本文为英文原文的机器翻译摘要，原文见：The Verge AI ↗

• 加州州长Gavin Newsom发布行政命令，推动加州在AI监管上领先，包括可能强制前沿模型配备“kill switch”。
• 命令要求召集专家小组，在两个月内就加强州法律中的AI安全措施提出建议，考虑要求AI公司嵌入独立验证团队进行定期审计、使透明度报告和风险评估接受独立审计员标准、创建并定期验证有效的“kill switch”，以及要求企业将“失控事件”报告为关键安全事件。
• 命令还指示州机构加速实施他最近签署的两项法律，建立独立验证者评估AI安全的框架和州AI审计员注册系统。
• Newsom呼吁国会和特朗普“审查并采纳加州的框架”，或将其作为全国监管的底线而非上限。
• 背景是国会因休会和中期选举难以通过重大AI立法，而特朗普曾表示AI唯一需要的控制是“强大而聪明的总统”。

关键数据

• 专家小组将在两个月内提出建议
• 前Anthropic研究员Jacob Coxon警告AI十年内“可能杀死所有人类”的概率超过10%
• 众议院休会至11月

为什么值得看：加州作为美国人口最多的州，其AI监管行政命令可能为全国AI安全立法提供模板，并推动对前沿模型实施更严格的审计和“kill switch”要求。