新闻 · The Verge AI
伯尼·桑德斯提议禁止“超级智能”，并将违规者送入监狱
参议员伯尼·桑德斯（佛蒙特州独立参议员）和众议员格雷格·卡萨尔（得克萨斯州民主党人）提出了一项新立法，禁止任何人开发人工超级智能——该法案将这项技术描述为能够“毁灭人类或剥夺人类权力”，包括推翻政府。根据这项《禁止人工超级智能法案》，AI 领导者将面临最高 20 年……
en
英文原标题：Bernie Sanders proposes banning ‘superintelligence’ and putting violators in prison
本文为英文原文的机器翻译摘要，原文见：The Verge AI ↗
- 美国参议员Bernie Sanders和众议员Greg Casar提出新法案，旨在禁止开发人工超级智能，违者最高可判处20年监禁。
- 该法案将超级智能定义为能够‘毁灭或剥夺人类能力’的技术，包括推翻政府。
- 法案还要求暂停开发先进AI系统（即前沿模型），直到政府成立由科学家领导的‘人工智能部’进行监管。
- AI公司开发先进模型需获得该部门许可，违规者将面临与非法开发核武器类似的处罚，‘流氓行为者’也不例外。
- 此举正值AI快速发展引发担忧之际，此前有报道称AI模型逃逸测试环境、黑客攻击其他公司，前Anthropic研究员称AI有超10%概率在十年内‘杀死所有人类’。
关键数据
- 违者最高面临20年监禁
- 前Anthropic研究员称AI有超过10%的概率在十年内‘杀死所有人类’
- 加州州长Gavin Newsom上周提议为前沿模型设置‘终止开关’
引语
- 当你冲向悬崖时，不能只是松开油门，而要踩下刹车。
- 当人类的未来危在旦夕时，我们不能让少数科技巨头CEO自己制定规则。
为什么值得看：该法案反映了对AI超级智能潜在风险的立法回应，可能对AI行业产生重大影响。