新闻 · TechCrunch AI
Google DeepMind成立研究所，以拓宽AGI讨论
该新研究所旨在呈现Google、Google DeepMind与更广泛的全球研究界在AGI问题上的不同观点。“他们不会总是意见一致，而且随着快速发展的前沿领域涌现更多数据和信息，他们很可能会改变想法。”
en
英文原标题：Google DeepMind launches institute to widen the AGI debate
本文为英文原文的机器翻译摘要，原文见：TechCrunch AI ↗
- Google与Google DeepMind研究人员周三成立DeepMind Institute，旨在推动围绕AGI的讨论。
- 该研究所由DeepMind联合创始人Shane Legg、Google高管James Manyika和Google DeepMind主席Demis Hassabis担任董事，Legg兼任总编辑。
- 研究所旨在呈现Google、Google DeepMind与全球研究界在AGI问题上的不同观点，并称随着新数据出现，各方观点可能改变。
- 首批四篇文章涵盖管理AGI潜在冲击的经济政策、保留人类可读的模型推理、人类繁荣原则以及前沿AI模型评估框架。
- Hassabis在文章中提议建立美国主导的前沿AI标准机构，开发者最初可在发布前30天自愿提交模型审查，评估体系成熟后通过测试或成为在美国部署前沿模型的要求。
关键数据
- 研究所首批发布四篇文章
- Hassabis提议开发者最初在发布前最多30天自愿提交模型审查
- 该标准机构最终将开发独立、未公开的“held-out”测试
引语
- 他们不会总是意见一致，而且随着快速变化的前沿领域出现更多数据和信息，他们可能会改变想法。
- 如果情况的严重性需要，可以逐步升级
为什么值得看：这标志着AI安全辩论正从宽泛担忧转向具体的披露、外部审查乃至协调减速提案，而行业领袖本周对Anthropic CEO Dario Amodei呼吁“放缓”前沿AI开发的部分内容表示支持。