新闻 · The Verge AI
Anthropic用AI自动化开发AI的新报告为何令研究人员感到担忧
Anthropic正在利用AI构建更强大的AI，而且似乎成效显著——该公司的模型改进速度约为一年前的两倍，且几乎没有放缓迹象。这一结论来自AI安全研究组织METR于周四发布的一份新报告，该报告基于为期11周的调查……
en
英文原标题：Why a new report on Anthropic automating AI development is alarming researchers
本文为英文原文的机器翻译摘要，原文见：The Verge AI ↗
- METR在Anthropic内部进行11周调查后发布报告，发现Anthropic的AI模型改进速度约为一年前的两倍，基准分数显示过去一年取得了约两年的历史性进展。
- METR认为加速主要来自AI本身而非单纯扩大算力，员工自报使用内部最强模型后生产力约为无AI辅助时的12倍，是几个月前使用Mythos 5时的两倍。
- Anthropic已完成训练但未发布三个新模型（代号Model 2、Model 3、Model 4），训练完成时间分别为7月、8-9月和9-10月，另有一个2022年的未发布模型。
- Anthropic有权删改最终报告并广泛行使该权力，METR称提交了约100页完整报告，但公开版本中大部分最具信息量的证据被删改，导致公众更依赖METR的判断。
- Anthropic联合创始人Sam McCandlish承认删改很多，但称分享加速的具体驱动因素在商业上敏感且可能为他人提供加速路线图，认为删改是正确决定。
关键数据
- 模型改进速度约为一年前的两倍
- 过去一年取得约两年的历史性进展
- 员工自报生产力约为无AI辅助时的12倍
- 三个未发布模型代号为Model 2、Model 3、Model 4
- METR提交了约100页完整报告
- 调查持续11周
为什么值得看：该报告提供了AI加速自身研发的最清晰证据之一，同时Anthropic大量删改信息引发了对前沿AI开发透明度与安全风险的质疑。