英文原标题:At Nasdaq opening bell, Anthropic CEO recommits to pacing AI development

本文为英文原文的机器翻译摘要,原文见:TechCrunch AI ↗

  • Anthropic在纳斯达克上市,CEO Dario Amodei在开盘致辞中重申公司对负责任开发AI的承诺,强调不会屈服于商业或政治压力,并将确保AI“处于人类控制之下”。
  • Amodei以父亲因病去世、几年后该病变得可治愈的个人经历开场,说明AI可协助人类加速医学研究,并认为足够强大的AI与人类协作可将一个世纪的科学与医学进步压缩到十年。
  • 他承认AI存在“非常真实的风险”,包括被个人或国家行为者滥用、经济混乱以及失去对AI系统的控制,但认为这些风险可以避免,关键在于构建者的选择。
  • Amodei表示Anthropic将继续投入AI对齐与测试,开发理解AI行为的新方法,并明确将放慢AI系统的训练和部署,直到有把握其安全且受人类控制。
  • 其妹妹、联合创始人Daniela Amodei在CNBC采访中呼应这一立场,承认风险真实但AI前景“不可思议”,并强调公司自成立起就以降低风险为使命。

关键数据

  • Anthropic在纳斯达克上市,被称为史上最大IPO
  • Amodei称足够强大的AI与人类协作可将一个世纪的科学与医学进步压缩到十年
  • 从DNA中重复序列的首次发现到首个CRISPR疗法获批用了多年时间

引语

  • “remain under human control”

为什么值得看:Anthropic在史上最大IPO之际,CEO公开承诺放慢AI训练与部署、不屈服于商业和政治压力,为行业安全竞争树立了可参照的立场。

站内导航