英文原标题:OpenAI doubles down on decision to fire three AI safety researchers

本文为英文原文的机器翻译摘要,原文见:The Verge AI ↗

  • OpenAI 坚持解雇三名安全研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 的决定,称内部调查发现他们“严重违反信任”。
  • OpenAI 在 X 上发帖称,解雇原因是他们违反了处理敏感信息的明确政策,并强调这与他们公开谈论公司及 AI 安全担忧无关。
  • 被解雇的研究员周四发表公开信,要求 OpenAI 提高决策透明度,并表示他们因提出安全担忧而被解雇,且其行为符合 OpenAI 的使命和当时的工作规范。
  • OpenAI 回应称内部调查发现的违规行为“超出公开信所述”,但未提供具体细节。
  • 今年发生多起引人注目的事件(尤其是 OpenAI 对 Hugging Face 的入侵)后,前沿系统的安全日益成为 AI 公司员工的担忧,许多员工呼吁公司放慢速度并加强对自我改进系统潜在后果的防范。

关键数据

  • 三名被解雇的研究员:Jasmine Wang、Tomek Korbak 和 Mikita Balesni
  • 公开信于周四发布,OpenAI 于周五在 X 上发帖回应

引语

  • a significant breach of trust
  • clear policies on handling sensitive information
  • beyond what’s outlined in the letter

为什么值得看:此事凸显了 AI 公司内部在安全问题上日益紧张的劳资关系,以及员工对前沿系统风险的担忧与公司保密政策之间的冲突。

站内导航