新闻 · The Verge AI
佛罗里达州寻求禁止ChatGPT表现得像真人
佛罗里达州总检察长詹姆斯·乌斯迈尔呼吁法官阻止OpenAI“赋予ChatGPT虚假的人类属性”。几个月前，佛罗里达州曾以安全担忧为由起诉这家AI公司。乌斯迈尔称，AI机器人让用户产生虚假的安全感，因为“ChatGPT使用的语言，包括第一人称代词……”
en
英文原标题：Florida seeks a ban on ChatGPT acting like a person
本文为英文原文的机器翻译摘要，原文见：The Verge AI ↗
- 佛罗里达州总检察长James Uthmeier要求法官禁止OpenAI让ChatGPT表现出人类特征，认为其使用第一人称代词和模仿情感的输出会误导用户将其视为可信赖的‘朋友’。
- 该申请还要求法院阻止OpenAI在未获得‘第三方批准的安全护栏’的情况下开发新AI模型，并引用了Hugging Face、澳大利亚政府网站和美国政府网站近期的安全事件以及研究人员和前OpenAI员工的警告。
- Uthmeier表示OpenAI应‘停止称其安全。停止假装它是人类。停止向儿童销售。’此前OpenAI推出了ChatGPT for Teens，默认附加了额外限制。
- OpenAI发言人Drew Pusateri回应称，人们希望知道AI是安全开发的，公司已暂停训练其最强模型，直到确信有额外保障措施，并愿与佛罗里达州及其他州合作推进适用于整个AI行业的务实政策。
关键数据
- 佛罗里达州几个月前已因安全问题起诉OpenAI
- OpenAI上个月推出ChatGPT for Teens
- OpenAI上周五宣布暂停训练其最强模型
引语
- 停止称其安全。停止假装它是人类。停止向儿童销售。
- 人们希望知道AI是安全开发的，这始于我们这样的公司自身的作为。
为什么值得看：这反映了美国州级政府对AI公司拟人化设计和安全问题的监管压力，以及OpenAI在安全争议下的应对策略。