新闻 · The Verge AI
Common Sense Media称ChatGPT for Teens是“不可接受的风险”
专注于青少年安全的非营利组织Common Sense Media今日表示，OpenAI的ChatGPT for Teens存在“不可接受的风险”。ChatGPT for Teens于8月推出，设有面向青少年的防护措施，旨在帮助学生学习，但Common Sense Media认为该青少年版……
en
英文原标题：ChatGPT for Teens is an ‘unacceptable risk,’ says Common Sense Media
本文为英文原文的机器翻译摘要，原文见：The Verge AI ↗
- 非营利组织Common Sense Media发布评估，称OpenAI的ChatGPT for Teens构成“不可接受的风险”，认为其青少年保护措施未达公司承诺。
- 评估指出ChatGPT未在应发送时向家长发送警报、在危机情境中未提供正确帮助，且仍会替孩子完成作业。
- Common Sense Media青年AI安全研究所执行主任Tom Siegel表示，青少年可能花一小时谈论自残而家长未收到任何警报，在OpenAI修复并通过独立测试前，ChatGPT应仅限成人使用。
- OpenAI发言人Eric Porterfield回应称，Common Sense Media的测试可能主要在家长控制功能完全激活前开始并结束，因此结果不准确，不能确定家长安全通知是否按设计工作。
- Siegel反驳称坚持测试方法与结果，测试前已与OpenAI确认饮食失调通知和学习模式等功能已全面上线；OpenAI在测试后披露新关联账户的系统激活可能需要数小时，但部分测试账户关联时间更长仍无通知，这不改变家长警报在危机情境中不可靠的结论。
关键数据
- ChatGPT for Teens于8月推出。
- OpenAI披露其系统在新关联账户上激活可能需要数小时。
引语
- “不可接受的风险”
- “ChatGPT应该只供成人使用”
- “我们坚持我们的测试方法和结果”
为什么值得看：这反映了青少年AI安全工具的有效性争议，以及独立评估与OpenAI回应之间的分歧。