英文原标题:My therapist thinks I should chuck the Amazon Bee Frontier out a window

本文为英文原文的机器翻译摘要,原文见:The Verge AI ↗

  • 作者佩戴Amazon Bee Frontier(一款持续录音的AI可穿戴设备)进行日常活动,包括心理治疗和体检,发现设备经常忘记关闭,因为其设计让人容易忽略它在录音。
  • Bee的AI转录和摘要功能在区分说话者、理解语境方面仍有错误,例如误记作者与同事配偶争吵、家人有未确诊双相情感障碍,以及将猫的昵称识别为额外的猫。
  • 设备会生成关于用户的“事实”供滑动确认,作者在治疗中提及童年家庭暴力经历后,Bee生成了直白的摘要,让她感到不适,并质疑自己记忆的准确性。
  • Bee的摘要会根据模板不同而变化,医疗模板更事实性,默认模板则包含语气分析和主观解读,导致同一事件的记录与作者记忆存在差异。
  • 作者对Bee的感受复杂:有时觉得有帮助,但更多时候感到困惑、被冒犯,甚至质疑现实,她的治疗师建议她把设备扔出窗外。

关键数据

  • 作者使用Bee已19个月
  • Bee能根据对话建议在亚马逊购物
  • Bee的Grow功能根据对话历史提供个人成长建议

引语

  • “How does that make you feel?”

为什么值得看:这篇文章通过第一手体验揭示了持续录音AI设备在隐私、记忆准确性和情感影响方面的潜在问题,引发对这类技术如何改变自我认知的思考。

站内导航