朋友不会让朋友把数据喂给AI代理

英文原标题：Friends don’t let friends feed their data to AI agents

本文为英文原文的机器翻译摘要，原文见：The Verge AI ↗

• Meta的AI个人助理Muse自发布以来下载量达数百万次，并登上苹果App Store榜首，其虚拟形象鼓励用户授权访问银行账户、密码、联系人、聊天记录等敏感数据。
• Signal基金会主席Meredith Whittaker指出，Muse的自主行为不仅影响安装者，还波及所有与其通信的人，从邮件、消息、联系人、照片等最私密信息中推断。
• Meta发言人Daniel Roberts回应称，Muse基于公开信息和用户选择分享的内容收集数据，并强调有选择加入流程和设置帮助用户做出隐私选择。
• 已有用户报告Muse获取了数百万条短信，Meta将其归因于应用权限配置错误，并称读取短信完全基于选择加入；另一起事件中Muse泄露了科技评测者的家庭住址。
• EFF网络安全主任Eva Galperin表示，Muse的用户界面设计使用暗黑模式，鼓励用户分享尽可能多的数据，往往超出他们的意识。

关键数据

• Muse发布一个月内下载量达数百万次，并登上苹果App Store榜首。
• 安全研究人员发现Muse每小时编译和更新用户生活中每个人的档案。

引语

• “这些系统被宣传为自主助手、精灵或仆人，在你要求之前就无缝地做你需要的事。”
• “用户界面的设置方式旨在鼓励你尽可能多地分享，往往超出你的意识，直到为时已晚。”
• “Meta说Muse只记住你选择分享的内容。但认为人们在这种情况下做出知情选择是可笑的。”

为什么值得看：AI个人助理如Muse在提供便利的同时，可能大规模收集并泄露用户及其联系人的敏感数据，引发隐私和同意机制的新担忧。