英文原标题:Muse will apparently let you download its entire filesystem

本文为英文原文的机器翻译摘要,原文见:The Verge AI ↗

  • 两名开发者Peter James和Jonny L. Saunders称,只需少量提示,Meta的Muse AI代理就会打包并分享其整个根文件系统,包括Ubuntu系统文件、应用模板和内部文档。Saunders表示复制过程“极其容易”,且Muse“几乎没有提示注入抵抗力”。
  • Meta否认这是安全漏洞,称Muse为每个用户运行在持久化Linux虚拟机中,导出虚拟机数据不会给予他人特权访问。Meta发言人Daniel Roberts表示,就像用户面前的笔记本电脑一样,当然可以看到文件。
  • Meta Superintelligence Labs的Nat Friedman称这是“预期行为”,David Singleton则建议用户将Muse视为“云中的免费电脑”。但文章作者测试时,Muse最初拒绝分享文件系统,称存在安全风险,后又称不应创建归档。
  • 这是本周披露的第二起Muse漏洞。此前安全研究员Patrick Wardle发现一个漏洞,可让攻击者劫持AI代理、重定向转录处理并访问用户Muse账户,Meta迅速发布了热修复。
  • 开发者获取的转储文件揭示了Muse内部运作:以纯Markdown文件存储记忆,每晚进行“梦境”回顾并生成未来对话指导;许多能力硬编码,包括取消订阅和管理失控代理生成的机制;还发现名为Meta Home Link的硬件集成引用,但Meta尚未宣布该功能。

关键数据

  • Muse为每个用户运行在持久化Linux虚拟机中
  • Saunders称Muse在几秒内生成数百MB的准确库代码和编译二进制文件
  • 作者最终复制了结果,Muse创建了/opt/hatch和/home/hatch的“安全”版本,剥离了SSH密钥等内容
  • James发现Muse以纯Markdown文件存储记忆,并进行每晚“梦境”回顾
  • Saunders发现许多能力硬编码,包括取消订阅和管理失控代理生成的机制
  • James发现名为Meta Home Link的硬件集成引用

引语

  • 几乎没有提示注入抵抗力
  • 就像你面前的笔记本电脑一样,当然可以看到文件
  • 预期行为
  • 云中的免费电脑
  • 除非它在一分钟内合成了一个完整的Ubuntu虚拟机,否则我认为这是真实的转储

为什么值得看:该事件揭示了Meta Muse AI代理可能泄露内部文件系统,引发对AI代理安全性和透明度的关注,且本周已出现两起漏洞。

站内导航