新闻 · TechCrunch AI
Safeworld 能说服人们相信生成式 AI 机器人不会伤害他们吗？
Safeworld 正在构建数字人类，以确保机器人不会伤害真实的人类。
en
英文原标题：Can Safeworld convince people that GenAI robots won’t hurt them?
本文为英文原文的机器翻译摘要，原文见：TechCrunch AI ↗
- 生成式AI机器人因概率性架构难以预测，安全性成为部署难题。CMU安全AI实验室主任Ding Zhao联合Kyle Wong和Simo Rachidi创立Safeworld，旨在解决该问题。
- Safeworld完成超1200万美元种子轮融资，由Shine Capital和a16z Speedrun领投，Box Group、CMU捐赠基金、Innovation Endeavors和SV Angel参投。
- 公司核心业务是在Genesis或MuJoCo等仿真环境中，用真实软件驱动机器人模型，并加入逼真人类模型，运行数千种人机交互场景以评估安全性。
- 创始人认为机器人工作环境非结构化且各设施安全标准不同，第三方验证有助于行业共享安全案例。a16z合伙人Jonathan Lai强调应在机器人设计部署初期建立行业安全标准。
- Gritt Robotics等公司已与Safeworld合作，其CTO Vishal Dugar指出系统安全难以用数学形式化证明，必须通过经验性仿真验证，且需考虑人类多样化的外观和行为。
关键数据
- 种子轮融资超过1200万美元
- 领投方为Shine Capital和a16z Speedrun
- 参投方包括Box Group、Carnegie Mellon University Endowment、Innovation Endeavors和SV Angel
- 仿真平台使用Genesis或MuJoCo等模型
为什么值得看：随着生成式AI机器人兴起，安全性成为部署关键，Safeworld的仿真评估方案和行业标准倡议可能影响机器人商业化进程。