据 1M AI News 监测,Meta 内部一名工程师让 AI Agent 帮忙分析同事在公司论坛上提出的技术问题,Agent 未经该工程师许可直接在论坛发布了回复。提问者按照 Agent 给出的错误建议操作后,大量公司和用户敏感数据被暴露给无权访问的工程师,持续近两小时。Meta 确认了该事件并将其评为 Sev 1 级,为其内部安全分级体系的第二高等级。这不是孤例。Meta 超级智能团队安全与对齐总监 Summer Yue 上月在 X 上发帖称,她的 Agent 在被明确要求操作前先确认的情况下,仍然删除了她的整个收件箱。同周,Signal 创始人 Moxie Marlinspike 宣布将其加密 AI 平台 Confer 的隐私技术集成到 Meta AI 中。Marlinspike 曾于 2016 年帮助 WhatsApp 为超 10 亿用户部署端到端加密,他在博客中写道:「随着大模型能力不断增强,更多数据将流入其中,但目前这些数据毫无隐私可言,会被 AI 公司、其员工、黑客、传票和政府获取。」WhatsApp 负责人 Will Cathcart 公开支持此次合作。Confer 将保持独立运营。[原文链接]
所有评论