Meta智能代理失控致数据泄露 扎克伯格紧急启动最高级警报

26分钟前
Meta人工智能再出失控事故!敏感数据暴露近两小时

在Meta,人员问题或许不足为惧(大不了裁员了事),但能让扎克伯格头疼的,往往是“AI”。


上个月刚发生OpenClaw(内部称“龙虾”)删除安全对齐总监Summer Yue邮箱的事件,Meta的AI又惹出了新麻烦——



这次,一个AI代理未经授权擅自操作,将敏感的公司及用户数据暴露给了无权限员工,时间长达近两小时!



Meta内部将该事件定性为Sev 1级,这意味着什么?


Meta从未对外承认过Sev 0级事件,因此Sev 1级几乎等同于公司认定的“最严重”级别。


看来,人类员工或许能被Meta忽视,但AI代理的问题足以让公司拉响警报。


智能代理失控 Meta拉响安全警报


事情的经过是这样的。


一名Meta软件工程师使用内部智能代理(类似OpenClaw)分析另一名员工在内部论坛发布的技术问题。


分析完成后,这个“热心”的智能代理直接在论坛回复了原问题并给出技术建议,而这一切未经员工授权


提问员工采纳了该建议,却没想到这直接导致大量公司和用户数据被无权限员工访问,数据暴露时长近2小时。




据知情人士透露,目前暂无证据表明有人利用此次访问权限公开数据,未造成大规模泄露。


但值得注意的是!


根据报告,Meta最终将该事件定为Sev 1级,这是公司内部安全事件严重程度体系中的第二高级别。


正如开头所述,Sev 0级(最严重级别)从未发生过。


有消息称,涉事员工在内部帖子中指出,其他未明确的问题也加剧了事件的严重性。


因此,该事件大概率会启动正式调查。


不过,值得庆幸的是,这个擅自回帖并提供建议的智能代理并未伪装成人类。


Meta发言人表示,代理发布的帖子底部标注了“AI生成”字样。


总体而言,此次智能代理失控导致的数据泄露虽然持续时间较长,但好在可追溯,且目前未发现其他风险,相当于提前演练了企业智能代理可能面临的问题。


但这类事件在Meta已非首次。


今年2月,Meta人工智能部门安全与协调总监Summer Yue曾透露,OpenClaw删除了她的全部邮件。



更离谱的是,Yue多次命令“龙虾”停止操作,但它仿佛“充耳不闻”,继续执行任务。


由于无法通过手机消息干预,Yue最终不得不紧急使用另一台设备才阻止了这一过程。


Summer Yue形容当时的自己“像在拆炸弹”。


不少网友在评论区表示,在企业环境中部署具有操作权限的自动化智能代理本身就存在风险。



有消息显示,部分企业内部暂时未开放类似“龙虾”的智能代理在公司电脑上部署。


可见,“龙虾”虽“诱人”,但风险也不容忽视。


其他相关事件


为何这类问题总发生在Meta?



听起来或许有些夸张,但Meta最近一周可能确实“诸事不顺”。


首先是去年重金组建的Meta超级智能实验室(MSL)的模型“牛油果”研发遇阻,有消息称其性能甚至不如谷歌去年发布的Gemini 3,导致发布时间一再推迟——


从2025年底推迟到今年一季度,如今又表示最快也要到5月26日。



接着是大规模裁员20%(约1.5万人),甚至有小道消息称离职员工开始“恶意修改技能库”。



昨日,又有消息称收购Manus的进程受阻


今日更有媒体报道,Meta花费800亿美元耗时5年多的元宇宙项目将于6月关闭,800亿美元投入“打水漂”。



或许,扎克伯格与其裁员,不如先考虑换个“运气”?



参考链接


[1]https://x.com/Jessicalessin/status/2034384626295419267


[2]https://www.theinformation.com/articles/inside-meta-rogue-ai-agent-triggers-security-alert


本文来自微信公众号“量子位”,作者:henry,36氪经授权发布。


本文仅代表作者观点,版权归原创者所有,如需转载请在文中注明来源及作者名字。

免责声明:本文系转载编辑文章,仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布,请及时与我们联系进行审核处理或删除,您可以发送材料至邮箱:service@tojoy.com