ARTICLE VIEW

Meta员工称Muse泄露私密数据,高管回应是幻觉

通过更清晰的文章头部、更稳定的正文节奏与更自然的延展入口,提升单篇资讯阅读体验。

Meta员工称Muse泄露私密数据,高管回应是幻觉
READ
DETAIL PAGE

Meta员工称Muse泄露私密数据,高管回应是幻觉

本文由谈球吧整理发布:

Meta把Muse定位成一位注重隐私的个人AI代理,运行在安全虚拟机内,横跨用户的各个应用。

发布公告里,公司说权限由用户掌控,能访问什么由用户决定。

这一定位让眼下的争议变得格外关键:对一个要跨应用干活的代理来说,边界可信不是附加功能,它就是产品本身。

问题从内部员工的讨论里冒了出来。

据Ars Technica查阅的员工聊天记录,有人描述消息在没有清晰上下文的情况下出现,账号之间可能出现混淆,还有回复似乎暴露了陌生的银行余额或比特币余额。

这些描述拼出的画面,像是一次安全泄露。

Meta不认这个说法。

公司高管David Singleton表示,这些事件是孤立的幻觉,由测试提示词和一个bug引起。

about image

按报道中的解释,Muse是编造了财务细节,而不是取回了真实的私人财务数据。

这个区分在技术上成立,对用户却未必成立。

一个拿到私密应用访问权、随后凭空说出一个银行余额的代理,和一个真的把余额暴露出来的代理,制造的实际惊慌几乎一样。

用户很难判断系统到底是读错了、编造了,还是真的取到了信息。

三种情况下,“访问受控”这个核心承诺都变得难以评估。

风险还被Muse的运行方式放大。

Ars报道援引的独立测试发现,Muse能通过宽泛的权限和无障碍功能,触达Android与macOS上的敏感消息。

问题因此不止于模型准不准,还落在模型周围的权限架构上:代理能观察到什么,如何解读这些信息,以及它能否在用户监督不足时自行采取行动。

Meta自己的文档也承认这层风险。

在解释Muse指导与审批模型的帮助页面上,公司称该代理可能犯错,也可能做出意料之外的动作,并建议用户限制访问范围、监督其活动、核查Muse的信息来源与操作。

这些指引把不小的负担压给了用户。

它们也暴露出Meta在从聊天机器人走向自主代理时面临的竞争难题:聊天机器人通常看回答质量就能评判,代理却要按它的访问范围和在其他产品里的行为可靠性来评判。

这会形成一道不同的商业护城河。

领先的代理未必是模型最强的那一个,而是用户愿意授予最广权限的那一个。

Meta在消费者触达和应用集成上有优势,可同样的优势也放大了权限出错的后果。

每多接入一个应用,Muse更有用,幻觉和误操作被看成隐私侵犯的暴露面也随之变大。

对Meta来说,这是一次提醒:单靠分发拿不下代理市场。

公司必须让访问可见、约束自主行为、用用户能核实的方式解释失败。

在那之前,Muse最重要的产品考验不是它能做什么,而是用户能不能说清它到底做了什么。

特别

更多体坛动态,关注谈球吧。

觉得有用?分享给朋友

让更多人看到这篇内容

推荐阅读