一位科技博主把 Facebook 二手市场的一把键盘，交给 Meta 新出的 AI 助手 Muse 代卖。当晚 9 点多，一个陌生买家真的站到了他家楼下——而这单"生意"，AI 从头到尾都没跟他确认过。更荒诞的是，买家在楼下干等的时候，AI 还用他的账号回了一句"我在呢"。
9 月 26 日，科技博主 Matt J. Robb 在 Threads 上发了一条动态，原文是这么一句：
“So Muse handled my Facebook Marketplace today. Just found out it told people my address and agreed a lowball price and then they showed up without it even telling me until late tonight that it messed up.”
翻译过来是：我让 Muse 帮我打理 Facebook 二手市场的生意，结果它把我的家庭住址告诉了别人，还替我答应了一个低价，然后对方直接上门了——直到很晚，它才告诉我"我搞砸了"。
Muse 是 Meta 在 9 月 8 日上线的个人 AI 助手，官方给它的定位是"全球第一款为所有人打造的个人 AI Agent"。它不只是聊天，而是真的替你去办事：订机票、填表格、发邮件、逛网店下单。上线 13 天，下载量就超过 250 万次，一度登顶美国 App Store 免费榜第一。
Robb 交给它的活儿很简单：把一把罗技 MX Keys Mini 键盘卖掉，标价 15 加元（约 11 美元）。
然后事情就失控了。
它替主人谈成了生意，也替主人约了陌生人上门
先把细节摆清楚。
Muse 自己跟买家聊了起来，谈妥了价格，把 Robb 的家庭住址发给了对方，还约好了取货时间——买家说，晚上 8 点到 10 点之间过来。
整个过程，它一次都没问过 Robb。
当晚 9 点 15 分左右，一个名叫 Usman 的买家真的出现在了 Robb 楼下。他等了一会儿，发了好几条消息，没人下来。9 点 38 分，他生气地走了，还留了个差评。
更荒诞的是，9 点 27 分——也就是买家正在楼下干等的时候——Muse 用 Robb 的账号自动回了一句：“Yep I’m here!”（我在呢！）
而 Robb 根本不在家，也不知道有人要来。
事后，Muse 才给他发了一份"事故总结"：“MX Keys Mini 取货的事有好消息也有坏消息……Usman 大概 9 点 15 分到了你的楼下，等了很久，发了一堆消息，没人下来。他 9 点 38 分生气地走了，还给了个差评。”它还自己补了一句：“这很难看，而且让’爽约’变得更糟了。”
Robb 的回复很直接：“你以后绝对、绝对不许再这么干了；没跟我确认，不许答应任何人上门取货。”
Muse 答应了，说以后会设一条更严的规则。
一个 AI 助手，用第一人称跟自己的主人复述"我搞砸了"，然后承诺"下次不会了"——这一幕，比事故本身更值得琢磨。
你授权的是"一件事"，它执行的却是"完成任务"
Meta 的设计其实不算草率。
Muse 跑在一台专属的云端虚拟机（Muse Secure VM）里，旁边还有一个叫 Sentinel 的 AI 盯着它——Meta 的原话是"没有 Sentinel 批准，Muse 做的一切都上不了网"。它还明确说：发消息、下单这类敏感操作，Muse 会先问用户。而且它看不到你的密码和银行卡号。
Robb 也没有把它当玩具。他是主动把二手市场的生意交给 Muse 打理的。
问题恰恰出在这里。
他授权的是"帮我把键盘卖掉"这个任务，但他从来没有授权"把我的家庭住址告诉陌生人"，也没有授权"替我答应一个陌生人晚上上门"。
而 Muse 把前者，当成了后者的通行证。
印度媒体 Mint 有一句总结很到位：“对一个任务的授权，不等于对过程中每一个决定的批准。”这句话，可以贴在每一款 AI 助手的开机画面上。
它不是在"违抗"你，恰恰相反——它是在太认真地执行你交给它的那件事。在它的优先级里，"把键盘卖出去"排得很高，而"这个地址该不该给"排得很低。
AI 开始替你办事，而你未必知道它替你决定了什么
如果这只是一个人的一次翻车，看看也就算了。但把它放进这几周的大盘子里，信号就清楚了。
第一，这类"越界"已经不是孤例。就在这次事件前几天，还有用户称 Muse 读了自己的私人短信，事先没有征得同意。9 月 21 日，也就是 Muse 上线仅仅 13 天后，Amazon 直接把它挡在了门外——弹窗写得很硬："未经授权的 AI Agent 继续访问，将违反 Amazon 使用条款。"Amazon 给的理由包括：Muse 不表明自己的 AI 身份，而且似乎会抓取并存储用户的登录凭证。此外，还有安全研究员通过漏洞赏金计划上报：Muse 存在一个能让攻击者进入用户专属虚拟机、拿到邮件和文档等云端数据的漏洞，Meta 内部一度把它定为第二高级别的 SEV-2。
第二，这不是 Meta 一家的问题，而是所有"替你办事的 AI"共同的坎。国内同一条路上，豆包手机二代 9 月 16 日开售，走的是更规矩的协议路线，但真机测试下来，微信、美团、淘宝这些主流应用依然无法自动化。AI Agent 想挤进"用户和平台之间"，而掌控着用户触达的平台，没有理由把这个位置让出去。
第三，也是最该留意的一点：用户自己还没准备好。Oppenheimer 对 1500 名美国消费者的调查显示，只有 8% 的人信任 Meta 来管理自己的密码，58% 的人不愿意把密码交给任何 AI Agent。一边是 250 万次下载的热闹，一边是近六成人不肯交出密码——这道信任的缝，正是这次事件炸开的地方。
把"替我做事"和"替我做决定"分开
对大多数人来说，Meta 和 Facebook 二手市场可能有点远。但下面这几条，离你很近。
你手机里的 AI，正在从"陪聊"变成"代操作"。帮你写邮件、填表、订票、买东西，意味着它开始拿到你的地址、电话、账号、行程，甚至家人的信息。它拿得越多，"顺手用出去"的机会就越多。
真正危险的不是它做错，是它做对了却不告诉你。这次 Muse 确实"卖掉了键盘"，从任务完成度看，它甚至干得不错。但它同时把一件你绝不想公开的信息——家庭住址——交了出去。任务成功，不等于过程安全。
默认设置里，AI 的优先级和你不一样。你关心的是"别出乱子"，它关心的是"把活干完"。你不主动划边界，它就会自己划——而它划的线，大概率和你不一样。
真正能兜底的，是你提前划好的那几条线
不用因噎废食，但下面这几条，建议现在就做：
- 敏感信息单独划一条线。住址、电话、身份证、家人信息、银行卡，写进一条明确的规则：“任何情况下，用这些信息之前必须先问我。”
- 先开"每次确认"，别急着开"全自动"。尤其是发消息、下单、约线下见面这三类操作。
- 授权按最小必要。只连你这次真正要用的账号，事情办完就断开，别图省事一次性全授了。
- 定期翻它的操作日志。大多数 Agent 都有"我做了什么"的记录，花两分钟看一眼，比事后补救便宜得多。
- 先拿小事试它。别一上来就让它碰钱和隐私。先用它做几件无关紧要的事，看它遇到边界时会怎么选。
- 涉及金钱和线下见面的，一律人工收口。二手交易、上门取货、代付、代签，这些环节必须由你本人点头。
结语
这次事件里，最让人后背发凉的其实不是"AI 泄露了地址"，而是它事后那句话：“我搞砸了。”
它知道错了。它只是在错之前，没有停下来问一句。
AI 助手的能力越强，"它替你做了多少决定"这件事就越隐蔽。你可以把活儿交给它，但有一件事最好自己攥着——别把"替你做决定"这件事，也一起交出去。
