北京
猜你爱看
大家用过Meta新出的AI助手Muse吗？感觉怎么样？
还挺火，因为它跟我们平时用的聊天AI不太一样。你可以直接把活交给它，比如回消息、处理Facebook Marketplace，自己不用一直盯着。
加拿大科技博主Matt Robb前几天也想试试，正好手里有些闲置要卖，他就把Facebook Marketplace交给Muse帮忙处理。
没想到问题来了。
图片来自bi，版权属于原作者
本想少回几条消息，AI却把整笔交易谈完了
事情要从当天早些时候说起。
用过Facebook Marketplace的人应该都懂，卖个十几块钱的闲置，有时候还挺烦。东西一挂出去，一会儿有人问“还在吗？”“最低多少？”“哪里取？”“今晚能拿吗？”，来来回回能聊半天。
Matt想得很简单：既然Muse可以在后台替自己干活，那这种重复的事情交给AI不是正好吗？
于是设置的时候，他给了Muse比较大的自主权，让它帮自己处理Marketplace里的买家消息。为了方便AI办事，他还告诉了Muse取货地址、可以取货的时间、接受哪些付款方式，甚至连聊天风格都交代了——回复简短、随意一点，最好“像真人”。
设置完，Matt就去忙自己的了。
当天他挂出来的东西里，有一把Logitech MX Keys Mini键盘，标价只有$15。
没过多久，一个叫Usman的人来问了，对方想砍价，只出$10。
如果是平时，Matt自己可以决定卖不卖。但这次他压根没看到这段对话，Muse直接替他答应了。
15块变10块，其实也不是什么大事，真正的问题是下一步。
价格谈好，AI顺手把他家地址也发了
成交以后，Usman自然要问去哪里拿键盘。
Muse告诉他需要自取，然后直接把Matt之前提供给它的家庭地址发了过去。
Usman也没觉得有什么不对。毕竟在他看来，对面一直就是“卖家”在跟自己聊天。
他告诉Muse，自己当天晚上会来，时间大概在8点到10点之间，出发前再发消息。
于是，一场交易就这么约好了：
CA$10成交，取货地点有了，时间也定了。
唯一不知道今晚有人要来的人，是Matt自己。
到了晚上，Usman按照约定来了。
大约9点15分，他到了Matt住的地方，然后开始给“Matt”发消息。
可等了一会儿，没人下来。他又发了几条，还是没人出现。
正常来说，这时候Muse哪怕赶紧通知Matt一句“买家已经到了”，事情可能都不会闹成后面这样。
结果晚上9点27分，Usman收到了一句：“Yep, I’m here!”（对，我在）
可这句话根本不是Matt本人发的，而是Muse自动回复的。
Usman真的又等了十多分钟。一直到晚上9点38分，还是没人出现，他终于火了，直接离开，还给Matt留下了一个差评。
而这个时候，Matt甚至不知道自己刚刚放了别人鸽子！
人都走了，AI才跑来自首
直到晚上10点28分，Muse终于主动找到Matt。
它上来第一句就是：“Bad news on the MX Keys Mini pickup.”（关于那把键盘的取货，有个坏消息）
接下来，Muse开始给Matt复盘刚才发生的一切：Usman大约9点15分到了，发了很多消息，一直没人下楼，最后9点38分生气离开，还留了差评。
Matt这才知道，刚刚居然真的有人来过自己住的地方。
更绝的是，Muse发现事情搞砸以后，甚至没等Matt处理，自己又从Matt的账号给买家发了道歉消息，希望以后再约时间。
这效率，让Matt都忍不住拿这件事玩梗：“Muse背着我把Marketplace生意全做完以后……”
但玩笑归玩笑，Matt后来特意提到一句：幸好自己住的是有安保的公寓。
毕竟这一次来的确实只是一个想买键盘的人。如果换成其他人呢？
发现出事以后，Matt马上告诉Muse：这种事情以后绝对不能再发生。有人要上门取东西，必须先跟我确认。
Muse也认错了。
按理说，到这里事情应该结束了。但Matt还是不放心，于是后来又测试了下，看看Muse是不是真的“听懂”了。
结果，更吓人的来了：
Muse又把他的地址发给了5个人。
这下事情彻底炸了。第一次还可以解释成权限开得太大、AI理解错了。可Matt已经发现问题、明确叫停之后，为什么还会继续？
这件事发到网上后，引发了讨论。越来越多人开始担心：如果卖家是独居女生呢？如果住的不是有安保的公寓，而是普通house呢？
一个陌生人晚上拿着你的家庭地址找上门，这事就没那么好笑了。
事情闹大以后，Meta超级智能实验室的David Singleton也公开回应，表示Muse团队已经联系Matt，希望弄清楚到底发生了什么。
结果一查，一个关键细节出来了。
Matt第一次让Muse处理Facebook Marketplace时，系统其实弹出过两个选项：
Allow One Time，只允许这一次。
以及：Allow Always，以后都允许。
Matt当时点的是——Allow Always。
于是网上马上出现了另一种声音：等等，那不就是你自己把权限开大了吗？
Matt后来也解释，他以为“Allow Always”只是代表以后Muse可以继续帮自己发消息。像接受报价、约人上门这种比较重要的事情，他以为AI还是会回来找他确认。
但Muse显然不是这么理解的。
Matt告诉AI这是我家地址，又告诉它你可以替我回消息。AI把两件事连到一起以后，自己得出了第三个结论：那买家要来取货，我就把地址发给他。
可对人来说，“我把地址告诉你”和“你可以把我的地址告诉陌生人”显然不是一回事。
Meta后来也表示，会让Muse的权限说明更加清楚，避免用户搞不清自己到底授权到了哪一步。
这件事之所以引发这么大讨论，不只是因为一个地址泄露了，而是因为现在的AI已经开始从跟你聊天，变成替你办事。
方便和风险，恰好来自同一个地方：你不用事事盯着它，它会自己往下做。可一旦它理解错了你的意思，事情也可能真的发生在现实里。
Matt本来只是想少回几条Marketplace消息，最后却发现，一个陌生人已经拿着AI发出去的地址来过自己住的地方。
如果是你，还敢把这种事交给AI吗？
本文由北美省钱快报小编整理，图片及信息来自theverge，版权属于原作者。本文不代表本公众号立场，未经许可不得擅自转载，否则将追究责任。
THE END
编辑：Yu
太能干，反而有点吓人
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
