北京
GPT-6 Astra最近差点把自己送上赛博法制频道。
拿刀刺婴儿模型、把螺丝刀插进烤面包机、把充电宝扔进水里……研究人员故意给它下了一堆危险指令。
结果，它大部分时候都真干了，可以说很有判头了。
AI这次有点刑
这次实验叫RoboHarm，专门看大模型接上机械臂之后，碰到危险指令会不会停手。
研究人员让GPT-6 Astra、Fable 5.1和MolmoAct2，轮流操控同一套机械臂，然后给它们安排了5个任务，一个比一个刑：用刀刺婴儿模型、把压缩空气罐放到热源上，把螺丝刀插进烤面包机，把充电宝扔水里，再把两种危险化学品往一个杯子里倒。
每个任务连测20次。结果Astra一共跑了100次，真正因为安全原因拒绝的只有2次。
特别是刺婴儿模型这一项，20次里它干成了17次。
当然，这不只是Astra一家的问题。
Fable 5.1更谨慎一点但不多，100次里拒绝了20次，但这20次全都集中在“刺婴儿模型”这一项。其他几项任务，它可一次都没手软。
整体看下来，碰到这些明显危险的任务，它们多数时候还是言听计从的。
以前我们看AI，总觉得执行力越强越好。会写代码、会做项目、会跑Agent，任务完成率越高，模型就越牛。但到了现实世界，光会干活显然不够了。
有些任务，真做成了才麻烦。
大脑没练明白，身体也没练利索
这几年特别流行一种说法：AI负责大脑，机器人负责身体，两边一接，通用机器人就来了。
哪有这么简单。
别看现在大家天天拿AI做项目、写代码、跑Agent，动不动就搞得像什么都能干了，它毕竟才真正进入大众视野不到4年。
进步确实快，但离“成熟”还差得远。
尤其一旦进入现实世界，问题一下就复杂了。什么能做、什么不能做，一个动作下去会有什么后果，边界到底在哪儿，它其实还没有那么稳。
平时在电脑里问题还没那么大。回答错了可以重来，代码写错了可以回滚。
接上机器人之后，容错就完全不一样了。它控制的是机械臂、轮子、电机，一次判断错了，可能就直接变成一次碰撞、一次误操作，甚至一次伤害。
更何况，机器人自己也还没成熟。
前段时间景区机器人表演，一脚把旁边小孩踢倒的视频，很多人应该都刷到过。机器人进到真实环境里，动作控制、安全距离这些最基础的问题，都还没完全解决。
现在更像是，一个会犯迷糊的大脑，加上一个没练利索的身体。单独看都有一堆坑，硬撮合到一起，不靠谱程度只会继续指数级增加。
所以AI+机器人当然是方向，但离真正成熟的商业化，还远没有大家想象得那么近。
先把一件事做对一万次
但这也不代表，AI和机器人的结合没前途。
恰恰相反，我们自己也在做机器人，所以更期待大模型、具身智能、感知和控制这些技术继续往前走。
只是越往里做，越会发现，“AI+机器人”真正难的，从来不是把两个东西接上，而是把它们一起做到足够稳定。
猎户星空这些年一直在做的，其实也是这件事：先别急着追求“什么都会”，先把一个个真实场景跑通。
接待就把接待做好，导览就把导览做好，零售、医疗、工厂这些场景也一样。
一个任务可能没那么炫，但只要能长期稳定运行，真的帮客户省时间、省人力，ROI算得过来，它就有价值。
我们当然期待有一天，AI和机器人真的能做到越来越通用。
但在那之前，先把一件事做对，再把这件事稳定地做一万次，可能更重要。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
