北京
一个16岁的少年，本来只是想爬一座山。他打开AI，输入需求，拿到一条路线，然后出发了。听起来很高效，对吧？但这条路线把他带到了一面陡峭的悬崖上，旁边是一条被叫做"寡妇制造者"（Widowmaker）的攀爬路线。他卡在那里，上不去也下不来。
这件事发生在加拿大不列颠哥伦比亚省的Crown Mountain。救援人员花了大约三个小时才把救援方案协调好。搜救经理Paul Markey在接受《North Shore News》采访时说："那个男孩非常害怕。他确实担心自己的生命安全。"
你可能会想，AI现在这么强，规划一条登山路线能有多难？但问题恰恰出在这里——它看起来太靠谱了，以至于你忘了去怀疑它。
为什么直升机没法直接把他吊走
少年被困的位置靠近Widowmaker的最后一段陡壁。这个位置的特殊之处在于，直升机飞行员没法安全地靠近到足够近的距离把他接走。不是不想救，是物理上做不到。
最后，现场救援队用绳索保护系统（rope belay system）接近了他，给他穿上额外的防护装备，然后把他转移到一个更适合撤离的位置。Markey说："这让他陷入了一个超出他能力范围的处境，所以情况可能很快就会失控。"
这里有个巧合值得一提：就在同一天，救援人员刚刚在不远处完成了一次救援认证培训。如果不是这样，响应速度可能又是另一回事。
AI出错这件事，不是第一次了
如果你觉得这只是个例，那可能低估了问题的普遍性。生成式AI在事实层面的翻车记录相当丰富：它曾建议用户往披萨酱里加胶水来增稠，声称蛇是哺乳动物，还建议用一种叫"转向灯液"（blinker fluid）的东西来修坏掉的转向灯——后者是个经典的汽修恶作剧梗，根本不存在这种东西。
这些例子听起来好笑，但放到户外场景里就不好笑了。就在Crown Mountain事件发生前不到一个月，三个人在加利福尼亚州的Mount Shasta附近被困，原因是他们用Google Gemini帮忙规划行程。Gemini建议他们携带的食物和水比实际需要的少，结果一趟本来八小时的行程变成了持续多天的紧急状况。
注意这里的模式：AI不是给出了明显荒谬的建议，而是给出了看起来合理、但实际不够用的建议。少带一点水和食物，听起来不是什么大问题，直到你在山上多待了两天。
那到底该用什么
Markey的建议很直接：不要依赖AI来规划登山路线，改用经过充分验证的徒步路线应用，比如AllTrails、CalTopo和Gaia GPS。
这些工具和通用AI的区别在哪里？它们的数据来源是具体的、可追溯的路线记录和地形信息，而不是一个语言模型根据训练数据"生成"出来的看起来合理的答案。前者是在告诉你"这条路有人走过，是这样的"，后者是在告诉你"这条路听起来应该是这样的"。
这个区别在平地上可能无所谓，在悬崖边上就是另一回事了。
真正的问题不是AI会不会犯错
AI会犯错，这件事本身不新鲜。真正值得想的是：为什么一个16岁的少年会完全信任一条AI生成的登山路线？
可能是因为AI的回答方式太自信了。它不会说"我不太确定这条路线是否适合你"，它会给出一条完整的、格式漂亮的、看起来专业的路线。这种流畅和确定感，很容易让人忘记它本质上是在预测下一个词，而不是在查阅地图。
户外环境有个特点：容错率低。在城市里，导航出错大不了多走两个街区。在Crown Mountain上，路线出错意味着你站在Widowmaker旁边，等着别人花三个小时来救你。
Markey的那句话值得再读一遍："这让他陷入了一个超出他能力范围的处境。"注意，问题不只是路线错了，而是这条错误的路线把他带到了一个他本来没有能力应对的地方。AI不知道他的体能水平、装备情况和攀爬经验，它只是生成了一条路线。
所以下次你让AI帮你规划什么的时候，也许可以多想一步：它给的答案，是真的知道，还是只是听起来像知道？在山上，这个问题的答案可能决定你当天能不能回家。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
