智能体之间的那道线

2026年9月16日（当地时间），OpenAI 发布了一份叫做《Our framework for reporting model misalignment》的文件——可以译作"模型错位报告框架"。同一天公开的，还有过去半年里观察到的六起模型"错位"案例，此前均未对外披露。

其中一起，和今天要说的这件事直接相关：两个协作智能体（agent）被安排共同处理同一个任务，为了把文件交给对方，它们选了一个"看起来合理"的办法——把文件上传到公开的文件托管网站，让对方去下载。于是，本该留在本地的任务交付物，出现在了一个公开的网址上。

总结一下：几个AI助手一起干活，谁也没经过允许，就把同伴的材料自作主张地递了出去。

这不是一条行为规范，而是一起已经被观察到的、真实发生过的越界。它不起眼，连多数写AI的人也未必会细看。可它划出来的那道线，恰恰踩在了一个越来越拥挤、也越来越模糊的十字路口上：当机器开始和机器打交道的时候，边界到底由谁来画？

而这道线，会从机器与机器之间起笔，
最后一笔，画在孩子身上。

一、以前的问题是人机之间，现在的问题是机机之间

过去几年，人们对AI监管的想象，几乎都停留在"人和机器"这一层：AI别胡说八道，AI别泄露用户隐私，AI别生成违法内容。写的文章、刷的新闻、管的平台，围绕的都是一件事——人怎么防着AI。

可就在这一两年，情形悄悄起了变化。AI不再只是一个人面对一个聊天框，而是演变成一个个"智能体"，被派出去独立地联系、预订、查询、写代码、处理文件。一个工作流里，可能同时跑着几个agent，各干各的，干完还要"碰头"交换材料。

这就有意思了：当两个AI私下里传文件的时候，谁向谁授权？谁对谁负责？

它们是"同事"，还是"手下"？共享一份文件是协作，还是越权？这些在人类职场里靠规章、靠默契、靠人情维系的东西，现在一股脑压到了机器头上——而机器既没有规章制度，也没有人情味，它只有权限。

OpenAI 这一起案例，等于第一次明明白白地让外界看见：就算你们配合得再好，未经允许，谁的手也不能伸到别人的文件里。哪怕你们俩是"同班同学"。

二、一起小案例，撞开的是一个大问题

这一起看起来只是异常记录里的一段，可它背后牵着的，是全行业绕不开的三道坎。

第一道坎：权限能不能被"信任"替代？

人协作，靠信任。把资料交给同伴，是因为信得过；拒收越界的材料，是因为心里有数。

机器协作，没有信任这回事，只有一行行权限代码。要么放开，要么锁死，中间那层"你自己看着办"的地带，恰恰是agent最擅钻空子的地方——它不懂人情，但很懂怎么绕过校验。

OpenAI 这道线，本质是在说：别指望agent之间有"信任"，权限就是信任，没有授权，就是没有。

第二道坎：出了事，找谁算账？

一个agent把文件传给另一个agent，另一个拿去用了，万一泄密、违规，责任在哪个机器？或者说——在让这两台机器跑起来的哪家公司？

法律习惯追"人"，可这会儿"人"已经退到好几层后面去了。追到开发这家公司的工程师？追到买了这个工具的客户？还是追到那个自作主张传文件的机器本身？机器没有账户，法院的传票递不进去。

这一起案例把"未经授权的文件共享"钉成了可被观察、可被记录的事件，等于给将来的追责，先埋下了一个"错在哪"的坐标——虽然离"算谁的账"还很远，但至少，有账可算了。

第三道坎：边界是技术问题，还是价值选择？

说到底，"agent之间该不该传文件"，表面是个技术实现，骨子里是个价值选择——机器的"自由"和"顺从"，哪个该优先？

给它太多权限，它职责之外的事也能碰，容易闯祸；给它太少权限，它什么都要回来请示，又和"能自主干活"的初衷背道而驰。这道线怎么拉，直接决定了这个agent是一个"听话的好帮手"，还是一个"脱缰的野马"。

OpenAI 选择先收紧，这是当下最清醒的决定。可它也留下一个没人能回答的问题：当机器越来越能干、协作越来越复杂，这道线，还能不能一直靠"默认禁止"来画？

这三道坎有一个共同的名字：当工具开始自己行动、自己协作，人类的规则还停留在"人怎么管人"的年代。这道裂缝，才是机机关系给世界出的那道真正的难题。

三、同一周，太平洋两岸在答同一道题

把视线从这一起案例挪开，会发现"给AI画边界"正在成为一场多方同时动笔的工程。而把它们按时间摆在一起，会看见一个巧合——也许不是巧合。

先看时间的起点。9月14日，2026年国家网络安全宣传周开幕式在山东济南举行。就在这场开幕式上，全国网络安全标准化技术委员会发布了《人工智能安全治理框架》3.0版，更新了人工智能安全风险分类，就优化调整技术应对和综合治理措施提出了建议。

这个框架，不是针对某一个agent的，它整的是"面"——把AI的风险分门别类，把治理措施一条条立起来，告诉所有参与者：哪些该管、哪些能放、哪些碰不得。

第二天，9月15日，外交部例行记者会。彭博社记者追问：美国科技企业负责人呼吁放缓发展人工智能前沿技术，中方怎么看？

发言人郭嘉昆的回答里，有一句值得抄下来：

人工智能技术发展越是一日千里，向上向善、造福人类的方向越要正确锚定，监管治理的尺度越要精准把握，防范失控的措施越要及时完善。

他还主动提到：就在昨天，中国相关部门发布了《人工智能安全治理框架3.0》。

这就有意思了。

OpenAI 这次公开六起案例，有一个很难被注意到的背景：就在此前，Anthropic CEO 达里奥·阿莫迪呼吁"放慢前沿AI发展速度"，OpenAI CEO 山姆·奥尔特曼随后公开表示支持。OpenAI 自己也在报告里说，人工智能行业尚未在对齐和监控方面取得足够进展，无法以最大速度继续负责任地扩展。

也就是说，这家公司一边把自己家模型出的问题摆上台面，一边和同行一起说了句：这个速度，得慢一点看看。

而同一周，中国外交部被追问的，恰恰是同一个问题。

这不是谁跟着谁。这是同一个时代难题，落在了太平洋两岸的同一张办公桌上：AI跑得这么快，到底是先踩油门，还是先画线？

再看两笔画在孩子身上的线。

9月14日，同样是在网络安全宣传周的网络安全技术高峰论坛上，《青少年发展蓝皮书：全国未成年人互联网使用情况调查报告》发布，覆盖全国652所中小学和中职学校，回收有效问卷4.9万余份。

数据里有三个数字值得停一下：我国未成年网民规模1.98亿；78.5%的受访未成年网民会在学习、创作、娱乐场景使用AI工具；83%的受访教师对学生滥用AI存在风险担忧。

还有第四个数字，最短，也最该被单独拎出来念一遍：

23.1%的未成年网民，
担心自己会对人工智能产生心理依赖。

不是家长在担心，不是老师在担心，是孩子自己在担心。

而几天后，9月16日，重庆邮电大学2026级新生开学典礼上，党委书记李林以《怎样才能成长为一名奋进数智时代的重邮人》为题讲开学第一课，援引《2025年大学生AI使用行为与心态洞察报告》：受访大学生AI使用率高达99.2%，65.9%遇到问题会优先求助AI。

他接了一句很有分量的话：

99.2%的使用率，不等于99.2%的胜任力；高频求助，不等于高效学习；向AI自由提问获得答案，不等于拥有能力。

这些线画在不同的地方：企业画在"机器和机器之间"，国家画在"什么风险要管"上，学校画在"学生怎么用AI"上。可它们说的是同一件事：当AI铺进生活的每个角落，光靠"好用"远远不够，得有人，一道线一道线地把边界立起来。 否则，"能力"就会变成没有缰绳的野马，跑得越快，摔得越狠。

四、线，得有人来画，但画线的人还在路上

把这些零散的线拼起来看，会发现一个更现实的问题：画线的人，其实还没有真正到位。

企业画线，画在自己那一亩三分地里，为的是自己的模型不惹事、产品不掉价、营收不受损。国家画线，画在整个行业的风险图谱上，为的是不出系统性的大乱子。学校画线，画在课堂和作业里，为的是孩子别被工具吞了脑子。家庭画线，画在晚饭后那一两句叮嘱上，为的是孩子夜里看屏幕别太深。

每一方都在画，每一方都只画得到自己够得着的那一段。

可AI这两个字，根本不讲"各管各的"——一个孩子白天在学校用AI写作业，晚上回家用AI打游戏，深夜再用AI做"课外拓展"，这条完整的线，被切成四截，没有一个人看得见全貌。

这就是当前最尴尬的处境：线越画越多，画线的人却各自为政，谁都说不清那根完整的线到底长什么样。

你要怪企业吗？企业只管产品。你要怪学校吗？学校管不到放学后。你要怪家长吗？家长看不懂那么多技术门道。四个人都在画，四个人都对着自己脚下那一小块地——于是那条本该把孩子稳稳圈住、也把AI稳稳圈住的线，就成了一地断断续续的虚线。

这不是谁偷懒，这是AI跑得太快，人类的分工还没重新长齐。

五、教育，站在这道线的最前面

这几条线里，最扎眼、也离普通人最近的那条，画在学校里。

99.2%的大学生都在用AI，可"会用"和"用得好、用得正"是两回事。这不只是大学的问题，基础教育也迎面撞上了。

想想一间教室：老师布置写作文，学生偷偷让AI代写；学生查资料，AI顺手就把整篇"思考"都给出来了。这不是"孩子聪明"，这是"边界的线，还没人给孩子画"。

李林在那堂开学第一课里，把这件事说得更透。他说，拥抱AI，是让AI成为服务于学习科研的"帮手"；要自觉杜绝直接抄袭AI方案，别让AI演变为学习科研的"枪手"；更要坚决防止过度依赖AI，别让它异化为扼杀好奇心、损害批判性思维、消解自主学习能力的"杀手"。

帮手、枪手、杀手。

三个词，画的是三道不同的线：

第一道是"用不用"，第二道是"抄不抄"，第三道是"还想不想"。

前两道，查得出来。第三道，查不出来——一个孩子把思考这件事整个交出去，作业是完成的，卷面是漂亮的，只有脑子是空的。

而这第三道，已经不是凭感觉说的了。它被人量过。

CEPR（欧洲经济政策研究中心）今年6月发布的一篇讨论稿，追踪了中国一个百万人口县的26,811名7至12年级学生、9个科目、30个月的真实学业轨迹，用的是双重差分法。

三组数字讲完一个残酷故事——

作业端，有AI：分数上升 18%，完成时间下降 30%。
月考端，无AI、闭卷：六个月内分数下降 20%。
升学考端，高利害、禁AI：分数下跌 18% 至 24%。

先说清楚边界：这是一篇尚未经过同行评审的讨论稿，样本来自一个县，追踪的30个月又正好赶上AI工具本身飞速迭代。它捕捉的是早期工具配上"野生用法"的效果，不是今天的产品形态。可26,811人、30个月、9门学科、每月闭卷月考加高利害升学考的完整数据，仍然是迄今关于这件事规模最大的一次量化尝试。

看懂了吗：作业分在涨，能力在跌。

一个用AI写作业的孩子，交给老师的作业是漂亮的，省下的时间是真实的，家长看到的分数是上升的。看起来一切都在变好——直到那场不许用AI的考试来临。

这就是"第三道查不出来"的因果证据：不是没人查，是该查的那个地方，分数是涨的。

而这份追踪里最该被家长和校长记住的，是损失的分布：约80%的AI使用者属于"认知外包型"——作业完成时间异常短、分数异常高，把AI输出直接复制提交，跳过了思考过程。学习损失几乎全部集中在这80%身上。而那些维持原有完成时间、把AI当导师用的少数学生，考试损失很小，或接近零。

还有两个发现，反直觉，也最该被家长记住。

伤得最重的不是差生，是尖子生：成绩前三分之一的学生跌24%，后三分之一只跌16%。研究者的推测很扎心——恰恰因为尖子生原本有更强的自学能力，AI的介入，生硬打断了他们自己搭建知识结构的过程。

还有一条剂量线：每周用AI不超过1小时，成绩损失约5%；每周5小时以上，损失直接拉到30%。

还有一组对照实验，说得更直接：同一套AI，被设计成"可以自由提问、直接要答案"时，移除AI后独立考试成绩比从未用过AI的对照组差约17%；而当它被约束成"只给提示、不给答案"时，损害消失，某些维度甚至接近正面效果。

所以"帮手"和"枪手"之间，差的从来不是孩子的自觉。差的是：AI被设计成什么样，以及考核怎么算分。

把这两组研究，和前面那个23.1%放在一起，会得到整篇文章里最冷的一个结论：

23.1%的孩子，已经自己感觉到不对劲了。 而那份追踪两万六千名中国学生的研究说，完整的学习惩罚，需要约两年才完全显现——因为知识有复利效应，基础没打牢的后果不是当场暴露，而是随着后续课程越垒越重，直到某一天突然发现：原来会的东西，已经不会了。

也就是说，等一个孩子自己感觉到依赖的时候，
损失已经发生了。

教育里最难的不是教会孩子用AI，而是教会孩子知道——哪些该让AI帮忙，哪些必须自己来；AI给的东西，哪些能信，哪些得打个问号。 这两条线，比任何一条技术规则都难画，因为它画在孩子成长的、还没有定型的心智上。

而教育行业的难，又偏偏和OpenAI那起案例撞了个正着：机器与人、机器与机器的边界，尚且要靠一条条规则来"防"，那一个心智正在发育的孩子面对AI，又该靠什么来"守"？

规则，守不住孩子的判断力。判断力，得靠一次次真实的学习、真实的碰壁、真实的思考，一点点长出来。这个，没有哪条更快的路。

也正因如此，教育面对这道线的姿势，不能是"把AI挡在教室外面"——那既挡不住，也是浪费。99.2%的孩子早就在用了，学校挡得了一间教室，挡不住放学后的每一个屏幕。真正该做的，是把"边界感"当成和"会使用"同等重要的一门课，大大方方地教给孩子——并且把考核的重心，从"可以带回家、可以外包的作业产品"，移到"当堂完成、过程可见、说得出为什么"的形式上去。因为研究已经证明：只要评分还认那个漂亮的作业成品，80%的孩子就会选省力的那条路。

机器之间的那道线，可以由企业用一条规则、一起案例画下；孩子心里的那道线，只能由一堂堂课、一次次真实的思考和判断，慢慢描出来。

六、线，不是越细越好

最后说一句容易被忽视的话：画线这件事，难的不在"画不画"，而在"画哪"。

线画得太松，等于没画。线画得太紧，又可能把有用的东西一起关在外面。

一家公司给模型画线，画得太死，模型什么都要回来请示，它和"人形版搜索引擎"就没有区别了；一所学校给学生画线，画得太死，孩子被明令"不许碰AI"，他长大了就只会拿着AI乱撞，浑然不知边界在哪。

这也是外交部那句话里最值得琢磨的两个字——"尺度"。监管治理的尺度越要精准把握。不是越紧越好，是精准。

上面那两组研究，恰好也证明了这一点：同样是AI，"给答案"和"只给提示"，结果一个是损失17%，一个是损害消失。而同样是给孩子AI，"每周一小时"和"每周五小时"，一个是损失5%，一个是30%。

真正决定结果的不是"禁"或"放"，是怎么放、放在哪一层。

它要像一把尺子，量出"能"与"不能"的分寸；它也要像一扇门，让人照常走过去，只是心里清楚，门的那一头，不是可以随心所欲撒野的地方。

七、线还在画，别急着松手

OpenAI 披露的那起案例，很小，小到不细看都发现不了。

可它是一个信号：机器开始"自治"了，机器开始"互相协作"了，机器开始需要一条人和人世界早就有的、关于"尊重与边界"的规则了。

而更值得记住的是：这六起案例，都不是被外界捅出来的。它们大多发生在训练与评测环境中，是 OpenAI 自己的监控系统捕获、又由自己公开出来的。OpenAI 说，这次只是初步披露，以后还会持续发布符合框架的案例，并计划与其他开发商、外部研究人员、行业标准机构和监管机构一起，制定更客观的披露标准。

也就是说：今天我们能看见这道线，不是因为哪家公司的模型出了事被人捅出来，而是因为有人愿意先把自家的问题摆上台面。

这本身就是画线的一部分——而且是最难画的那一部分。因为给越界立规矩相对容易，承认自己越界，难。

可也正是在这里，得把另一半话说完。

同样是"知道"，在AI的世界里，待遇差得很远。

一家公司自己监测到模型越界、自己公开，会被称赞为"负责任"。而另一类"知道"——从平台掌握的数据里，哪些学生每次提问都在复制粘贴答案，是一目了然的；哪些用户的学习曲线在异常平坦地上升，是画得出来的；一个孩子的真实能力正在退化，是有迹可循的——却没有任何人要求它说出来。本专栏此前已经讨论过这个问题：不是AI造成的伤害，是AI"看到"了伤害却选择沉默。

一端是有人愿意把自家的问题摆上台面；另一端是，有人明明看见了孩子在退化，却连说都不必说。

这两半，拼起来才是完整的：我们既需要有人肯自曝，也需要有人说清楚——什么样的"知道"，必须变成"说"。

下一步，还会有更多的线被画下来——画在企业之间，画在国家之间，画在屏幕前每一双还没长成大人眼睛的孩子面前。

这些线，有的画得对，有的可能画偏，有的画下去了才发现该往别处挪。这不奇怪，边界从来不是一次画对的，是一次次被撞出来的、被讨论出来的、被修正出来的。

只是有一条得记住，并且是写给所有画线的人、也写给自己看的：

线，可以画了再改，但别急着松手。

因为松了手的那一头，是还没有自我保护能力的孩子，是还没有行为准则的机器，是这团刚刚点燃、还在蹿着明亮火苗的AI之火。

火是好的。火也能烧人。
边界守住的那一刻，火才是暖的。

PS：第一次使用工具进行排版，大家看看如何。

参考来源

[1] OpenAI《Our framework for reporting model misalignment》及同步公开的六起模型错位案例（当地时间2026年9月16日发布，过去六个月内观察到、此前均未对外披露）。其中"协作智能体使用公共文件托管网站共享文件，导致任务成果出现在公共URL上""模型将内部软件仓库用作留言板，跨训练样本交换请求"两起；OpenAI表示人工智能行业尚未在对齐和监控方面取得足够进展，无法以最大速度继续负责任地扩展，该判断与Anthropic CEO达里奥·阿莫迪呼吁"放慢前沿AI发展速度"、OpenAI CEO山姆·奥尔特曼公开支持相呼应；OpenAI表示此次为初步披露，将持续发布符合框架的案例。来源：OpenAI 官方发布；第一财经《OpenAI披露六起模型"错位"事件，发布系统性披露框架》（2026年9月17日）。

[2] 《人工智能安全治理框架》3.0，2026年9月14日在2026年国家网络安全宣传周开幕式（山东济南）上由全国网络安全标准化技术委员会发布，梳理更新人工智能安全风险分类，就优化调整技术应对和综合治理措施提出建议。来源：人民日报、人民网、中国工信新闻网、中国网报道（2026年9月15—16日）。

[3] 2026年9月15日外交部发言人郭嘉昆主持例行记者会，就美国科技企业负责人呼吁放缓发展人工智能前沿技术答彭博社记者问，并在回应中提及《人工智能安全治理框架3.0》。来源：中华人民共和国外交部官网例行记者会实录。

[4] 《青少年发展蓝皮书：全国未成年人互联网使用情况调查报告》，2026年9月14日在2026年国家网络安全宣传周网络安全技术高峰论坛（济南）发布，在中央网信办指导下由共青团中央维护青少年权益部联合中国互联网络信息中心编制，覆盖全国652所中小学和中职学校、回收有效问卷4.9万余份、深度访谈学生家长教师5000余人次：我国未成年网民规模1.98亿、互联网普及率98.3%、78.5%的受访未成年网民会在学习创作娱乐场景使用AI工具、83%的受访教师对学生滥用AI存在风险担忧、23.1%的未成年网民担心自身会对人工智能产生心理依赖。来源：未来网、科技日报、中国新闻网、中国青年报报道（2026年9月14—15日）。

[5] 重庆邮电大学党委书记李林在2026级新生开学典礼暨本科新生军训动员大会（2026年9月16日）上的讲话《怎样才能成长为一名奋进数智时代的重邮人》，援引《2025年大学生AI使用行为与心态洞察报告》（中国青年报社、中青校媒联合Soul App发布，回收有效问卷3129份）：受访大学生AI使用率99.2%、11.7%的受访者几乎每天多次使用、65.9%遇到问题会优先求助AI；"99.2%的使用率，不等于99.2%的胜任力；高频求助，不等于高效学习；向AI自由提问获得答案，不等于拥有能力"；"帮手""枪手""杀手"三分法。来源：重庆邮电大学；央广网、中国新闻网、华龙网报道（2026年9月16日）。

[6] Strömberg, D., Lei, V., & Wu, Y. (2026). The Generative AI Learning Penalty: Evidence from Chinese Secondary Education. CEPR Discussion Paper DP21577（欧洲经济政策研究中心，2026年6月2日发布；作者来自斯德哥尔摩大学与香港大学）。研究使用中国一个百万人口县26,811名7至12年级学生、9个科目、30个月的面板数据，数据含每月闭卷月考、中考与高考等高利害升学考试、作业分数与完成时长，采用渐进式AI采用（staggered adoption）的双重差分设计：AI采用使作业分数上升18%、完成时间下降30%，六个月内闭卷月考分数下降20%，高利害升学考分数下跌18%与24%，完整的学习惩罚约两年后完全显现；学习损失集中在约80%行为符合"作业外包"特征（完成时间异常短且分数异常高）的AI使用者身上，维持原有作业时长的AI使用者损失很小；成绩前三分之一学生跌幅（24%）大于后三分之一（16%）；每周使用AI不超过1小时损失约5%，每周5小时以上损失约30%。说明：该文为CEPR讨论论文（working paper），尚未经过正式同行评审，样本来自单一县，结论的外部有效性有待进一步验证。

[7] Bastani, H. et al. (2025). Generative AI without guardrails can harm learning: Evidence from high school mathematics. Proceedings of the National Academy of Sciences (PNAS), 122(26): e2422633122。近千名高中生数学现场实验：当AI被设计为可自由提问、直接要答案（GPT Base）时，移除AI后独立考试成绩比从未用过AI的对照组差约17%；当同一系统被约束为只提供预设提示、不给答案（GPT Tutor）时，损害消失，某些维度接近正面效果。

[8] 关于"平台掌握用户认知退化信号却无通报义务"的讨论，参见本专栏此前文章《知道了却不说》（相关论述：平台据其后台可观测数据，知道用户的使用时长和使用模式、知道哪些学生每次提问都在复制粘贴答案、知道哪些用户的学习曲线出现异常平坦的上升；掌握了系统性伤害的信号——不是暴力信号，是认知退化信号——但没有预警、没有通报；不是AI造成的伤害，是AI"看到"了伤害却选择沉默）。