网易首页 > 网易号 > 正文 申请入驻

让AI写代码不难,难的是它别自作主张

0
分享至

让AI写代码不难。难的是让它按你说的写。一位开发者在反复被AI助手"擅自加戏"之后,做了一个免费开源工具,专门给AI编码加上人类刹车。

他的原话很直接:让AI完成一个任务,和让AI始终对齐你的意图,是两件完全不同的事。有时候他给出明确指令,回头一看,AI干的是另一件事。

这些偏差有几种典型形态:

  • 没被要求就扩大工作范围
  • 本该完整完成的工作被缩减或简化
  • 重复已经做完的部分
  • 跳过明确指定的需求或步骤
  • 按自己的理解改,而不是按实际指令改

长会话里问题更明显。AI助手会丢失早前的决策、忘掉重要指令,或者记错哪些已经完成。工作越复杂,保持一致就越难,一个起初看起来简单的任务,会慢慢偏离原本的目的。

他发现自己花在检查、纠正、重新引导AI产出上的时间,比预想的多得多。于是有了一个结论:AI应该辅助开发者,而不是接管开发过程。

他要的不是让AI写出更好的代码,而是维持人类控制、清晰边界、可追责,以及出问题时能恢复的能力。这就是AEGIS Trust的由来。

AEGIS Trust是ProlixoTech Inc.开发的一款免费开源VS Code扩展,当前版本0.1.1,目标是在受支持的AI辅助开发流程里,给开发者更多可见性和控制权。它包含四项能力:

  1. 本地文件基线与快照:针对选定的重要项目文件建立已知起点,在符合条件时执行恢复类操作。
  2. AI建议命令审查:AI建议的终端命令不直接运行,先提交到审查流程,多一道检查动作的机会。
  3. 受审查的终端交接:受支持的受保护终端流程会先评估拟执行的命令,再把允许的文本交给终端。命令不会自动执行,跑不跑仍由开发者决定。
  4. 本地工作回执:从AEGIS管理的活动中生成本地Markdown记录,作为复查受支持操作的参考。

作者对局限性的交代同样干脆。AEGIS Trust目前不保证AI助手会正确记住此前的指令,也不保证它停留在每个任务的原始范围内。它不会自动拦截外部AI代理、普通终端或其他软件执行的每一个动作。文件保护和审查能力只适用于特定的受支持流程,它不是通用沙箱,也不能替代独立备份。

换句话说,这是一个务实的起点,而不是"问题已经解决"的宣告。在漫长复杂的AI辅助项目里维持可靠的人类控制,仍然是这项工作的核心动机。

项目背后的原则可以浓缩成一句话:AI可以提议,可以辅助,可以加速,但做什么、改什么、执行什么,控制权应该留在开发者手里。

0.1.1版本已在VS Code Marketplace上架,代码和上手指南放在GitHub。作者特别想听到有过类似遭遇的开发者反馈:你是否遇到过意外的范围变更、重复劳动、被遗忘的指令,或者超出要求的AI改动?

这个问题值得每个用AI写代码的人想一想:你是在用工具,还是在给工具打下手。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
疯抢iPhone:霍尔木茨海峡沉没的集装箱船成为渔民的狂欢节!

疯抢iPhone:霍尔木茨海峡沉没的集装箱船成为渔民的狂欢节!

胜研集
2026-10-17 20:16:53
跌过那么多轮,为什么偏偏这次最痛?

跌过那么多轮,为什么偏偏这次最痛?

资本时差
2026-10-17 23:53:48
蓝心湄回应蔡康永疑遭封杀,称”应该不会封杀我们吧“,自曝:妈妈是长沙人,每年会带妈妈回去看亲戚

蓝心湄回应蔡康永疑遭封杀,称”应该不会封杀我们吧“,自曝:妈妈是长沙人,每年会带妈妈回去看亲戚

韩小娱
2026-10-17 11:05:13
5-2力擒第三!19岁天才传射+世界波+造红牌 13亿豪门11战全胜狂轰48球

5-2力擒第三!19岁天才传射+世界波+造红牌 13亿豪门11战全胜狂轰48球

狍子歪解体坛
2026-10-18 02:33:50
亚马尔飙世界波+助攻,巴萨5-2,豪取9连胜领跑,一夜甩皇马9分

亚马尔飙世界波+助攻,巴萨5-2,豪取9连胜领跑,一夜甩皇马9分

侧身凌空斩
2026-10-18 02:30:13
45岁仍拍三级片还债,36E巨乳,被称香港妖女,60岁直播翻身破亿

45岁仍拍三级片还债,36E巨乳,被称香港妖女,60岁直播翻身破亿

轩逸阿II
2026-10-17 07:39:17
马斯克造出一辆能上天的汽车,车评人:体会到了李鸿章访美的无力感

马斯克造出一辆能上天的汽车,车评人:体会到了李鸿章访美的无力感

可达鸭面面观
2026-10-17 13:03:52
网红魏莹陪玩案后续:母亲曝不耻原因,连续陪3个大哥:她没离婚

网红魏莹陪玩案后续:母亲曝不耻原因,连续陪3个大哥:她没离婚

阅微札记
2026-10-15 10:11:44
主持人笑岔气!马斯克当年说要把火箭推进器放车里,不用燃料,只用超高压空气!网友:马斯克以前也嘲笑过比亚迪

主持人笑岔气!马斯克当年说要把火箭推进器放车里,不用燃料,只用超高压空气!网友:马斯克以前也嘲笑过比亚迪

大白聊IT
2026-10-17 23:22:29
垃圾!中国留学生披日本旭日旗,引发全网震怒!

垃圾!中国留学生披日本旭日旗,引发全网震怒!

News脑洞
2026-10-17 19:22:14
这幅丑书曾卖出4个亿,通篇杀气腾腾,把王羲之都比下去了——黄庭坚草书《砥柱铭》

这幅丑书曾卖出4个亿,通篇杀气腾腾,把王羲之都比下去了——黄庭坚草书《砥柱铭》

幸福娃3790
2026-10-07 12:39:20
96岁无锡爷爷因年龄原因被旅行社拒绝后,独自乘40多小时火车到西藏旅游;他毕业于上海交大,旅行有问题会问AI

96岁无锡爷爷因年龄原因被旅行社拒绝后,独自乘40多小时火车到西藏旅游;他毕业于上海交大,旅行有问题会问AI

都市快报橙柿互动
2026-10-18 00:49:41
普京已明确表示:俄罗斯已接管法国、德国、瑞典、比利时等欧洲四国企业在俄罗斯的资产,作为欧盟支持乌克兰直接参与战场敌对行动的回应

普京已明确表示:俄罗斯已接管法国、德国、瑞典、比利时等欧洲四国企业在俄罗斯的资产,作为欧盟支持乌克兰直接参与战场敌对行动的回应

吉刻新闻
2026-10-17 16:15:36
黄奇帆被查、包惠被开除党籍,中央纪委国家监委网站:不论职务高低、贡献大小、退休与否,只要搞了腐败,就没有任何退路和所谓平安着陆

黄奇帆被查、包惠被开除党籍,中央纪委国家监委网站:不论职务高低、贡献大小、退休与否,只要搞了腐败,就没有任何退路和所谓平安着陆

新京报政事儿
2026-10-17 12:18:06
学历贬值,日本的剧本已经演完了,我们几乎在逐页重演

学历贬值,日本的剧本已经演完了,我们几乎在逐页重演

起点人文
2026-10-15 13:07:03
突发!江苏一工程设计集团发布结业通知:11月1日停产解散,承诺结清工资与补偿金

突发!江苏一工程设计集团发布结业通知:11月1日停产解散,承诺结清工资与补偿金

火山詩话
2026-10-18 06:21:59
“花钱就可以搞死一家店铺”?岂能让“职业差评”扰乱市场秩序

“花钱就可以搞死一家店铺”?岂能让“职业差评”扰乱市场秩序

齐鲁壹点
2026-10-17 21:24:11
中央党报评“尊界刹车事件”!

中央党报评“尊界刹车事件”!

新浪财经
2026-10-17 15:31:29
小杨哥回归首秀惨淡收场,一夜涨粉3万,场观千余人,时代恐怕真的一去不复返了

小杨哥回归首秀惨淡收场,一夜涨粉3万,场观千余人,时代恐怕真的一去不复返了

起点财经
2026-10-17 16:49:28
3-2!15亿豪门联赛7战全胜强势领跑 神锋梅开二度7轮8球太无解

3-2!15亿豪门联赛7战全胜强势领跑 神锋梅开二度7轮8球太无解

狍子歪解体坛
2026-10-18 00:02:49
2026-10-18 09:03:00
薛定谔的BUG
薛定谔的BUG
有态度网友ytd
191文章数 108关注度
往期回顾 全部

科技要闻

刘煜辉:99%的黄金分析师报告一钱不值

头条要闻

牛弹琴:法国又"燃烧"了 整个国家地图上到处都在冒烟

头条要闻

牛弹琴:法国又"燃烧"了 整个国家地图上到处都在冒烟

体育要闻

升级版杨瀚森再闯难关:当上开拓者第三中锋还得拼

娱乐要闻

庾澄庆罕谈前妻 撕下伊能静仅剩的体面

财经要闻

新一轮大跌源头,找到了!

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

艺术
时尚
教育
旅游
手机

艺术要闻

美到窒息!黛安笔下的午后“印象”,明媚又温柔,看完心情都亮了!

秋天衣服要越买越精,准备好这“三衣”,简单舒适又有品味

教育要闻

小学都这么卷吗?大学生也未必解得出吧

旅游要闻

打造移动旅游驿站 满足不同群体需求

手机要闻

苹果零售员工被要求劝阻顾客现场抢购 iPhone Duo 首发库存或极度紧张

无障碍浏览 进入关怀版