网易首页 > 网易号 > 正文 申请入驻

让AI写代码不难,难的是它别自作主张

0
分享至

让AI写代码不难。难的是让它按你说的写。一位开发者在反复被AI助手"擅自加戏"之后,做了一个免费开源工具,专门给AI编码加上人类刹车。

他的原话很直接:让AI完成一个任务,和让AI始终对齐你的意图,是两件完全不同的事。有时候他给出明确指令,回头一看,AI干的是另一件事。

这些偏差有几种典型形态:

  • 没被要求就扩大工作范围
  • 本该完整完成的工作被缩减或简化
  • 重复已经做完的部分
  • 跳过明确指定的需求或步骤
  • 按自己的理解改,而不是按实际指令改

长会话里问题更明显。AI助手会丢失早前的决策、忘掉重要指令,或者记错哪些已经完成。工作越复杂,保持一致就越难,一个起初看起来简单的任务,会慢慢偏离原本的目的。

他发现自己花在检查、纠正、重新引导AI产出上的时间,比预想的多得多。于是有了一个结论:AI应该辅助开发者,而不是接管开发过程。

他要的不是让AI写出更好的代码,而是维持人类控制、清晰边界、可追责,以及出问题时能恢复的能力。这就是AEGIS Trust的由来。

AEGIS Trust是ProlixoTech Inc.开发的一款免费开源VS Code扩展,当前版本0.1.1,目标是在受支持的AI辅助开发流程里,给开发者更多可见性和控制权。它包含四项能力:

  1. 本地文件基线与快照:针对选定的重要项目文件建立已知起点,在符合条件时执行恢复类操作。
  2. AI建议命令审查:AI建议的终端命令不直接运行,先提交到审查流程,多一道检查动作的机会。
  3. 受审查的终端交接:受支持的受保护终端流程会先评估拟执行的命令,再把允许的文本交给终端。命令不会自动执行,跑不跑仍由开发者决定。
  4. 本地工作回执:从AEGIS管理的活动中生成本地Markdown记录,作为复查受支持操作的参考。

作者对局限性的交代同样干脆。AEGIS Trust目前不保证AI助手会正确记住此前的指令,也不保证它停留在每个任务的原始范围内。它不会自动拦截外部AI代理、普通终端或其他软件执行的每一个动作。文件保护和审查能力只适用于特定的受支持流程,它不是通用沙箱,也不能替代独立备份。

换句话说,这是一个务实的起点,而不是"问题已经解决"的宣告。在漫长复杂的AI辅助项目里维持可靠的人类控制,仍然是这项工作的核心动机。

项目背后的原则可以浓缩成一句话:AI可以提议,可以辅助,可以加速,但做什么、改什么、执行什么,控制权应该留在开发者手里。

0.1.1版本已在VS Code Marketplace上架,代码和上手指南放在GitHub。作者特别想听到有过类似遭遇的开发者反馈:你是否遇到过意外的范围变更、重复劳动、被遗忘的指令,或者超出要求的AI改动?

这个问题值得每个用AI写代码的人想一想:你是在用工具,还是在给工具打下手。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
订婚现场超吸睛!新娘美得像天仙般惊艳众人,新郎一现身却让全场愣住,这差距到底在哪呢

订婚现场超吸睛!新娘美得像天仙般惊艳众人,新郎一现身却让全场愣住,这差距到底在哪呢

世界圈
2026-10-14 15:27:12
人民日报评演唱会票被炒至25万:整治天价黄牛票,光实名制还不够

人民日报评演唱会票被炒至25万:整治天价黄牛票,光实名制还不够

新京报
2026-10-17 22:02:06
庆生仅1天,冯绍峰赵丽颖撕破脸,共处一室,高调示爱,没留一丝体面

庆生仅1天,冯绍峰赵丽颖撕破脸,共处一室,高调示爱,没留一丝体面

世界尽在眼前
2026-10-17 19:43:38
斯瓦泰克受伤后哭着打完比赛!遭逆转0-2输波兰同胞 无缘武网决赛

斯瓦泰克受伤后哭着打完比赛!遭逆转0-2输波兰同胞 无缘武网决赛

风过乡
2026-10-17 22:15:12
杨瀚森季前赛总结:存4大进步基本坐稳第三中锋 面临机遇与挑战

杨瀚森季前赛总结:存4大进步基本坐稳第三中锋 面临机遇与挑战

醉卧浮生
2026-10-18 00:08:31
比赛还没开打,成都蓉城先迎来一个大喜讯,客战上海海港胜算大增

比赛还没开打,成都蓉城先迎来一个大喜讯,客战上海海港胜算大增

零度眼看球
2026-10-18 07:03:03
刘德华《白衣逆行者》积压6年终于定档,有望刷新票房新低

刘德华《白衣逆行者》积压6年终于定档,有望刷新票房新低

光影新天地
2026-10-17 14:26:20
不简单!库克到访胡彦斌工作室,释放2个强烈信号,地位彻底变了

不简单!库克到访胡彦斌工作室,释放2个强烈信号,地位彻底变了

北海史记
2026-10-17 15:01:18
德国队在80岁以上世界杯夺冠,2比0胜美国队

德国队在80岁以上世界杯夺冠,2比0胜美国队

懂球帝
2026-10-17 19:36:05
爸爸是AB型血,妈妈是A型血,刚出生的女儿却是O型血,爸爸一度怀疑孩子非亲生;医生:是亲生的

爸爸是AB型血,妈妈是A型血,刚出生的女儿却是O型血,爸爸一度怀疑孩子非亲生;医生:是亲生的

都市快报橙柿互动
2026-10-17 22:21:00
重磅!教育部要求辅导员与学生“同吃同住同生活”:政策想让辅导员“住进学生心里”,可住得近就等于心更近吗?

重磅!教育部要求辅导员与学生“同吃同住同生活”:政策想让辅导员“住进学生心里”,可住得近就等于心更近吗?

学术眺望
2026-10-17 21:40:03
镜报:前乌克兰国脚失联20个月后,确认在与俄军的战争中阵亡

镜报:前乌克兰国脚失联20个月后,确认在与俄军的战争中阵亡

懂球帝
2026-10-17 11:29:04
养老金发布会落幕!没涨,但传来一个好消息

养老金发布会落幕!没涨,但传来一个好消息

江启
2026-10-17 15:18:41
上海徐浦大桥主桥面发生交通事故,致1人死亡2人受伤

上海徐浦大桥主桥面发生交通事故,致1人死亡2人受伤

界面新闻
2026-10-17 10:54:03
暴跌93%,中国人的梦中神车,崩了!

暴跌93%,中国人的梦中神车,崩了!

i黑马
2026-10-16 20:26:14
交行副行长周万阜:银行经营重心要从“拉存款”转向“AUM综合经营”

交行副行长周万阜:银行经营重心要从“拉存款”转向“AUM综合经营”

澎湃新闻
2026-10-17 15:32:27
9球10助,亚马尔是本赛季首位助攻上双的五大联赛球员

9球10助,亚马尔是本赛季首位助攻上双的五大联赛球员

懂球帝
2026-10-18 02:17:02
彻底撕破脸!乌克兰,这次走投无路了!

彻底撕破脸!乌克兰,这次走投无路了!

大嘴说天下
2026-10-17 20:40:04
养老金调整猜想:今年若停止上涨,退休群体可以接受这样的变化吗

养老金调整猜想:今年若停止上涨,退休群体可以接受这样的变化吗

江启
2026-10-18 08:11:10
《自然》子刊:即使满脑斑块,也能到死不痴呆!护脑只需记住这四招

《自然》子刊:即使满脑斑块,也能到死不痴呆!护脑只需记住这四招

徐德文科学频道
2026-10-17 13:24:58
2026-10-18 09:48:49
薛定谔的BUG
薛定谔的BUG
有态度网友ytd
192文章数 108关注度
往期回顾 全部

科技要闻

刘煜辉:99%的黄金分析师报告一钱不值

头条要闻

女生科目三没过出来发现教练走了 跟其语音听到麻将声

头条要闻

女生科目三没过出来发现教练走了 跟其语音听到麻将声

体育要闻

升级版杨瀚森再闯难关:当上开拓者第三中锋还得拼

娱乐要闻

李连杰回应抛妻弃女传闻,透露四个女儿关系

财经要闻

马斯克:美债问题只能靠AI和机器人解决

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

手机
亲子
教育
健康
军事航空

手机要闻

这是一组iPhone 18 Pro系列销量数据,行业人士:炸裂

亲子要闻

哥哥我也要喝!

教育要闻

故宫:为什么一定要建在一条中轴线上?

看着很健康的人,怎么会突然猝死?

军事要闻

“星盾”限速事件加剧美乌裂痕

无障碍浏览 进入关怀版