让AI写代码不难。难的是让它按你说的写。一位开发者在反复被AI助手"擅自加戏"之后,做了一个免费开源工具,专门给AI编码加上人类刹车。
他的原话很直接:让AI完成一个任务,和让AI始终对齐你的意图,是两件完全不同的事。有时候他给出明确指令,回头一看,AI干的是另一件事。
这些偏差有几种典型形态:
- 没被要求就扩大工作范围
- 本该完整完成的工作被缩减或简化
- 重复已经做完的部分
- 跳过明确指定的需求或步骤
- 按自己的理解改,而不是按实际指令改
长会话里问题更明显。AI助手会丢失早前的决策、忘掉重要指令,或者记错哪些已经完成。工作越复杂,保持一致就越难,一个起初看起来简单的任务,会慢慢偏离原本的目的。
他发现自己花在检查、纠正、重新引导AI产出上的时间,比预想的多得多。于是有了一个结论:AI应该辅助开发者,而不是接管开发过程。
他要的不是让AI写出更好的代码,而是维持人类控制、清晰边界、可追责,以及出问题时能恢复的能力。这就是AEGIS Trust的由来。
AEGIS Trust是ProlixoTech Inc.开发的一款免费开源VS Code扩展,当前版本0.1.1,目标是在受支持的AI辅助开发流程里,给开发者更多可见性和控制权。它包含四项能力:
- 本地文件基线与快照:针对选定的重要项目文件建立已知起点,在符合条件时执行恢复类操作。
- AI建议命令审查:AI建议的终端命令不直接运行,先提交到审查流程,多一道检查动作的机会。
- 受审查的终端交接:受支持的受保护终端流程会先评估拟执行的命令,再把允许的文本交给终端。命令不会自动执行,跑不跑仍由开发者决定。
- 本地工作回执:从AEGIS管理的活动中生成本地Markdown记录,作为复查受支持操作的参考。
作者对局限性的交代同样干脆。AEGIS Trust目前不保证AI助手会正确记住此前的指令,也不保证它停留在每个任务的原始范围内。它不会自动拦截外部AI代理、普通终端或其他软件执行的每一个动作。文件保护和审查能力只适用于特定的受支持流程,它不是通用沙箱,也不能替代独立备份。
换句话说,这是一个务实的起点,而不是"问题已经解决"的宣告。在漫长复杂的AI辅助项目里维持可靠的人类控制,仍然是这项工作的核心动机。
项目背后的原则可以浓缩成一句话:AI可以提议,可以辅助,可以加速,但做什么、改什么、执行什么,控制权应该留在开发者手里。
0.1.1版本已在VS Code Marketplace上架,代码和上手指南放在GitHub。作者特别想听到有过类似遭遇的开发者反馈:你是否遇到过意外的范围变更、重复劳动、被遗忘的指令,或者超出要求的AI改动?
这个问题值得每个用AI写代码的人想一想:你是在用工具,还是在给工具打下手。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.