目录

即使让AI智能体编写代码,如果仍需人工逐行检查和修改,处理量也会有上限。Lauren Tan的思路是,与其增加对模型的指令,不如打造能预防错误、让智能体自行验证的开发环境。

要点#

  • 信任更多依靠类型、依赖关系等代码库机制来保障,而非提示词。
  • 将智能体的错误转化为Lint或CI规则,防止重犯。
  • 分别准备验证正确性的CLI和提升质量的Playbook。
  • 考虑到智能体会模仿现有代码,清理不良示例和临时补丁。
  • 自动化从小范围验证开始,同时建立失败时转交人工的路径。

用机制构建信任#

Lauren Tan基于在SpaceX AI团队每月交付2,000个PR的经验,阐述了“Trust Engineering(信任构建工程)”。重点在于,打造一个让智能体不易犯错、也能自行发现错误的环境,而不是始终盯着它。

支撑信任的机制有优先级。最有力的是通过类型系统和数据结构,让非法状态无法被表达。其次是用Lint、编译器和CI拦截问题。操作手册、自然语言规则和人工审查则作为辅助。

仅仅补充说明文字,有时无法防止同样的错误。对于反复出现的问题,应尽可能将其落实为代码或验证规则。

防止错误重演#

智能体容易以周围的代码为范本。如果代码库中留有旧的变通方案或临时实现,它可能将其当作正确模式推广。因此,整理代码库时,也需要考虑智能体会模仿什么。

首先,选出智能体反复犯的一个错误。例如,若是误用特定API,就用Lint规则检测。若是数据不一致,就重新审视类型和数据结构,从源头上减少传入非法值的可能。即使修复需要时间,也可以先自动检测,抑制问题蔓延。

Lauren介绍的框架“Dune”的方针是:减少技术债务、收敛推荐模式,并将发现的反模式转化为Lint规则。其中也介绍了全面禁止注释的设计,但比起直接套用到团队的代码库,我更倾向于先检查是否在用注释为变通方案辩解。

能够自行验证的工具#

智能体仅仅报告“已修复”,并不能证明修复正确。准备一个能按固定流程执行启动、测试和测量的验证CLI,就能让智能体和人用同样的方法确认结果。

视频中介绍的“ControlGlass”就是一个例子,它使用Chrome DevTools Protocol(CDP),辅助操作应用、记录追踪信息和获取堆快照。首先,让现有测试和测量工具能通过CLI调用,并将执行结果整理成机器可判定的形式。专用工具可以之后再引入。

确认正确性和改善质量,应分开考虑。测试和测量用于检查功能或性能是否存在问题。代码设计和调试流程则整理成Playbook,交给智能体。文中介绍的“Pystack”,就是将资深工程师的工作流程封装为技能这一思路的例子。

逐步扩大自动化范围#

有了可靠的验证机制,就能建立以错误报告等事件为触发条件、自动运行智能体的流程。例如,收到报告后复现问题,提出修复方案,再附上测试和测量结果提交PR。Lauren将这种外围自动化称为“Outer Loop”。

不必一开始就把创建PR也交给智能体。起初只让它根据错误报告生成复现步骤和失败测试。等结果稳定后,再推进到生成修复方案,最后接上创建PR的步骤。每个阶段都要能检测失败,并允许人工接手。

如果只把每月2,000个PR作为目标,就可能忽略审查负担或缺陷的增加。除了PR数量,还应记录验证通过率、退回原因及修复后出现的缺陷,据此调整自动化范围。

下一步#

选出智能体最近反复犯的一个错误,检查能否通过Lint或类型约束防止重犯。先添加检测规则,让失败在CI中显现出来吧。

来源: https://zenn.dev/dragon1208/articles/506d19d4adb0c4

目录