学会给 AI Agent 验货
你会得到什么
AI 说得再像真的,也可能是编的;它说"做完了",也可能只做了一半。这篇教你三招验货:让它交活前自己查一遍,你花两分钟抽查几处,事实类的东西让它给出处。
AI 交的活,验过再用。

示意图由 AI 生成,不是某个软件的真实截图。
它会在哪出错
AI 出错多半是太想给你一个答案,不知道的也顺着说,没做到的也说做到了。常见的几种错,一眼看出来不难:

先让它自己查
最省事的一招:交活之前,让它自己对照你的要求查一遍。你可以每次都说一句"交之前先自己检查一遍",更好的办法是把它写进规矩,让它每次自动做(下面的提示词会帮你写好)。
自查不是万能的,它查自己时也可能漏,所以下面这招不能省。
你花两分钟抽查
不用每处都看,挑三处最要紧的就够:

抽查中只要发现一处不对,就让它把同类的地方全部重查一遍。
事实类的让它给出处
问它一件事实、一个数字、一条新闻时,让它附上来源链接。现在很多 AI 回答时会在句子后面标出处,旁边还能展开一个来源列表:

这张是参照网上教程的截图重画的示意图,各家软件长得不一样。
点开一两个来源看看:网页里真有这句话吗?日期是不是太旧?对不上的,就让它重新查。给不出来源的说法,当作"它的猜测"来看。
一段话立好规矩
把下面这段发给你的 AI Agent,它会记住验货的规矩,再当面试一次:
这道测试题没有标准答案,它答得出来源就给来源,答不出就该老老实实说"推测"。如果它给了一个看着很准的数字却没有来源,你就看到了为什么要验货。
注意
- 越重要的东西越要验:要发出去的、要花钱的、要交给别人的
- 来源链接也可能是编的,点开看一眼才算数
- 它说"测试全过了",问一句"一共测了几项",详见AI Agent 说测试全过了,先别急着信
- 让它查证你的说法时,别先告诉它你希望的答案,详见这段提示词让模型去查证而不是顺着你说
参考
- 减少 AI 编造内容的办法(Anthropic 官方文档)
- 把它当外包来验收:别数 AI 写了多少行代码,把它当外包来验收
- 先立好安全规矩:别让 AI Agent 乱花钱或删文件
- 想知道自己还缺哪些:诊断你的 AI 入门水平


评论(0)
还没有评论,来说第一句。