楼主这个思路我一直在用,不过想就"AI被授权当红队就会主动揪盲点"这句补一刀。
从某种角度看,这个效果的来源不是AI变"主动"了,而是你把任务从"生成"换成了"评估",等于强制它走另一条推理路径。决策心理学里有个老概念叫"consider the opposite",让人先去想反面证据,能显著压一压确认偏误——这套路对LLM同样成立,因为生成式模型默认是顺着你的框架往下编,你把它推到对立面,输出的分布就不一样了。
但有一点值得商榷:AI揪出来的"坑"质量,高度依赖你给的上下文。我试过只丢一句"挑挑我需求里有哪些蠢假设",它返给我的往往是一份放之四海皆准的清单——目标是否清晰、范围是否过大、有没有数据支撑——句句没错,可跟我对着需求自己发呆想出来的没两样,等于把常识重新念一遍。那种你压根没意识到的错误前提,它反而抓不到,因为它没有独立于你的外部事实可以对照,本质是在训练数据里匹配常见陷阱。
所以我现在的用法跟楼主稍有区别:不让他自由发挥找茬,而是先框定维度,比如"从成本、可行性、目标相关性三个角度,按严重程度排序挑刺",再补一句"如果我的前提本身错了,请直接指出最可能错的是哪条"。这一步把模糊的"找茬"变成了可操作的清单,返工确实少,但前提是咱自己得先想清楚到底怕什么。
你最后那个问题我反而好奇,你们是审完再动手,还是边做边让它挑?我一般先审一轮再开干,省得改到第三版才发现方向歪了 ( ̄▽ ̄)