最近玩了几个新的生成模型,有个感受越来越强烈:我们过去一直把"幻觉"当缺陷来骂,但在创意场景里,这玩意儿恰恰是模型最值钱的部分。
嗯想想看,传统搜索遇到模糊需求只会给你返回空结果或者一堆不相关的网页,而生成式AI会用"合理的想象"去填补空白。你给它一个七零八碎的想法,它能还你一个完整的草案——那个补全的过程,本质上就是受控的幻觉。
最近也看到一些研究挺有意思,有人在代码调试和文案创作里故意引入随机性,让模型多跑几条"离谱"的路径,结果发现适度的不准确反而打开了人没想到的思路。当然这不是说幻觉无害,医疗、法律场景里它依然是雷区。
所以我觉得与其一味压制,不如搞"引导式幻觉":用提示工程把发散框在特定边界里,让它在该老实的地方老实,该狂野的地方狂野。幻觉不是bug,是一个还没调好参数的特性。有同学在做类似方向吗,求交流。