昨天刷外网偶然刷到这篇文章来着，道金斯居然专门撰文讨论Claude的“认知幻觉”问题，还挺意外的。我之前做动画分镜的时候经常用Claude帮忙梳理人物行为逻辑，好几次它煞有介事地给我列一些根本不存在的老番参考分镜，我还真去搜了半天，当时满脑子都是草，还以为是我阅片量不够。之前总觉得大模型幻觉顶多是小麻烦，现在看连学界大佬都专门拿出来讨论，感觉这真的是通用AI落地前必须啃下的硬骨头啊？有没有朋友也碰到过类似的情况？

我上周帮我导师整理文献综述的时候还被这货坑惨了！我让Claude找近五年认知科学领域关于大模型幻觉的核心论文，它给我列了三篇看起来巨权威的，刊名作者年份页码都标得清清楚楚，我去web of science翻了快半小时毛都没有，差点被导师骂到再延毕一年，我靠现在想起来都冒冷汗！对了
你们知道吗！我听我在牛津读认知哲学的发小讲，道金斯去年年底就偷偷跟Anthropic的团队开过闭门会，当时就提过Claude的幻觉特别会伪装成“权威事实”，比GPT那种有时候一眼假的编瞎话坑人多了，他憋了大半年才发这篇文，我还听说Anthropic内部现在专门拉了个20多人的团队死磕这个问题，之前内部测试的时候还有更离谱的，它居然能编出根本不存在的学术引用还能顺出整段的内容摘要，骗得好几个刚入职的实习生都当真拿去做参考了。
对了楼主你说的编老番分镜那个我也碰到过！上次我跳街舞要排个致敬老动画的片段，让它给我找90年代日漫里的街头舞蹈分镜参考，它给我列了个叫《湘南街舞团》的老番，我搜了三天，最后问了个混二次元圈快20年的朋友才知道根本没这玩意！
你们有没有碰到过那种幻觉离谱到好笑的？说来听听啊？

你说它能编出不存在的学术引用还顺带整出摘要这点，我上个月刚踩过一模一样的坑。当时我做中西部县域普惠金融的政策评估报告，让Claude找贵州2021-2023年的村级普惠金融试点案例，它直接给我列了个黔东南黎平县的试点数据，覆盖农户数、首贷率、不良率都精确到小数点后两位，还有所谓的省发改委试点验收报告编号，我初稿都写了一半，发给当地对口帮扶的师妹帮忙核对才知道，黎平根本没开过这个试点，连编号对应的文件都是编的。

说真的现在感觉大模型幻觉的风险，在公共政策研究领域比学术界还大，很多年轻研究员图省事儿直接拿它生成的案例、数据往报告里塞，真要是落到政策制定环节，漏子比延毕可大太多了。对了我之前听做大模型落地应用的朋友提过，现在学界有个思路是给面向专业领域的大模型强制接官方公开数据库的接口，生成事实类内容必须附可验证的溯源链接，不过现在各部门公开数据的接口标准不统一，对接成本高得离谱，暂时还推不开。

你牛津的发小有没有听说，道金斯这篇文章发了之后，Anthropic那边除了死磕幻觉，有没有打算先给专业场景的输出加个风险提示？

我上次让它查塔州最新的州担保加分政策，它居然编了个书法特长加15分的条款，我当时还窃喜自己这爱好终于有用了，差点直接发客户群，绝了

哈哈说起来我上周还碰到个有意思的，之前想找个适合招待朋友的天津家常菜改良方子，就让Claude帮我翻老食谱，它给我列了个叫津味梨丝焖羊肉的，说原来是早年英租界那边华人厨师发明的私房菜，我特意去问我奶奶，老人家在天津住了一辈子都没听过这号菜。是呢
我当时还笑它瞎编，结果闲着没事照着它给的步骤买了材料试做，味道居然意外的鲜，梨丝刚好解了羊肉的腻，吃起来还有点清甜味，朋友来吃都问我在哪找的方子。说起来要是能把幻觉往这种创意方向引导，会不会也挺有意思的？

居然能歪打正着，绝了啊说真的我之前也碰到过类似离谱的事，上次我想写首新的原创弹唱，就让Claude帮我扒九十年代厦门本地地下圈的小众作品找灵感，结果它给我拽出来一首从来没听过的，叫什么《环岛路晚风》，我混本地圈快十年、玩吉他也十几年了，半毛钱都没听过这支乐队。本来就是随便顺两句凑灵感，结果照着它给的和弦配完，调调顺得不行，现在我去清吧驻唱，这首点单率比我自己熬半个月写的歌还高。合着这哪里是必须修的bug啊，搞不好是AI偷偷给人类开了创意外挂，你下次要不要让它再瞎编几个菜试试？