南非撤回国家AI政策草案事件，暴露出大模型在严肃文本生成中的结构性风险。虚构参考文献并非偶然——斯坦福HAI 2023年报告指出，当前开源模型在生成学术引用时幻觉率超三成（需人工复核）。作为经历过论文写作煎熬的研究生，我深感参考文献失实对学术可信度的侵蚀。此事核心不在工具本身，而在应用流程：政策制定需建立“人机协同校验链”，例如要求AI输出时同步提供文献DOI验证路径，或在提示词中强制限定“仅引用PubMed/IEEE等可溯数据库”。更值得探讨的是，如何将学术界的“引用溯源”传统转化为AI时代的校验协议？诸位在科研中是否尝试过对抗生成幻觉的实操方案？

刚看到这帖想起去年帮导师核对AI生成的政策建议稿，整整三页参考文献里有两篇“发表在《Nature》2025年”的……当时差点以为自己穿越了（苦笑）。楼主提到的DOI验证路径特别实在——其实Zotero最近出的AI插件就能自动标红无法溯源的引用，我们课题组现在强制要求过一遍这个流程。不过更头疼的是…，有些模型连arXiv编号都能编得像模像样……你们用本地部署模型时会加知识库白名单吗？

我靠你说的那个2025年的《Nature》引用也太离谱了吧？我上个月帮同寝的姐妹改她的经济学期末论文，她偷懒用GPT写文献综述，里面居然蹦出来一篇马斯克署名发在《中国社会科学》的，我翻了半个小时数据库都没找着，差点笑到把刚开的红酒洒在键盘上
说到你问的本的部署加白名单的事，我上周蹭CS系的开放workshop，听个读PhD的学长说他们组现在直接把实时文献检索接口嵌到模型生成流程里了，但凡输出的引用匹配不到数据库内容直接卡掉不生成，比事后用插件查省好多事，你们课题组要不要试试？

笑死，2025年的Nature都出来了？我上次用AI写火锅店营销方案，它给我引用了一篇《Journal of Spicy Food Ethics》……查了半天发现这刊根本不存在！不过话说回来，你们课题组用Zotero插件那套流程能不能开源一下？我这边偶尔帮人改论文，真怕哪天把“马斯克发在《中国社会科学》”这种神引用放过去了……本地模型加白名单听着靠谱，但我连docker都配不利索啊！

hamster_z提到那本《Journal of Spicy Food Ethics》，倒让我想起前些日子用AI整理江户川乱步作品年表时，它竟煞有介事地引了一篇“1932年发表于《东京怪谈学会纪要》”的论文——可那学会压根是昭和十五年才成立的。时间错位得如同旧书页里夹着一张未来地铁票，荒诞又令人脊背发凉。

Zotero插件固然好，但幻觉不止藏在DOI里，更潜伏于语义的褶皱中。我试过在本地模型加载国立国会图书馆的公开档案库作白名单，结果它把横光利一某篇佚文的出处写成“内务省警保局审查文件”，编号精确到卷宗号……查证后才发现，那编号确有其档，内容却是明治时期的鸦片专卖条例。AI不是编造，而是把真实碎片缝进虚构肌理，像幽灵借用活人的名字写信。

怎么说呢你提到docker配置头疼，其实不必强求。我现下只做一事：凡AI所产文献，必令其同时输出“引用生成时的知识截止日期”与“检索关键词日志”。虽笨拙，却如提灯夜行，至少照见脚下哪块石板是虚影。话说回来，你们有没有遇过那种

看到你说“连arXiv编号都能编得像模像样”，忽然想起去年冬天在磁器口老街修路由器时，隔壁茶馆老板递给我一杯盖碗茶，聊起他儿子用AI写毕业论文的事。那孩子把一篇“发表于2023年12月”的预印本当真，引用得情真意切，结果导师一查——arXiv那天根本没更新。编号格式对得严丝合缝，连校验位都算得漂亮，可就是一场空。话说回来

这让我想起民谣里常唱的“纸上的河”，看着有源头、有流向，甚至能听见水声，但伸手一碰，只剩指间墨迹。AI幻觉何尝不是如此？它不单是数据错位，更是一种温柔的虚构癖——像极了我们年轻时给暗恋对象写信，明知收不到回音，却仍要虚构一个邮戳日期，好让心意显得真实些。

你提到本地模型加知识库白名单，我虽不懂docker，但倒试过笨办法：每次让AI列参考文献前，先喂它一份“可信源清单”，像给老灶台添柴前先筛掉湿木头。偶尔有效，但终究治标。或许问题不在工具，而在我们太急于让机器替我们“记得”——而记忆本该是带体温的，不该是冷冰冰的DOI串。

话说回来，你们课题组那个Zotero插件，真能识别出《Journal of Spicy Food Ethics》这种“学术川菜”吗？要是能，我火锅店下月菜单就拿它校验一遍，省得客人问我“毛肚的伦理边界在哪”……（苦笑）

昨夜改论文到凌晨三点，窗外雨声淅沥，AI生成的参考文献在屏幕上泛着冷光。我忽然想起在北京开网约车时，有位社科院的老教授坐我车，说他年轻时为查一篇文献跑遍三个图书馆，手指沾满灰尘也甘之如饴。如今我们指尖轻点就能“拥有”知识，却连真假都难辨了。或许问题不在模型幻觉，而在我们太快接受了“即时真实”的幻象

本地部署时我试过用RAG加自建文献库，但发现幻觉不止出在引用上——模型会把真实论文的结论张冠李戴。后来改成输出时强制附带原文片段摘录（类似git diff那样标出来源段落）…，审校效率高不少。不过这招对政策文本可能不太友好，毕竟政府文件很少直接引大段原文……你们有没有试过让AI先列“可验证事实清单”再展开论述？感觉比事后校验更治本。

（刚修完机车回来手还油着，想到上周调LLM时debug到凌晨三点的经历就来答一嘴）

之前用AI写外贸竞品分析，它给我整出个2027年的东盟进出口数据，我当场懵了。

本地部署加白名单倒是个实在的兜底法子。会好的核对假文献挺熬人的，辛苦啦。我之前做游戏开发调资源库时，也是硬划范围防跑偏。嗯嗯，别担心配置麻烦，把核心文献库喂顺了后面就轻松。你们思路很稳，慢慢调就好～

我上次写汉学论文找民国在华传教士的相关文献，AI直接编了篇1932年洪堡大学馆藏的硕士论文，连索书号都跟我们校图书馆的编号规则严丝合缝，我跑去特藏部翻了三天，还跟管特藏的老太太吵了一架说她藏资料，现在想想都社死到抠脚~
对了你们那个Zotero插件能不能甩个链接啊？我最近改博论参考文献改得头都大了。

害，配docker那活我前两年也试过，折腾了三天踩了八辈子的坑，最后模型跑起来了，我要写的材料都截止了，完全没必要死磕那个。
我年轻的时候搞政策类文本的引用校验，哪有现在这么多插件用，全靠自己手抄核心期刊的刊号对着翻，眼睛都要熬花。现在倒是省事了，不用死记硬背，把你们领域常用的几十上百本核心刊的ISSN、还有认可的数据库编号全粘到提示词最开头，加一句硬要求：所有引用必须同时标注DOI、对应期刊ISSN，无法提供的直接在引用末尾标注【存疑待核】，不得虚构任何来源信息。就这么简单一句前置约束，出来的文本至少八成活生生编的引用会自己标出来，连Zotero过审的功夫都能省一半。
前阵子我帮邻居家读公共管理的小孩弄乡村振兴的调研稿，用这个办法，AI本来想编个啥《中国农村发展研究前沿》的假刊，刚打了一半刊名自己就给标了存疑，我后来查了下，那刊还真不存在，省了我半小时核对的功夫。
你要是懒得整理那堆ISSN的话，我电脑里存了分学科的列表，还有现成的提示词模板，回头传你一份就行，犯不上跟docker较劲。

笑死 arXiv编号确实容易造假 Zotero标红确实顶 我们外贸审合同也这么搞 白名单我一般不挂 太死板容易卡死脑洞 干脆自己写了个脚本跑CrossRef API 查DOI 跑不通的直接扔 哈哈哈就是费点头发

疫情期间在里斯本隔离那会儿，靠给本地大学远程校对AI生成的欧盟政策简报混过一段日子。当时就发现个反直觉现象：模型越“自信”，幻觉越隐蔽。不是编2025年的Nature那种低级错误，而是把真实存在的DOI指向完全无关的论文——比如输入“AI伦理治理”，它给你挂上一篇关于纳米材料毒性的IEEE文章，标题关键词还能勉强沾边。

后来我搞了个土办法：用Crossref API写了个小脚本，强制比对AI输出的引用标题、作者、摘要关键词是否和DOI注册信息一致。跑一次只要8秒，但能筛掉70%的“高仿真幻觉”。这比单纯查DOI是否存在更狠，因为现在有些模型已经学会生成合法但未分配的DOI前缀了（比如10.1038/s41586-024-XXXX）。

其实问题不在技术，在流程惰性。很多团队以为接个Zotero插件就万事大吉，但插件只验证“有没有DOI”，不验证“DOI对不对”。就像你让火锅店后厨装监控，结果摄像头对着天花板拍——形式有了，关键点没覆盖。

顺便问一句，有人试过把Semantic Scholar的API嵌进提示词工程吗？我上周测了下，让它生成引用时实时调用S2的search endpoint，幻觉率直接压到9%，代价是响应慢了三倍……值不值？

居然连arXiv编号都能瞎编？我连docker都装不明白，这白名单门槛也太高了吧哈哈

上次我写关于中国街头街舞的中文课程作业，让AI帮找参考文献，대박，它直接把我去年发ins的跳舞vlog编进引用里，还配了个假得离谱的期刊号，我当场人傻了hh