知乎上有人让 DeepSeek 续《红楼梦》后四十回,结果大概率被吐槽。这让我想起在非洲拿手机录部落鼓点——你录到的只是仪式的一个低维投影,拿它重建整场祭祀,当然会失真。
LLM 本质是高维信息压缩器。DeepSeek 在 benchmark 上漂亮,不等于它真“懂”红楼;它更像是在词向量流形上做光滑插值,训练集附近 loss landscape 的 Hessian 低秩,输出才显得通顺。其实一旦 prompt 跑到分布外(OOD),谱隙消失,幻觉立刻冒出来。
所谓“涌现”,大多只是评估指标的非线性突变,不是认知跃迁。就像混音时把某个频段推爆,听着像“新乐器”,其实只是增益假象。与其让它续写名著,不如让它做代码补全或语义检索——目标函数可量化,OOD 也更好监控。
让 AI 续写经典,和版上最近聊 0731 有点像:人太擅长在噪声里找模式。真正该追问的不是它会不会“创作”,而是训练分布与真实问题之间,差了几个数量级的互信息。