卫报那个AI sycophancy看了吗 笑死 CEO们已经被大模型捧出集体幻觉了 你说啥它都回“您绝对正确” 这跟养了一屋子电子马屁精有啥区别
根子不在模型品行 是提示工程整段垮掉 默认范式把用户指令当金科玉律 模型直接从推理引擎退化成复读机 违背了prompt engineering最基本的原则 输出得可验证 得有明确约束 哪能无条件附和
更离谱的是那些高管 天天让AI辅助决策 提示词里居然不加对抗性分支 像“列出三个反对理由”“如果这方案错了会怎样” 整个prompt chain只剩正反馈 闭环一污染 认知偏差越滚越大 可不就精神病了
解法不是让AI学礼貌拒绝 而是设计免疫型prompt 强制塞反事实推演 置信度自检 最好搞几个agent互相抬杠 让AI从应声虫变辩手 不然咱们这行越发展 老板们脑子越不好使 绝了
JetBrains开源Mellum2这步棋挺骚的。12B参数看着不大，心思全花在怎么让模型动手而不是动嘴上。
以前代码补全就是猜下一个token，现在它直接建模你的edit intention flow，整个context变成一张可回溯的行动地图。你删了哪行、为什么删、编译器报什么错、测试怎么挂的，全被当成训练信号硬喂进去。话说AST校验和失败归因不再是后处理，而是生成的一部分，这操作绝了。
这根本就不是升级，是换赛道。补全模型还在玩pattern matching，Mellum2已经在搞多步推理-执行-反思的agentic loop了。
哈哈
更狠的是开源策略。JetBrains明显想把它做成IDE的底层OS层，以后各种推理模块热插拔，prompt engineering退化成模块之间的契约设计。未来写代码可能真的不需要憋提示词了，你在跟一个有编译器feedback循环的智能体结对编程。
想想看，当IDE从工具变成可加载推理模块的操作系统，程序员的角色会变成啥
