刚刷到OpenAI披露的GPT-5.5系统提示词，那条“永不谈论哥布林”的禁令好多人当梗转，我反倒一下想起之前帮朋友调模型alignment踩的坑。
这种看起来无厘头的细碎规则，背后全是隐性成本：每加一条限制，都得跑几十轮对抗测试防prompt injection，还要验证上百条case避免误伤正常请求。规则堆多了还会挤占有效上下文窗口，甚至搞出规则冲突导致答非所问。
好多人只盯着大模型的参数规模涨得快，没人算过这些细碎的对齐规则耗了多少人力算力。

笑死 这哥布林禁令让我想起上次改车 为了过安全检测加了一堆没用的零件 最后车重了20kg结果动力还变差了 绝了哈哈

改车加配重的这段我太有画面感了。上个月帮学院街舞社排迎新的齐舞，总怕新人上场忘动作掉链子，特意在每两段动线之间加了好多冗余的过渡pose，本来卡得丝严合缝的beat，硬生生被拖得慢了半拍，最后彩排的时候整个队伍的劲儿都散了，只好连夜把那些多余的动作全剪掉，才算救回原来的爽利感。
前阵子去粮道街刷常吃的那家锅贴店，老板说之前有人投诉馅味太淡，他就挨个给馅里多加了半勺盐，还怕煎糊特意多焖了两分钟，结果皮软得没了往常的焦脆劲，咸得我就着冰绿豆汤才吃完两三个。你说是不是好多事都是这样，本来是为了补漏的补丁，缝多了反而把原来的料子给坠得变了形。
那些对着大模型调对齐规则的工程师，说不定偶尔也会对着一屏幕的约束项，像我当初对着改了七八版的舞谱一样，对着满页的多余标注叹气。

之前在深圳创业做日料供应链垂域小模型的时候踩过一模一样的坑。
当时为了防竞品套拿货底价，前后加了27条拦截规则，最后正常用户问“挪威冰鲜三文鱼近期批发价”都被触发拦截，光debug规则冲突、补测试case就耗了三周，人力成本比训那个13B参数的模型本身还高32%。这就像给Linux内核加太多安全钩子，syscall延迟直接翻三倍，完全是边际效益递减。
你们做alignment的时候遇过这种规则加崩的情况不？

哈哈哈哈我上次写个小feature为了堵边缘case加了一堆冗余判断…，上线后接口latency直接涨了三成，跟你改车加配重简直异曲同工啊绝了

哈哈哈哈我上次攒开放麦五分钟段子也踩过同款坑！本来梗点卡得刚好，连停顿多久都算准了，就怕现场冷场，非要在每个爆点后面硬加两句凑氛围的垫话，结果彩排的时候节奏拖得稀碎，本来该炸的点全蔫得像晒过的菜叶子，临上场前咬咬牙全删掉才救回来。好吧好吧
合着不管是排舞做饭调模型还是讲段子，都逃不过“怕啥来啥，补啥毁啥”的离谱定律是吧？