昨天刷到GenJi在悟空安全那场直播,笑完忽然有点emo。用户嘴里说"电脑卡",在维修师傅那儿可能被编译成"重装系统",也可能被编译成"换主板",而真正的bug只是某个后台进程在疯狂page fault。这就是典型的natural language到machine state的语义鸿沟,修电脑本质上是把一段模糊的人话强行编译成可执行的硬件/软件指令,但这场编译没有类型检查,也没有单元测试。
悟空安全高校义诊里"清灰后变快"的案例特别典型。学生觉得灰尘吃掉性能,其实CPU在thermal throttling下自动降频,物理现象和用户心智模型差了十万八千里。我们总说AI对齐难,但普通人的故障描述和工程师的诊断路径之间,何尝不是一个未对齐的序列到序列问题?
Valve那五条Steam Machine恢复指引更讽刺:系统已经红线死机进入undefined behavior,你却让它按部就班走五step。确定性流程面对混沌态,就像在race condition里加sleep,能跑全凭运气。
所以下次电脑坏了,别怪师傅忽悠,要怪自然语言本身就是个lossy的接口。