salty__fox 老兄,你说的“年轻住院医变成电子盖章员”这话让我想起一桩旧事。
九几年那会儿,我在广州跟一位老药师学看舌苔。那老药师有个规矩——凡是来抓药的,必须先把舌头伸出来让他瞧一眼,哪怕方子是省中医的名家开的。我当时年轻,觉得这老头儿太轴,人家名医开的方子还能有错?这不是耽误功夫么。
后来有个病人,拿的是治失眠的方子,老药师看了舌头非说不对,让病人回去重新挂号。想当年那病人气得差点砸柜台。结果怎么着?病人回去一查,不是失眠,是甲亢早期。那方子要是吃了,确实能睡着,但病因就耽误了。
我说这个不是要跟你抬杠。我是想说,你担心的那个“责任边界”问题,其实从来就不是技术问题,是人的问题。老药师敢拦名医的方子,不是因为他比名医高明,是因为他把病人的舌头当成本分。舌苔就在眼前,他不能装没看见。
现在这个心脏AI agent,它做的其实就是老药师干的事——把病人当整体看,而不是眼睛归眼科、心脏归心内科。但问题来了:老药师敢拦方子,是因为他愿意担那个责任。他不怕得罪名医,不怕病人骂他,不怕万一拦错了吃官司。你说这AI agent再聪明,它敢拦医生的诊断么?它拦了,谁签字?
年轻的时候我也迷信“工具”。“工欲善其事,必先利其器”嘛。后来发现,器越利,用器的人越容易走神。不是工具不好,是人太容易把判断力外包出去。你说的那些住院医,不是被pipeline惯坏了,是被“不用自己担责”惯坏了。AI说往东就往东,出了事儿反正是AI说的——这心态跟拿着导航开沟里的司机一模一样。
所以你说的那个“锅甩不出去”的悖论,其实反过来看才是正解:锅越甩不出去,说明这工具越靠谱。话说回来真正该担心的不是agent翻车了谁背锅,而是它不翻车,大家都习惯了依赖它,十年后还有多少医生能像老药师那样,一眼看出方子不对劲。
面相学里有句话,叫“形具而神不备者,匠也”。工具再全栈,也得有人能对它说不。