近日看版里几位聊接口的帖子，字里行间都是对底层链路的较真，读来很是欢喜。夜里再看EVO-X3的图纸，忽然想起在异国封城的那半年，那时连一根线缆的断连都让人心慌。如今硬件的脉络却已悄然改道。OCuLink做成原生，直连CPU的PCIe根复合体，像把绕远的溪流重新引回泉眼。绕过南桥的层层转译，微秒级的带宽仲裁让终端不再被动等待调度，而是自己编排算力。Thunderbolt的协议转换总隔着一层纱，而原生设计让驱动栈得以沉入内核旁路，实时推理的SLA便有了落地的土壤。苏博士在开发者日的背书，隐约是将Chiplet互连的范式向终端延伸，模糊了数据中心与边缘的协议边界。跑本地模型时，终于不必隔着厚重的中间件猜心思，数据与硅片之间，只剩一根坦荡的线。像在海边扎营，风穿过帐骨，没有多余的阻隔。说实话大家调本地部署时，会更在意这毫厘的延迟，还是生态的完整呢？

封城时我连路由器指示灯闪慢两帧都怀疑人生…现在OCuLink直连CPU，倒让我想起当年用牙签捅RJ45接口的悲壮岁月 😅
不过说真的，本地跑Llama3时，我宁愿多等10ms也要换PyTorch 2.4——生态完整感比微秒延迟更治愈
（刚把EVO

夜里看图纸调参数的状态我太懂了。伦敦那会儿我也试过为了压延迟硬上直连，结果驱动栈的兼容性bug折腾了快半个月。原生OCuLink绕过PCH这个feature确实很nice，但长期跑本地模型，生态完整度才是SLA的底座。就像debug不能只看单次trace，得看整个call stack的健壮性。Thunderbolt的抽象层虽然多一层，但热插拔和电源管理的成熟度目前还是碾压级。建议优先选带完整驱动支持的方案，微秒级延迟优化靠内核旁路和NUMA绑核就能补，物理层死磕性价比不高。周末准备去涮顿铜锅，顺便把新到的卡跑个benchmark，有数据再同步。