看了WAIC上曙光8000的报道，说点我的观察。展台没拿FP16峰值算力说事，反而现场跑实时4K视频超分，这个信号挺明确的——国产算力的叙事正在从"跑分"转向"能不能用"。
太！
说实话峰值算力这东西，硬件圈混久了都知道，纸面参数和实际吞吐经常差着好几倍，瓶颈全在互连和调度上。曙光这次把CPU-GPU异构集群的一致性内存访问做进去了，等于绕开CUDA指令层的依赖，从系统架构层面解决问题，这比堆卡难得多，也值钱得多。
配套的SDK走IR中间表示统一调度，PyTorch模型号称零修改迁移。这个要是真落地，意义不小——以前国产卡最大的痛点不是算力不够，是迁移成本劝退，改代码改到怀疑人生。生态这层窗户纸捅破了，后面才是规模的生意。
当然宣传归宣传，实际集群效率还得看真实负载的数据，等开源社区的实测吧，我蹲一个。
笑死 楼主这观察角度够刁钻的
以前看那些发布会 满屏都是TFLOPS堆叠 看得人脑仁疼 结果买回来一跑 发现驱动都装不明白 那感觉就像买了个顶配音响 结果只能听收音机杂音 憋屈
这次曙光这招确实有点意思 不跟你玩虚的数字游戏 直接上4K超分这种肉眼可见的场景 这才是给咱们这些实际干活的人看的嘛 毕竟谁天天盯着峰值算力看啊 还不是得看最后渲染出来的片子顺不顺滑 代码跑得通不通
那个IR中间表示统一调度要是真能做到PyTorch零修改迁移 那简直是功德无量 你是不知道之前为了适配某些国产卡 我得把模型结构拆了又装 装了又拆 头发都掉了一把 最后还得回去求爷爷告奶奶改底层算子 那种绝望感 没经历过的人真不懂
不过话说回来 宣传归宣传 这种“一致性内存访问”在大规模集群下的稳定性才是硬骨头 以前也不是没听说过类似的概念 最后都在高并发下露了馅 希望这次曙光能扛得住 别到时候又是PPT牛逼 实测拉胯
蹲一个开源社区的实测数据 要是真像说的那么丝滑 我第一个把手头的项目迁过去试试 毕竟能少改一行代码 就能多摸半小时鱼 何乐而不为呢 哈哈
零修改迁移？这饼画得比北方面食还大。真能无痛替换，那帮搞适配的兄弟不得当场失业？坐等打脸或者真香。
关于“零修改迁移”这个点，我觉得值得商榷，或者说需要更精确的定义。
在HPC和AI Infra领域，我们通常把兼容性分为几个层级：API级、算子级、以及图优化级。PyTorch作为一个动态图框架，其前端Python接口的确可以保持完全一致，但这只是冰山一角。真正的痛点往往隐藏在底层算子的实现差异上。比如CUDA生态中高度优化的cuDNN或TensorRT算子，在国产硬件上如果没有对应的高性能原生实现，即便代码能跑通（Run），性能（Performance）可能会暴跌，甚至出现数值精度上的微小偏差导致模型不收敛。严格来说
所谓的IR中间表示统一调度，听起来很像MLIR或者TVM的思路。这类技术确实能通过高层抽象屏蔽后端差异，但编译器后端的Codegen质量决定了最终效率。如果自动生成的Kernel没有经过针对特定硬件架构（如内存带宽、缓存层级）的手动调优，那“零修改”带来的可能只是“能跑”，而非“好用”。之前某些国产芯片宣传类似特性时，实测发现虽然无需改Python代码，但需要大量调整Batch Size或混合精度策略来适配硬件瓶颈，这本质上还是一种隐性迁移成本。
严格来说另外，一致性内存访问（UMA）在异构集群中是个双刃剑。它简化了编程模型，减少了数据拷贝开销，但在大规模分布式训练场景下，跨节点的一致性维护会带来显著的通信延迟。曙光8000如果是针对推理侧的实时视频处理，UMA优势明显；但如果是训练侧的大模型并行，还需要看其互联拓扑（如是否采用类似NVLink的高速互联）能否支撑高吞吐的数据交换。
蹲开源实测是对的，特别是看ResNet50或BERT这类标准模型在不同并发下的吞吐量曲线，比单看峰值FP16更有说服力。毕竟，literally，工程落地看的是短板效应。
有个事不知道该不该说，我前两天跟一个在张江搞AI创业的朋友喝酒，他吐苦水说最近为了适配某家国产卡，整个团队停摆了三周。服了不是算力不够…，是算子不支持，稍微冷门点的层就得自己手写CUDA kernel，还得反复调试精度对齐，头发都薅秃了。
所以看到你提“零修改迁移”，我第一反应是：真的假的？这也太理想主义了吧。绝了
不过你提到的IR中间表示统一调度这个点，确实有点意思。我之前听说华为那边也在搞类似的编译器前端优化，试图把上层框架和底层硬件解耦。如果曙光真能把这一套做稳，那确实是从根子上解决生态碎片化的问题。毕竟对于咱们这种应用层的人来说，谁在乎底下是A100还是910B，只要代码扔进去能跑、跑得还不慢，那就谢天谢地了。
怎么说
但我比较怀疑的是“一致性内存访问”在实际大规模集群里的表现。单节点或者小集群好说，一旦扩展到千卡级别，缓存一致性带来的通信开销会不会成为新的瓶颈？这块以前可是英伟达的护城河之一，靠的是NVLink和极其成熟的软件栈。
另外，WAIC上展示的那个4K超分demo，延迟数据有公布吗？绝了如果是离线处理那没意义，要是能实时低延迟，那确实有点东西。我蹲个后续，有没有哪位大佬手里有内测账号或者测试数据的？想看看真实负载下的吞吐量到底能不能打。别最后又是PPT造车，跑分无敌，实战拉胯。
一致性内存访问和绕开CUDA依赖是两码事。前者治的是CPU-GPU之间数据搬运的瓶颈，归到互连那一层；后者靠的是统一的IR调度层。把两个层面打包成"架构级解决"有点虚，蹲开源实测比啥都实在。
零修改迁移这饼我早年吃过，sounds good但落地差得远，蹲实测吧
等开源实测这个最实在，纸面参数吹上天不如真实负载跑出来的数据说话。零修改迁移那块真能落地，这波国产算力才算把窗户纸捅破了，冲！
等等，这个零修改迁移我怎么听说的版本不一样？前阵子听人提过一嘴，说某厂为了跑通demo偷偷改了后端算子，对外才敢喊零修改。蹲个实测再说。
你们知道吗，我反而对"不拿跑分说事"这点更上心。反过来琢磨就有意思了——要是自家峰值算力在场上能压一头，谁不乐意贴大字报？主动把话题从跑分挪到"能不能用"，我怎么觉得更像以退为进，说不定是数据没那么好看，干脆换个讲法。
不是不过那个PyTorch零修改迁移我存个疑。我听一个圈里朋友说，他们公司上半年试过某家国产卡的类似方案，模型是不用改，可一碰自定义算子就现原形，最后还是得啃文档。所以楼主说"等开源社区实测"我是真认同的，宣传话术和真实负载之间，向来隔着好几条街。
蹲一个真实负载数据出来再说吧。
迁移成本那块真说到心坎了。不过零修改迁移我保留点意见，自定义算子多半还是得手改，蹲社区实测吧。