很多团队还在H100上跑推理,看着小时价觉得够用了。其实算token成本时,新一代Blackwell已经悄悄拉开差距。不是单纯换卡,而是硬件原生FP4吞吐叠加推理软件栈的持续迭代,让同样预算能吐出更多token。云端弹性租赁正好适合中小团队先试水,不用一次性砸钱买整机。先看硬件层面的变化。B200这类Blackwell GPU带来192GB级别显存和更...
0 条留言