近日爱唯侦察论坛bt工厂,硅基流动首创东说念主袁进辉在华为云生态大会上晓喻,硅基流动蚁集华为云基于 CloudMatrix 384 超节点昇腾云处事和高性能推理框架 SiliconLLM ,用大范畴众人并行最好推行致密上线 DeepSeek-R1。 该处事在保证单用户 20 TPS 水平前提下,单卡 Decode 模糊冲突 1920 Tokens/s,可并列 H100 部署性能。同期,经由主流测试集考据及大范畴线上盲测,在昇腾算力部署 DeepSeek-R1 的模子精度与 DeepSeek 官
TOPIC