一台跑不动就上16台！英伟达DGX Spark集群成功跑通Kimi K3：生成速度达38 t/s

📋总体概括

英伟达开发者论坛用户ciprianveg近日用16台DGX Spark组成集群，成功运行完整的Kimi-K3大模型，在16000深度下生成速度达38 t/s。DGX Spark本是面向本地AI开发推理的桌面设备，单台算力与显存难以承载Qwen、DeepSeek等千亿参数模型。该项目通过增加节点实现多机并行，用一台MikroTik CRS804-4DDQ核心交换机搭配4根400G转4×100G分支线缆完成互联，基于Inferact/Kimi-K3-DSpark环境以分布式方式首次启动模型，验证了桌面设备堆叠跑大模型的可行性。