热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币，引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲
Peter Gostev
Nvidia 的 DGX Spark 今天开始销售，@lmsysorg 对其他系统进行了出色的基准测试。
简而言之，对于较小的模型，它是一个非常可用的系统，性能更接近于苹果的设备（例如 Mac Mini M4 Pro），但其价格为 4000 美元，而 Mac Mini M4 Pro 的价格为 1400 美元。它的性能也不如更专业的 GPU，如 RTX 5090。
值得阅读和观看原帖中的完整评测。
10月14日 08:16
🚀 SGLang 对 NVIDIA DGX Spark 的深入评测现已上线！
感谢 @NVIDIA 的早期访问计划，SGLang 首次出现在消费产品中，全新的 DGX Spark。
DGX Spark 的 128GB 统一内存和 Blackwell 架构为本地 AI 原型开发和边缘计算设定了新的标准。我们很高兴能将这些尖端性能洞察和软件支持带给开发者社区。
我们的评测深入探讨了如何高效部署和加速大型模型，如 Llama 3.1 70B、GPT-OSS，使用 SGLang 的 EAGLE3 推测解码和 @Ollama 在这件美丽的工程作品上。
👇 开箱视频和技术博客在帖子中
#SGLang #NVIDIA #SparkSomethingBig #Blackwell #DGXSpark #AIInference #LLMServing
251.35K
热门
排行
收藏