🚀 SGLang fördjupad recension av NVIDIA DGX Spark är LIVE! Tack vare @NVIDIA:s early access-program gör SGLang sitt första framträdande någonsin i en konsumentprodukt, den helt nya DGX Spark. DGX Sparks 128 GB enhetligt minne och Blackwell-arkitektur sätter en ny standard för lokala AI-prototyper och edge computing. Vi är glada över att kunna erbjuda dessa banbrytande prestandainsikter och programvarusupport till utvecklarcommunityn. Vår recension dyker ner i hur man effektivt distribuerar och accelererar stora modeller som Llama 3.1, 70B, GPT-OSS med hjälp av SGLangs EAGLE3 spekulativa avkodning och @Ollama på detta vackra stycke teknik. 👇 Unboxing-video och teknikblogg i tråden #SGLang #NVIDIA #SparkSomethingBig #Blackwell #DGXSpark #AIInference #LLMServing