DGX Spark Nvidia mulai dijual hari ini dan @lmsysorg telah melakukan sedikit benchmarking yang brilian vs sistem lain.
Singkatnya, ini adalah sistem yang sangat dapat digunakan untuk model yang lebih kecil dan kinerjanya lebih dekat dengan perangkat Apple (misalnya Mac Mini M4 Pro), tetapi harganya $4.000 vs $1.400 untuk Mac Mini M4 Pro. Ini juga tidak sekuat GPU yang lebih berdedikasi seperti RTX 5090.
Layak dibaca & ditonton ulasan lengkapnya di posting aslinya.
🚀 SGLang Ulasan Mendalam tentang NVIDIA DGX Spark LIVE!
Berkat program akses awal @NVIDIA, SGLang membuat penampilan pertamanya dalam produk konsumen, DGX Spark baru.
Memori Terpadu 128GB DGX Spark dan arsitektur Blackwell menetapkan standar baru untuk pembuatan prototipe AI lokal dan komputasi tepi. Kami sangat senang menghadirkan wawasan performa mutakhir dan dukungan perangkat lunak ini kepada komunitas pengembang.
Ulasan kami menyelami cara menyebarkan dan mempercepat model besar secara efisien seperti Llama 3.1 70B, GPT-OSS menggunakan decoding dan @Ollama spekulatif EAGLE3 SGLang pada rekayasa yang indah ini.
👇 Video unboxing dan blog teknologi di utas
#SGLang #NVIDIA #SparkSomethingBig #Blackwell #DGXSpark #AIInference #LLMServing
Biasanya biayanya ~$60 juta untuk membuat film Hollywood, dengan Sora 2 Pro HD akan dikenakan biaya $2.700 untuk fitur 90 menit (atau $540 untuk standar Sora 2)
Bahkan jika Anda mengasumsikan tingkat keberhasilan klip 1%, biayanya masih hanya $270k (atau $54k).
Sora-2 terasa seperti yang paling dekat untuk menjadi cukup baik untuk membuat klip, iklan, dan bahkan mungkin film (dengan sedikit usaha).
Ini juga cukup kompetitif di pasar, saya tahu itu sedang diuji di @arena (lihat server Discord mereka) jadi akan bagus untuk melihat skornya, tetapi saya sudah dapat melihat perbedaan besar dengan model lain, terutama dalam kemampuannya untuk menghasilkan narasi yang koheren dan seringkali lucu.