Sono sorpreso che Google non l'abbia fatto per primo, come ha fatto con Kubernetes e Android. Google sa (o sapeva) che l'unico modo per combattere da dietro è andare open. Quali sono le probabilità di recuperare terreno con un modello chiuso? <2%.

Siamo entusiasti di dare il benvenuto a @erikyw26 in Benchmark come ricercatore in residenza prima di iniziare il suo dottorato a Oxford. Siamo entusiasti che Erik ci aiuti e aiuti il nostro portafoglio più ampio a connettersi con l'avanguardia della ricerca sull'AI!

All'inizio di questa settimana, @NVIDIA ha condiviso le sue prestazioni sul modello gpt-oss-120B di @OpenAI in esecuzione su DGX B200 (8 chip Blackwell a due die). Hanno chiesto ad @ArtificialAnlys di fare un'analisi speciale per loro. Hanno mostrato prestazioni di 900 token al secondo per un utente, e sono scese a 580 token al secondo per 10 utenti. Ho incollato il loro link nei commenti qui sotto. Abbiamo chiesto ad Artificial Analysis di eseguire la stessa configurazione per noi. Il risultato è di ~2700 token/s per 1 e lo stesso per 10 utenti. Non solo @CerebrasSystems Inference è il più veloce, ma manteniamo le prestazioni mentre aumenti il tuo carico di lavoro. Cerebras Inference è in piena produzione oggi, servendo miliardi di token GPT 120B a settimana su @OpenRouterAI, @huggingface e il Cerebras Cloud.