Abbiamo spedito Gemma 3 27B a marzo, ed è ancora una delle scelte migliori per le GPU consumer. Ha solide capacità multimodali, QAT per sbloccare una quantizzazione robusta, ed è di dimensioni adatte agli sviluppatori. E abbiamo altro in arrivo 🧑‍🍳
Kim BENNI
Kim BENNI14 ago, 01:55
The key is that among those top 10 models, Google's Gemma and Mistral Small are the only ones who can fit/run on consumer hardware. A single RTX 4090 is enough. All the other models have >100b parameters and requires very expensive professional hardware. This changes the perspective a lot beyond raw score in my opinion.
87,04K