Gemma 3 27B jsme dodali již v březnu a zůstává nejlepší volbou pro spotřebitelské GPU. Má solidní multimodální schopnosti, QAT pro odemknutí robustní kvantizace a je to velikost přívětivá pro vývojáře. A další máme v troubě 🧑 🍳
Kim BENNI
Kim BENNI14. 8. 01:55
Klíčové je, že mezi těmito 10 nejlepšími modely jsou Gemma a Mistral Small od Googlu jediné, které se vejdou/poběží na spotřebitelském hardwaru. Stačí jedna RTX 4090. Všechny ostatní modely mají parametry >100b a vyžadují velmi drahý profesionální hardware. To podle mého názoru mění perspektivu mnohem více než jen hrubé skóre.
85,89K