Paljon ristiriitaisia näkemyksiä gpt-oss:stä (jee, avoin lähdekoodi valokeilassa)! Tehostamme virallista @openai-demoa HF-päättelypalveluntarjoajien kanssa @FireworksAI_HQ, @CerebrasSystems, @GroqInc ja @togethercompute ansiosta, joten meillä on eturivin paikka siitä, mitä tapahtuu. Jotain muistettavaa: päättely uusista rajan avoimista malleista ei ole helppoa, varsinkin kun otetaan huomioon harmonian kaltainen uusi muoto ja gpt-oss:n saama kiinnostuksen määrä. Varhaiset piikit voivat tilapäisesti vaikuttaa laatuun, tarkkuuteen ja yleiseen "tunnelmaan", erityisesti vain 24 tuntia julkaisun jälkeen, kun palveluntarjoajat kilpailevat kelloa vastaan tuskin lainkaan unta! Muutamia neuvoja väärien mielipiteiden muodostamisen välttämiseksi: - Jos haluat saada tunnelman mahdollisimman nopeasti, käytä isännöityä asennusta, joka tarjoaa sinulle erilaisia palveluntarjoajia, kuten HF-päättelyn tarjoajia ( ja noudata virallisia standardioppaita ( - Jos voit, kokeile sitä omalla laitteistollasi HF-mallisivuilta (jotka ovat yleensä hyviä totuuden lähteitä muuntajien ja vLLM:n kanssa (muista, että sielläkin voi tehdä virheitä generoinnissa) - Jäähdytä ja ota X kuumaa otosta suolan kanssa. Vaikka ensimmäiset päivät voivat olla hämmentäviä, avoimen lähdekoodin voima on siinä, että huijaamista ei ole, joten paljastamme kaikki näiden mallien vahvuudet ja rajoitukset asteittain! Henkilökohtaisesti uskon, että tämä on @OpenAI-tiimin virstanpylväs, sellainen, jonka muistamme 10 vuoden kuluttua sen vaikutusten vuoksi. En malta odottaa, mitä tulevaisuus tuo tullessaan 🚀🚀🚀