Vi presenterar: HuggingChat Omni 💫 Välj den bästa modellen för varje uppmaning automatiskt 🚀 - Automatiskt modellval för dina frågor - 115 modeller tillgängliga hos 15 leverantörer Tillgängligt nu för alla användare av Hugging Face. 100% öppen källkod.
Drivs av Hugging Face Inference Providers: få tillgång till hundratals AI-modeller med hjälp av endast inferensleverantörer i världsklass.
Omni använder ett policybaserat tillvägagångssätt för modellval (efter att ha experimenterat med olika metoder). Tack till Katanemo för deras lilla routingmodell: katanemo/Arch-Router-1.5B
Kommer härnäst: - MCP-stöd med webbsökning - Stöd för filer - Förbättringar av Omni-router - Anpassningsbara policyer (kanske)
64,19K