Apresentando: HuggingChat Omni 💫 Selecione automaticamente o melhor modelo para cada prompt 🚀 - Seleção automática de modelo para suas consultas - 115 modelos disponíveis em 15 fornecedores Disponível agora para todos os usuários do Hugging Face. 100% código aberto.
Impulsionado pelos Fornecedores de Inferência Hugging Face: aceda a centenas de modelos de IA utilizando apenas fornecedores de inferência de classe mundial.
Omni utiliza uma abordagem baseada em políticas para a seleção de modelos (após experimentar diferentes métodos). Créditos a Katanemo pelo seu pequeno modelo de roteamento: katanemo/Arch-Router-1.5B
Próximos passos: - Suporte MCP com pesquisa na web - Suporte a arquivos - Melhorias no roteador Omni - Políticas personalizáveis (talvez)
64,14K