COO-LLM
COO pour nos grands fournisseurs de modèles linguistiques
En vedette
7 Votes
Description
Un proxy inverse hautes performances qui distribue intelligemment les requêtes entre plusieurs fournisseurs LLM (OpenAI, Google Gemini, Anthropic Claude) et clés API.Il offre une compatibilité transparente avec l'API OpenAI, des algorithmes avancés d'équilibrage de charge et une optimisation des coûts.