Passerelle AI open source
Parlez à plusieurs LLM via une API unifiée
En vedette
5 Votes
Tendance
186 Vues
Description
Une passerelle API configurable pour plusieurs fournisseurs de LLM (Openai, anthropic, Gemini, Olllama, Mistral et Cohere) avec des analyses intégrées, des garde-corps, une limitation des taux, une mise en cache et des contrôles administratifs.Interfaces HTTP et GRPC