Open Source AI Gateway
Sprechen Sie mit mehreren LLMs durch eine einheitliche API
Empfohlen
5 Stimmen
Trending
186 Aufrufe
Beschreibung
Ein konfigurierbares API-Gateway für mehrere LLM-Anbieter (OpenAI, Anthropic, Gemini, Ollama, Mistral und Cohere) mit integrierten Analysen, Leitplanken, Ratenbegrenzung, Caching und administrativen Kontrollen.HTTP- und GRPC -Schnittstellen