Açık Kaynak AI Ağ Geçidi
Birleşik bir API aracılığıyla birden fazla LLM ile konuşun
Öne Çıkan
5 Oylar
Trend
186 Görüntülemeler
Açıklama
Yerleşik analizler, korkuluklar, hız sınırlama, önbellekleme ve idari kontroller ile birden fazla LLM sağlayıcısı (Openai, Antropic, İkizler, Ollama, Mistral ve Cohere) için yapılandırılabilir bir API ağ geçidi.HTTP ve GRPC arayüzleri