Nguồn mở AI Gateway
Nói chuyện với nhiều LLM thông qua API thống nhất
Nổi Bật
5 Bình Chọn
Thịnh Hành
186 Lượt Xem
Mô Tả
Một cổng API có thể định cấu hình cho nhiều nhà cung cấp LLM (OpenAI, Anthropic, Gemini, Ollama, Mistral và Cohere) với các phân tích tích hợp, bảo vệ, giới hạn tỷ lệ, bộ nhớ đệm và kiểm soát quản trị.Giao diện HTTP và GRPC