COO-LLM
COO para nossos grandes provedores de modelos de linguagem
Destaque
7 Votos
Descrição
Um proxy reverso de alto desempenho que distribui solicitações de forma inteligente entre vários provedores LLM (OpenAI, Google Gemini, Anthropic Claude) e chaves de API.Ele fornece compatibilidade perfeita com API OpenAI, algoritmos avançados de balanceamento de carga, otimização de custos