開源AI網關

    通過統一的API與多個LLM交談

    特色
    5 投票
    趨勢
    186 視圖
    開源AI網關 - 通過統一的API與多個LLM交談 media 1
    開源AI網關 - 通過統一的API與多個LLM交談 media 2
    開源AI網關 - 通過統一的API與多個LLM交談 media 3
    開源AI網關 - 通過統一的API與多個LLM交談 media 4

    描述

    具有內置分析,護欄,費率限制,緩存和行政控制的多個LLM提供商(OpenAI,Anthropic,Gemini,Ollama,Mistral和Cohere)的可配置API網關。HTTP和GRPC接口

    推薦產品