开源AI网关

    通过统一的API与多个LLM交谈

    精选
    5 投票
    热门
    186 浏览量
    开源AI网关 - 通过统一的API与多个LLM交谈媒体1
    开源AI网关 - 通过统一的API与多个LLM交谈媒体2
    开源AI网关 - 通过统一的API与多个LLM交谈媒体3
    开源AI网关 - 通过统一的API与多个LLM交谈媒体4

    描述

    具有内置分析,护栏,费率限制,缓存和行政控制的多个LLM提供商(OpenAI,Anthropic,Gemini,Ollama,Mistral和Cohere)的可配置API网关。HTTP和GRPC接口

    推荐产品