self -hostllm

计算GPU内存要求和最大同时的自托管LLM推理请求。支持美洲驼，Qwen，DeepSeek，Mistral等。有效地计划您的AI基础架构。