self -hostllm

計算GPU內存要求和最大同時的自託管LLM推理請求。支持美洲駝，Qwen，DeepSeek，Mistral等。有效地計劃您的AI基礎架構。