Kubeai: Private Open AI บน K8S
ให้บริการ LLM แบบส่วนตัวกับ API ที่เข้ากันได้กับ OpenAI API
เด่น
19 โหวต
คำอธิบาย
✅การแทนที่แบบดรอปอินสำหรับ OpenAI ด้วยความเข้ากันได้ของ API 🚀ให้บริการ OSS LLMS บนซีพียูหรือ GPUs ⚖การปรับความเร็วด้วยสเกลตั้งแต่ 0 🛠การพึ่งพาเป็นศูนย์ (ไม่มี iStio, Knative, ฯลฯ )