KUBEAI: من الذكاء الاصطناعي الخاص على K8S
خدمة LLMS من القطاع الخاص مع واجهة برمجة التطبيقات المتوافقة مع API Openai
مميز
19 الأصوات
رائج
120 المشاهدات
الوصف
✅ استبدال الانزلاق لـ Openai مع توافق API 🚀 خدمة OSS LLMS على وحدات المعالجة المركزية أو وحدات معالجة الرسومات ⚖ autoscaling مع المقياس من 0 🛠 تبعيات صفر (لا ISTIO ، Knative ، وما إلى ذلك) 🤖 تشغيل خوادم نموذج OSS (VLLM و OLLAMA) 🔋 chat ui incluction