مفتوح المصدر Openai Azure فشل آمن
Openai Azure Load Balancer وفشل آمن لطلبات GPT
مميز
2 الأصوات
رائج
120 المشاهدات



الوصف
The Openai Load Balancer عبارة عن مكتبة Python مصممة لتوزيع طلبات API عبر نقاط نهاية متعددة (تدعم Openai و Azure).وهو ينفذ آلية روبن مستديرة لموازنة التحميل وتتضمن تراجعًا أسيًا لإعادة محاولة الطلبات الفاشلة.