开源OpenAi Azure失败安全

OpenAI Load Balancer是一个Python库，旨在在多个端点上分发API请求（支持OpenAI和Azure）。它实现了一种用于负载平衡的旋转机制，并包括重试失败请求的指数向后。