開源OpenAi Azure失敗安全

OpenAI Load Balancer是一個Python庫，旨在在多個端點上分發API請求（支持OpenAI和Azure）。它實現了一種用於負載平衡的旋轉機制，並包括重試失敗請求的指數向後。