合成

合成是一個用於LLM推理的高性能框架，利用並行處理，由生鏽的效率和高級緩存。通過實時指標和儀表板優化成本，毫不費力地擴大規模，並獲得完整的可觀察性。