合成

合成是一个用于LLM推理的高性能框架，利用并行处理，由生锈的效率和高级缓存。通过实时指标和仪表板优化成本，毫不费力地扩大规模，并获得完整的可观察性。