Kuzco
IOS और MacOS पर स्थानीय रूप से LLMS चलाने के लिए ओपन-सोर्स स्विफ्ट पैकेज
विशेष रुप से प्रदर्शित
152 वोट
विवरण
कुज़्को बड़े भाषा मॉडल (LLMS) को सीधे iOS, MACOS और MAC उत्प्रेरक ऐप में एकीकृत करने के लिए एक स्विफ्ट पैकेज है।`Llama.cpp` पर निर्मित, यह ऑन-डिवाइस एआई के लिए अनुकूलन योग्य संकेत, लचीला ट्यूनिंग, और ASYNC/ASYNC/प्रतीक्षा-अनुकूल API प्रदान करता है।