Kuzco
Open-Source Swift-Paket zum Ausführen von LLMs lokal auf iOS & macOS
Empfohlen
152 Stimmen
Beschreibung
Kuzco ist ein Swift -Paket zum Integrieren von großsprachigen Modellen (LLMs) direkt in iOS-, macOS- und Mac -Katalysator -Apps.Es basiert auf `llama.cpp` und bietet anpassbare Eingabeaufforderungen, flexible Abstimmungen und asynchronen/wartungsfreundliche APIs für die KI für On-Device.