Kuzco是将大型语言模型(LLM)直接集成到iOS,MACOS和MAC Catalyst应用程序中的Swift软件包。它建立在`Llama.cpp'上,提供可自定义的提示,灵活的调整以及异步/等待友好的API,可用于设备AI。