库斯科

    开源Swift软件包将在iOS&MACOS上本地运行LLMS

    精选
    152 投票
    库斯科媒体1
    库斯科媒体2
    库斯科媒体3

    描述

    Kuzco是将大型语言模型(LLM)直接集成到iOS,MACOS和MAC Catalyst应用程序中的Swift软件包。它建立在`Llama.cpp'上,提供可自定义的提示,灵活的调整以及异步/等待友好的API,可用于设备AI。

    推荐产品