chattyui

    使用WebGPU在浏览器中本地运行开源LLMS

    特色
    130 投票
    chattyui media 2

    描述

    开放源代码,具有用于运行开源型号(Gemma,Mistral,Llama3等)在浏览器中使用WebGPU在本地运行的类似Rich Gemini/Chatgpt的界面。没有服务器端处理 - 您的数据永远不会离开您的PC!

    推荐产品