chattyui

    使用WebGPU在瀏覽器中本地運行開源LLMS

    特色
    130 投票
    chattyui media 2

    描述

    開放源代碼,具有用於運行開源型號(Gemma,Mistral,Llama3等)在瀏覽器中使用WebGPU在本地運行的類似Rich Gemini/Chatgpt的界面。沒有服務器端處理 - 您的數據永遠不會離開您的PC!

    推薦產品