Г -н
Hyperfast LLM работает на индивидуальных графических процессорах
Рекомендуемые
213 Голоса
Описание
Двигатель вывода LPU, с LPU, стоящим для языковой обработки ™, представляет собой новый тип сквозной системы обработки, которая обеспечивает самый быстрый вывод на уровне ~ 500 токенов/второй.