LLM 속도 검사

장치에서 바로 LLM의 속도를 측정하십시오!

LLM 속도 검사는 로컬 장치에서 큰 언어 모델 성능을 테스트합니다.속도, 대기 시간 및 처리량에 대한 실시간 벤치 마크를 얻으십시오.사용하기 쉽고 클라우드가 필요하지 않습니다.