Selfhostllm
Kirakan memori GPU yang anda perlukan untuk kesimpulan LLM
Pilihan
110 Undi
Penerangan
Kirakan keperluan memori GPU dan permintaan serentak maksimum untuk kesimpulan LLM yang dihoskan sendiri.Sokongan untuk Llama, Qwen, Deepseek, Mistral dan banyak lagi.Rancang infrastruktur AI anda dengan cekap.