Qwen 1,5 Moe
Zeer efficiënt mengsel-van-expert (MOE) -model van Alibaba
Uitgelaten
78 Stemmen
Beschrijving
Qwen1.5-MOE-A2.7B is een klein mengsel-van-expert (MOE) -model met slechts 2,7 miljard geactiveerde parameters, maar komt overeen met de prestaties van ultramoderne 7B-modellen zoals Mistral 7B en QWen1.5-7b.