Qwen 1.5 Moe

QWEN1.5-MOE-A2.7B هو نموذج صغير من الخبراء (MOE) مع 2.7 مليار فقط معلمة نشطة فقط يتوافق مع أداء نماذج 7B الحديثة مثل MISTRAL 7B و QWEN1.5-7B.