يبلغ حجم إصدار Q2_K مقدار 2.47 GB، بينما يبلغ حجم F16 مقدار 14.23 GB؛ وتوصي Unsloth بخيار Q4_K_M ذي الحجم 4.2 GB. يُبقي Unsloth Dynamic 2.0 الطبقات المهمة عند دقة أعلى للمساعدة في الحفاظ على الدقة عند عروض بت منخفضة. يعمل النموذج مع Unsloth Desktop وComfyUI-GGUF وstable-diffusion.cpp، ويتطلب نحو 11 GB من VRAM.
يستخدم Turbo ثماني خطوات لإزالة الضوضاء بدلاً من الخطوات الأربعين المعتادة في النموذج الأساسي؛ ويذكر المصدر أن هذا الجزء من توليد الصور أسرع بنحو خمسة أضعاف. تحقّق من قيود الترخيص المتعلقة بالاستخدام في الإنتاج التجاري؛ وتقدم Alibaba Cloud واجهة Turbo API مدفوعة.
لماذا يهم
تتيح خيارات التكميم تشغيل نموذج صور 7B على وحدات معالجة رسومات استهلاكية بذاكرة أقل، مع منح المستخدمين إمكانية المفاضلة بين حجم الملف ودقة المخرجات.
شيء لتجربته
افتراضياً، إذا كان عتادك مناسباً، اختبر الموجّه نفسه باستخدام Q4_K_M وإصدار ذي دقة أعلى، ثم قارن استخدام الذاكرة والمخرجات.
ابدأ المحادثة.