Qwen-Image-2.1-Turbo को 2.47 GB के GGUF विकल्प मिले
Unsloth ने Qwen के 7B इमेज मॉडल के आठ-चरण वाले Turbo संस्करण के लिए GGUF क्वांटाइज़ेशन जारी किए हैं, जिनकी फ़ाइल का आकार 2.47 GB से 14.23 GB तक है। यह मॉडल संगत टूल के साथ उपभोक्ता हार्डवेयर पर चल सकता है, लेकिन Qwen Research License व्यावसायिक उपयोग पर प्रतिबंध लगाता है। Q2_K बिल्ड 2.47 GB का है, जबकि F16 14.23 GB का है; Unsloth 4.2 GB वाले Q4_K_M विकल्प की अनुशंसा करता है। Unsloth Dynamic 2.0 कम बिट चौड़ाई पर सटीकता बनाए रखने में मदद के लिए महत्वपूर्ण लेयर्स को अधिक सटीकता पर रखता है। यह मॉडल Unsloth Desktop, ComfyUI-GGUF और stable-diffusion.cpp के साथ काम करता है, और इसके लिए लगभग 11 GB VRAM चाहिए।
क्या यह आपके लिए उपयोगी था?



