वेट −1, 0 या +1 के मान लेते हैं; अतिरिक्त स्केल मेटाडेटा वास्तविक स्टोरेज लागत बढ़ाता है। इमेज इनपुट के लिए वैकल्पिक 0.36 GB की Q8_0 mmproj फ़ाइल चाहिए।
Qwen3.5-2B से व्युत्पन्न यह मॉडल Apache 2.0 लाइसेंस के तहत उपलब्ध है। अधिकांश पैकिंग के लिए PrismML का llama.cpp फ़ोर्क आवश्यक है; स्रोत कहता है कि अपस्ट्रीम llama.cpp के साथ केवल Q2_0 फ़ाइल b11556 और उसके बाद के संस्करणों में काम करती है।
यह क्यों मायने रखता है
छोटी फ़ाइल उन डेवलपरों के लिए उपयोगी हो सकती है जो कम स्टोरेज और मेमोरी क्षमता वाले उपकरणों पर स्थानीय मल्टीमॉडल परिनियोजन की पड़ताल कर रहे हैं; विशिष्ट हार्डवेयर पर प्रदर्शन का परीक्षण अभी भी आवश्यक है।
मार्गदर्शिकाएँ
आजमाने के लिए कुछ
एक काल्पनिक मूल्यांकन के रूप में, अपने लक्षित उपकरण पर समर्थित पैकिंग की तुलना करें और फ़ाइल आकार तथा अनुमान-समय मेमोरी उपयोग मापें।
बातचीत शुरू करें।