Los pesos toman valores de −1, 0 o +1; los metadatos de escala añaden almacenamiento real. La entrada de imágenes requiere un archivo mmproj Q8_0 opcional de 0,36 GB.
Derivado de Qwen3.5-2B, el modelo tiene licencia Apache 2.0. La mayoría de los empaquetados requieren la bifurcación de llama.cpp de PrismML; la fuente indica que solo el archivo Q2_0 funciona con llama.cpp upstream b11556 o posterior.
Por qué importa
El archivo más pequeño puede ayudar a quienes exploran la ejecución local de modelos multimodales en dispositivos con poco almacenamiento y memoria; el rendimiento debe probarse en cada equipo.
Una idea para probar
Como evaluación hipotética, compare los empaquetados compatibles en su dispositivo objetivo y mida el tamaño del archivo y la memoria durante la inferencia.
Inicia la conversación.