Sviluppo
Qwen-Image-2.1-Turbo ottiene opzioni GGUF da 2,47 GB
Unsloth ha rilasciato quantizzazioni GGUF del modello di immagini 7B di Qwen nella versione Turbo a otto passaggi, con dimensioni dei file da 2,47 GB a 14,23 GB. Il modello può funzionare su hardware consumer con strumenti compatibili, ma la Qwen Research License limita l’uso commerciale. La versione Q2_K è di 2,47 GB, mentre F16 è di 14,23 GB; Unsloth consiglia l’opzione Q4_K_M da 4,2 GB. Unsloth Dynamic 2.0 mantiene i livelli critici a una precisione maggiore per aiutare a preservare l’accuratezza con larghezze di bit ridotte. Il modello funziona con Unsloth Desktop, ComfyUI-GGUF e stable-diffusion.cpp e richiede circa 11 GB di VRAM.
AlphaSignalLeggi la storia
Ti è stato utile?
