Développement
Qwen-Image-2.1-Turbo obtient des options GGUF de 2,47 Go
Unsloth a publié des quantifications GGUF du modèle d’image 7B de Qwen dans sa version Turbo à huit étapes, avec des tailles de fichiers allant de 2,47 Go à 14,23 Go. Le modèle peut fonctionner sur du matériel grand public avec des outils compatibles, mais la Qwen Research License restreint l’utilisation commerciale. La version Q2_K fait 2,47 Go, tandis que la version F16 fait 14,23 Go ; Unsloth recommande l’option Q4_K_M de 4,2 Go. Unsloth Dynamic 2.0 maintient les couches critiques à une précision supérieure afin de préserver la précision à de faibles nombres de bits. Le modèle fonctionne avec Unsloth Desktop, ComfyUI-GGUF et stable-diffusion.cpp, et nécessite environ 11 Go de VRAM.
AlphaSignalLire l’article
Cela vous a-t-il été utile ?
