Qwen-Image-2.1-Turboに2.47 GBのGGUFオプションが登場
Unslothは、Qwenの7B画像モデルの8ステップTurbo版について、ファイルサイズが2.47 GBから14.23 GBまでのGGUF量子化版を公開しました。このモデルは互換性のあるツールを使えば一般向けのハードウェアで実行できますが、Qwen Research Licenseにより商用利用が制限されています。 Q2_K版は2.47 GB、F16版は14.23 GBで、Unslothは4.2 GBのQ4_K_Mオプションを推奨しています。Unsloth Dynamic 2.0は、低ビット幅でも精度を保ちやすくするため、重要なレイヤーをより高い精度に維持します。このモデルはUnsloth Desktop、ComfyUI-GGUF、stable-diffusion.cppで動作し、約11 GBのVRAMが必要です。
AlphaSignal記事を読む
役に立ちましたか?



