Q2_K版は2.47 GB、F16版は14.23 GBで、Unslothは4.2 GBのQ4_K_Mオプションを推奨しています。Unsloth Dynamic 2.0は、低ビット幅でも精度を保ちやすくするため、重要なレイヤーをより高い精度に維持します。このモデルはUnsloth Desktop、ComfyUI-GGUF、stable-diffusion.cppで動作し、約11 GBのVRAMが必要です。
Turboは、ベースモデルで一般的な40ステップではなく、8ステップでノイズ除去を行います。情報源によると、画像生成のこの部分は約5倍高速です。商用制作での利用に関するライセンス制限を確認してください。Alibaba Cloudは有料のTurbo APIを提供しています。
重要な理由
量子化の選択肢により、メモリ使用量を抑えて一般向けGPUで7B画像モデルを実行でき、ファイルサイズと出力の忠実度のどちらを重視するかを選べます。
試してみること
仮にハードウェアが適している場合は、同じプロンプトをQ4_K_M版とより高精度の版で試し、メモリ使用量と出力を比較してください。




会話を始める。