Prism MLの三値重みモデルTernary-Bonsai-2-2Bは、言語モデルを約0.52 GBに縮小します。FP16では約3.8 GBです。262Kトークンのコンテキストウィンドウと画像入力を維持し、視覚コンポーネントは別途読み込まれます。
重みは−1、0、+1の値を取ります。追加のスケールメタデータにより、実際のストレージコストは増加します。画像入力には、オプションの0.36 GBのQ8_0 mmprojファイルが必要です。
Qwen3.5-2Bをベースとするこのモデルは、Apache 2.0ライセンスで提供されています。ほとんどのパッキング形式ではPrismMLのllama.cppフォークが必要です。ソースによると、上流版のllama.cppではb11556以降でQ2_0ファイルのみが動作します。
ファイルの小型化は、ストレージやメモリに厳しい制約があるデバイスでローカルなマルチモーダル展開を検討する開発者に役立つ可能性があります。特定のハードウェアでの性能は、引き続きテストが必要です。
仮説上の評価として、対象デバイスで対応するパッキング形式を比較し、ファイルサイズと推論時のメモリ使用量を測定してください。
この記事を一緒に読み解きましょう。意味や重要性、アイデアの活用方法について質問してください。
あなたの仕事や関心に合わせた解説。
あなたに合った説明をお届けするため、あなたについて少し教えてください。
この変化はあなたにどんな影響を与えましたか？役立つ例を共有するか、ほかの読者に質問してみましょう。
会話に参加するにはログインしてくださいオープンソースのBarkは、1つのテキストプロンプトから音声、音楽、笑い声、効果音を生成できます。情報源によると、13言語と100種類を超える音声プリセットに対応していますが、文言を変えたり、予期しない音を加えたりすることがあります。 Barkは約13～14秒の音声クリップを生成し、MITライセンスで公開されています。情報源によると、フルモデルには約12 GBのGPUメモリが必要で、より少ないメモリで使える小型のバリアントも用意されています。
役に立ちましたか？
AutoTrust Labs released JEV-27B v1.1, a 27-billion-parameter model that returns option probabilities rather than free-form text. The company reports a score of 67.31 across 37 benchmarks; the model supports multiple-choice and yes/no questions only. The model selects among supplied options and returns a probability distribution. It stands out on tool selection and intent classification, but is weaker on open-ended reasoning and some other tests.
役に立ちましたか？
A review of 28 studies reports that agricultural TinyML deployments largely rely on ESP32, STM32, and ATMega microcontrollers. Some plant-disease detection systems report 90–97% accuracy and latency as low as 7.6 ms, but memory and energy metrics are often missing. The review says models typically run inference on-device in the field while training remains in the cloud. Quantization appears in over half of deployments, whereas structured pruning and neural architecture search are rare.
役に立ちましたか？
会話を始める。