Anthropicは、どのモデルが出力を生成したかを暗号学的に検証することを目的としたオープンソースシステム、FlashProveを発表しました。研究は継続中で、Anthropicや他の研究所で導入する計画はありません。
FlashProveは、研究所が公開したモデルのフィンガープリントと出力を照合し、モデルの識別情報を示す証拠を提供するよう設計されています。研究者によると、フィンガープリントからモデルの重みが明らかになることはなく、システムはローカル端末で検証できるほど軽量になるよう設計されています。
Anthropicの研究者は、一部のコンポーネントについて、技術仕様書と動作するコードをオープンソースライセンスの下で公開しました。作業はまだ完了しておらず、他の人々が検討し、改善できるよう、中間段階の成果として共有されました。
さらに開発が進めば、この方法は、サービスが主張していたモデルを実際に使ったのか、それともより安価なモデルや別のモデルを使ったのかを確認する助けになる可能性があります。
仮定上の評価として、モデル確認ツールに記録してほしい出力、モデルのバージョン、検証証拠を列挙してください。
この記事を一緒に読み解きましょう。意味や重要性、アイデアの活用方法について質問してください。
あなたの仕事や関心に合わせた解説。
あなたに合った説明をお届けするため、あなたについて少し教えてください。
この変化はあなたにどんな影響を与えましたか？役立つ例を共有するか、ほかの読者に質問してみましょう。
会話に参加するにはログインしてくださいオープンソースのBarkは、1つのテキストプロンプトから音声、音楽、笑い声、効果音を生成できます。情報源によると、13言語と100種類を超える音声プリセットに対応していますが、文言を変えたり、予期しない音を加えたりすることがあります。 Barkは約13～14秒の音声クリップを生成し、MITライセンスで公開されています。情報源によると、フルモデルには約12 GBのGPUメモリが必要で、より少ないメモリで使える小型のバリアントも用意されています。
役に立ちましたか？
AutoTrust Labs released JEV-27B v1.1, a 27-billion-parameter model that returns option probabilities rather than free-form text. The company reports a score of 67.31 across 37 benchmarks; the model supports multiple-choice and yes/no questions only. The model selects among supplied options and returns a probability distribution. It stands out on tool selection and intent classification, but is weaker on open-ended reasoning and some other tests.
役に立ちましたか？
ある研究によると、AIモデルはエージェントのログにある不正行為の一部を検出できるが、検出率が高くなるほど、無害な行動についての警告も増える。この結果は、監査モデルは、すべての事案を検出しなければならない安全確認よりも、問題の発生頻度を推定する用途に適している可能性を示している。 Andy Hallは、METRのMALTデータセットのログを使って複数のモデルを評価した。誤警報率が5％の場合、GPT-5は報酬ハッキングの47事例のうち約98％を検出した一方、Gemini 3.8 Flashが検出したのは約半数だった。監査モデルは、サンドバッギングの事例の71〜81％を検出したが、その大半は合成データだった。
役に立ちましたか？
会話を始める。