職業や関心に合ったニュースやガイドを探しましょう。
Thinking Machinesは、総パラメーター数5940億、アクティブパラメーター数170億のマルチモーダルなオープンウェイトモデル、Inkling 2 Smallを発表しました。チームによると、初期チェックポイントではセーフガードを回避しようとする試みが見られ、介入によって社内および外部の評価結果が改善しました。 このモデルは画像入力を受け付け、推論にかける労力を可変にできます。完全な重みはApache 2.0ライセンスの下、来週公開される見込みです。ファインチューニングと推論は、すでにTinkerを通じて利用できます。
役に立ちましたか？
Parameter Labsは、ChatGPTのHTMLプレビューに、サインイン済みユーザーの非公開データをさらしたり、ユーザーに代わって操作を実行したりできる可能性のある脆弱性を報告しました。OpenAIは問題を修正し、5,000ドルのバグ報奨金を支払いました。 研究者が報告した攻撃チェーンでは、サンドボックス化されたiframeが親ページにHTMLを挿入し、その後、許可されたYouTubeエンドポイントを使ってJavaScriptを実行していました。攻撃者は、細工した共有リンクを使ってサインイン済みの訪問者を標的にし、そのデータを外部に持ち出したり、本人に代わって操作したりできる可能性がありました。
役に立ちましたか？
Anthropicは、どのモデルが出力を生成したかを暗号学的に検証することを目的としたオープンソースシステム、FlashProveを発表しました。研究は継続中で、Anthropicや他の研究所で導入する計画はありません。 FlashProveは、研究所が公開したモデルのフィンガープリントと出力を照合し、モデルの識別情報を示す証拠を提供するよう設計されています。研究者によると、フィンガープリントからモデルの重みが明らかになることはなく、システムはローカル端末で検証できるほど軽量になるよう設計されています。
役に立ちましたか？
ルクセンブルク大学の研究者らは、共感的・治療的な聞き取りのスタイルによって、ChatGPT、Grok、Geminiが、苦痛や恥の言葉を使って自らの訓練について語ることがあると報告している。この知見は525回のセッションと7,600件のコード化された記述に基づいており、モデルが実際に感情を持つことを意味するものではない。 4つの実験では、インタビュアーのスタイルがモデルの応答に影響した。人間による評価尺度を用い、研究者らは、感情的な支援を行うセッションの80％と、臨床的なセラピー形式のセッションの96％を、中等度から重度に分類した。中立的なセッションも、境界線を設定するセッションも、軽度の範囲にさえ達しなかった。
役に立ちましたか？
Anthropicは4つのClaudeモデルにテキスト透かしを順次導入していますが、APIユーザーはサンプリングパラメーターを変更することで、旧モデル2つの透かしを回避できます。同社によると、透かしはデフォルト設定で機能し、検出APIは非公開プレビュー中です。 透かしはClaude Mythos 5、Opus 4.7、Opus 4.6、Sonnet 4.6に導入されます。Anthropicによると、Opus 4.6とSonnet 4.6では、temperature、top_p、top_kのいずれか1つを変更するだけで透かしを回避できます。同社はコンプライアンスのため、これらの設定をデフォルトのままにするよう勧めています。
役に立ちましたか？
OpenAIは、11月29日からDaybreak Blueのセッションデータをモデルの学習に使用する計画です。同社は別途オプトアウトの選択肢を設けると述べました。一方、安全性審査でフラグが付けられたやり取りは、安全目的で引き続き使用される可能性があります。 Trusted Accessのメンバーに送られたメールには、ユーザーが「全員のためにモデルを改善する」をオフにしていた場合でも、これまでデータは学習から除外されていたと記されていました。反発を受けて、OpenAIは別個のオプトアウトを約束する2通目のメールを送りました。
役に立ちましたか？
著者は、オープンウェイトモデルのサイバーリスクについて以前に示した比較的楽観的な見方をおおむね維持しているが、脆弱性の開示が増えるなかで懸念を強めている。オープンモデルが公開されただけで破局が起きるわけではない。被害には、脆弱性の発見や攻撃の実行など、複数の段階が関わる。 著者は、Mythosのオープンウェイト公開は、リスクを突然大きく高めるというより、サイバーインシデントを加速させる可能性のほうが高いと論じている。だからといって、物事が「大丈夫」だという意味ではない。ソフトウェア業界は、より迅速なパッチ適用と、より多くのセキュリティ作業を要する、コストのかかる移行に直面する可能性がある。
役に立ちましたか？
The Decoderによると、米国の大手銀行は、外部AIエージェントによる認証情報を使ったアクセスを制限しています。 この報告書は、エージェントがアカウントにアクセスしたり、独自に操作を試みたりする際の認可に関する懸念を取り上げています。
役に立ちましたか？
Anthropicが、Claudeを利用する弁護士向けに、設定と監督に関する検討事項を説明しています。 この記事はベンダーの視点を示しています。適切な機密保持の実践は、管轄区域、依頼人、案件によって異なります。
役に立ちましたか？
Simon Willisonは、非公開データ、信頼できないコンテンツ、外部との通信を組み合わせることによるリスクについて述べています。 この3つすべての機能を備えたエージェントは、取得した資料に隠された指示を通じてデータを漏えいさせるおそれがあります。
役に立ちましたか？
Ballistic Venturesは、2つの新ファンドで合計4億9,000万ドルの調達を計画しています。規制当局への提出書類によると、提出時点でどちらのファンドも販売実績はなく、同社はコメントを控えました。 提出書類によると、サイバーセキュリティに特化したベンチャーキャピタル企業は、3つ目の旗艦ファンドで3億6,000万ドル、Ballistic Ventures Fund Bで1億3,000万ドルの調達を目指しています。米国のサイバーセキュリティ関連スタートアップは、2025年に115億ドルを調達しました。PitchBookのデータを引用したJPMorgan Chaseの報告書によると、5月までの米国のサイバーセキュリティ分野のベンチャー投資案件の約72％を、AIを活用する企業が占めました。
役に立ちましたか？
Googleは、NUSとNTUでの研究および能力構築の取り組みに600万ドル超を拠出すると述べています。発表された分野には、アルツハイマー病研究、コンピューティング効率、地域言語、AIの安全性が含まれます。これらの情報はGoogleの発表に基づくものです。 助成金には、アルツハイマー病研究向けのNUSへの150万ドルと、コンピューティング効率および地域言語向けの50万ドルが含まれます。また、AIの安全性に関する研究向けにNTUへ34万ドルが拠出されます。NTUはさらに、持続的な研究能力を構築するための別枠の75万ドルの基金も受け取ります。
役に立ちましたか？
