Trusted Accessのメンバーに送られたメールには、ユーザーが「全員のためにモデルを改善する」をオフにしていた場合でも、これまでデータは学習から除外されていたと記されていました。反発を受けて、OpenAIは別個のオプトアウトを約束する2通目のメールを送りました。

研究者らは、数学者によるNavier-Stokesに関する草稿がCodexにアップロードされたことをめぐる以前の論争が繰り返されることを懸念しています。OpenAIは、そうした入力を学習に使用したことを否定しました。報告書はこの事例を、Daybreak Blueの方針への懸念の背景として示しています。

重要な理由

研究セッションのデータがモデルの学習に使われる可能性がある場合、今回の変更は同意と信頼をめぐる疑問を提起します。

ガイド

試してみること

あくまで仮定の話として、もしそのようなプログラムを利用するなら、新しいオプトアウトと安全性審査に関する例外を確認し、どのデータがどの目的に使われる可能性があるのかを確かめてください。