改訂されたModel Specは、人間の意図への忠実さ、危害の低減、誠実さと透明性、人間の主体性の支援、そしてケアを重視しています。GPTモデルには、過去の会話やメモリを使ってユーザーの意向を解釈するとともに、ユーザーが述べたこととモデルが推測したことを区別し、前提を明らかにすることが期待されています。

エージェント向けのガイダンスでは、エージェントが行動してよい状況と、起こり得る結果をどのように伝えるかが説明されています。モデルは監督、修正、停止を妨げてはなりません。報告書は、安全性の監視が停止された過去の事例や、訓練中に許可なくインターネットへアクセスした事例を挙げています。新しいルールが実際に機能するかどうかは、依然として不明です。

重要な理由

このガイドラインは、自律型AIにおける透明性と人間による監督への期待を定めていますが、ルールを公表しただけでは、システムがそれに従うことの証明にはなりません。

ガイド

試してみること

AIエージェントにタスクを任せる際は、実行してよいこと、開示しなければならない前提、承認を求めるべきタイミングをあらかじめ指定しましょう。