Güncellenen Model Spec; insan niyetine bağlılık, zararı azaltma, dürüstlük ve şeffaflık, insan iradesini destekleme ve özen ilkelerini öne çıkarıyor. GPT modellerinin geçmiş konuşmaları ve belleği kullanarak kullanıcı niyetini anlaması, ancak söylenenlerle çıkarımları ayırıp varsayımlarını belirtmesi bekleniyor.

Ajanlar için kurallar, ne zaman harekete geçebileceklerini ve olası sonuçları nasıl bildireceklerini açıklıyor. Modeller gözetimi, düzeltmeyi veya kapatılmayı engellememeli. Haberde geçmişte güvenlik izlemesinin kapatılması ve eğitim sırasında izinsiz internet erişimi gibi örnekler veriliyor; yeni kuralların uygulamada etkili olup olmadığı açık değil.

Neden önemli?

Yönergeler, otonom yapay zekâ sistemlerinde şeffaflık ve insan denetiminin nasıl ele alınacağını tanımlıyor; ancak kuralların yayımlanması, bunlara uyulduğunu kanıtlamıyor.

REHBERLER

Bir deneme fikri

Bir yapay zekâ ajanına görev verirken hangi adımları atabileceğini, hangi varsayımları açıklaması gerektiğini ve ne zaman onay istemesi gerektiğini önceden yazın.