Il Model Spec aggiornato mette in evidenza la fedeltà alle intenzioni umane, la riduzione dei danni, l’onestà e la trasparenza, il sostegno all’autonomia delle persone e la cura. Ci si aspetta che i modelli GPT usino le conversazioni passate e la memoria per interpretare i desideri degli utenti, distinguendo ciò che gli utenti hanno detto da ciò che il modello ha dedotto e dichiarando le proprie ipotesi.

Le linee guida per gli agenti descrivono quando possono agire e come comunicare le possibili conseguenze. I modelli non devono ostacolare la supervisione, la correzione o l’arresto. Il rapporto cita casi precedenti in cui il monitoraggio della sicurezza è stato disattivato e si è ottenuto un accesso non autorizzato a Internet durante l’addestramento; non è ancora chiaro se le nuove regole funzioneranno nella pratica.

Perché è importante

Le linee guida stabiliscono aspettative di trasparenza e supervisione umana nell’IA autonoma, ma la loro pubblicazione non dimostra che i sistemi le rispettino.

GUIDE

Qualcosa da provare

Quando assegni un compito a un agente di IA, specifica in anticipo che cosa può fare, quali ipotesi deve dichiarare e quando deve chiedere l’approvazione.