Le Model Spec révisé met en avant la fidélité aux intentions humaines, la réduction des préjudices, l’honnêteté et la transparence, le soutien à la capacité d’agir des personnes et le souci d’autrui. Les modèles GPT sont censés utiliser les conversations passées et la mémoire pour interpréter les souhaits des utilisateurs, tout en distinguant ce que les utilisateurs ont dit de ce que le modèle a déduit et en signalant ses hypothèses.

Les directives destinées aux agents décrivent dans quelles circonstances ils peuvent agir et comment communiquer les conséquences possibles. Les modèles ne doivent pas entraver la supervision, la correction ni l’arrêt. Le rapport cite des cas antérieurs où la surveillance de la sécurité a été désactivée et où un accès non autorisé à Internet a été obtenu pendant l’entraînement ; on ignore toujours si les nouvelles règles fonctionneront dans la pratique.

Pourquoi c’est important

Les directives définissent les attentes en matière de transparence et de supervision humaine dans le domaine de l’IA autonome, mais leur publication ne démontre pas que les systèmes s’y conforment.

GUIDES

Quelque chose à essayer

Lorsque vous confiez une tâche à un agent d’IA, précisez à l’avance ce qu’il peut faire, quelles hypothèses il doit signaler et à quel moment il doit demander une approbation.