Andy Hall a évalué plusieurs modèles à partir des journaux du jeu de données MALT de METR. Avec un taux de fausses alertes de 5 %, GPT-5 a détecté près de 98 % des 47 cas de détournement de la fonction de récompense, tandis que Gemini 3.8 Flash en a repéré environ la moitié. Les auditeurs ont détecté de 71 à 81 % des cas de sous-performance délibérée, dont la plupart étaient synthétiques.

Lors du test R-Judge portant sur des tâches courantes, demander aux auditeurs de détecter 99 % des actions dangereuses a conduit même le meilleur modèle à signaler à tort 15 % des actions sans danger. Ce travail est un projet pilote ; les résultats sur le détournement de la fonction de récompense reposent sur seulement 47 cas, et la question de l’impartialité lorsque les modèles auditent des agents créés par leur propre fabricant reste sans réponse.

Pourquoi c’est important

Les fausses alertes peuvent surcharger les examinateurs humains et faire passer de vrais problèmes inaperçus ; les taux de détection, à eux seuls, ne montrent donc pas si un système d’audit est utile.

GUIDES

Quelque chose à essayer

À titre d’exercice de planification hypothétique, calculez comment différents taux de détection et de fausses alertes modifieraient la charge mensuelle de révision d’un système d’agents.