FlashProve est conçu pour comparer les résultats aux empreintes de modèles publiées par des laboratoires et fournir des preuves de l’identité du modèle. Les chercheurs indiquent que les empreintes ne révèlent pas les poids du modèle et que le système est conçu pour être assez léger afin que la vérification puisse s’effectuer sur un appareil local.

Les chercheurs d’Anthropic ont publié une spécification technique et du code fonctionnel pour certains composants sous une licence open source. Le travail n’est pas terminé ; ils l’ont partagé comme étape intermédiaire afin que d’autres puissent l’examiner et l’améliorer.

Pourquoi c’est important

Si elle est développée davantage, cette approche pourrait aider à vérifier si un service a utilisé le modèle qu’il prétendait utiliser, plutôt qu’un modèle moins coûteux ou différent à d’autres égards.

GUIDES

Quelque chose à essayer

À titre d’évaluation hypothétique, dressez la liste des résultats, des versions de modèle et des preuves de vérification que vous souhaiteriez qu’un outil de contrôle des modèles consigne.