FlashProve è progettato per confrontare i risultati con le impronte dei modelli pubblicate dai laboratori e fornire prove dell’identità del modello. I ricercatori affermano che le impronte non rivelano i pesi del modello e che il sistema è pensato per essere abbastanza leggero da consentire la verifica su un dispositivo locale.

I ricercatori di Anthropic hanno pubblicato una specifica tecnica e codice funzionante per alcuni componenti con una licenza open source. Il lavoro non è completo; lo hanno condiviso come fase intermedia affinché altri possano esaminarlo e migliorarlo.

Perché è importante

Se sviluppato ulteriormente, questo approccio potrebbe aiutare a verificare se un servizio ha utilizzato il modello che dichiarava di usare, anziché uno meno costoso o comunque diverso.

GUIDE

Qualcosa da provare

Come valutazione ipotetica, elenca quali risultati, versioni del modello e prove di verifica vorresti che uno strumento di controllo dei modelli registrasse.