FlashProve está diseñado para comparar respuestas con huellas de modelos publicadas por los laboratorios y aportar pruebas sobre su identidad. Según los investigadores, las huellas no revelan los pesos del modelo y el sistema busca ser lo bastante ligero para verificar en un dispositivo local.
Los investigadores de Anthropic publicaron una especificación técnica y código funcional de algunos componentes con una licencia de código abierto. El trabajo no está terminado: se comparte como avance para que otras personas lo examinen y mejoren.
Por qué importa
Si avanza, el enfoque podría ayudar a comprobar si un servicio utilizó el modelo que afirmó usar, y no otro más barato o distinto.
Una idea para probar
Como ejercicio hipotético, enumera qué respuestas, versiones del modelo y pruebas de verificación querrías que registrara una herramienta de comprobación.
Inicia la conversación.