Il benchmark utilizza un protocollo a cinque livelli che separa l’accuratezza delle risposte dai requisiti relativi alle prove temporali e spaziali. Include annotazioni di prove temporali per 442 domande e prove spaziali per 372; i video durano in media 667 secondi.

Gli autori riferiscono che lo zoom manuale sulle aree contenenti prove ha portato il punteggio di Gemini-3-Pro oltre il 40%. Affermano che ciò indica la possibilità che il recupero delle prove sia un collo di bottiglia. Il confronto diretto con i benchmark precedenti è limitato dalle differenze nel formato e nella difficoltà dei compiti.

Perché è importante

Valutare solo le risposte non mostra se un modello si sia basato su prove video pertinenti. Questo benchmark valuta separatamente le risposte e il loro supporto visivo.

GUIDE

Qualcosa da provare

Per valutare ipoteticamente un sistema di analisi video, monitora separatamente l’accuratezza delle risposte e l’intervallo video citato come prova.