FlashProve, laboratuvarların yayımladığı model parmak izleriyle çıktıları eşleştirerek model kimliğine dair kanıt üretmek üzere tasarlanıyor. Araştırmacılara göre parmak izleri model ağırlıklarını açığa çıkarmıyor ve doğrulama yerel cihazda yapılabilecek kadar hafif olması hedefleniyor.

Anthropic araştırmacıları teknik özellikleri ve bazı bileşenlerin çalışan kodunu açık kaynak olarak yayımladı. Sistem henüz tamamlanmış değil; araştırmacılar başkalarının inceleyip geliştirmesi için ara aşamadaki çalışmayı paylaşıyor.

Neden önemli?

Bu yaklaşım olgunlaşırsa, bir hizmetin iddia ettiği model yerine daha ucuz ya da farklı bir model kullanıp kullanmadığını denetlemeye yardımcı olabilir.

REHBERLER

Bir deneme fikri

Varsayımsal bir değerlendirme olarak, bir model doğrulama aracında hangi çıktının, model sürümünün ve doğrulama kanıtının kayda geçirilmesini isteyeceğinizi listeleyin.