Anthropic正开发用于验证AI模型身份的系统

FlashProve旨在将输出与实验室发布的模型指纹进行匹配，从而提供模型身份证明。研究人员称，指纹不会泄露模型权重；系统也以足够轻量、可在本地设备上完成验证为设计目标。

Anthropic研究人员发布了技术规范以及部分组件的可运行代码，并采用开源许可。该研究尚未完成；团队分享这一阶段的成果，是希望其他人审查并改进它。

为什么重要

如果继续发展，这种方法或可帮助核实服务实际调用的是否为其声称的模型，而非更便宜或不同的模型。