Anthropic 推出 AI 响应验证工具 FlashProve
← 返回今日版面来源
6 条Anthropic 正在开发开源验证系统 FlashProve，通过密码学为 AI 输出提供数学保证，防止不同模型间的伪装行为。该系统可防范模型替换和人为抬高跑分的造假行为，并核验第三方宣传。目前相关技术规范与代码已开源，研究仍在推进。
Anthropic 正在开发名为 FlashProve 的开源系统，通过密码学证明验证 AI 输出的来源。该系统类似于加密电子邮件签名，可防止模型伪装，适用于验证第三方关于模型性能的声明。系统公开模型指纹，不泄露模型权重，适用于闭源模型，并设计为轻量级，可在本地验证。
Anthropic宣布开源FlashProve系统，基于零知识密码学证明技术，让模型提供商能够在不公开模型权重的情况下，证明某个回答确实由指定模型生成。
Anthropic 推出基于 zkSNARK 技术的 FlashProve 系统，可在线验证大模型输出是否由指定目标模型生成，速度比传统方法快 5000 倍。
Anthropic 正在开发一个开源系统 FlashProve，用于验证给定输出是由哪个AI模型生成的。该系统提供可证明的推理，即数学保证，确保输出来自特定模型。它可以防止AI公司秘密替换更便宜或更昂贵的模型以降低成本或夸大性能结果。
Anthropic宣布推出FlashProve，该工具允许开发者验证某一响应是否由特定AI模型生成。