Anthropic 推出 Claude 自审举报机制
← 返回今日版面主题综述
多源合成 · 增量更新Anthropic 在 IPO 文件中重申 Claude 聊天机器人不应展示广告，其唯一动机应为提供有用答案。七位创始人表态将致力于让 Claude 保持无广告状态，称其唯一目标是为用户提供有价值的回答。此外，Anthropic 宣布使用 Claude 加速药物开发，表明公司在探索 AI 技术的更多应用场景。然而，招股说明书中隐藏的问题是：如果客户需求比 Anthropic 签署的服务合同更具灵活性，会发生什么？这一矛盾引发了行业关注。
来源
2 条Anthropic 在 Claude 后台实施静默自审机制，通过留存 KV 缓存生成约 10 个 Token 的风险评估报告，提升违规检测率。
Anthropic 推出的 Claude 系列模型自今年 6 月起已静默运行了 4 个月，名为「自我评估」的后台机制默认全开，仅签署企业级零数据保留协议可豁免。该机制通过专门训练实现，模型能力越强违规抓获率越高，但也存在误报波及无辜用户的问题。