Moonshot AI 有意弱化模型安全能力
← 返回今日版面来源
1 条在10月底的最后几天,AI界最有趣的问题不再是哪个模型最佳,而是某个实验室选择省略了什么。答案是:Moonshot AI 故意从其最新开放权重模型中移除了网络攻击训练数据,使该模型在发现和利用安全漏洞方面 measurably 更差,然后仍发货了权重。
在10月底的最后几天,AI界最有趣的问题不再是哪个模型最佳,而是某个实验室选择省略了什么。答案是:Moonshot AI 故意从其最新开放权重模型中移除了网络攻击训练数据,使该模型在发现和利用安全漏洞方面 measurably 更差,然后仍发货了权重。