可编辑模型如何让你陷入困境
← 返回今日版面来源
2 条任何开放模型，如果其权重被编辑，都可能携带后门。这包括任务特定的微调、合并适配器或可编辑构建。我们之所以在标题中使用可编辑，是因为这是人们下载修改权重时最常见的理由。可编辑是一种廉价的微调，它削弱了模型拒绝的能力。你会在权重中找到代表‘不’的隐藏方向并减去它。模型会以安全微调版本无法回答的方式回答问题。它最初是一种研究
任何开放模型，如果其权重被编辑，都可能携带后门。这包括任务特定的微调、合并适配器或可编辑构建。我们之所以在标题中使用可编辑，是因为这是人们下载修改权重时最常见的理由。可编辑是一种廉价的微调，它削弱了模型拒绝的能力。你会在权重中找到代表‘不’的隐藏方向并减去它。模型会以安全微调版本无法回答的方式回答问题。它最初是一种研究