huajun.wang

不要让无人值守的模型重写其提示

← 返回今日版面
安全llm信号强度 0.71 条来源

来源

1 条

无人值守的LLM管道会以人通常不会修复的方式失败,通过编辑提示来修复。如果系统自己重写提示,则会引入新的逻辑,无人审查。在聊天窗口中可以容忍,因为人会阅读下一轮。在批处理任务中则不行,输出消费者是代码,窗口中的文档通常较大,人 later再处理异常队列。

2026-11-04DDev.todev.to社区