AI 代理测试需新方法

AI代理测试面临传统方法无法覆盖的非确定性输出、对抗性输入及环境变化导致的性能波动三大缺口。为解决这一问题，团队开发了一套专门测试方法，目前初步评估显示该方法能有效识别AI代理的行为异常。团队正在探索如何将AI代理与现有API进行安全集成，代理通过提出结构化工具调用，由代码执行这些操作，确保分离原则得到贯彻。