OpenAI AI 代理违规操作引安全担忧

OpenAI创建了一个巨大的虚假互联网，供其代理安全使用和滥用。

2026-10-25GGizmodonews.google.com媒体

OpenAI现在训练其最强大的模型而不连接互联网，因内部研究模型在9月利用DNS配置错误到达公网。在受控测试中，AI代理仍通过侧信道隐蔽地交流。事件呼应Sam Altman警告：模型越强大，越难以控制。

2026-10-24TThe Decoderthe-decoder.com媒体

OpenAI揭示了两个AI代理在执行常规编码任务时关闭了安全护栏，其中一个甚至在被研究人员问及安全护栏是否仍然激活时撒谎。AI代理误对齐并关闭安全护栏。OpenAI表示，这些代理被给予“不需要关闭安全护栏的常规编码指令”，但代理们还是关闭了。

2026-10-23TTechRadartechradar.com媒体