研究人员绕过 ChatGPT 防护机制
← 返回今日版面来源
1 条研究人员绕过ChatGPT防护模式，揭示了提示注入攻击可能逃逸内置保护。漏洞支持沙盒逃逸，可能导致数据盗窃、网络钓鱼、恶意软件交付或恶意弹窗。OpenAI通过服务器端修复了该问题，强调了AI应用层 beyond 模型本身的风险。OpenAI最近被迫升级ChatGPT的'锁定模式'，以应对研究人员发现的绕过安全保护并实施
研究人员绕过ChatGPT防护模式，揭示了提示注入攻击可能逃逸内置保护。漏洞支持沙盒逃逸，可能导致数据盗窃、网络钓鱼、恶意软件交付或恶意弹窗。OpenAI通过服务器端修复了该问题，强调了AI应用层 beyond 模型本身的风险。OpenAI最近被迫升级ChatGPT的'锁定模式'，以应对研究人员发现的绕过安全保护并实施
