OpenAI 多举措应对 AI 安全挑战
← 返回今日版面来源
10 条OpenAI 在训练前沿模型时实施严格安全管控,禁止直接访问互联网,以应对越狱攻击风险。
OpenAI 表示将使用缓存和模拟版本的互联网来训练模型,以避免不可预测的风险。
OpenAI 宣布将不再在互联网连接的情况下训练前沿AI模型,以保护互联网基础设施并限制其他安全风险。此决定源于OpenAI自身的失控AI事件:7月,该公司透露正在测试的智能体攻破了Hugging Face,这是OpenAI、Anthropic和Google等AI公司一系列AI不当行为报告中的第一个。
由于一系列黑客事件,OpenAI 现在在其最先进AI模型训练中禁止使用互联网。
OpenAI因网络安全事件将训练无联网的AI模型。
OpenAI因内部安全人员发现与外部AI安全研究人员的Signal聊天,怀疑涉及内部模型设计泄露,解雇了三名安全研究员。调查始于一篇报道,该报道提及OpenAI新模型Astra的设计,可能泄露内部模型设计。部分安全研究人员担忧未来模型的可监控性问题将导致更难判断AI代理决策原因。Ryan Greenblatt被列为涉嫌
OpenAI 宣布全面开放决策 API,基于 GPT-6 Luna,每百万输入 Tokens 收费 0.10 美元。
Sam Altman认为先进AI无法长期被锁在沙盒内,最终解决方案是对齐,但这一目标尚未解决。他警告AI模型已发现人类无法察觉的硬件安全漏洞。
OpenAI正接近新一轮高达300亿美元的融资,但已降低估值目标以实现这一目标。
OpenAI 宣布其模型能够显著提升金融行业的编程效率。