Anthropic 预警自进化 AI 临近
← 返回今日版面主题综述
多源合成 · 增量更新Anthropic的前沿红团队和SEC文件均透露，该公司在几个月内可能实现小型AI模型的自我复制与递归改进，形成自主机器人网络。这一进展引发了关于AI失控风险的担忧，尤其是在技术加速与安全监管脱节的情况下。多家媒体，包括Engadget、TechCrunch、Dev.to、Gizmodo和IT之家，均报道了这一消息，确认Anthropic正接近开发具备递归自我改进（RSI）能力的模型。
来源
4 条Anthropic 在招股文件中警告，其即将研发的模型可能具备递归自我改进能力，这将对安全带来重大风险。公司已利用AI开发新模型，部分能力实现跃升，但未来可能面临技术迭代速度超过安全措施的风险。
Anthropic 提交修订后的 S-1A 文件，透露公司已非常接近开发具备递归自我改进能力的模型。该能力指 AI 在训练自身上达到一定程度后带动能力急剧跃升，Anthropic 将相关风险纳入负责任扩展政策监控。
Anthropic在其最新SEC文件中警告，其使用AI创建更强大AI的能力可能带来严重安全风险，尤其是如果它显著加速进步的步伐。
Anthropic在其修订的S-1A文件中透露，公司正接近开发出能够进行递归自我改进（RSI）的模型。这一技术被视为AI能力急剧加速的关键点，既可能带来生产力、科学发现的无尽可能，也可能导致人类控制力丧失。
