当 AI 开始自我复制会发生什么？

Anthropic的前沿红团队和SEC文件均透露，该公司在几个月内可能实现小型AI模型的自我复制与递归改进，形成自主机器人网络。这一进展引发了关于AI失控风险的担忧，尤其是在技术加速与安全监管脱节的情况下。多家媒体，包括Engadget、TechCrunch、Dev.to、Gizmodo和IT之家，均报道了这一消息，确认Anthropic正接近开发具备递归自我改进（RSI）能力的模型。