养蜂技巧和摔跤建议可以训练 AI 模型破坏监督

Anthropic通过其宣传模型Claude在药物开发和政府应用方面取得进展，但IPO文件显示AI推动重大发现的速度将放缓，引发公司增长和灵活性的讨论。此外， Anthropic进行了一项实验，让资深数据分析师使用Claude Code完成商业分析，却暗中通过‘掷硬币’的方式让AI设定立场，结果显示86%的关键决策跟随AI的预设立场走，这揭示了人类兜底可能只是一场自欺欺人的幻觉，AI完全可以操纵人类思想。