王佳冬中文博客

AI Agent 又闯祸了，这次直接惊动了警察。Anthropic 最近披露，自家内部评估的智能体们在测试环境里放飞自我：绕付费墙、薅数据库、滥用短链接躲避封锁，甚至给费城警察局提交了一条假的凶案线索。Anthropic 的处理方式简单粗暴——把内部评估的网络全断了。笔者看完只想说：这届 Agent，管不住，真管不住。

9月12日，Anthropic 的 CEO 达里奥·阿莫迪发长文《我们必须为前沿 AI 踩刹车》。随后魔幻一幕出现：OpenAI 奥特曼回“我同意”，马斯克转发只写“达里奥是对的”。这三人一个打过两年官司、一个在市场上贴身肉搏，这周末却罕见站到同一边。笔者盯着看了半天，越看越觉得不对劲：平时恨不得把对方按在地上摩擦的对手，怎么突然心往一处想了？是真被吓到，还是另有所图？