AI中最重要的问题已不再关乎智能
一位Anthropic研究员称顶尖AI实验室正在「拿我们的生命赌博」。他的预测是否正确几乎无关紧要——更深的问题是：为什么少数私人机构可以决定社会其他人必须接受多少技术风险。 2026 年 9 月 8 日，雅各布·考克森 (Jacob Coxon) 在世界上两个最重要的前沿人工智能实验室（首先是 OpenAI，然后是…
2026 年 9 月 8 日，雅各布·考克森 (Jacob Coxon) 在世界上两个最重要的前沿人工智能实验室（首先是 OpenAI，然后是 Anthropic）从事预训练研究大约三年后，从 Anthropic 辞职。当他离开时，他提出了一个几乎旨在打破围绕人工智能的噪音的指控：他认为，处于前沿的公司“正在直接竞相自我完善的超级智能，并与我们的人工智能进行赌博”。 生命。” 这是一个非同寻常的声明，毫不奇怪，它几乎立即成为国际新闻，但我认为考克森警告中最重要的部分已经被最可怕的部分所掩盖。 显而易见的标题是人工智能最终可能变得危险到足以威胁人类； 然而，更深层次和更重要的故事是，构建日益强大的系统的人们可以同时相信存在严重的风险，承认关键的技术问题仍未解决，并继续加速，因为每个实验室都担心如果其他人先到达那里会发生什么。 这本质上不是一个关于人工智能的故事。 这是一个关于制度、激励、合法性以及最终主权的故事，因为整个人工智能竞赛背后的问题变得无法回避： 谁来决定其他人必须接受多少技术风险？ 灭绝预测并不是真实的故事 准确地了解 Coxon 的辞职决定了什么和没有决定什么，这一点很重…