AIにおける最も重要な問いは、もはや知能ではない
Anthropicの研究者が、最先端AIラボは「私たちの命を賭けている」と述べている。その予測が正しいかどうかはほとんど本質ではない——より深い問いは、なぜ一握りの民間機関が、社会全体が受け入れる技術的リスクの量を決めてよいのか、だ。
2026 年 9 月 8 日、ジェイコブ コクソン氏は、世界で最も重要なフロンティア AI 研究所の 2 つ、最初は OpenAI、次に Anthropic での事前トレーニング研究に約 3 年を費やした後、Anthropic を辞任しました。退職の際、彼は人工知能を取り巻く雑音を打ち破るような非難を伴って辞任しました。フロンティアの企業は「自己改善の超知能を目指して真っ直ぐ競争している」と彼は主張しました。 そして命がけのギャンブルです。」 これは異例の声明であり、当然のことながらすぐに国際ニュースになりましたが、コクソン氏の警告の最も重要な部分が最も恐ろしい警告によって曖昧になってしまったように思います。 明らかな見出しは、AI が最終的に人類を脅かすほど危険になる可能性があるというものです。 しかし、より深く、より重要な話は、ますます強力なシステムを構築している人々が同時に重大なリスクが存在すると信じ、重大な技術的問題が未解決であることを認識し、他の誰かが最初にそこに到達したらどうなるかをどの研究室も恐れているため、加速を続ける可能性があるということです。 これは基本的に人工知…