La question la plus importante en IA ne porte plus sur l’intelligence

Le 8 septembre 2026, Jacob Coxon a démissionné d'Anthropic après avoir passé environ trois ans à travailler sur la recherche en pré-formation dans deux des plus importants laboratoires d'IA de pointe au monde, d'abord OpenAI puis Anthropic, et lorsqu'il a quitté, il l'a fait avec une accusation qui était presque conçue pour briser le bruit entourant l'intelligence artificielle : les entreprises à la frontière, a-t-il soutenu, « se précipitaient directement vers l'auto-amélioration de la superintelligence et jouaient avec notre des vies. » C'était une déclaration extraordinaire et, sans surprise, elle est devenue l'actualité internationale presque immédiatement, mais je pense que la partie la plus importante de l'avertissement de Coxon a été obscurcie par la plus effrayante. Le titre évident est que l’IA pourrait éventuellement devenir suffisamment dangereuse pour menacer l’humanité ; L'histoire la plus profonde, cependant, est que ceux qui construisent des systèmes de plus en plus puissants peuvent simultanément croire que de sérieux risques existent, reconnaître que des problèmes techniques cruciaux restent non résolus et continuer à accélérer parce que chaque laboratoire craint ce qui se passera si quelqu'un d'autre y arrive en premier. Ce n’est pas fondamentalement une histoire d’intelligence artificielle. C'est une histoire d'institutions, d'incitations, de légitimité et, en fin de compte, de souveraineté, car la question qui se cache derrière toute la course à l'IA devient impossible à éviter : qui décide du niveau de risque technologique que tout le monde doit accepter ? La prédiction de l'extinction n'est pas la vraie histoire Il est important d'être précis sur ce que la démission de Coxon fait et n'établit pas, car le débat sur l'IA devient intellectuellement inutile dès que l'incertitude se transforme en certitude pour un effet rhétorique. Coxon n’a pas prouvé que l’intelligence artificielle détruirait l’humanité, et personne d’autre non plus. Le chercheur en anthropologie Evan Hubinger a déclaré publiquement qu'il attribue une probabilité supérieure à 10 % à l'extinction de l'humanité par l'IA au cours de la prochaine décennie, mais cela reste un juge…