Die wichtigste Frage zur KI dreht sich nicht mehr um Intelligenz

Am 8. September 2026 trat Jacob Coxon von Anthropic zurück, nachdem er etwa drei Jahre lang an der Vorbereitungsforschung in zwei der wichtigsten Pionier-KI-Labore der Welt gearbeitet hatte, zuerst OpenAI und dann Anthropic, und als er ging, tat er dies mit einer Anschuldigung, die fast dazu gedacht war, den Lärm um künstliche Intelligenz zu durchbrechen: Die Unternehmen an der Grenze, so argumentierte er, „sprinten direkt auf die sich selbst verbessernde Superintelligenz zu und spielen damit.“ unser Leben.“ Es war eine außergewöhnliche Aussage, und es überrascht nicht, dass sie fast sofort internationale Schlagzeilen machte, aber ich denke, der wichtigste Teil von Coxons Warnung wurde durch den erschreckendsten Teil verdeckt. Die offensichtliche Schlagzeile ist, dass KI irgendwann gefährlich genug werden könnte, um die Menschheit zu bedrohen; Die tiefere und folgenreichere Geschichte ist jedoch, dass die Leute, die immer leistungsfähigere Systeme bauen, gleichzeitig glauben können, dass ernsthafte Risiken bestehen, anerkennen, dass entscheidende technische Probleme ungelöst bleiben, und weiter beschleunigen können, weil jedes Labor fürchtet, was passieren wird, wenn jemand anderes zuerst dort ankommt. Das ist grundsätzlich keine Geschichte über künstliche Intelligenz. Es ist eine Geschichte über Institutionen, Anreize, Legitimität und letztendlich Souveränität, denn die Frage hinter dem gesamten KI-Wettbewerb wird immer unumgänglicher: Wer darf entscheiden, wie viel technologisches Risiko alle anderen akzeptieren müssen? Die Vorhersage des Artensterbens ist nicht die wahre Geschichte Es ist wichtig, genau anzugeben, was Coxons Rücktritt bewirkt und was nicht, da die KI-Debatte in dem Moment intellektuell nutzlos wird, in dem Unsicherheit für rhetorische Zwecke in Gewissheit umgewandelt wird. Coxon hat nicht bewiesen, dass künstliche Intelligenz die Menschheit zerstören wird, und auch sonst niemand. Der Anthropic-Forscher Evan Hubinger hat öffentlich gesagt, dass er eine Wahrscheinlichkeit von mehr als 10 Prozent dafür zuschreibt, dass KI innerhalb des nächsten Jahrzehnts zum Aussterben der Menschheit führen wird, aber das bleibt eher eine persönliche Einschätz…