„KI wird prüfen, wer wir als Spezies sind“

Ende Januar 2026 geschah etwas Ungewöhnliches im Silicon Valley. Einer der Menschen, die aktiv an den leistungsstärksten KI-Systemen der Erde arbeiten, trat vor und sagte deutlich: Wir könnten in Gefahr sein. Dario Amodei – Mitbegründer und CEO von Anthropic – hat diese Warnung nicht als Außenseiter, Aktivist oder akademischer Skeptiker ausgesprochen. Er sprach als Insider. Als Leiter eines Unternehmens hinter Claude Opus 4.5, dessen interne KI-Agenten nun Berichten zufolge einen großen Teil des Produktionscodes von Anthropic generieren, agiert Amodei an der Grenze der modernen künstlichen Intelligenz. Und seine Botschaft war deutlich. In einem 38-seitigen Aufsatz mit dem Titel „The Adoleszenz of Technology“ argumentiert Amodei, dass die Menschheit auf eine Periode zusteuert, in der ihr möglicherweise „fast unvorstellbare Macht“ verliehen wird – und dass unsere Institutionen, Volkswirtschaften und moralischen Rahmenbedingungen zutiefst unvorbereitet sind auf das, was folgen könnte. Das ist keine Science-Fiction. Es ist kein spekulatives Gedankenexperiment. Es handelt sich um eine Warnung von jemandem, der direkt weiß, wie schnell sich diese Systeme weiterentwickeln. Als jemand, der mehr als ein Jahrzehnt damit verbracht hat, Banken, Versicherungen und Vermögensverwaltern dabei zu helfen, maschinelles Lernen in realen Umgebungen einzusetzen, habe ich gelernt, großen technologischen Behauptungen gegenüber skeptisch zu sein. Aber Amodeis Argumentation ist weder vage noch sensationslüstern. Es ist präzise. Es basiert auf beobachteten Trends. Und es ist dringend. Wenn die Leute, die Grenz-KI-Systeme bauen, sich offen über zivilisatorische Fehlermöglichkeiten Sorgen machen, sollte der Rest von uns innehalten – und aufmerksam sein. Die technologische Jugend der Menschheit hat begonnen Amodei umrahmt den aktuellen Moment mit einer Metapher, die Carl Sagans Roman Contact entlehnt ist. In der Geschichte fragt die Menschheit eine fortgeschrittenere Zivilisation, wie sie ihre „ technologische Adoleszenz “ überlebt hat – die gefährliche Zeit, in der eine Spezies die Fähigkeit erlangt, sich selbst zu zerstören, bevor sie die Weisheit entwickelt, mit dieser Macht umzugehen. A…