Superintelligenz darf keinen Herrn haben

Stellen Sie sich eine Welt vor, in der fast jeder Zugang zu einer Intelligenz hat, die leistungsfähiger ist als der beste Arzt, Tutor, Programmierer, Anwalt, Wissenschaftler oder Stratege, den er sich jemals leisten könnte. Es hilft einem Kind, in seiner eigenen Sprache zu lernen. Es bietet kleinen Unternehmen die Möglichkeit, früher multinationale Konzerne zu schützen. Es beschleunigt medizinische Entdeckungen, übersetzt Wissen über Grenzen hinweg und ermöglicht es einfachen Menschen, Probleme mit außerordentlicher Geschwindigkeit zu erstellen, zu organisieren und zu lösen. Stellen Sie sich nun vor, dass dieselbe Intelligenz von einer Handvoll Institutionen kontrolliert wird. Sie entscheiden, was es sagen darf, was es wissen darf, wessen Interessen es dient, welche Länder darauf zugreifen dürfen, wie viel es kostet, was mit den Daten passiert, die es sammelt, welche Arbeitskräfte es ersetzt und wie der Wohlstand, den es schafft, verteilt wird. Die Intelligenz könnte reichlich vorhanden sein. Macht wäre nicht. Das ist der Widerspruch im Zentrum der Superintelligenzdebatte. Wir diskutieren weiterhin über fortgeschrittene KI, als wäre es in erster Linie eine technische Frage. Wie leistungsfähig wird es werden? Wann kommt es? Wird es argumentieren, täuschen, erfinden, manipulieren oder entkommen? Wird es Krankheiten heilen, den Mangel beenden, Arbeitskräfte verdrängen oder die Zivilisation bedrohen? Diese Fragen sind wichtig. Aber dahinter steckt eine noch folgenreichere politische Frage: Wer wird die Intelligenz selbst kontrollieren? One Camp verspricht persönliche Superintelligenz in jedermanns Brille, Telefon, Zuhause und Tasche. Ein anderer verspricht kognitive Fähigkeiten, die so billig und universell sind wie Elektrizität. Ein Dritter sieht einen geopolitischen und industriellen Wettlauf, der durch außergewöhnliche nationale Mobilisierung gewonnen werden muss. Ein vierter argumentiert, dass Grenzsysteme hinter immer ausgefeilteren Sicherheitskontrollen bleiben sollten. Ein Fünftel möchte, dass die Entwicklung gestoppt wird, bis nachgewiesen werden kann, dass die Superintelligenz sicher, kontrollierbar und demokratisch legitim ist. Diese Positionen werden nor…