La superinteligencia no debe tener amo

Imagínese un mundo en el que casi todo el mundo tenga acceso a una inteligencia más capaz que la del mejor médico, tutor, programador, abogado, científico o estratega que pueda permitirse. Ayuda al niño a aprender en su propio idioma. Proporciona a las pequeñas empresas capacidades que antes estaban reservadas a las corporaciones multinacionales. Acelera los descubrimientos médicos, traduce el conocimiento a través de fronteras y permite a la gente corriente crear, organizar y resolver problemas a una velocidad extraordinaria. Imagínese ahora que la misma inteligencia está controlada por un puñado de instituciones. Ellos deciden qué puede decir, qué puede saber, a qué intereses sirve, qué países pueden acceder a él, cuánto cuesta, qué sucede con los datos que recopila, a qué trabajadores reemplaza y cómo se distribuye la riqueza que crea. La inteligencia puede ser abundante. El poder no lo sería. Esa es la contradicción en el centro del debate sobre la superinteligencia. Seguimos hablando de IA avanzada como si fuera principalmente una cuestión de ingeniería. ¿Qué capacidad tendrá? ¿Cuándo llegará? ¿Razonará, engañará, inventará, manipulará o escapará? ¿Curará las enfermedades, acabará con la escasez, desplazará a los trabajadores o amenazará la civilización? Esas preguntas importan. Pero detrás de ellos se esconde una cuestión política aún más trascendental: ¿Quién controlará la inteligencia misma? Un campamento promete superinteligencia personal en las gafas, los teléfonos, los hogares y los bolsillos de todos. Otro promete una capacidad cognitiva tan barata y universal como la electricidad. Un tercero ve una carrera geopolítica e industrial que debe ganarse mediante una movilización nacional extraordinaria. Un cuarto sostiene que los sistemas fronterizos deberían permanecer detrás de controles de seguridad cada vez más sofisticados. Un quinto quiere que se detenga el desarrollo hasta que se pueda demostrar que la superinteligencia es segura, controlable y democráticamente legítima. Estas posiciones suelen presentarse como filosofías técnicas. También son constituciones que compiten por el futuro. Preguntan quién será el propietario de máquinas que puedan sup…