La pregunta más importante en IA ya no trata sobre la inteligencia

El 8 de septiembre de 2026, Jacob Coxon renunció a Anthropic después de pasar aproximadamente tres años trabajando en investigaciones previas a la capacitación en dos de los laboratorios de IA fronterizos más importantes del mundo, primero OpenAI y luego Anthropic, y cuando se fue, lo hizo con una acusación que casi estaba diseñada para romper con el ruido que rodea a la inteligencia artificial: las empresas en la frontera, argumentó, estaban “corriendo directamente hacia una superinteligencia automejorada y apostando con nuestra vidas.” Fue una declaración extraordinaria y, como era de esperar, se convirtió en noticia internacional casi de inmediato, pero creo que la parte más importante de la advertencia de Coxon ha quedado oscurecida por la más aterradora. El titular obvio es que la IA podría llegar a ser lo suficientemente peligrosa como para amenazar a la humanidad; Sin embargo, la historia más profunda y trascendental es que las personas que construyen sistemas cada vez más potentes pueden creer simultáneamente que existen riesgos graves, reconocer que los problemas técnicos cruciales siguen sin resolverse y seguir acelerando porque cada laboratorio teme lo que sucederá si alguien más llega primero. Esa no es fundamentalmente una historia sobre inteligencia artificial. Es una historia sobre instituciones, incentivos, legitimidad y, en última instancia, soberanía, porque la pregunta subyacente en toda la carrera de la IA se está volviendo imposible de evitar: ¿quién decide cuánto riesgo tecnológico deben aceptar todos los demás? La predicción de la extinción no es la historia real Es importante ser preciso sobre lo que establece y no establece la renuncia de Coxon, porque el debate sobre la IA se vuelve intelectualmente inútil en el momento en que la incertidumbre se convierte en certeza para lograr un efecto retórico. Coxon no ha demostrado que la inteligencia artificial destruirá a la humanidad, ni nadie más lo ha hecho. El investigador antrópico Evan Hubinger ha dicho públicamente que asigna una probabilidad superior al 10 por ciento a que la IA provoque la extinción humana en la próxima década, pero eso sigue siendo un juicio personal más que una proba…