La domanda più importante sull’IA non riguarda più l’intelligenza

L'8 settembre 2026, Jacob Coxon si è dimesso da Anthropic dopo aver trascorso circa tre anni lavorando sulla ricerca preliminare in due dei più importanti laboratori di intelligenza artificiale di frontiera del mondo, prima OpenAI e poi Anthropic, e quando se ne è andato, lo ha fatto con un'accusa che era quasi progettata per sfondare il rumore che circonda l'intelligenza artificiale: le aziende alla frontiera, sosteneva, stavano "correndo direttamente verso la superintelligenza auto-migliorante e giocando d'azzardo con la nostra vive." È stata un'affermazione straordinaria e, non sorprende che sia diventata notizia internazionale quasi immediatamente, ma penso che la parte più importante dell'avvertimento di Coxon sia stata oscurata da quella più spaventosa. Il titolo ovvio è che l'intelligenza artificiale potrebbe alla fine diventare abbastanza pericolosa da minacciare l'umanità; la storia più profonda e consequenziale, tuttavia, è che le persone che costruiscono sistemi sempre più potenti possono contemporaneamente credere che esistano seri rischi, riconoscere che problemi tecnici cruciali rimangono irrisolti e continuare ad accelerare perché ogni laboratorio teme cosa accadrebbe se qualcun altro arrivasse per primo. Questa non è fondamentalmente una storia sull'intelligenza artificiale. È una storia sulle istituzioni, sugli incentivi, sulla legittimità e, in ultima analisi, sulla sovranità, perché la domanda che sta alla base dell'intera corsa all'intelligenza artificiale sta diventando impossibile da evitare: chi può decidere quanto rischio tecnologico tutti gli altri devono accettare? La previsione dell'estinzione non è la vera storia È importante essere precisi su ciò che le dimissioni di Coxon stabiliscono e non stabiliscono, perché il dibattito sull'intelligenza artificiale diventa intellettualmente inutile nel momento in cui l'incertezza viene convertita in certezza per effetto retorico. Coxon non ha dimostrato che l'intelligenza artificiale distruggerà l'umanità, e nemmeno nessun altro lo ha fatto. Il ricercatore antropico Evan Hubinger ha affermato pubblicamente di attribuire una probabilità superiore al 10% all'IA di causare l'estinzione umana entr…