La superintelligenza non deve avere padroni

Immagina un mondo in cui quasi tutti abbiano accesso a un'intelligenza più capace di quella del miglior medico, tutor, programmatore, avvocato, scienziato o stratega che potrebbero mai permettersi. Aiuta il bambino a imparare nella sua lingua. Offre alle piccole imprese capacità un tempo riservate alle multinazionali. Accelera le scoperte mediche, traduce la conoscenza oltre i confini e consente alle persone comuni di creare, organizzare e risolvere problemi a una velocità straordinaria. Immaginiamo ora che la stessa intelligenza sia controllata da una manciata di istituzioni. Decidono loro cosa può dire, cosa può sapere, quali interessi serve, quali paesi possono accedervi, quanto costa, cosa succede ai dati che raccoglie, quali lavoratori sostituisce e come viene distribuita la ricchezza che crea. L'intelligenza potrebbe essere abbondante. Il potere non lo sarebbe. Questa è la contraddizione al centro del dibattito sulla superintelligenza. Continuiamo a discutere di intelligenza artificiale avanzata come se fosse principalmente una questione di ingegneria. Quanto diventerà capace? Quando arriverà? Ragionerà, ingannerà, inventerà, manipolerà o sfuggirà? Curerà le malattie, porrà fine alla scarsità, sposterà i lavoratori o minaccerà la civiltà? Queste domande contano. Ma sotto di essi si nasconde una questione politica ancora più consequenziale: Chi controllerà l'intelligence stessa? Un campo promette la superintelligenza personale negli occhiali, nei telefoni, nelle case e nelle tasche di tutti. Un’altra promette che la capacità cognitiva sarà resa economica e universale quanto l’elettricità. Un terzo vede una corsa geopolitica e industriale che deve essere vinta attraverso una mobilitazione nazionale straordinaria. Un quarto sostiene che i sistemi di frontiera dovrebbero rimanere dietro controlli di sicurezza sempre più sofisticati. Un quinto vuole che lo sviluppo venga fermato finché non si dimostrerà che la superintelligenza è sicura, controllabile e democraticamente legittimata. Queste posizioni sono solitamente presentate come filosofie tecniche. Sono anche costituzioni in competizione per il futuro. Chiedono chi possiederà macchine in grado di superare i…