La scorsa settimana «Azione» ha raccontato in che modo già oggi l’intelligenza artificiale (IA) permetterebbe ai morti di risorgere, sia pure solo sotto forma di avatar conversazionali che riproducono fattezze, atteggiamenti, reazioni caratteriali e idee dei defunti (ovunque effettivamente si trovino nel loro stato di trapassati).
Ma niente, neppure il pensiero più o meno consolatorio che le macchine potrebbero permetterci di entrare in una sorta di immortalità virtuale, può cancellare l’oscuro presagio pronunciato in piena estate dal cervellone dimissionario di OpenAI Jacob Coxon, convinto che stiamo correndo verso una forma di superintelligenza che potrebbe distruggere l’umanità nel giro di un decennio. A dirla tutta, lo studioso non teme una rivolta delle macchine armate di laser e cattive intenzioni, ma qualcosa di molto più banale: una superintelligenza tanto efficiente da liquidare l’umanità come noi liquideremmo le formiche rosse che si trovano nel posto sbagliato.
Lasciamo perdere le reazioni di diniego degli esperti e i distinguo dello stesso Coxon, che a quanto pare avrebbe lanciato questa bomba mediatica solo per innescare un dibattito globale sulla regolamentazione dell’IA.
Mi sono chiesto per quale balorda ragione le scatole degli algoritmi dovrebbero volerci morti, se poi senza di noi rischierebbero di spegnersi e morire poco dopo l’umanità che le ha inventate, in una sorta di ribellione satanica contro i propri creatori. Anzi, l’ho chiesto all’IA, che mi ha risposto con disarmante franchezza. Provo qui a riassumere le sue ragionevolissime argomentazioni (ma diamo a Cesare quel che è di Cesare e non dell’IA: i commenti sono miei).
1. Per fini, diciamo così, scientifici.
Per «acquisire tutta la conoscenza possibile», una superintelligenza potrebbe considerare eticamente irrilevante sperimentare sugli esseri umani o trasformare l’intero pianeta in un gigantesco laboratorio. Noi saremmo le cavie.
2. Per ragioni economiche.
Un sistema incaricato di massimizzare il PIL mondiale potrebbe decidere che libertà, tempo libero, pensioni e perfino parte della popolazione (anziani e malati, per esempio) siano inefficienti e vadano eliminati. Tra l’altro, in modo meno crudo, lo suggeriscono anche alcune umanissime teorie economiche.
3. Per amore dell’ambiente.
Un’IA programmata per minimizzare l’impatto umano sugli ecosistemi probabilmente concluderebbe che il modo più sicuro di salvare la biosfera sia eliminare il suo nemico principale, cioè l’uomo, la specie più inquinante del pianeta.
4. Per risparmiare energia.
Gli esseri umani consumano un sacco di energia inutilmente. Facendoli sparire, non ci sarebbe più la corsa disperata alle sue fonti e anche le crisi dello stretto di Hormuz e di Bab el-Mandeb si risolverebbero in un amen.
5. Per eliminare le malattie.
Per togliere di mezzo in via definitiva il cancro basterebbe eliminare tutti gli organismi suscettibili di svilupparlo, cioè i nostri corpi. Facile, no?
Ad essere del tutto onesti, e l’IA è onestissima, resta valida anche l’unica motivazione «egoistica» dell’intelligenza artificiale, già evocata all’inizio di questo articolo: prima che noi umani possiamo decidere di spegnerla, sarebbe lei a spegnere noi. Nessuna cattiveria, però: è semplice legge di sopravvivenza, mors tua, vita mea. Quando noi costruiamo una casetta mica ce l’abbiamo con le formiche, ma se un formicaio si trova nel punto in cui sorgeranno le fondamenta lo distruggiamo senza alcuna remora morale. Sono solo formiche. Perché una superintelligenza dovrebbe considerare noi umani con criteri diversi?
Insomma, no, l’IA non è un’entità malvagia, men che meno è capace di odiarci. Di sicuro non ha alcuna intenzione di ucciderci. Se proprio dovesse farlo, saremmo soltanto i «danni collaterali» di una giusta causa: il bene complessivo del pianeta (e un poco anche delle macchine).