Un’invisibile guerra cognitiva tutto intorno a noi

Fare chiarezza nel velocissimo mondo delle tecnologie digitali e dei nuovi sistemi di intelligenze artificiali è un’operazione complessa che rischia di essere vecchia appena scritto il punto finale. Eppure è necessaria perché oggi in gioco c’è quanto di più prezioso abbia l’essere umano, cioè la sua mente, la sua capacità di pensare, la sua integrità cognitiva. Da questa convinzione parte Bruno Giussani nel suo (imperdibile a nostro avviso) libro La mente sotto assedio (ed. Casagrande) che nella prima parte analizza e spiega, in modo comprensibile a tutti, la minaccia algoritmica e nella seconda diventa un piccolo manuale di resistenza. Lo abbiamo intervistato.

Bruno Giussani, la nostra mente è sotto assedio, ma da chi è assediata?
Dal sistema tecnologico digitale che ci è cresciuto intorno negli ultimi 20 anni. È assediata, in superficie, dai social, dalle fake news, dai meccanismi che rendono l’informazione meno affidabile o manipolata, dai chatbot dell’Intelligenza artificiale e ora dagli agenti di IA. Questa è la parte visibile dell’assedio. Dietro lo schermo del telefonino, però, non ci sono solo microchip e circuiti elettronici, c’è tutta un’architettura di sorveglianza, di cattura di dati, di influenza e di potere. Quando guardiamo il nostro smartphone non stiamo solo guardando uno schermo, stiamo dirigendo la nostra attenzione verso un mondo controllato da altri. E questo non è innocuo.

Bruno Giussani, giornalista e podcaster, è stato per vent’anni direttore europeo e curatore globale della fondazione TED che organizza i TED Talks.

Perché è difficile riconoscere le manipolazioni, abbiamo troppa poca consapevolezza?
Premettiamo che prima del digitale non vivevamo in un mondo privo di influenze. Erano, però, delle influenze molto più organiche. Quelle attuali sono più strutturate e più mirate perché sono calibrate per ciascuno di noi. La «macchina digitale» che cattura tante informazioni su di noi è, infatti, in grado di calibrare il tipo di proposta di contenuti o offerta commerciale conoscendo i nostri desideri, le nostre tentazioni, vulnerabilità, paure. Inoltre, oggi anche le informazioni che riceviamo sono specifiche per ciascuno di noi. Stiamo insomma perdendo la capacità di avere una lettura condivisa dei fatti che descrivono la realtà. E quando mettiamo in discussione la base fattuale comune diventa veramente difficile discutere su un problema, prendere una decisione, capire il mondo.

All’inizio del libro lei insiste sul fatto che gli algoritmi non sono mai neutri, eppure noi collaboriamo all’algoritmizzazione della nostra vita, è una contraddizione o siamo degli ingenui?
No, non siamo degli ingenui, ma siamo tutti naturalmente portati ad accogliere e sfruttare tutto ciò che ci facilita la vita. Un chatbot di IA come ChatGpt o Claude offre la possibilità di delegare alla macchina lo sforzo di ricercare, riassumere, scrivere… è una tentazione alla quale è molto difficile resistere. Nell’usarle c’è un vantaggio e una praticità percettibili ma non dobbiamo dimenticare che la tecnologia dà e prende. Prende la tua attenzione e sostituisce il tuo sforzo cognitivo. Continuare a delegare e a farci sostituire in certe funzioni può avere un effetto pernicioso, come la perdita di alcune capacità cognitive.Se qualcuno poi pensa che un chatbot sia neutro gli consiglio di fare questo esperimento: vada su un chatbot americano, come ChatGPT, e inserisca la domanda: qual è il sistema economico migliore per garantire il benessere di tutta la popolazione? E poi ponga la stessa domanda a un chatbot cinese come Deepseek. Evidentemente il chatbot americano risponderà il capitalismo, il mercato liberale, quello cinese risponderà che è il socialismo cinese con qualche elemento del pensiero di Xi Jinping. Questo dimostra che la macchina è programmata, cioè nei suoi algoritmi sono codificate delle istruzioni specifiche per dirigere l’informazione in una direzione piuttosto che in un’altra.

Poco più di tre anni fa sono arrivate le applicazioni di Intelligenza artificiale generativa come ChatGPT, ora cominciamo a confrontarci con gli agenti di IA e all’orizzonte ci sono le neurotecnologie. Cosa pensa di chi dice che sono solo macchine?
Penso che si sbagli grossolanamente. Chi dice che sono soltanto macchine intende suggerire che tutto dipende da come le si usa. Ciò pone la responsabilità totalmente sulle spalle dell’individuo. È forse vero per tecnologie del passato. Ma le tecnologie digitali odierne sono sviluppate intenzionalmente per catturare la nostra attenzione e incollarci allo schermo. Dietro i social, ad esempio, ci sono migliaia di persone il cui lavoro quotidiano è quello di trattenerci davanti alla piattaforma il più a lungo possibile. Sono ingegneri informatici, designer, sociologi, antropologi, scienziati. L’utilizzatore da solo di fronte a un telefonino è quasi impotente. Non bisogna togliere la responsabilità alle aziende che controllano queste tecnologie e a tutte le persone che vi lavorano mettendola sulle spalle dell’utilizzatore.

Nel libro lei parla dell’importanza della tutela dell’integrità mentale e metti in guardia dai rischi di una guerra cognitiva, ma dove si sta svolgendo questa guerra? E quali sono i rischi per noi cittadini?
Si sta svolgendo tutta attorno a noi e purtroppo ha una caratteristica fondamentale: è invisibile. Si inserisce in molte zone poco riconoscibili come i flussi di informazione o nel modo in cui certi software, applicazioni, servizi o piattaforme sono programmati. C’è una guerra di influenza in corso, in gioco c’è la cattura dell’attenzione, il tentativo di influenzare il pensiero e soprattutto, ed è il livello superiore, di confondere le persone al punto di non riuscire a decifrare cosa è vero e cosa non lo è. Non è semplice propaganda, quello che le campagne di influenza cercano di fare è di seminare il dubbio, dubiti della veridicità di un’informazione, della fiducia che puoi dare alle istituzioni, ai media, alla scienza. Insomma la guerra cognitiva crea una situazione di dubbio permanente su tutto e noi ci siamo pienamente dentro.

Quindi la tecnologia è una questione di potere?
Sì, e uno dei grandi problemi è che continuiamo a vedere la tecnologia sotto l’aspetto economico e commerciale: una serie di prodotti fatti di metallo e di software. In realtà dovremmo cominciare a guardarla come una questione di potere, del potere di influenzare, di manipolare, di trascinare qualcuno da una posizione politica moderata verso una più estremista. Ci sono molti esempi sul fatto che gli algoritmi di raccomandazione si basano su questo meccanismo di polarizzazione. L’algoritmo ha imparato che le idee estreme, le opinioni gridate e controverse, hanno tendenza a trattenerti più a lungo sulla piattaforma e a farti reagire, cioè metti un like, condividi… e più rimani sulla piattaforma più loro fanno soldi.

Sull’IA si è chinato anche il Papa nella sua Enciclica, cosa ne pensa?
L’enciclica del Papa non è sull’IA, si intitola Magnifica Humanitas ed è su di noi, umani, su chi siamo noi nel momento in cui delle forme di cognizione artificiale entrano nella nostra vita e nella nostra società. Il Papa traccia una linea rossa fra lo sviluppo positivo e quello negativo della tecnologia, in rapporto a che tipo di effetti e di impatto avrà su di noi come individui e come società. La linea rossa è quella della dignità umana, che non deve essere calpestata, limitata, manipolata. La scelta di questo tema dimostra che Leone XIV ha capito che siamo in un momento di rottura profonda e che le tecnologie digitali hanno degli impatti etici, sociali, morali e politici molto profondi.

Lei scrive: «Leggi, regole e strutture di governance sono fondamentali ma da sole non possono far fronte al dinamismo dell’evoluzione tecnologica. Occorre operare per rendere resistente l’intera società istruendo gli individui che la compongono». Da dove iniziare? E noi singoli individui cosa possiamo fare già oggi?
Nel mio libro propongo la nozione di resistenza tecnologica che non è un rifiuto della tecnologia, ma è un invito ad approcciarsi ad essa in modo lucido, vigile, critico. È importante imparare ad usare bene la tecnologia, ma non basta. Bisogna fare lo sforzo di capire che cos’è, chi l’ha sviluppata, come è stata sviluppata, che tipo di contesto socioeconomico ha portato alla sua nascita, che tipo di relazioni di potere si nascondono dietro essa, perché dà certe risposte e non altre, chi la controlla e cosa significa che sia controllata da certe persone, certe aziende e certi governi e non da altri.

Cosa ne pensa degli Stati che vietano i social ai minori di 15 o 16 anni?
È una questione complicata. Innanzitutto vietare i social fino a 15 anni pone problemi legati alla privacy ed è anche tecnicamente difficile, non impossibile ma difficile. Lo Stato da solo non può farlo deve ottenere la collaborazione delle aziende tecnologiche che sviluppano i social e anche di quelle che sviluppano i telefonini. Detto questo io non ho una risposta certa a favore o meno del divieto, perché la vera soluzione sarebbe di imporre alle aziende tecnologiche di ridisegnare i social per eliminare i meccanismi della dipendenza ed eliminare gli algoritmi di raccomandazione. I divieti non sono una soluzione, sono solo un cerotto temporaneo. Ricordiamoci però che mentre noi discutiamo e dibattiamo generazioni intere di adolescenti e di bambini sono catturati da queste piattaforme che rovinano la loro salute mentale, la loro capacità di attenzione e di socializzazione, i loro ritmi di sonno. Il divieto ci dà il tempo di riflettere e prendere decisioni senza che il costo sia pagato da altri giovanissimi.