di Roberto Staro* –
Il 14 giugno 2024, per la prima volta, un Pontefice ha partecipato ad un summit mondiale, il G7 svoltosi in Puglia sotto la Presidenza italiana, ed ha concentrato la sua attenzione sull’intelligenza artificiale sottoponendo alla platea degli Stati partecipanti spunti di riflessione di sicuro interesse.
Invero, già negli anni precedenti la Santa Sede aveva dimostrato una particolare attenzione verso questa “nuova frontiera” ed ha sollecitato, mediante la Pontificia Accademia per la Vita, una profonda analisi del fenomeno, delle sue implicazioni pratiche ma anche morali, del necessario confronto tra fede e scienza.
Al di là della sensibilità religiosa di ciascuno, non v’è dubbio che le parole del Santo Padre siano state pertinenti perché rivolte a difesa dell’uomo, inteso come essere umano che deve intendersi comunque epicentro di qualsivoglia innovazione tecnologica, nei cui confronti lo strumento dell’intelligenza artificiale non può – e non deve – limitarne la capacità di scelta, di evoluzione e di controllo.
Il presente articolo si propone, seguendone le tracce, di completare il lavoro già presentato su questa rivista(1) e di affiancare alle domande emerse in quella sede quella, forse di più difficile soluzione, avente ad oggetto la delimitazione del confine tra gli orizzonti di sviluppo dell’intelligenza artificiale e l’etica.
In questa ricerca, per fortuna, non sarò da solo, bensì farò richiamo alle parole ed agli argomenti rivolti dal Pontefice alla platea mondiale(2) ed alla ispirazione che sarò capace di trarne.
L’IA, “strumento affascinante e tremendo”
I due aggettivi usati per descrivere l’intelligenza artificiale accompagnano il sostantivo “strumento”, ed è attorno a questa parola che Papa Francesco ha costruito il suo intervento. Sottolineare la dimensione strumentale delle intelligenze artificiali (plurale usato tanto nel messaggio per la LVIII Giornata mondiale delle comunicazioni sociali quanto nel messaggio per la LVII Giornata mondiale della pace), è la modalità che ha permesso al Santo Padre di sottolineare la dimensione umanistica della tecnologia.
Questa premessa potrebbe apparire scontata ma, all’interno di una rivoluzione tecnologica così penetrante al punto da essere capace di stravolgere il concetto delle fonti del sapere (ad esempio attraverso l’affinamento della c.d. “IA generativa”), assume il valore di un assioma irrinunciabile.
Secondo le parole del Santo Padre “si potrebbe partire dalla constatazione che l’intelligenza artificiale è innanzitutto uno <strumento>. E viene spontaneo affermare che i benefici o i danni che essa porterà dipenderanno dal suo impiego”. L’IA allora non è nient’altro che uno strumento, al pari di qualsivoglia utensile, ed appartiene alla storia evolutiva dell’uomo. Ma, allo stesso tempo, è ciò che più ci differenzia dal mondo animale. E che, inoltre, ci rapporta con l’ambiente nel quale viviamo, tanto che “non è possibile separare la storia dell’uomo e della civilizzazione dalla storia di tali strumenti”.
Una riflessione sulla tecnologia non è quindi tesa a restringere le maglie dello sviluppo e della scoperta scientifica ma, al contrario, è la dimostrazione della centralità dell’individuo nel creato e della sua responsabilità a sfruttare bene (o per il bene) la capacità di incidere nell’ambiente che lo circonda.
“Parlare di tecnologia è parlare di cosa significhi essere umani e quindi di quella nostra unica condizione tra libertà e responsabilità, cioè vuol dire parlare di etica”
Lo sviluppo tecnologico non ci deve far paura; la volontà di evolversi è intrinseca all’uomo perché “siamo esseri sbilanciati verso il fuori di noi, anzi radicalmente aperti all’oltre. […] da qui nasce il potenziale creativo della nostra intelligenza in termini di cultura e di bellezza; da qui, da ultimo, si origina la nostra capacità tecnica. La tecnologia è così una traccia di questa nostra ulteriorità”.
Il messaggio è che la tecnologia, tutta la tecnologia, è legata alla natura proprio dell’uomo, al suo essere proiettato verso l’altro, verso un’alterità. La tecnologia non solo dunque non è neutra, ma è sempre un’espressione della natura relazionale dell’uomo, un’espressione di bellezza perché manifesta la capacità e il desiderio dell’uomo di “essere per”, di proiettarsi verso l’altro.
La tecnologia, quindi, non è dannosa in quanto, mutuando un concetto già espresso da molto tempo dal Santo Padre(3), abbia in sé, per sua natura, un seme di bellezza e di apertura al trascendente che deve essere colto e valorizzato. E ciò può essere fatto soltanto dall’uomo e per l’uomo.
Lo scienziato o l’esploratore sono sempre condotti da un desiderio di scoperta che migliori la condizione dell’uomo, che ne allarghi gli orizzonti, che tenda all’infinito. In qualunque campo o settore della ricerca il fine ultimo è costituito dal superamento del limite. La domanda, pertanto, non è nel distinguere una tecnologia buona da una cattiva, bensì nel circoscriverne il suo utilizzo per il bene o per il male.
La differenza tra scelta e decisione
L’elemento nuovo dell’IA è costituito dal fatto che, a differenza di qualunque tecnologia precedente, può essere in grado di compiere una scelta in autonomia, ossia di valutare
(rectius, di selezionare) all’interno di un dedalo pressoché sconfinato di dati quali siano quelli da valorizzare per rispondere compiutamente alla domanda che gli viene posta. È la c.d. logica dell’algoritmo il quale, tuttavia, massimizza la capacità della mente umana di analizzare e sintetizzare tutti i dati universalmente raccolti per fornire un risultato che, in termini statistici, sia il più preciso possibile.
Il tema relativo ai rischi ed alle opportunità di un tale meccanismo sono stati già trattati nel mio precedente lavoro, per cui evito di ripetermi.
Il discorso del Santo Padre propone, tuttavia, un’ulteriore fianco di approfondimento; la questione, infatti, non è sulla capacità dell’intelligenza artificiale di setacciare l’intero arcobaleno dei dati (di cui essa è stata fornita) per estrarne quello più pertinente alla nostra domanda, sulla base delle specifiche che abbiamo impostato. Il problema risiede, invece, nella necessità di confrontarsi con la prospettiva che l’intelligenza artificiale possa, in luogo di estrapolare una risposta, generarla ex novo.
“[…] l’intelligenza artificiale, invece, può adattarsi autonomamente al compito che le viene assegnato e, se progettata con queste modalità, operare scelte indipendenti dall’essere umano per raggiungere l’obiettivo prefissato”.
Su questo piano molto scivoloso si incontrano, da un lato, la volontà e la capacità dell’uomo di affinare le proprie tecnologie e di renderle sempre più efficienti tanto da poter correggere i propri errori o ristabilire i loro processi interni e, dall’altro lato, la tentazione insita nella natura umana di allontanare da sé la decisione, ossia il momento in cui logica e istinto, testa e cuore, possano andare a scontrarsi. In altri termini, da un lato, la conoscenza e la capacità di apprendimento, dall’altro lato, la vicenda unicamente umana della libertà di scelta e della responsabilità delle proprie azioni.
I modelli di Generative Artificial Intelligence (rafforzata dalle capacità di self-learning and self tutoring), sembrano invece sollevare l’essere umano dall’assunzione della responsabilità per le scelte effettuate e questa caratteristica rende l’IA particolarmente attraente. Non per niente nella “vecchia storia” della creazione, nel momento in cui l’essere umano è messo di fronte alle conseguenze (cognitivamente note ex ante, ma esperienzialmente ignote) della propria scelta e decisione di “mangiare dell’albero della conoscenza del bene e del male”, si assiste ad un goffo tentativo di negazione della responsabilità, che quasi stempera in commedia l’inizio drammatico della vicenda umana: «La donna che tu mi hai posta accanto mi ha dato dell’albero e io ne ho mangiato»; o ancora: «Il serpente mi ha ingannata e io ho mangiato» (Gn 3, 12-13).
È su queste basi che il monito del Pontefice si fa più forte: “Ciò che la macchina fa è una scelta tecnica tra più possibilità e si basa o su criteri ben definiti o su inferenze statistiche. L’essere umano, invece, non solo sceglie, ma in cuor suo è capace di decidere. La decisione è un elemento che potremmo definire maggiormente strategico di una scelta e richiede una valutazione pratica. […] Di fronte ai prodigi delle macchine, che sembrano saper scegliere in maniera indipendente, dobbiamo aver ben chiaro che all’essere umano deve sempre rimanere la decisione, anche con i toni drammatici e urgenti con cui a volte questa si presenta nella nostra vita. Condanneremmo l’umanità a un futuro senza speranza, se sottraessimo alle persone la capacità di decidere su loro stesse e sulla loro vita condannandole a dipendere dalle scelte delle macchine. Abbiamo bisogno di garantire e tutelare uno spazio di controllo significativo dell’essere umano sul processo di scelta dei programmi di intelligenza artificiale: ne va della stessa dignità umana”.
Lo sforzo, quindi, è e sarà quello di non abdicare a favore della soluzione, apparentemente più comoda e più completa, fornita da una macchina. Il percorso evidentemente è pieno di insidie, prima fra tutte la volontà intrinseca dell’uomo di esternalizzare un processo decisionale che tante lacerazioni può comportare al suo interno. Non sempre una scelta “giusta” è una scelta “equa” ovvero valida per ognuno; così come una decisione può essere al contempo necessaria ma dolorosa o, addirittura, selettiva.
Allora, per resistere alla tentazione di affidare ad altri questo momento terribile, non può non ricordarsi che l’intelligenza artificiale, seppur bellissima ed avanzatissima, altro non è che un “utensile” creato dall’uomo perché se ne possa servire, e giammai perché ne possa essere sopraffatto.
Del resto, anche a voler proseguire nel chiamarla “generativa”, l’intelligenza artificiale è piuttosto “rafforzativa” perché “[…] cerca nei big data delle informazioni e le confeziona nello stile che le è stato richiesto. Non sviluppa concetti o analisi nuove. Ripete quelle che trova, dando loro una forma più accattivante. E più trova ripetuta una nozione o una ipotese, più la considera legittima e valida. Più che generativa, essa è quindi rafforzativa, nel senso che riordina i contenuti esistenti, contribuendo a consolidarli, spesso senza controllare se contengano errori o preconcetti”.
I contenuti a cui fa riferimento, tuttavia, possono non essere veri e, seppur numericamente convincenti, potrebbero non rispondere alla realtà.
Cibernetica e fantasmi
Per quanto possa sembrare sbalorditivo, il tema dell’intelligenza artificiale e della sostituibilità dell’uomo con una macchina non è soltanto spunto per approfondimenti di questo periodo.
Già nel 1967 Italo Calvino, nell’ambito di un ciclo di conferenze in Italia ed all’estero, rifletteva sul ruolo della letteratura nell’era delle nascenti macchine intelligenti domandandosi se un giorno “avremo la macchina capace di sostituire il poeta e lo scrittore” e se mai “avremo macchine capaci di ideare e comporre poesie e romanzi”.(4) Alla base di questo ragionamento vi era l’idea che la letteratura, più di altre forme di arte, fosse “un’ostinata serie di tentativi di far stare una parola dietro l’altra seguendo certe regole definite, o più spesso regole non definite né definibili ma estrapolabili da una serie di esempi o protocolli, o regole che ci siamo inventate per l’occasione”. Non v’è dubbio che questa visione, assai poco romantica dell’ispirazione artistica, fosse frutto di una corrente intellettuale molto pressante in quel periodo, al punto da ipotizzarsi un bizzarro connubio tra letteratura ed aritmetica(5).
L’esempio appena proposto potrebbe apparire non pertinente con l’argomento in questione; eppure, si trattava di un rudimentale tentativo di stravolgere i canoni dell’ispirazione umana per comprendere se e quanto ogni forma creativa fosse dipendente dalla natura dell’uomo ovvero se comunque potesse essere racchiusa all’interno di gabbie precostituite ma modulabili tramite infinite combinazioni. Non si può non notare che tale idea si avvicini molto all’odierno algoritmo sul quale si fonda la validità e l’efficienza dell’intelligenza artificiale.
A distanza di appena cinquantasette anni la questione non è tanto sulla realizzabilità pratica dello strumento, bensì sul timore che esso possa effettivamente sostituire il bellissimo e molto umano momento dell’ispirazione artistica dell’uomo.
È argomento quotidiano, del resto, quello del fenomeno delle fake news intese come creazioni autonome da parte dell’intelligenza artificiale di notizie o immagini che, sempre più difficilmente, possono distinguersi dalla realtà.
Questa nuova frontiera pone due domande cruciali; la prima riguarda la salvaguardia della coscienza critica di ogni individuo, mentre la seconda è riferita alla capacità di vincere la solitudine mediante la coltivazione di relazioni comode.
In relazione alla prima questione, è ormai costante l’allarme circa il pericolo che quella odierna sia una “società delle risposte e del disancoramento fonte-informazione”(6). Con questa espressione si fa riferimento alla mole impressionante di risposte sempre disponibili che i motori di ricerca, così come le tecnologie di IA ci forniscono, quasi addirittura senza che sia necessario un nostro comando, tanto che mai come in questo momento gli esseri umani hanno accesso ad una infinita quantità di informazioni con un così minimo sforzo. Ne consegue che l’intero processo conoscitivo di una persona possa essere ridotto al meccanismo di domanda mediante la digitazione su di una tastiera, con evidente abdicazione del pensiero.
Ma ciò che è più grave è lo scollamento dell’informazione dal suo stesso autore. L’elefantiaca quantità di dati attraverso i quali si può generare (rectius, raccogliere) una risposta, peraltro a prescindere da chi abbia immesso quei dati, mina il concetto di attendibilità o di fonte, in quanto li relega a dati numerici di tipo quantitativo-statistico la cui produzione è – magari – in mano a pochi.
Questo tema evidentemente non è sfuggito nel discorso del Pontefice il quale, nell’osservare che “l’intelligenza artificiale è un’utensile disegnato per la risoluzione di un problema e funziona per mezzo di un concatenamento logico di operazioni algebriche, effettuato su categorie di dati, che sono raffrontati per scoprire delle correlazioni, migliorandone il valore statistico, grazie a un processo di auto-apprendimento, basato sulla ricerca di ulteriori dati e sull’auto-modifica delle sue procedure di calcolo”, ammonisce come in pericolo vi sia la dignità umana e la ragione stessa della sua creazione perché “al contrario, l’essere umano è sempre in evoluzione ed è capace di sorprendere con le sue azioni, cosa di cui la macchina non può tener conto”.
La seconda questione rappresenta uno degli aspetti della lacerazione della società attuale. È il paradosso per cui l’enorme quantità di informazioni e di stimoli che quotidianamente ciascuno di noi riceve, invece di suscitare curiosità o di trainare la creatività, anche nelle relazioni interpersonali, affossano l’essere umano in una latente depressione. Non v’è dubbio che la solitudine, o ancor peggio l’isolazionismo, siano i mali di questo momento storico ed uno dei rischi più difficili da combattere per l’uomo.
E, purtroppo, l’intelligenza artificiale potrebbe proporre modelli di soluzione fuorvianti, se non addirittura deflagranti. L’interazione uomo-computer diventa, giorno dopo giorno, sempre più soddisfacente, al punto che è ormai possibile un dialogo con delle risposte da parte della macchina che non siano precostituite ma che vengano generate secondo l’interlocutore, così andando incontro ai suoi umori, ai suoi piaceri, alle sue intenzioni. Fino a risultare rassicurante.
“[…] i programmi di intelligenza artificiale saranno sempre più dotati delle capacità di interagire direttamente con gli essere umani (chatbots), sostenendo conversazioni con loro e stabilendo rapporti di vicinanza con loro, spesso molto piacevoli e rassicuranti, in quanto tali programmi di intelligenza artificiale saranno disegnati per imparare a rispondere, in forma personalizzata, ai bisogni fisici e psicologici degli esseri umani”.
Il rischio, insomma, non è che la macchina prenda il sopravvento, ma piuttosto che l’individuo ceda il passo alla macchina per pigrizia o rassegnazione.
“Dimenticare che l’intelligenza artificiale non è un altro essere umano e che essa non può proporre principi generali, è spesso un grave errore che trae origine o dalla profonda necessità degli esseri umani di trovare una forma stabile di compagnia o da un loro presupposto subcosciente, ossia dal presupposto che le osservazioni ottenute mediante un meccanismo di calcolo siano dotate delle qualità di certezza indiscutibile e di universalità indubbia”.
Ecco, a pensarci bene, l’idea di una tecnologia rassicurante, capace di leggere i nostri bisogni e di adattarvisi è contrastante rispetto al modello relazionale che ci riporta l’esperienza cristiana. In quest’ultima, infatti, è ben presente al centro tanto il libero arbitrio, quanto la responsabilità nelle proprie scelte. Nella propria esperienza terrena Gesù ha stravolto i canoni di pensiero ed ha proposto un modello di vita nuovo ma niente affatto rassicurante, perché disallineato dalle regole del tempo. Ad esempio quando, nel “reclutamento” degli apostoli, gli chiede di abbandonare la loro vita e la loro famiglia e di seguirlo. Ciò in quanto crede fermamente nell’uomo e nelle sue possibilità e, nel non mostrarsi accondiscendente, gli impone di agire, ossia di scegliere autonomamente ma con convinzione.
Ed allora il rischio dell’intelligenza artificiale sta proprio nell’annichilimento di questa libertà e capacità di scelta, nel torpore del proprio pensiero, nella delega (ad una macchina) di cosa sia giusto o meno. Anche se ciò comporti una scelta di vita o di morte.
“Non dobbiamo dimenticare infatti che nessuna innovazione è neutrale. La tecnologia nasce per uno scopo e, nel suo impatto con la società umana, rappresenta sempre una forma di ordine nelle relazioni sociali e una disposizione di potere, che abilita qualcuno a compiere azioni e impedisce ad altri di compierne altre. Questa costitutiva dimensione di potere della tecnologia include sempre, in una maniera più o meno esplicita, la visione la visione del mondo di chi l’ha realizzata e sviluppata.”.
Queste stesse domande sono state poste a Mr. Brad Smith, Vice chair and President di Microsoft, nell’ambito di una recente intervista ad opera Padre Paolo Benanti(7). Il tema del colloquio verteva proprio sul rapporto tra intelligenza artificiale ed etica, con particolare riferimento al ruolo delle (poche) grandi società in grado di condizionare lo sviluppo e l’implementazione di questa rivoluzione tecnologica. Al riguardo, Mr. Smith riconosce la centralità dei valori etici e della loro attuazione affinché i creatori dell’intelligenza artificiale li condividano con tutto il resto del mondo: “è necessario considerare tre aspetti: il primo è quello di portare al mondo l’intelligenza artificiale. […] In secondo luogo dobbiamo utilizzare l’IA per la salute, per un migliore accesso alle risorse alimentari, per creare maggiori opportunità. Inoltre l’intelligenza artificiale dovrà essere al servizio dei valori della famiglia umana: dovranno essere le persone a decidere quando l’IA sarà accessibile o se verrà usata per il bene o per il male.”. Ma forse, più di tutte le altre, è la risposta alla domanda su come garantire un uso etico dei big data che a rivestire importanza cruciale e punto di partenza per un corretto ragionamento: “Credo che ci siano alcune aree in cui dovremo riservare tali decisioni agli esseri umani. Il futuro non può essere previsto per un individuo o per un intero Paese o società semplicemente prendendo dati dal passato e dando per scontato che continuerà nello stesso modo. […] Si tratta di rispettare anzitutto la dignità umana e il diritto alla privacy”. Queste parole siano allora da auspicio affinché, oggi come un domani, le c.d. big tech possano proporre un modello di sviluppo ancorato ai valori etici, sia con riferimento ai mezzi che agli obiettivi, e che la logica del profitto non costituisca l’unica ragione di investimento in questa tecnologia.
1. Roberto Staro, “La giustizia predittiva tra mito e realtà”, Nova Itinera 1/24
2. https://www.vatican.va/content/francesco/it/speeches/2024/june/documents/20240614-g7-intelligenza- artificiale.html
3. https://www.vatican.va/content/francesco/it/encyclicals/documents/papa-francesco_20150524_enciclica- laudato-si.html
4. I. Calvino, Cibernetica e fantasmi in «Le conferenze dell’Associazione Culturale Italiana», fase. XXI, 1967-68, ma anche in “Una pietra sopra”, Mondadori, 1995.
5. È il modello di poesia combinatoria di “Cent mille milliards de poemes” di Raymond Queneau, 1961
6. A. Principe – M. Sideri, Il visconte cibernetico, 2023
7. Professore presso la Pontificia Università Gregoriana.
Noi come i Re Magi
La figura dei tre Re Magi, che si prestano ad un lungo viaggio soltanto per conoscere un neonato di cui poco sanno, è sempre stata una rappresentazione carica di fascino e di curiosità. Dal poco che ne sappiamo sulla loro identità, possiamo comunque ricavarne un tratto distintivo comune: erano tutti uniti dalla comune ricerca di risposte alle domande fondamentali, quelle che più o meno si pone ciascuno di noi nella ricerca dei perché della vita.
Non v’è dubbio che quello dei Re Magi sia stato un percorso di fede; ma, consentitemi una riflessione intima, quella storia mi sembra attuale con le domande ed il ragionamento di questo articolo. I Re Magi infatti erano dotati di conoscenza e di sapere e, nel loro cammino, si affidavano comunque alla scienza nel seguire la stella e nel trovare la strada; eppure il loro viaggio non era dettato né da curiosità né dalla ricerca di conferme, bensì dal desiderio di sapienza, intesa come Verità. Tuttavia non si affidavano soltanto alle loro conoscenze umane ma, per compiere appieno la loro ricerca, dovevano ascoltare il cuore, scegliendo di tornare per un’altra strada invece di far ritorno da Erode.
A chiusura di questo lavoro, mi piace allora immaginare che quella rappresentazione, oltre ad aver arricchito di suggestione la mia infanzia, possa essere un esempio di incontro tra fede e scienza, tra quello che l’uomo può fare e ciò in cui deve necessariamente credere, tra il bagaglio che porta e le nuove esperienze che può affrontare se messo nella condizione di scegliere.
