Fonte immagine Papa Francesco al G7 su intelligenza artificiale: etica, dignità e futuro al centro – Fede e Ragione (federagione.org)

Ufficio Policy Focsiv – Nelle news Focsiv abbiamo già trattato l’intelligenza artificiale (L’intelligenza artificiale al servizio dell’uomo – Focsiv), questa tecnologia è ormai diventata uno nuovo trend fondamentale da tenere in considerazione per chi disegna gli scenari dell’umanità e del nostro pianeta. Una nuova fonte di speranze ma anche di dilemmi e pericoli, tra i quali l’accentramento del potere nelle mani di grandi multinazionali e la crescita delle disuguaglianze tra paesi e ceti sociali.

Di questo se ne è parlato al recente G7 in Italia grazie a una relazione di Papa Francesco. Il nostro volontario Mario Carmelo Cirillo (dopo averne già parlato in L’iperbolica ascesa della Intelligenza Artificiale – Focsiv e in Dialogo dell’Anima del Mondo con l’intelligenza artificiale – Focsiv), propone qui una breve riflessione sulla visione di mondo che questa tecnologia sembra aprire.

Uno strumento affascinante e tremendo. Così Francesco intitola il primo dei quattro paragrafi del suo intervento; un amico mi ha fatto notare che con questi aggettivi il teologo Rudolf Otto caratterizza il Sacro; e, guarda caso, un altro mio amico ha affermato che l’intelligenza artificiale (IA) è il nuovo Dio, che speriamo sia benevolo e generoso con l’umanità, e non distruttivo. Al di là dell’aneddoto, ciò che la IA suscita si muove tra queste due polarità: entusiasmo per le enormi potenzialità, timore per gli altrettanto enormi rischi.

Oltre a questa, c’è un’altra, più sottile, direi meno scontata polarità adombrata nell’intervento del pontefice. Nel primo paragrafo Francesco afferma: … si potrebbe partire dalla constatazione che l’intelligenza artificiale è innanzitutto uno strumento. E viene spontaneo affermare che i benefici o i danni che essa porterà dipenderanno dal suo impiego. Questo è sicuramente vero, poiché così è stato per ogni utensile costruito dall’essere umano sin dalla notte dei tempi.

Nel terzo paragrafo: Non dobbiamo dimenticare infatti che nessuna innovazione è neutrale. La tecnologia nasce per uno scopo e, nel suo impatto con la società umana, rappresenta sempre una forma di ordine nelle relazioni sociali e una disposizione di potere, che abilita qualcuno a compiere azioni e impedisce ad altri di compierne altre. Questa costitutiva dimensione di potere della tecnologia include sempre, in una maniera più o meno esplicita, la visione del mondo di chi l’ha realizzata e sviluppata.

E nel quarto, in prossimità della conclusione: Il paradigma tecnologico incarnato dall’intelligenza artificiale rischia allora di fare spazio a un paradigma ben più pericoloso, che ho già identificato con il nome di “paradigma tecnocratico”.

Ad un’analisi superficiale la prima affermazione può sembrare in contraddizione con le successive due. Così non è: ambedue le cose sono vere; se infatti benefici e danni dell’IA dipendono da come viene impiegata, è altrettanto vero che l’IA è realizzata in un certo contesto, con una certa visione del mondo, e questo non può non condizionare il modo in cui viene e verrà impiegata. È opportuno dunque chiedersi quale sia questa visione del mondo.

La risposta non è semplice, anche perché certe ideologie si muovono per decenni come un fiume carsico, per poi emergere quando i tempi sono propizi. È il caso di certe strane filosofie intorno all’IA [1] che da molti anni vanno elaborando visioni di cui la società civile non è consapevole. Nel 2018 Bollati Boringhieri ha pubblicato Superintelligenza (uscito nel 2014 in inglese). In quarta di copertina c’è il commento, tra gli altri, di Elon Musk: “Da leggere assolutamente …”.  L’autore, Nick Bostrom, è uno dei massimi esponenti delle ideologie attive nel mondo della IA; nel libro si parla di una possibile selezione embrionale iterata (pag. 73), una selezione genetica (pag. 74) per poter in poco tempo giungere a embrioni con le caratteristiche più opportune: alcuni paesi potrebbero offrire incentivi per incoraggiare i cittadini a sfruttare la selezione genetica per accrescere la riserva di capitale umano del paese, o per aumentare la stabilità sociale a lungo termine selezionando tratti quali la docilità, l’obbedienza, la remissività, il conformismo, l’avversione al rischio o la codardia, al di fuori del clan dominante (pag. 74). Si considera la possibilità che qualche stato intraprenda un programma eugenetico (pag. 77) e, in relazione all’ammissibilità etica di queste pratiche, si afferma che: Appena si sarà dato l’esempio e si inizieranno a vedere i risultati, gli oppositori saranno fortemente incentivati a comportarsi allo stesso modo (pag. 78).

Questo è solo un minimo assaggio delle visioni che pervadono ampie e influenti fasce di quanti governano l’IA, e poiché, come afferma Francesco, adesso che gli esseri umani hanno modellato uno strumento complesso vedranno quest’ultimo modellare ancora di più la loro esistenza, mi chiedo: non sarebbe il caso che di tutto ciò si occupasse la politica e la società civile?

La relazione del Papa si può leggere qui: Papa Francesco al G7, il testo integrale del discorso – Vatican News

---

[1]Cfr. Lungotermismo e Transumanesimo, quelle strane filosofie intorno all’Intelligenza Artificiale, in “Psiche, Arte e Società” rivista semestrale, aprile 2024, pp. 123-135, per un approfondimento di quanto qui accennato.