Fonte immagine How Artificial Intelligence Could Widen the Gap Between Rich and Poor Nations (imf.org)

Ufficio Policy Focsiv – Negli ultimi mesi l’intelligenza artificiale è diventata un argomento di grande attualità. Le sue implicazioni per la società e il mondo del lavoro, per il dibattito pubblico e le democrazie, per i rapporti Nord-Sud e nella competizione geopolitica, addirittura per il rischio esistenziale dell’umanità, e la necessità di una sua regolamentazione. Ne abbiamo già trattato in Dialogo dell’Anima del Mondo con l’intelligenza artificiale – Focsiv, e in L’intelligenza artificiale al servizio dell’uomo – Focsiv.

Oggi ospitiamo la riflessione di Mario Carmelo Cirillo[1] e Franco Padella[2] che ci allarmano su una nuova fase di trasformazione che accentua il potere delle grandi compagnie tecnologiche nel controllare la nostra vita, perpetuando e accentuando disuguaglianze, uniformando le nostre menti grazie all’intelligenza artificiale. Togliendoci lo spirito critico su cui si fonda la nostra libertà e capacità di lottare per l’equità e la giustizia, vittime del nuovo capitalismo della sorveglianza.

Siamo in piena esplosione mediatica dell’Intelligenza Artificiale (IA). A partire dai successi di questa tecnologia in molti campi, vengono sbandierate le mirabilia della IA, in grado di risolvere i problemi che ci affliggono, dalla fame nel mondo al cambiamento climatico, e forse anche la inevitabilità della morte.

In qualche caso si paventano anche i pericoli, come la facilità di costruire fake news capaci di orientare l’opinione pubblica ed esacerbare pregiudizi e disuguaglianze, e altri utilizzi impropri o addirittura illegali; spicca tra questi l’ambigua denuncia di futuri rischi esistenziali che metterebbero a repentaglio la stessa sopravvivenza dell’umanità[i], ripresi anche nel recente vertice sulla IA voluto dal premier britannico[ii]. Sullo sfondo, il crescente predominio delle grandi corporation.

Nel complesso il clima generale è di superlativa magnificazione della IA, rivoluzione tecnico-scientifica che sarebbe addirittura in grado di esprimere “sprazzi di coscienza”, come qualcuno, anche fra gli addetti ai lavori, lascia intendere[iii]; ed il sistema mediatico riprende ed esalta la magnificazione, senza che vi sia alcuna verifica indipendente. Insomma, siamo nel pieno di una fase hype. Questa parola, che richiama l’iperbole[iv], viene utilizzata per riferirsi allo stato di eccitazione entusiasta che si crea su qualcosa (un prodotto, un evento, un’idea, una tendenza …). Spesso riguarda una pubblicità gonfiata con l’obiettivo di suscitare interesse, aspettative ed entusiasmo straordinari tra la gente. L’hype produce una distorsione cognitiva che fa da schermo ad una corretta valutazione del prodotto, nel mentre ne stimola la diffusione.

Tornando alla Intelligenza Artificiale, il punto da cui partire è che i sistemi di IA attualmente sviluppati sono del tutto estranei ad una qualsiasi rappresentazione esplicita della conoscenza in forma logica, al contrario di quanto si cercava di perseguire, con non grande successo, fino dalla fine degli anni ‘90 del secolo scorso.

Internet nella sua forma attuale nasce nel 1991, e con esso inizia una enorme accumulazione di dati da parte delle allora nascenti aziende che operavano nel campo. Sono i dati a produrre la rivoluzione della IA, oltre alle capacità di calcolo vertiginosamente crescenti e un approccio radicalmente diverso: il meccanismo di funzionamento della IA non si basa più su implementazioni razionali di forme di conoscenza tramite una loro rappresentazione esplicita, con sequenze logiche trasparenti e ben definite, ma si “limita” a cercare e trovare le ricorrenze statistiche nei dati (parole, numeri, elementi di immagini, note musicali, sequenze chimiche ecc.), combinandole sulla base di una maggiore occorrenza.

Dell’enorme insieme dei dati a disposizione, cattura in ingresso ed esplicita in uscita le sequenze che si esprimono con probabilità maggiore. Dietro ogni singola risposta c’è una montagna di dati raccolti, una elaborazione fatta di potenza di calcolo ed algoritmi complessi. Ma prima, dietro le quinte e quasi nascosta, c’è anche una fase di enorme sfruttamento dei lavoratori, ingaggiati nei paesi poveri dell’Africa per un paio di dollari l’ora per la ripulitura dei dati, sottoposti alla vista dei peggiori contenuti che internet è capace di esprimere. E ci sono, oltre alla dichiarata vocazione verde delle aziende tecnologiche, giganteschi consumi energetici.

L’attuale IA è un sistema estremamente capace di trovare correlazioni tra dati, ed altrettanto capace, una volta trovate le correlazioni, di esprimere risposte “correlativamente sensate”[v]. Indubbiamente addestrata in campi specifici questa tecnologia fornisce risultati clamorosi. Basta ciò per definire la IA un’intelligenza come normalmente intesa nell’accezione umana? No. Questo la dice lunga sugli enormi rischi di una applicazione automatica e incontrollata della IA, alla quale già si assiste, in campi sensibili quali quelli socio-politici ed economici.

Ed infine: perché l’hype? Per produrre una nebbia cognitiva che distorce le capacità di analisi, favorendo una ulteriore penetrazione diffusa e incontrollata del già immenso potere delle big tech in tutti i settori privati e pubblici, compresi quelli inerenti alla sicurezza nazionale e ai conflitti armati[vi], con conseguente abdicazione della giurisdizione pubblica al ruolo di regolatore a tutela dei soggetti singoli e collettivi, e la caduta dei residui filtri di controllo attivi nella società civile.

In tal senso la vicenda dell’IA ben si inserisce nella saga della “terraformazione”,intesa come trasformazione radicale degli ambienti nei territori conquistati, una uniformazione degli stessi verso il modello dominante anglosassone. Una dinamica intrapresa con il colonialismo fin dagli albori dell’età moderna[vii], e che oggi va proseguendo grazie al neoliberalismo imperante[viii] e ad altre forme di neocolonialismo. Questo processo ha portato enormi vantaggi alle popolazioni dell’Occidente. Il prezzo è stato guerre di sterminio nonché devastazioni sociali, economiche e ambientali che continuano a martoriare il Sud del mondo. Ma non solo. Oramai è chiaro che l’impoverimento, la discriminazione, la disparità tra una élite super ricca e il resto della popolazione non marcano più solo i Paesi che non appartengono all’Occidente. Questi processi sono entrati e coinvolgono anche sempre più ampie fasce di popolazione del “mondo ricco”, minando quella che potevamo definire la nostra personale comfort zone, senza contare i cambiamenti climatici, le pandemie e i conflitti che ci toccano sempre più in prima persona. Si può dire a buon titolo che oggi il Sud del mondo non è un qualcosa di remoto, che non ci appartiene: le sue condizioni sono a noi via via più prossime e incombenti.

Al di là degli approcci “buonisti” e “compassionevoli” – più o meno astratti, più o meno ipocriti – è sempre più impellente ragionare su quanto sia necessario un cambio radicale di paradigma. Purtroppo non ci sono segnali convincenti in tal senso. La politica e la geopolitica dell’Occidente procedono con categorie ottocentesche; in altre parti del mondo, quasi per un contrappasso della storia, appaiono risalire al medio evo. Smentendo i molti buoni propositi spesso affermati nelle diverse sedi sovranazionali, nei fatti l’unico visibile obiettivo da parte dell’Occidente appare essere quello di mantenere le posizioni di dominio e privilegio raggiunte, con il risultato di perpetuare “invidia e risentimento”[ix]. Siamo in un tempo di passaggio, e le categorie che sottendono le politiche espresse dalle classi dirigenti, siano esse occidentali o del resto del mondo, mal si adattano alla complessità che il tempo presente esprime e alla difficile transizione verso il futuro del mondo.

è in questo quadro globale che si accinge a penetrare l’Intelligenza Artificiale, ulteriore tassello fondamentale della saga iniziata oltre cinque secoli fa col colonialismo e la terraformazione dei luoghi sul modello anglosassone. Il rischio ora è la terraformazione delle menti. Non si tratta di un serial televisivo: è una saga che ghermisce le vite dei più deboli, nel Sud del mondo e nel Sud del Nord.

Con le big tech che si danno un gran daffare per creare una ulteriore pagina del capitalismo della sorveglianza[x]: noi non siamo i beneficiari, noi siamo nient’altro che la merce.

---

[1] Mario Carmelo Cirillo, già direttore del Dipartimento per la Valutazione, i controlli e la sostenibilità ambientale dell’ISPRA. Si vedano i contributi recenti dell’autore alle news Focsiv, ultimo proprio il Dialogo dell’Anima del Mondo con l’intelligenza artificiale – Focsiv

[2] Franco Padella: Chimico, esperto in scienza dei materiali, si è occupato per oltre 25 anni di ricerca e sviluppo di materiali, processi e tecnologie per la sostenibilità energetica ed ambientale, la produzione di energia da fonti rinnovabili e per le tecnologie dell’idrogeno, campi nei quali è autore di oltre un centinaio tra pubblicazioni e brevetti.

Impegnato a supporto dei movimenti territoriali per la costruzione di percorsi di fuoriuscita dalla servitù fossile, attualmente si occupa di divulgazione tecnico-scientifica, con particolare riguardo alla transizione energetica e digitale.

---

[i]  https://www.ilfattoquotidiano.it/2023/06/02/perche-la-lettera-appello-di-musk-sullintelligenza-artificiale-e-un-grosso-pasticcio/7164056/

[ii] https://sbilanciamoci.info/sicurezza-nellintelligenza-artificiale-si-ma-per-chi/

[iii] S. Bubeck, V. Chandrasekaran, R. Eldan,J. Gehrke, E. Horvitz,E. Kamar, P. Lee,Y. Tat Lee, Y. Li , S.Lundberg, H. Nori, H. Palangi, M. T. Ribeiro and Y. Zhang, Sparks of Artificial General Intelligence: Early experiments with GPT-4, arXiv:2303.12712v5  cs.CL  13 Apr 2023

[iv] Cfr. Hype di Simona Cresti, Italiano Digitale, La rivista della Crusca in rete, pubblicato il 22 novembre 2023 Italiano Digitale – Hype (accademiadellacrusca.org) . L’autrice riferisce che secondo l’Oxford English Dictionary hype potrebbe essere una retroformazione da hyperbole, ma che l’ipotesi viene smentita in diversi siti che si occupano di lingua inglese (pag. 6). Quanto al genere di hype nell’uso in italiano, l’autrice registra una prevalenza del maschile (pag. 15). Nel testo si è preferito il femminile per omogeneità con iperbole.

[v] Per un approfondimento vedere https://sbilanciamoci.info/capire-lintelligenza-artificiale-per-non-esserne-fagocitati/

[vi] https://eticaeconomia.it/la-guerra-ai-tempi-delle-piattaforme-digitali/?fbclid=IwAR3N3h7JE9JUUeISHeyksiM4lrMq9Ub8RLfMWACAtuqAXGxawlWh7wq8eoo

[vii] Sebbene il termine terraformazione venga per lo più utilizzato con riferimento ad altri pianeti, seguendo Amitav Ghosh (La maledizione della noce moscata – Parabole per un pianeta in crisi, 2021, trad. it. 2022 Neri Pozza editore) la parola ben rappresenta il processo di rimodellamento territoriale, ambientale e demografico (che spesso ha comportato lo sterminio di interi popoli) “a immagine e somiglianza” degli europei nelle colonie americane, asiatiche, africane e australi.

[viii] Cfr. per es.: https://www.focsiv.it/post-economia/.

[ix] George F. Kennan, uno degli architetti dell’ordine strategico del secondo dopoguerra, affermò nel 1948 rivolgendosi ai leader USA: “Noi abbiamo circa il 50% della ricchezza mondiale, ma solo il 6,3% della popolazione. In tale situazione non possiamo che essere oggetto di invidia e risentimento. Il nostro vero obiettivo nei tempi a venire sarà escogitare un sistema di relazioni che ci permetta di mantenere questa disparità. Per farlo dovremo accantonare ogni idealismo e sentimentalismo, e la nostra attenzione dovrà concentrarsi in ogni luogo sui nostri immediati obiettivi nazionali.” (Ghosh cit., pag. 141)

[x] Shoshana Zuboff, Il capitalismo della sorveglianza, Luiss University Press, Roma, 2019.