Personalmente non sono indispettito se c’è chi commenta “Magnifica Humanitas” senza averla ancora letta. Si tratta di un documento complesso, non di un instant book, come sempre ricco di riferimenti alla dottrina e alle Sacre Scritture. Evidenziarne anche solo alcuni aspetti è un modo per invitare alla lettura o proporne una prospettiva.

Condividere ciò che abbiamo iniziato a cogliere è ciò che ho provato a fare anch’io, lo scorso giovedì, ospite della Diocesi di Bergamo, insieme a Stefano Remuzzi, il Direttore della Pastorale Sociale e del Lavoro. La serata era già programmata, ma l’occasione della pubblicazione del testo di Papa Leone l’ha resa ancor più partecipata e interessante.

Delle domande e delle riflessioni emerse durante l’incontro ho registrato le seguenti, anche perchè non sempre fanno parte degli incontri formativi che si organizzano con i professionisti e le aziende:

– la crescente consapevolezza in merito ai costi ambientali che la tecnologia implica e l’urgenza di individuarne soluzioni per renderla sostenibile;

– il timore diffuso che il suo uso costituisca un freno allo sviluppo e all’allenamento delle capacità cognitive e la necessità che, a scuola e al lavoro, vi siano formazione e modalità adeguate per introdurla;

– la preoccupazione che le risposte che i chatbot offrono non sono neutre, ma oggetto di possibili manipolazioni, soprattutto in considerazione della concentrazione di potere da cui l’offerta di tecnologia è connotata;

– se oggi è la AI Generativa è un supporto, domani la AI Agentica richiederà l’apporto di meno persone per lo stesso compito.

Di fronte a questi interrogativi, gli spunti che una lettura iniziale dell’Enciclica mi hanno più colpito sono i seguenti:

• come già aveva ricordato Papa Francesco, la semplice “consapevolezza” in merito alle caratteristiche dell’Intelligenza Artificiale non è sufficiente: occorre svilupparne il discernimento. Non basta sapere usare gli strumenti e conoscerne il funzionamento: occorre comprendere ciò che essi producano nell’Uomo, nelle relazioni con l’Altro, nella percezione della realtà e nell’impatto sul Creato;

• con una lucida interpretazione dei modelli generativi, l’osservazione secondo la quale le moderne intelligenze artificiali sono molto più “coltivate” che “costruite”. Non sono algoritmi di cui si possa conoscere in modo trasparente ogni passaggio decisionale, sono sistemi che emergono dall’addestramento su quantità immense di dati, sviluppando correlazioni e comportamenti che spesso nemmeno chi li realizza riesce pienamente a interpretare;

• di fronte alla tendenza all’antropomorfizzazione dell’AI, Magnifica Humanitas non si limita a ricordare i rischi di attribuire significato a ciò che la macchina interpreta come numero, ma sottolinea la minaccia di una nuova forma di alienazione ovvero che l’essere umano stesso divenga parte del sistema come soggetto standardizzabile e ottimizzabile;

• i rischi rappresentati dalla tendenza al compiacimento dei modelli linguistici ai fini di generare un’economia dell’attaccamento da parte degli utenti;

• il contrario di un rifiuto, anzi una considerazione del digitale come “bene a destinazione universale” in cui nuove “terre rare” sono i dati in grado di prevedere e orientare i bisogni delle persone;

• il ricordo dei lavoratori invisibili dell’intelligenza artificiale: annotatori sottopagati, moderatori di contenuti esposti quotidianamente a violenza e pornografia, lavoratori del Sud globale.

“Non serve un’AI più morale, se questa morale è decisa da pochi” è la sintesi che più mi è rimasta in mente di questa prima lettura dell’Enciclica accanto al concetto di “disarmo dell’AI”: non un rifiuto della tecnologia, ma della sua subordinazione alla logica della competizione economica e militare.

Un’ultima osservazione – semplice e al contempo spiazzante perché invoca una risposta integralmente umana – ha colpito i presenti. Quella che ha sollevato Stefano: se l’Intelligenza Artificiale è uno strumento di produttività, che cosa faremo del tempo che resta?

L'articolo Che ne faremo del tempo che resta? proviene da Italia nel futuro.

Il futuro ci dirà se la prima enciclica di Papa Leone XIV pubblicata il 25 maggio scorso, diventerà un documento di valore storico. In ogni caso, oggi possiamo dire che si tratta di una lettera papale che impone una necessaria discussione sul ruolo delle nuove tecnologie “intelligenti” che possono mettere in crisi il ruolo e addirittura il senso dell’umano. 

La Magnifica Humanitas naturalmente parla dell’umano e del trascendente, della dottrina sociale della Chiesa, della pace e della giustizia sociale, del Vangelo, del bene comune e della fede. Eppure, insieme a questi argomenti, questa è la prima enciclica che affronta il tema dei sistemi digitali artificiali che hanno un impatto sul mondo e anche sulla dottrina religiosa e potrebbero mettere in dubbio la posizione degli esseri umani nel mondo fino ad arrivare a cambiare per sempre il loro rapporto finanche con il Creatore.

Siamo di fronte a una enciclica che occupa 84 pagine, è divisa in 245 paragrafi, e contiene 220 riferimenti bibliografici. Tutto questo perché il nuovo Papa ha sentito la necessità di avvertire i suoi fedeli e, insieme a loro l’intera umanità, dell’enorme impatto dell’intelligenza artificiale sul mondo presente e futuro, sulle nostre istituzioni, sulla dignità delle persone e sul bene comune. È singolare che uno scritto che affronta il tema più avanzato della frontiera dell’innovazione tecnologica, abbia un titolo in una lingua antica. Inoltre, usando quella lingua antica, questa grande innovazione che è entrata nelle nostre vita, lì viene annoverata tra le “res novae” del nostro tempo.

Nelle tesi spiegate nell’enciclica, il Papa mostra di aver ben compreso come gli usi dell’IA possano mettere in discussione l’intero ordine mondiale e soprattutto il ruolo dell’essere umano nell’universo conosciuto. Un essere che per i cattolici è fatto a immagine e somiglianza del Dio trinitario. Il paragrafo 5 illustra con estrema chiarezza la posizione del Vaticano: «Nel tempo dell’intelligenza artificiale, in cui la dignità umana rischia di essere oscurata da nuove forme di disumanizzazione, abbiamo il dovere urgente di restare profondamente umani, custodendo con amore quella magnifica umanità che ci è stata donata e mostrata nella sua pienezza in Cristo, e che nessuna macchina potrà mai sostituire nel suo splendore». 

Papa Leone XIV in questa enciclica coglie con estrema lucidità proprio il nodo radicale della possibile disumanizzazione creata dalle macchine algoritmiche. Un nodo che non è soltanto etico, ma squisitamente antropologico e teologico. Il Papa nell’enciclica spiega che l’intelligenza artificiale non è una tecnologia come le altre. Se le macchine del passato, dal treno alla catena di montaggio, hanno sostituito o potenziato la forza degli esseri umani, l’IA per la prima volta simula, sostituisce e in diversi casi supera le facoltà intellettive degli umani. Facoltà che la Chiesa considera l’espressione più elevata dello spirito umano e quindi il legame più forte con l’ultraterreno.

La tutela della dignità umana è un tema centrale dell’enciclica che va oltre la dimensione etica (quindi oltre l’algoretica di cui si parla da tempo) ma punta alle diverse dimensioni della dignità: morale, esistenziale e ontologica. Quest’ultima intesa come «dignità che appartiene a ogni essere umano, semplicemente per il fatto di esistere, di essere stato voluto, creato e amato da Dio». La difesa della dignità umana di fronte alle pratiche sostitutive delle persone operate tramite l’uso di sistemi di IA è un altro tratto cruciale con il quale il Papa supera le critiche che finora sono state in buona parte morali, mentre il piano della dignità umana è certamente più opportuno per sfidare le pratiche delle grandi aziende informatiche e dei governi (e dei regimi) che usano l’IA per farne un’arma da guerra e di sorveglianza di massa.

Al Papa non sfugge un aspetto tecnico che però assume valore sociale, quando tra i beni che sono destinati a tutti, chiede che si debba annoverare le nuove forme di proprietà: brevetti, algoritmi, piattaforme digitali, infrastrutture tecnologiche, dati. In un tempo in cui «la ricchezza delle nazioni dipende sempre più da conoscenze e tecnologie, quando questi beni restano concentrati nelle mani di pochi, senza adeguate forme di condivisione e di accesso, si crea un nuovo squilibrio che contraddice la destinazione universale dei beni e alimenta il divario tra inclusi ed esclusi, tra chi può partecipare alla rivoluzione digitale e chi ne rimane ai margini». 

Insomma, tra i beni comuni devono essere inclusi questi nuovi elementi tecnologici che sono alla base delle ricchezze dei grandi magnati digitali che finora li hanno saputi sottrarre al controllo delle comunità. Su questo aspetto, l’enciclica non poteva essere più esplicita: «Nelle scelte che riguardano i flussi economici e le piattaforme digitali, nel governo dei dati e degli algoritmi, non si può lasciare che pochi attori orientino da soli i processi, ma è necessario costruire forme di cooperazione che rispettino i diversi livelli della comunità mondiale e li rendano corresponsabili del bene comune». 

Il capitolo 3 della Magnifica Humanitas ha un titolo che non di presta a dubbi: tecnica e dominio. In questo capitolo le visioni di questo papato sulle tecnologie di IA sono chiare e inequivoche: occorre custodire il primato della persona di fronte ad una tecnologia pervasiva e sempre più capace di svolgere compiti umani. Un tecnologia che usiamo senza conoscerla fino in fondo. Una tecnologia che Papa Leone sa bene non possedere ancora una teoria scientifica completa, chiara e dimostrata. Infatti, usiamo questi sistemi senza averli formalizzati totalmente. Quindi siamo di fronte all’urgenza di un doppio impegno: l’approfondimento della ricerca scientifica e un esercizio di utilizzo basato su principi umani e ideali.   

Il Papa sa bene che nessuna tecnologia, e meno che mai l’IA, rappresenta un elemento soltanto tecnico quando entra in processi che incidono sulla vita delle persone, quando tocca diritti, opportunità, reputazione, libertà. Come in passato tanti esperti di IA (compreso il premio Nobel Geoffrey Hinton) hanno segnalato più volte, possono esserci usi “antiumani” – manipolazione delle persone, violazione della privacy, disinformazione. Anche quando i sistemi di IA vengano presentati come neutrali e oggettivi, essi rispecchiano e rafforzano stereotipi o posizioni ideologiche di chi li ha progettati e addestrati. Sviluppatori di AI, venditori e utilizzatori sono chiamati alle loro responsabilità morali e sociali. Queste responsabilità hanno effetto su aspetti importanti della vita delle persone come il lavoro, l’educazione e i diritti personali.

Le tecnologie digitali e l’IA sempre più mediano i rapporti tra gli umani e il rapporto degli umani con la realtà. Dunque, il loro ruolo è sempre più rilevante, fino a rischiare di mediare il rapporto dei credenti con Dio. Anche per questo, la Chiesa vuole avere un ruolo nel futuro del mondo e vuole dimostrare di essere capace di svolgere un ruolo di guida critica delle persone, non soltanto dei cattolici, in un mondo che sta per essere trasformato irreversibilmente dai sistemi artificiali intelligenti.

Dalla lettura della Magnifica Humanitas emerge in modo evidente che non è contro lo sviluppo e l’uso dei sistemi di IA, ma è contro il suo sviluppo e il suo utilizzo per dominare l’umanità, per aumentare le disuguaglianze, per manipolare gli umani, come fanno quotidianamente le Big Tech americane e cinesi con il sostegno convinto e interessato dei governi di quelle nazioni. In questo senso, questa enciclica ha un senso politico e sociale globale che dovrebbe essere preso in seria considerazione da tutti quelli che nel mondo amano i diritti dei popoli e il rispetto della natura umana stessa. Dovrebbe essere considerata con attenzione dai politici e dai governi, a partire da quello italiano che tanto ha detto ma poco ha fatto concretamente sul tema dell’uso dei sistemi di IA la formazione dei cittadini e per migliorare i servizi e la produttività del Paese.

Il messaggio è “coltivare” l’IA che serva gli umani, che rispetti il loro valore e la loro dignità. Di fronte ad aziende gigantesche e ricchissime che corrono sempre più velocemente verso lo sviluppo dell’intelligenza artificiale generale, capace di affrontare ogni problema, questa posizione è forte e radicale. Una scelta che dovrebbe diventare una guida per gli abitanti del mondo che hanno bisogno di essere tutelati da una “res novissima” che nuovi poteri privati e pubblici usano per esercitare una nuova forma di potere sul mondo.

L’enciclica spiega con chiarezza che in un tempo nel quale le relazioni umane sono sempre più sfilacciate e fragili, la cultura diventa sempre più populista e la civiltà occidentale vive conflitti profondi, l’AI non deve diventare un’autorità che risponde ai voleri di chi la produce. Al contrario, deve essere una formidabile leva a servizio dell’umanità, un facilitatore di ri-costruzione di valori umani per dare un futuro da protagonisti agli umani in un mondo che sarà pieno di macchine “intelligenti”.

La Magnifica Humanitas si conclude con l’esortazione a «formarci a vivere il digitale in modo umano». A «Educare le nuove generazioni a credere che l’evoluzione delle tecnologie non segue un percorso inevitabile, ma può essere orientata dalla responsabilità personale e collettiva, costituisce uno dei servizi più preziosi al bene comune». Dovremo tutti augurarci che quanto scritto in questa densa e significativa lettera enciclica non rimanga soltanto tra la saggistica del nuovo millennio, ma cammini tra le persone nel mondo e diventi strumento di orientamento quotidiano per i governi e per i cittadini di fronte a una tecnologia che deve diventare un nuovo aiuto e non un nuovo problema per l’umanità.

L'articolo Algoritmi “coltivati” e umani da proteggere: la dignità umana al tempo dell’IA proviene da Italia nel futuro.

Ricordo che la prima volta che mi è capitato di assistere a una rinuncia umana a favore di una macchina fu più di dieci anni fa quando in aeroporto una gentile signora al banco del check-in Alitalia, anche se non c’era nessuno in fila, mi suggerì di usare un totem digitale per stampare le mie carte d’imbarco al suo posto. Io avevo compreso che l’automazione avanzava nel mondo del lavoro e quel totem, e tutto quello che è venuto dopo, avrebbe rubato il lavoro a quella signora e a tanti suoi colleghi. Eppure, l’impiegata che promuoveva l’uso del suo surrogato informatico, sembrava contenta di scaricarsi di un po’ di lavoro e non capiva che la società di gestione dell’aeroporto dopo qualche anno avrebbe scaricato lei. Negli anni a venire di segnali di quel genere ne sono capitati diversi in contesti differenti: nei grandi magazzini, nelle banche, nelle stazioni ferroviarie e nei servizi di consulenza telefonica di grandi compagnie private.

Alcuni anni fa su un quotidiano mi era capitato di commentare come i braccialetti che Amazon stava facendo indossare ai suoi dipendenti che preparavano le spedizioni, prelevando la merce dagli scaffali e riempendo i pacchi da spedire, non servissero tanto per monitorarli (unica preoccupazione dei sindacati poco informati sulla potenza dell’informatica), ma per raccogliere i dati delle loro azioni umane da fornire ai software che guidavano i robot che, anche tramite quei dati, presto avrebbero imparato a sostituirli.

È passato qualche anno da allora e adesso il New York Time rivela che Amazon prevede di sostituire negli USA più di mezzo milione di posti di lavoro umani con dei robot. Secondo quanto ha riportato il New York Times, citando alcuni documenti aziendali interni, i manager di Amazon hanno comunicato al consiglio di amministrazione che l’automazione robotica potrà consentire all’azienda di evitare un aumento dei dipendenti nei prossimi anni anche di fronte alla previsione di un raddoppio delle vendite di prodotti entro il 2033. In particolare, negli USA Amazon, aumentando l’impiego dei robot prevede di evitare 160 mila assunzioni entro il 2027 e un totale di 600 mila nuove assunzioni nell’arco di un decennio. Nel contempo, assumendo i robot al posto dei lavoratori in carne e ossa, sarà capace di risparmiare circa 30 centesimi di dollaro a confezionamento con maggiori utili di miliardi di dollari in alcuni anni.

La più grande azienda di e-commerce al mondo ha coinvolto una squadradi specialisti di robotica per definire come raggiungere l’obiettivo di automatizzare, tramite l’impiego di robot dotati di sistemi di intelligenza artificiale, il 75% delle sue attività logistiche. Anche per il ruolo che ha un’azienda come Amazon, siamo di fronte a una decisione che trasformerà il mondo del lavoro in America, dove l’azienda impiega 1,2 milioni di lavoratori,e successivamente in quasi tutte le nazioni del mondo.

Amazon, infatti, non è soltanto un’azienda di e-commerce, è anche un enorme laboratorio avanzato di automazione logistica. Le sue innovazioni spesso diventano standard tecnologici nel settore. I fornitori, i concorrenti e i partner logistici più volte hanno replicato le soluzioni di Amazon per essere competitivi in termini di costi, velocità e sicurezza. In altre parole, ciò che Amazon fa oggi, molte aziende lo faranno domani. E tutti quelli che in Italia, giustamente, sono preoccupati per gli alti tassi di disoccupazione e i bassi salari, dovranno aggiungere una nuova preoccupazione che nasce da una concreta sostituzione del lavoro umano con quello dei robot.

I vertici di Amazon non hanno smentito le rivelazioni del quotidiano newyorkese e si sono limitati a precisare che si tratta di una scelta di una delle sue divisioni aziendale. Nei fatti, quindi, hanno confermato questa scelta di sostituzione umana, anche se hanno aggiunto che per le feste natalizie assumeranno temporaneamente molte migliaia di lavoratori stagionali per far recapitare per tempo i regali di Natale ai suoi clienti.

Tra le diverse tendenze nell’approccio e nella gestione dell’utilizzo dei sistemi digitali vi è un orientamento che spinge sempre più per la sostituzione dell’umano con la macchina. Per far svolgere ai computer e ai loro software ‘intelligenti’ funzioni e compiti sempre più completi e di rimpiazzo delle persone. Questa tendenza, che è stata largamente adottata da Amazon, potremmo chiamarla di auto-estromissione umana, generata dall’intromissione dei sistemi artificiali nella nostra vita.

Siamo di fronte a quello che gli anglosassoni chiamano downskilling, una nuova forma di dequalificazione di operai e impiegati operata per mezzo dell’introduzione di macchine molto sofisticate capaci di fare come loro o meglio di loro. Gli esempi che si possono citare sono tanti e aumentano ogni giorno: le cassiere dei negozi, gli autisti di Uber, i rider, i formatori dei sistemi di IA generativa, i programmatori, i giornalisti, i camerieri, i traduttori, fino agli attori Hollywoodiani.

Naturalmente di fronte alla estromissione di tanti lavoratori, l’avvento diffuso degli automi sta anche richiedendo la creazione di nuove figure professionali a servizio della robotizzazione dei luoghi di lavoro. Personale tecnico, specialisti informatici, esperti di meccatronica, pianificatori della logistica automatizzata e altri simili. Tuttavia, è necessario notare come il numero di questi professionisti che troveranno lavoro sarà di alcuni ordini di grandezza inferiore al numero dei lavoratori che saranno sostituiti dai robot.

Se questa tendenza dovesse affermarsi su larga scala – tutto sembra andare in questa direzione – ed essere vittoriosa, il mondo del lavoro diventerà postumano in tempi non molto lunghi. Forse verranno creati i sindacati dei robot, mentre i sindacati tradizionali vedranno il loro ruolo diventare sempre meno rilevante. Si tratta di un futuro che è già pronto e potrebbe sorprendere i tanti che ancora lo credono remoto.

L'articolo L’estromissione umana dal lavoro e il caso Amazon proviene da Italia nel futuro.