L\u2019enciclica di Leone XIV prende il meglio del pensiero critico sulla rivoluzione digitale e lo usa contro la narrazione dominante degli ineluttabili benefici del progresso tecnologico fondato sulla IA.<\/p>\n\n\n\n
Un punto di vista di parte sulle tecnologie<\/strong><\/p>\n\n\n\n Per chi negli ultimi anni ha cercato di elaborare un pensiero politico all\u2019altezza della rivoluzione digitale l\u2019enciclica di Leone XIV \u00e8 allo stesso tempo un punto di arrivo e un punto di partenza.<\/p>\n\n\n\n Un punto di arrivo perch\u00e9 mette a sistema la parte migliore del pensiero critico sul digitale e la ripropone con linguaggio semplice e rigoroso.<\/p>\n\n\n\n Un punto di partenza perch\u00e9, finalmente, sottrae la questione digitale ai suoi confini di settore e ne fa la principale delle \u2018cose nuove\u2019, quella che determina la forma del mondo attuale.<\/p>\n\n\n\n Entriamo nel merito.<\/p>\n\n\n\n Gi\u00e0 nella introduzione viene dichiarato il punto di vista \u2018di parte\u2019 con cui guardare al potere delle \u2018nuove tecnologie\u2019: \u201cla questione non si esaurisce nella regolamentazione [\u2026] occorre domandarci con realismo chi oggi detenga questo potere [\u2026] un dominio impressionante sull\u2019insieme del genere umano e sul mondo intero\u201d. E questo potere non \u00e8 degli Stati, \u201ci principali motori dello sviluppo sono attori privati, spesso transnazionali, dotati di capacit\u00e0 di intervento superiori a quelle di molti governi\u201d. Il potere tecnologico assume quindi oggi \u201cun volto inedito, prevalentemente \u2018privato\u2019, e per questo ancora pi\u00f9 difficile da discernere, governare e orientare al bene comune\u201d.<\/p>\n\n\n\n Dunque la \u2018regolamentazione\u2019 non basta se non si affronta la questione di chi detiene il potere sulla trasformazione digitale. Che differenza rispetto alla rituale, quanto inefficace, richiesta di regole dei politici \u2018progressisti\u2019. Al consolatorio affidarsi alla \u2018normativa europea\u2019, ultima trincea politica da difendere dagli assalti di chi vuole liberarsi da ogni vincolo in nome di una \u2018competizione\u2019 che riproduca anche in Europa un analogo potere privato sulla tecnologia.<\/p>\n\n\n\n Occorre fare altro e non accettare che \u201cmentre alcuni si contendono futuro delle nuove tecnologie e altri sono impegnati nella riflessione su di esse, la maggior parte delle persone rimane in attesa, osserva da lontano e spera semplicemente che tutto vada per il meglio\u201d.<\/p>\n\n\n\n La \u2018cosa nuova\u2019 dell\u2019Intelligenza Artificiale<\/strong><\/p>\n\n\n\n Definito il \u2018punto di vista\u2019 si pu\u00f2 affrontare di petto la forma e il nome che la questione digitale ha assunto negli ultimi anni, e cio\u00e8 \u2018l\u2019intelligenza artificiale\u2019.<\/p>\n\n\n\n Non si danno definizioni, per le quali si rimanda a una letteratura ormai vastissima, ma si coglie il nodo pi\u00f9 sensibile degli attuali sistemi di IA descrivendolo con efficace semplicit\u00e0: \u201cTutti noi, compresi coloro che li progettano, conosciamo poco del loro effettivo funzionamento. Le moderne intelligenze artificiali sono infatti pi\u00f9 \u2018coltivate\u2019 che \u2018costruite\u2019: gli sviluppatori non ne progettano direttamente ogni dettaglio, bens\u00ec creano un\u2019architettura sulla quale l\u2019IA \u2018cresce\u2019. Di conseguenza, aspetti scientifici fondamentali \u2013 come le rappresentazioni interne e i processi computazionali di questi sistemi \u2013 rimangono al momento sconosciuti\u201d.<\/p>\n\n\n\n Questa reale \u2018opacit\u00e0\u2019, oggi alla base delle molteplici narrazioni sulla effettiva capacit\u00e0 della AI di \u2018pensare\u2019, \u00e8 la forma pi\u00f9 seducente della promozione commerciale di questi prodotti dell\u2019industria tecnologica.<\/p>\n\n\n\n Contro questa narrazione la presa di posizione \u00e8 netta.<\/p>\n\n\n\n \u201cOccorre evitare l\u2019equivoco di equiparare questa \u2018intelligenza\u2019 a quella umana. Questi sistemi imitano alcune funzioni all\u2019intelligenza umana. Nel farlo spesso la superano per velocit\u00e0 e ampiezza di calcolo, offrendo benefici concreti in numerosi campi. E tuttavia questa potenza resta legata esclusivamente al trattamento dei dati: le cosiddette intelligenze artificiali non vivono una esperienza, non possiedono un corpo, non attraversano la gioia e il dolore, non maturano nella relazione, non conoscono dall\u2019interno ci\u00f2 che significa amore, lavoro, amicizia, responsabilit\u00e0. Non hanno neppure una coscienza morale: non giudicano il bene e il male, non colgono il senso ultimo delle situazioni, non assumono su di s\u00e9 il peso delle conseguenze\u201d1<\/sup><\/a><\/sup>.<\/p>\n\n\n\n Non basta invocare l\u2019etica<\/strong><\/p>\n\n\n\n Ma il testo dell\u2019enciclica non si limita a questa presa di posizione, e ripercorre l\u2019analisi critica delle possibili conseguenze negative di un uso non consapevole di questi sistemi. Ad esempio sul piano dell\u2019uso personale, segnalando i rischi di tre aspetti: \u201cla facilit\u00e0 di ottenere il risultato, l\u2019impressione di oggettivit\u00e0 e la simulazione della comunicazione umana\u201d. O sul piano dell\u2019uso nei processi decisionali, \u201cquando i sistemi di IA, presentandosi come neutrali e oggettivi, rispecchiano e rafforzano stereotipi o posizioni ideologiche di chi li ha progettati e addestrati\u201d.<\/p>\n\n\n\n Ed \u00e8 a questo punto che vi \u00e8 l\u2019elemento di maggiore discontinuit\u00e0 politica non solo con le prese di posizione della politica \u2018progressista\u2019, ma con le stesse formulazioni di precedenti documenti vaticani. Non \u00e8 un caso che in tutta l\u2019enciclica non compaia mai il brutto neologismo \u2018algoretica\u2019, ma si affermi con chiarezza: \u201cNon basta invocare genericamente l\u2019etica [\u2026]. Non serve un\u2019IA pi\u00f9 morale, se questa morale \u00e8 decisa da pochi. Serve una politica pi\u00f9 presente, capace di rallentare dove tutto accelera e di proteggere gli spazi in cui le comunit\u00e0 possono ancora partecipare e interrogarsi\u201d.<\/p>\n\n\n\n Compaiono qui due elementi di grande importanza.<\/p>\n\n\n\n Il primo \u00e8 la positivit\u00e0 del rallentamento, \u201cchiedere prudenza, verifiche rigorose e talvolta anche un rallentamento nell\u2019adozione dell\u2019IA non significa essere contro il progresso, ma esercitare una cura responsabile verso la famiglia umana\u201d. Che benefica distanza dalla sciocca retorica progressista dell\u2019innovazione, dall\u2019accusa di \u2018luddismo\u2019 scagliata contro ogni pur timida critica dell\u2019ineluttabilit\u00e0 nell\u2019uso dei sistemi di IA!<\/p>\n\n\n\n Il secondo \u00e8 l\u2019entrata in scena di un attore politico imprevisto: le comunit\u00e0 chiamate a partecipare e a interrogarsi. Non pi\u00f9 soltanto gli esperti pi\u00f9 o meno arruolati, i proprietari delle tecnologie, gli \u2018eticisti\u2019 di professione, ma i tanti senza potere che subiscono le conseguenze dell\u2019innovazione, chiamati a intervenire, a partecipare, a riorientare, a riappropriarsi del maltolto: \u201cLe comunit\u00e0 e i corpi intermedi non possono essere ridotti a destinatari di decisioni prese altrove, ma devono poter contribuire al discernimento e alla vigilanza. Inoltre la propriet\u00e0 dei dati non pu\u00f2 essere affidata solo a privati [\u2026]. Essi sono frutto del contributo di molti e non possono essere venduti o affidati a pochi. Serve una creativit\u00e0 in grado di gestirli come uno dei beni comuni o collettivi, nella logica della condivisione\u201d.<\/p>\n\n\n\n Rallentamento e digiuno<\/strong><\/p>\n\n\n\n Il tema del rallentamento, se non di una moratoria nell\u2019uso della IA, viene ripreso successivamente in tre sezioni.<\/p>\n\n\n\n La prima legata ai processi educativi, che \u201channo bisogno di tempi di maturazione, di confronto con la realt\u00e0 oltre le apparenze e di un cammino paziente. La questione \u00e8 radicale perch\u00e9 ogni tecnologia educa chi la utilizza. Educare all\u2019uso dell\u2019IA implica quindi educare e decidere quando e per cosa non<\/em> usarla [\u2026]. Dobbiamo educarci a digiunare dall\u2019IA e proteggere i nostri giovani dalla promessa della macchina perfetta, da quella seduzione sottile che fa sembrare inutile il pensiero umano proprio quando \u00e8 pi\u00f9 necessario\u201d2<\/sup><\/a><\/sup>.<\/p>\n\n\n\n La seconda \u00e8 quella dedicata al lavoro, nella quale si afferma: \u201cOggi l\u2019intreccio tra automazione, robotica e IA sta trasformando rapidamente la struttura stessa del lavoro. Questo porter\u00e0, si dice, grandi miglioramenti per tutti. In realt\u00e0 i \u201cnuovi modi\u201d di lavorare non sono necessariamente migliori [\u2026]. Contrariamente al benefici dell\u2019IA che vengono pubblicizzati, gli attuali approcci alla tecnologia possono paradossalmente dequalificare i lavoratori, sottoporli a una sorveglianza automatizzata e relegarli a funzioni rigide e ripetitive [\u2026]. Ogni introduzione di automazione e di IA dovrebbe essere accompagnata da scelte verificabili di tutela dell\u2019occupazione, di riqualificazione e di partecipazione dei lavoratori, perch\u00e9 la tecnologia sia orientata a liberare tempo e capacit\u00e0 umane, non a produrre esclusione\u201d.<\/p>\n\n\n\n La terza \u00e8 quella in cui si denuncia che \u201cGli attuali sistemi di AI richiedono grandi quantit\u00e0 di energia e acqua, incidono in modo significativo sulle emissioni di anidride carbonica e consumano risorse in maniera intensiva. Con l\u2019aumento di complessit\u00e0, soprattutto nei grandi modelli linguistici, crescono anche i bisogni di potenza di calcolo e capacit\u00e0 di archiviazione, che si appoggiano su un insieme di macchine, cavi, centri dati e infrastrutture energivore\u201d.<\/p>\n\n\n\n Come non vedere in queste affermazioni una sponda autorevole per le comunit\u00e0 che gi\u00e0 oggi, ad esempio negli USA, si propongono di contrastare attivamente la creazione di nuovi datacenter nei loro territori.<\/p>\n\n\n\n Schiavit\u00f9 e colonialismo<\/strong><\/p>\n\n\n\n Il tema del lavoro torna con forza in altre pagine del testo vaticano, che riprendono i risultati di alcune importanti ricerche \u201cdi nicchia\u201d<\/a>, ma che si nutrono evidentemente della conoscenza diretta di ci\u00f2 che sta avvenendo in alcune delle zone pi\u00f9 povere del mondo, dove si ripropongono, in forme inedite, schiavit\u00f9 e colonialismo.<\/p>\n\n\n\n \u201cUna parte significativa del funzionamento dell\u2019economia digitale si regge sul lavoro silenzioso milioni di esseri umani, impiegati in attivit\u00e0 poco visibili, ma essenziali: etichettatura dei dati, moderazione dei contenuti (spesso pessimi), addestramento dei modelli. In molti casi si tratta di giovani, per o pi\u00f9 donne, che lavorano duramente per compensi minimi. A questa fatica invisibile si aggiunge quella, ancora pi\u00f9 brutale, dell\u2019estrazione delle risorse necessarie alla produzione dei dispositivi e dei microprocessori su cui poggia l\u2019IA. In alcune regioni del mondo, adolescenti e bambini lavorano in condizioni pericolose nella frantumazione dei materiali da cui si ricavano le terre rare. Corpi segnati, mutilati, consumati perch\u00e9 il flusso del calcolo non si interrompa\u201d.<\/p>\n\n\n\n Ma l\u2019estrazione non riguarda solo la dimensione materiale delle terre rare, e la rivoluzione digitale genera una nuova forma di colonialismo che \u201cnon domina solo i corpi, ma si appropria dei dati, trasformando le vite personali in informazioni sfruttabili. Interi territori, soprattutto quelli con minore rilevanza geopolitica e maggiore fragilit\u00e0 strutturale, vengono al presente attraversati da una nuova logica di estrazione: quella di flussi sanitari, profili epidemiologici, mappe genetiche e dati demografici. Sono queste le nuove \u2018terre rare\u2019 del potere: informazioni vitali che, una volta correlate, possono essere usate per addestrare modelli predittivi [\u2026] e soprattutto selezionare chi e cosa conta.\u201d<\/p>\n\n\n\n Parole che non riguardano solo i paesi poveri ma che ci parlano anche della sempre pi\u00f9 stretta collaborazione tra le aziende sanitarie e le Big Tech anche nei paesi pi\u00f9 avanzati.<\/p>\n\n\n\n Disarmare l\u2019IA<\/strong><\/p>\n\n\n\n E infine la guerra, il mercato di utilizzo della IA oggi pi\u00f9 ricco e promettente. L\u2019unico attualmente in grado di ripagare gli enormi investimenti che alimentano la competizione tra le grandi aziende USA<\/a>.<\/p>\n\n\n\n Intransigente \u00e8 la critica allo sviluppo incessante di sistemi d\u2019arma fondati sulla IA.<\/p>\n\n\n\n \u201cSi parla talvolta di \u2018agenti morali artificiali\u2019, come se una macchina potesse garantire, con maggiore coerenza di un essere umano, la distinzione tra bene e male [\u2026]. L\u2019IA non sottrae il conflitto alla sua intrinseca disumanit\u00e0: pu\u00f2 soltanto renderlo pi\u00f9 rapido e impersonale, abbassando la soglia del ricorso alla violenza [\u2026] con le vittime ridotte a dati\u201d.<\/p>\n\n\n\n E torna ancora, e con pi\u00f9 forza, la critica di chi nasconde la realt\u00e0 dietro le parole.<\/p>\n\n\n\n \u201cNon basta invocare genericamente l\u2019etica: occorre indicare puntuali criteri di discernimento [\u2026] la catena delle responsabilit\u00e0 deve restare identificabile e verificabile: chi progetta, chi addestra, chi autorizza, chi impiega deve poter rendere conto delle proprie scelte\u201d. In un contesto in cui \u201cogni tecnologia che rende pi\u00f9 facile colpire senza vedere il volto dell\u2019altro abbassa la soglia morale del conflitto. La selezione dei bersagli e l\u2019impiego della forza non possono confondere combattenti e non combattenti, n\u00e9 ignorare l\u2019impatto sulle popolazioni indifese\u201d.<\/p>\n\n\n\n \u00c8 a questo punto che va considerata quella che a noi sembra l\u2019espressione pi\u00f9 felice dell\u2019intero testo dell\u2019enciclica: \u2018Disarmare l\u2019IA\u2019.<\/p>\n\n\n\n Che non significa soltanto reiterare la condanna severa delle armi autonome e, pi\u00f9 in generale, delle conseguenze della digitalizzazione della guerra basata sulla IA, ma una consapevolezza pi\u00f9 generale dell\u2019impronta militare che caratterizza non solo l\u2019uso, ma le caratteristiche stesse della IA attuale.<\/p>\n\n\n\n \u201cDisarmare l\u2019IA significa sottrarla alla logica della competizione armata, che oggi non \u00e8 pi\u00f9 solo militare, ma economica e cognitiva. \u00c8 la corsa all\u2019algoritmo pi\u00f9 performante e alla banca dati pi\u00f9 vasta, al fine di consolidare un vantaggio geopolitico o commerciale su tutti gli altri. Disarmare vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare. Disarmare significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralit\u00e0 delle culture umane e delle forme di vita [\u2026]. L\u2019IA \u00e8 gi\u00e0 ambiente in cui siamo immersi e potere con cui dobbiamo fare i conti. Per questo, non basta regolarla: va disarmata e resa ospitale\u201d.<\/p>\n\n\n\n Per mercoled\u00ec 10 giugno la Scuola critica del digitale del CRS ha organizzato un seminario proprio per discutere i temi al centro dell\u2019enciclica di Papa Leone XIV. <\/em>Qui il link con il programma completo<\/em><\/a>.<\/em><\/p>\n\n\n\n 1<\/a> \u00c8 facile cogliere l\u2019assonanza con un recente appello formulato recentemente da molti docenti italiani di informatica, https:\/\/www.petizioni.com\/visione_realistica_intelligenza_artificiale<\/a><\/p>\n\n\n\n 2<\/a> Ritroviamo gli stessi contenuti in una campagna dal basso promossa da insegnanti e operatori della scuola: IA Basta!, https:\/\/iabasta.ghost.io\/<\/a><\/p>\n\n\n\n <\/p>\n","protected":false},"excerpt":{"rendered":" L\u2019enciclica di Leone XIV prende il meglio del pensiero critico sulla rivoluzione digitale e lo usa contro la narrazione dominante degli ineluttabili benefici del progresso tecnologico fondato sulla IA.<\/p>\n","protected":false},"author":6648,"featured_media":23313,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-23310","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-newsletter"],"yoast_head":"\n