Vado a trovare Ninni El Rojo. Arrivo e trovo la consueta serenità piena dei profumi di una campagna sana, gestita nelle regole della sua e della nostra salute
Buongiorno, posso entrare?
Sei sempre il benvenuto.
Perché quell’aria perplessa?
Per l’intervista che mi hai chiesto sul “servo fedele”. Io su Goldoni e sulla storia delle maschere ho una conoscenza letteraria, non so che contributo possa dare.
Ma l’intervista non è su Goldoni, è su algoritmi, intelligenza artificiale, Chat-GPT, Bard e “le nuove creature” della così detta “I.A. generativa”. Sono preoccupato.
Anch’io sono preoccupato; ma ti dico subito che la mia preoccupazione non è sulle conseguenze delle sue evoluzioni. Alcune si affacciano ora, altre e più complesse le conosceremo, anche se ora non le sappiamo neanche immaginare.
La mia preoccupazione principale è sui proprietari (un’oligarchia il cui numero oggi si conta su una sola mano), e su chi detiene e dispone i dati e le informazioni che poi genereranno gli algoritmi e i sistemi conoscitivi di controllo per costruire metodi e organizzazione.
Finora ho vissuto il tema sul solo rapporto tra intelligenza e artificialità, criticando la superficialità sociale di aver legato il termine artificiale al termine Intelligenza e rilevando incidenti e negatività nati quando si è affidata la gestione di processi a chi non pensa ma esegue secondo impostazioni predeterminate.
Ma ora, e stando a quello che dici, il problema si sposta e si amplia.
Certo che si amplia. Il titolo è giusto: “servo fedele” e, per rimanere nelle citazioni goldoniane, “a quale padrone”?
È chiaro, a chi le ha create e formate.
“Le nuove creature” (come le chiami) presentandosi come chat di dialogo finalizzato alla formazione delle decisioni, entrano a pieno titolo negli strumenti per il controllo (e il potere) propri della persuasione quando propone metodi semplici e condivisibili che semplificano la vita e marginalizzano la ricerca.
Non parliamo poi dei problemi per la residenza proprietaria e la fiscalità. Hai presente i problemi specificatamente fiscali e proprietari che ci sono stati negli ultimi anni nella gestione politica, sociale, ed economica di queste proprietà e attività? Qui non stiamo più e solo nell’artificialità dei meccanismi deduttivi, ma siamo nella fase in cui la cosiddetta intelligenza artificiale diventa generativa.
Se prima mi venivano le bolle per la terminologia, ora mi vengono per il nuovo potere e la nuova gestione del potere, ben veicolato nella persuasione.
Anche a me vengono “le bolle” quando sento legare la parola “intelligenza” a processi artificiali, meccanici e deduttivi; ma le bolle aumentano quando i processi si auto-dichiarano “generativi”.
Dobbiamo capirci: se la conoscenza serve per studiare ciò che ancora non sappiamo, allora nulla questio: siamo pienamente nell’intelligenza umana produttrice di filosofie, teorie, morali; ma se serve per scoprire e poi gestire quello che è ancora nascosto, allora siamo nel campo dell’esplorazione e della deduzione, che usa il potere gestionale della conoscenza e dell’informazione condizionando e influenzando i comportamenti sociali.
Elaborazione e deduzione, ma anche sfida alla democrazia?
Adesso non cadiamo nell’effetto valanga. Riconosco il valore degli algoritmi per le loro capacità esplorative di sentieri ancora nascosti, ma il più agile machete in mano al più abile nativo delle foreste pluviali saprà solo “rendere sentiero” ciò che è ancora nascosto. Qui però parliamo di influenza nei sistemi decisionali e non solo attuativi. Chi garantisce che gli algoritmi siano costruiti su dati che portano anche alla trasparenza e alla conoscenza sociale?
Parli dei pericoli insiti nella soggettività delle conoscenze e delle scienze per i temi che riguardano i valori e le virtù del dubbio, della trasparenza, della partecipazione?
Certo. Gli algoritmi sono costruiti su obiettivi scelti e definiti da chi li commissiona; possono moltiplicarsi, ma sempre come figli delle finalità impostate; è dalla loro caratteristica e capacità di elaborare infiniti dati che partiranno successivi percorsi e conoscenze ma sempre come conoscenze derivate, perché appartenenti al bacino culturale e alla soggettività scientifica da cui provengono.
L’intelligenza artificiale non pensa; elabora ed esegue; è un servo fedele che risponde comunque al padrone che l’ha impostato.
È da qui che nasce: “a quale padrone”?
Tranquillo, chiamare l’algoritmo “servo fedele” mi sembra un’espressione perfetta ed efficace quando parliamo sia dell’esplorazione sia dell’attuazione.
E allora?
Per ora le applicazioni imperanti sono quelle attuative e le loro anomalie stanno creando qualche problema; l’esempio più drammaticamente cogente è quello del Rider morto in un incidente e licenziato perché non aveva risposto per X volte al telefono. Non a caso sentiamo dire sempre più spesso: “E’ colpa dell’algoritmo”
Ma dimmi una cosa: se si evidenziano errori, gli algoritmi possono essere cambiati, modificati, corretti?
Certo che sì. Gli algoritmi sono costruiti su obiettivi e quindi i percorsi che governano sono funzionali a raggiungere quegli obiettivi, su quei percorsi. Se gli obiettivi dovessero cambiare anche gli algoritmi si potranno riadattare o riscrivere.
Ecco perché all’inizio parlavi di potere.
Certo, è il padrone del processo che ha un servo fedele, e nessuno può impedirgli di costruirne altri per altri percorsi o di modificare gli esistenti, fatti salvi i costi economici, la disponibilità di dati da aggregare e finalizzare ecc.
Quindi se a fronte di un “accaduto” che nella logica comune è considerato un errore non viene cambiato nulla è perché per il “padrone” dell’algoritmo l’errore non c’è.
Io so a cosa ti riferisci: al cliente della banca che ha visto annullato il suo conto dall’algoritmo. Questo ha prodotto un duplice dispiacere, al cliente e all’impiegato; a quest’ultimo sia perché non rivede più un vecchio cliente sia perché prende coscienza che nella filiale conta sempre meno.
È proprio questo l’esempio.
Se una banca introduce sistemi gestionali diversi dagli “sportelli” che conosciamo (quelli gestiti da umani) è perché ha una strategia gestionale legata alla progressiva informatizzazione. Nella newsletter per la quale mi stai intervistando, tempo fa avete pubblicato un numero sulle difficoltà sociali (e soprattutto di alcune classi di età) nella digitalizzazione. Ma tu hai visto costruire luoghi virtuosi per superare queste difficoltà? Che risultati ha avuto il Ministero di Colao? Eppure era Ministro di un Governo votato dalla stragrande parte del Parlamento.
La via è chiara. I padroni dei processi vedono nella digitalizzazione il loro miope obiettivo di risparmiare lavoro umano, e non per diminuire il tempo di lavoro a parità di salario, ma in quello (e lo vediamo chiaramente oggi) di diminuire il salario reale a parità di orario di lavoro.
Certo, viviamo in un mondo in cui le differenze si allargano sempre di più. La domanda è: come inciderà il servo fedele nell’organizzazione del lavoro e nella proposta di stili di vita sempre più semplificati?
Caro mio, ti rispondo in modo semplice: il problema non è il servo fedele ma il padrone del servo fedele e del sistema politico sociale che lo legittima e lo accredita. I diritti si conquistano, non sono appesi come palle colorate all’albero di Natale né sono riposti nella calza della Befana.
In un periodo di cambiamenti strutturali, racchiusi negli slogans ormai d’uso “dallo sviluppo insostenibile allo sviluppo sostenibile”, “dall’energia da fonti fossili alle fonti rinnovabili”, “dalla meccanica all’informatica”, chi si è dimostrato concretamente attivo autocandidandosi a governare i nuovi processi sostituendo le vecchie lobby (di cui magari faceva già parte)? E allora? Ripeto: “ognuno faccia la sua parte”: entri, costruisca insieme al mondo della democrazia (e non dell’oligarchia economica e politica), dei sindacati, della partecipazione sociale, della cultura, e con alleanze strategiche con il mondo imprenditoriale … anche i suoi algoritmi.
*intervista a Ninni El Rojo, ecologista di Toledo
