Mancano meno di due settimane alla chiusura della finestra temporale che il Garante della privacy italiano ha dato a OpenAi per adeguarsi alle sue prescrizioni sull’uso dei dati personali e correggere la rotta su ChatGPT: come vi avevamo raccontato, la startup fondata da Sam Altman ha tempo fino al 30 aprile prossimo per rispettare le regole europee in tema di informativa sull’uso dei dati personali, diritti degli interessati (utenti e non) e base giuridica del trattamento delle informazioni per allenare l’algoritmo. <\/p>\n\n\n\n
Al di l\u00e0 di come finir\u00e0 questa storia, comunque, i problemi e le alzate di sopracciglio legati alle intelligenza artificiale, e in particolare agli algoritmi conversazionali come per l’appunto ChatGPT, sono ben lontani dall’essere risolti \u2013 ne \u00e8 testimone l’ormai famosa lettera in cui Elon Musk, i ricercatori di DeepMind e altri imprenditori e scienziati hanno chiesto uno stop di sei mesi nello sviluppo dell’intelligenza artificiale, in attesa di avere \u201cregole comuni e protezioni dalle conseguenze pi\u00f9 deleterie\u201d.<\/p>\n\n\n\n
Che se ne condividano o meno i contenuti, comunque, la lettera racconta solo parte della storia. E, a voler pensar male, l’impressione \u00e8 che almeno alcuni dei suoi autori stiano soltanto cercando di prendere tempo per non rischiare di essere tagliati fuori dal succulento mercato dell’intelligenza artificiale (e difatti…). A sostenerlo, tra gli altri, sono gli esperti di SIpEIA, la Societ\u00e0 Italiana per l’Etica dell’Intelligenza Artificiale, associazione fondata da esperti di informatica, etica e giurisprudenza delle Universit\u00e0 degli Studi di Torino, Sapienza Universit\u00e0 di Roma, Universit\u00e0 della Calabria, Universit\u00e0 di Bologna e del Consiglio Nazionale delle Ricerche, che sta per pubblicare un manifesto su ChatGPT e gli altri Large Language Model (Llm) \u2013 di cui si \u00e8 tra l’altro discusso il 17 aprile scorso a Torino, nel corso dell’evento \u201cChatGPT: promesse e illusioni. Limiti e potenzialit\u00e0 del fenomeno informatico del momento\u201d.<\/p>\n\n\n\n
\u201cParte della classe degli intellettuali organici e degli imprenditori vuole ‘raccattare le briciole’ di questi strumenti \u2013 ci ha raccontato Guido Boella, professore al Dipartimento di Informatica dell’Universit\u00e0 di Torino e cofondatore di SIpEIA \u2013 e usa la visione lungotermista per puntare il dito verso problemi lontani e non ben definiti, anzich\u00e9 evidenziare quelli molto pi\u00f9 immediati e concreti, relativi in particolare alle interazioni tra economia, societ\u00e0 e tecnologia\u201d. Come vi avevamo raccontato, la narrazione lungotermista cara a Elon Musk e colleghi mette in guardia, per esempio, rispetto alla possibilit\u00e0 che \u201cmenti non umane potrebbero superarci di numero, essere pi\u00f9 intelligenti di noi, renderci obsoleti e rimpiazzarci\u201d: ma si tratta, come hanno pi\u00f9 volte ribadito i massimi esperti del settore, di una suggestione distopica e assurda dal punto di vista scientifico e tecnologico, specie se si considera che un’intelligenza artificiale del genere non solo non \u00e8 nemmeno ancora in vista, ma non \u00e8 neanche in alcun modo chiaro se sar\u00e0 mai possibile svilupparla.<\/p>\n\n\n\n
Una riflessione necessaria<\/strong><\/p>\n\n\n\n Per una volta, quindi, sarebbe meglio guardare il dito anzich\u00e9 la luna, e preoccuparsi di questioni pi\u00f9 immediate. Magari guardando a quello che \u00e8 successo nel passato: \u201cQuando la comunit\u00e0 scientifica cominci\u00f2 a sviluppare le biotecnologie \u2013 dice ancora Boella \u2013 fu subito chiaro che c’era l’esigenza di definire una nuova etica, perch\u00e9 quella tradizionale non aveva gli strumenti sufficienti per avere a che fare con quelle innovazioni. Oggi siamo in uno scenario molto simile: i cambiamenti portati dalle intelligenze artificiali richiedono un cambiamento dell’etica. Di pi\u00f9: a differenza delle biotecnologie, l’intelligenza artificiale ha ripercussioni su molti pi\u00f9 aspetti della nostra quotidianit\u00e0, e dunque definirne un’etica \u00e8 molto pi\u00f9 urgente. \u00c8 per questo che due anni fa abbiamo fondato SIpEIA, societ\u00e0 scientifica e di advocacy composta da informatici, filosofi, giuristi ed eticisti\u201d.<\/p>\n\n\n\n Detto, fatto: proprio su questo \u00e8 incentrato il position paper di SIpEIA. \u201cBisogna evitare \u2013 si legge nel documento \u2013 che il business model che caratterizza il capitalismo della sorveglianza non diventi il modello di monetizzazione anche dei Llm, perch\u00e9 l’impatto sarebbe molto maggiore. Infatti, i Llm creano ‘relazioni sintetiche’ con gli utenti, coinvolgendoli in una relazione anche emozionale e portando a nuove e pi\u00f9 profonde modalit\u00e0 di estrazione dei dati, nonch\u00e9 possibilit\u00e0 di manipolazione degli utenti. Noi umani, infatti, attribuiamo a chi comunica con noi stati mentali ed emozioni, che i Llm by design non hanno, e siamo quindi esposti a manipolazione da parte loro\u201d.<\/p>\n\n\n\n I dubbi e le paure<\/strong><\/p>\n\n\n\n Ma quali sono, nello specifico, i rischi ravvisati dagli esperti, quelli che rendono cogente la definizione di linee guida etiche? Anzitutto la questione dell’estrazione dei dati \u2013 quella che ha mobilitato il Garante \u2013 che, per forza di cose (le Ai vivono di dati), diventer\u00e0 sempre pi\u00f9 intrusiva. La sociologa Shoshana Zubov, nel suo Il capitalismo della sorveglianza. Il futuro dell’umanit\u00e0 nell’era dei nuovi poteri\u201d pubblicato nel 2019, ha paragonato l’estrazione dei dati a quella del petrolio: ne serve sempre di pi\u00f9, e bisogna scavare sempre pi\u00f9 in profondit\u00e0. \u201cFino a non molto tempo fa \u2013 dice Boella \u2013 Google raccoglieva i dati delle ricerche degli utenti; poi si \u00e8 passato a un livello ancora pi\u00f9 personale, cio\u00e8 scandagliare quello che si pubblica sui social, i testi sulle app di messaggistica e cos\u00ec via. <\/p>\n\n\n\n Con ChatGPT e simili l’estrazione sar\u00e0 ancora pi\u00f9 personale, perch\u00e9 ancora pi\u00f9 personale \u00e8 il dialogo che l’utente ha con un chatbot. Un’estrazione cos\u00ec profonda pu\u00f2 portare a nuovi livelli di pubblicit\u00e0 e addirittura di manipolazione: supponiamo di chiedere a ChatGPT di scrivere un racconto sull’autunno; sapendo, per esempio, che in passato abbiamo fatto ricerche sul Giappone, potrebbe citarci le foglie di acero del Giappone, per indurci a comprare un volo per il Giappone. Cosa succederebbe invece nel caso ci fossero delle elezioni politiche? Lo scenario \u2013 e la manipolazione \u2013 potrebbero essere ancora pi\u00f9 preoccupanti\u201d.<\/p>\n\n\n\n Un’altra questione affrontata nel manifesto \u00e8 quella relativa al mondo della formazione: la possibilit\u00e0 che compiti a casa, elaborati o anche intere tesi siano scritte non dagli studenti ma da un Llm in real time ha suscitato un’ondata di preoccupazione nel mondo delle scuole e dell’universit\u00e0. E anche in questo caso gli esperti ravvisano una grande ipocrisia nella narrativa corrente: \u201cOpenAi\u201d dice Boella \u201cha messo a disposizione un sistema che riconosce se \u00e8 un testo \u00e8 scritto o meno da un essere umano. Peccato funzioni il 25% delle volte, cio\u00e8 quasi mai. Avrebbe potuto fare una cosa molto pi\u00f9 semplice, che non richiede neanche l’utilizzo di tecnologie Ai. OpenAi, come tutte le piattaforme web e i motori di ricerca, tiene traccia nei suoi registri (i logfile) di tutte le richieste degli utenti e di tutte le risposte fornite dal chatbot per migliorare il prodotto e per raccogliere informazioni su di noi (da monetizzare). Certo per identificare il plagio da parte di studenti pi\u00f9 motivati nel copiare, che fanno una parafrasi del testo ottenuto da ChatGPT, occorrerebbe solo qualche semplice strumento di Ai che vada a dare una misura della distanza del testo prodotto dal bot. Ma siamo sicuri che nella maggior parte dei casi basterebbe un semplice ‘ctrl+F’ sul file di log di ChatGPT?\u201d. <\/p>\n\n\n\n E ancora: un altro tema eticamente rilevante \u00e8 quello relativo alle possibili interazioni di ChatGPT e simili con i minori. \u201cLascereste i vostri figli a parlare con uno sconosciuto?\u201d \u00e8 la domanda retorica degli esperti di SIpEIA \u201cper di pi\u00f9 sapendo che \u00e8 uno sconosciuto che pu\u00f2 soffrire di allucinazioni?\u201d. Il position paper non offre soluzioni, ma sottolinea la necessit\u00e0 di una maggiore sensibilizzazione e soprattutto di un dibattito pi\u00f9 sensato e centrato sul presente. \u201c\u00c8 davvero il momento di agire: ma al centro della nostra preoccupazione non dovrebbero esserci immaginarie ‘potenti menti digitali’. Al contrario, dovremmo concentrarci su pratiche di sfruttamento molto reali e molto concrete da parte delle aziende che stanno sviluppando questi strumenti, e che stanno rapidamente centralizzando il potere e aumentando le disuguaglianze sociali\u201d.<\/p>\n\n\n\n La sfida del confronto<\/strong><\/p>\n\n\n\n C’\u00e8 dell’altro. All’evento ha partecipato anche Elena Esposito, professoressa di sociologia dei processi culturali e comunicativi alle Universit\u00e0 di Bielefield, in Germania, e Bologna. Esposito \u00e8 autrice di \u201cComunicazione artificiale \u2013 come gli algoritmi producono intelligenza sociale\u201d, un libro appena edito da Bocconi University Press in cui invita ad affrontare il \u201cproblema\u201d delle intelligenze artificiali da un altro punto di vista: anzich\u00e9 chiederci se e come le macchine siano diventate pi\u00f9 intelligenti di noi (e abbiamo visto che non \u00e8 cos\u00ec), bisognerebbe capire come intervengono nella comunicazione. Ossia, in altre parole, parlare di comunicazione artificiale pi\u00f9 che di intelligenza artificiale: \u201cIl fatto che possiamo comunicare con le macchine \u2013 spiega Esposito \u2013 non implica che esse abbiano una loro intelligenza che deve essere spiegata ma che, anzitutto, la comunicazione sta cambiando. L’oggetto di questa ricerca non \u00e8 l’intelligenza, che \u00e8 e rimane un mistero, ma la comunicazione, che possiamo osservare e di cui sappiamo gi\u00e0 molto. <\/p>\n\n\n\n Occorre un concetto di comunicazione che sia in grado di tener conto anche delle possibilit\u00e0 che il partner comunicativo non sia un essere umano ma un algoritmo. Il risultato, che pu\u00f2 essere osservato gi\u00e0 oggi, \u00e8 una condizione in cui disponiamo di informazioni di cui spesso nessuno pu\u00f2 ricostruire n\u00e9 comprendere la genesi, ma che ciononostante non sono arbitrarie. Le informazioni generate automaticamente dagli algoritmi non sono affatto casuali e sono del tutto controllate, ma non dai processi della mente umana. Come possiamo controllare questo controllo, che per noi pu\u00f2 essere anche incomprensibile? Questa \u00e8, a mio parere, la vera sfida che ci pongono oggi le tecniche di machine learning e l’uso di big data\u201d. La tesi dell’esperta \u00e8 quindi che se le macchine contribuiscono all’intelligenza sociale non \u00e8 perch\u00e9 hanno imparato a pensare come noi, ma perch\u00e9 hanno imparato a partecipare alla comunicazione: ed \u00e8 con questo scenario che dobbiamo imparare a confrontarci. Senza paura, se possibile: \u201cPlatone diceva che la scrittura avrebbe fatto perdere l’uso della memoria agli esseri umani \u2013 conclude Esposito \u2013 e in parte \u00e8 successo. Con le intelligenze artificiali, e con la comunicazione artificiale, potremmo perdere qualcos’altro. Ma va bene cos\u00ec. Perderemo qualcosa, ma acquisiremo dell’altro\u201d.<\/p>\n\n\n\n *da www.wired.it 22\/04\/2023<\/p>\n","protected":false},"excerpt":{"rendered":" Mancano meno di due settimane alla chiusura della finestra temporale che il Garante della privacy italiano ha dato a OpenAi per adeguarsi alle sue prescrizioni sull’uso dei dati personali e correggere la rotta su ChatGPT<\/p>\n","protected":false},"author":6407,"featured_media":18742,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-18741","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-newsletter"],"yoast_head":"\n