Ho scritto questo libro perché quello che mi interessa della tecnologia è il suo impatto sulla vita delle persone.
Qui di seguito l’introduzione al volume
- Perché parlare di ai.
È difficile parlare di intelligenza artificiale.
Non solo perché sta irrompendo nelle nostre pratiche quotidiane, ma perché nel farlo ci costringe a una postura paradossale: siamo spesso più impegnat3 a inseguirla, utilizzarla, integrarla nei nostri processi di lavoro e di vita, che a decifrarne le strutture di potere sottostanti.
È difficile parlarne anche perché l’ai è una tecnologia in continua trasformazione. Qualunque analisi rischia di invecchiare rapidamente. Per chi fa ricerca e prova a incidere sulle politiche pubbliche si apre così una tensione permanente: intervenire troppo tardi significa lasciare che l’innovazione si consolidi lontano dal beneficio pubblico; intervenire troppo presto significa invece correre il rischio di agire in modo impreciso o di frenare inutilmente processi ancora in formazione.
La difficoltà aumenta se si considera che nell’esplosione dell’intelligenza artificiale convergono processi molteplici e profondamente trasformativi. Non siamo di fronte soltanto all’introduzione di nuovi strumenti destinati a rendere più efficienti le attività quotidiane. Come sottolineano molti studiosi e studiose della materia, è il modo stesso di acquisire conoscenza che sta cambiando.
A complicare il quadro vi è un ulteriore paradosso: sempre più spesso parliamo di intelligenza artificiale utilizzando gli stessi strumenti di intelligenza artificiale. La sensazione di muoversi dentro un walled garden, uno spazio tecnologico delimitato in cui le opzioni, anche di policy, non sono infinite, diventa allora difficilmente ignorabile.
In questo contesto, le disuguaglianze che l’ai riproduce e talvolta amplifica rischiano di scivolare in secondo piano, travolte dalla portata di trasformazioni percepite come più urgenti o più spettacolari. Mentre l’intelligenza artificiale alimenta sistemi di sorveglianza e armamenti intelligenti, accelera la ricerca scientifica e promette scoperte rivoluzionarie, potenzia la memoria e le capacità cognitive degli individui, quale spazio resta per interrogarsi sulle nuove forme di disuguaglianza che essa contribuisce a produrre?
Eppure è proprio per questo che diventa necessario tornare a guardare con attenzione alle strutture di potere che si inscrivono nella nuova infrastruttura tecnologica della società.
Parlare di intelligenza artificiale è difficile. Ma è proprio per questo che diventa urgente farlo.
Perché l’ai è pervasiva.
Perché questa pervasività cresce rapidamente.
Perché il potere tecnologico è concentrato nelle mani di poche grandi multinazionali, con rischi evidenti per la pluralità delle voci e delle prospettive.
Perché il futuro di questa tecnologia resta incerto, talvolta persino per coloro che hanno contribuito a svilupparla.
Perché la tecnologia non è mai neutra, e non lo sono nemmeno i suoi effetti sociali.
Perché manca ancora una percezione diffusa – tra cittadinanza e istituzioni – del fatto che traiettorie tecnologiche diverse sono possibili.
Perché spesso ci comportiamo come se le direzioni che l’intelligenza artificiale sta prendendo fossero inevitabili, quasi immanenti alla tecnologia stessa, mentre sono il risultato di scelte economiche e politiche ben precise.
La digitalizzazione dei processi – dal lavoro alle relazioni sociali – rappresenta al tempo stesso una straordinaria opportunità e una fonte di nuove tensioni. Essa può generare competenze, reti, visioni e opportunità; ma proprio per questo diventa sempre più difficile distinguere tra forme di digitalizzazione che ampliano le possibilità individuali e collettive e forme che invece producono nuove gerarchie e nuove esclusioni.
Oggi la bilancia appare instabile. Da un lato si moltiplicano servizi e strumenti di cui diventa rapidamente difficile fare a meno; dall’altro emergono discriminazioni che colpiscono in modo sproporzionato gruppi già esposti a condizioni di vulnerabilità: donne, comunità lgbtqia+, persone anziane, persone che vivono o provengono da paesi a basso reddito, persone in condizione di povertà, persone con disabilità, persone migranti.
In questo scenario la visione pubblica appare spesso fragile. Nel migliore dei casi si concentra sulla necessità di non perdere competitività tecnologica; nel peggiore ignora la possibilità di governare l’intelligenza artificiale come una vera e propria infrastruttura pubblica.
Nel frattempo, gli strumenti di regolazione – nazionali e internazionali – faticano a intervenire in modo tempestivo ed efficace per orientare lo sviluppo dell’ai verso il massimo valore pubblico, mentre il rischio di alimentare forme di limitazione delle libertà individuali resta elevato.
Diventa quindi urgente immaginare nuovi strumenti regolatori, nuovi incentivi e nuove prospettive di intervento.
È con questo spirito che questo lavoro prova a muoversi: salendo, per quanto possibile, sulle spalle di giganti – studiosi e studiose che operano nelle università, ricercatrici e ricercatori che hanno lasciato le grandi imprese tecnologiche, voci critiche provenienti dalle controculture digitali – e provando a unire i puntini. Non per offrire verità definitive, ma per contribuire a chiarire il terreno di gioco, individuare nuove possibilità di azione e fornire strumenti utili al dibattito pubblico e alle politiche. Segnalando alcune rotte possibili e, allo stesso tempo, alcuni limiti che sarebbe prudente non oltrepassare.
- Senso, perimetro e struttura del libro.
L’obiettivo di questo libro è comprendere se e come l’intelligenza artificiale stia ridefinendo le condizioni dell’equità di genere e dei diritti umani fondamentali, e quali strumenti abbiamo a disposizione, come espert3 e cittadin3, per orientare questa trasformazione verso orizzonti di giustizia sociale.
Con il termine «intelligenza artificiale» non si indica un’unica tecnologia, ma un insieme di sistemi computazionali progettati per operare con diversi livelli di autonomia, capaci di elaborare dati e generare output – previsioni, classificazioni, raccomandazioni o contenuti – che incidono su ambienti sociali, economici e culturali. In questa accezione l’ai, come si mostrerà nel corso del volume, non coincide con una forma di «intelligenza» paragonabile a quella umana, ma con una serie di tecniche di ottimizzazione e inferenza statistica che trasformano grandi quantità di dati in decisioni operative. È proprio questa capacità di trasformare i dati in decisioni e orientamenti che rende l’ai una infrastruttura di potere. I sistemi di intelligenza artificiale non si limitano infatti a descrivere il mondo, ma contribuiscono a strutturarlo, selezionando ciò che è visibile, rilevante o possibile. In questo senso, ciò che possiamo anche definire «ambiente algoritmico» fa riferimento alle nuove matrici del sapere: quell’insieme di informazioni, consigli, strategie e forme di autorappresentazione che, sviluppatesi con la digitalizzazione della ricerca – a partire dai sistemi di ricerca come Google – stanno oggi evolvendo nei sistemi generativi, governati da un ristretto numero di «multinazionali della conoscenza».
L’ambiente algoritmico non coincide quindi con una singola tecnologia, ma con un ecosistema complesso in cui i sistemi di intelligenza artificiale svolgono un ruolo centrale, contribuendo a produrre, selezionare e distribuire conoscenza, e incidendo così in modo crescente sulle modalità con cui gli individui interpretano la realtà e prendono decisioni.
L’utilizzo dei sistemi è, al momento, ancora molto frammentato, discontinuo e sbilanciato (geograficamente, socialmente, generazionalmente ecc.) ma, in breve tempo, la capacità di questa tecnologia di sostituire una gamma enorme di funzioni raggiungerà una pervasività e potenza ineguagliabili e ancora impensabili. Già oggi, e per moltissime persone, strumenti come Chatgpt e altri agenti automatici gestiscono l’equilibrio nutritivo, dosando sport e alimentazione; suggeriscono modalità di relazione con amici e partner (fino talvolta ad essere percepiti come partner essi stessi); amministrano l’agenda degli impegni, la posta, gli scambi di vario genere, gli investimenti finanziari; pianificano le attività lavorative e le scelte professionali; forniscono consigli sull’assicurazione, la gestione della pensione, le scelte del medico, l’organizzazione della giornata e, ovviamente, supportano le attività professionali a quasi qualunque livello, realizzando documenti, tesi di laurea, libri, ricette, ricerche, progetti, piani di fattibilità, opere d’arte, immagini, video e film; forniscono profezie che si auto-avverano; programmano nuovi agenti e strumenti in grado sempre più di sostituire la mente e l’azione umane. È evidente che siamo all’alba di un nuovo mondo, di cui solo intravediamo le prime forme. Un mondo in cui tutto è instabile, a partire dal linguaggio per definirlo.
Il linguaggio, infatti, non è uno strumento neutro: non si limita a nominare le cose, ma nel nominarle ne definisce l’essenza e i confini. È a partire da questa consapevolezza che va letta la citazione di Heidegger posta in apertura del volume, ricorrente nella letteratura di settore. Nei testi di Hölderlin e Heidegger il termine originario è «essere umano», ma è stato a lungo tradotto in italiano con «uomo» e in inglese con «man».
Il primo passo, e insieme la chiave di lettura di questo libro, consiste proprio nel far emergere la faglia che si apre in questa traduzione. Quella che può apparire come una semplice semplificazione linguistica racchiude in realtà una precisa visione dei rapporti di potere. È un passaggio esemplare di come il linguaggio possa naturalizzare gerarchie e asimmetrie, una dinamica che i sistemi di intelligenza artificiale rischiano oggi di incorporare e amplificare nei processi di produzione della conoscenza.
In merito al linguaggio, anche in questo libro si è scelto di mantenere le definizioni fluide e molteplici, proprio per dare conto di questa complessità. Già il termine «intelligenza artificiale», assolutamente instabile e concettualmente scorretto (ne parleremo), è utilizzato per descrivere diversi processi di trattamento dei dati impiegati in contesti differenti. Sebbene alcuni sostengano che solo i sistemi che incorporano l’apprendimento automatico (machine learning) dovrebbero essere ricompresi sotto questa definizione, nella pratica anche sistemi che utilizzano metodi attuariali (tecniche statistiche e matematiche usate per stimare probabilità e rischi futuri sulla base di dati storici) e la robotica vengono etichettati come ai. Secondo la definizione più restrittiva, tendenzialmente usata in questo volume, sono considerati ai soltanto i sistemi basati su modelli addestrati su grandi quantità di dati e capaci di apprendere pattern statistici complessi, come nel caso dei grandi modelli linguistici (Large Language Models – llm).
Per quanto riguarda l’ampio uso dei termini inglesi nel corso del libro, è necessario un chiarimento. Il campo dell’intelligenza artificiale è caratterizzato da una forte densità di terminologia e produzione scientifica in lingua inglese. Ciò dipende sia dalle traiettorie storiche e geografiche del suo sviluppo – a lungo radicate nel contesto statunitense e anglosassone – sia dal ruolo dell’inglese come lingua franca della ricerca scientifica contemporanea, utilizzata anche da comunità accademiche e centri di innovazione situati in contesti geografici e culturali molto diversi tra loro. Così i concetti e gli strumenti che strutturano questo ambito – dai modelli linguistici alle principali categorie analitiche – sono definiti e circolano prevalentemente in questa lingua, diventando lo standard di comunicazione tra chi fa ricerca, chi sviluppa e chi opera nel settore, a partire dalla sigla ai (Artificial Intelligence), internazionalmente riconosciuta e quindi preferita nel testo alla meno immediata ia (Intelligenza artificiale). Pur se l’uso frequente di termini inglesi in questo volume potrebbe apparire, a prima vista, in tensione con le riflessioni critiche sviluppate nelle pagine che seguono circa i processi di egemonia culturale e linguistica che attraversano l’innovazione tecnologica contemporanea, si è scelto di non forzare una traduzione integrale della terminologia tecnica, che rischierebbe di risultare artificiale o di compromettere la precisione concettuale, soprattutto per un pubblico già abituato a questi linguaggi. La soluzione adottata è quella di mantenere alcuni termini in inglese, affiancandoli alla loro traduzione italiana e, quando necessario, a una spiegazione in nota del loro significato: si tratta di una scelta che non intende neutralizzare il problema, ma piuttosto renderlo visibile, mantenendo una consapevolezza critica rispetto al contesto linguistico e culturale entro cui tali concetti sono prodotti e diffusi.
In generale nel volume si cerca di mantenere un equilibrio tra i tecnicismi, inevitabili per definire una piattaforma di competenze minime utili a comprendere i complessi meandri dell’intelligenza artificiale, e un linguaggio il più possibile chiaro e trasparente, per rendere la lettura agevole anche per le persone non esperte della materia. L’obiettivo è di parlare a chi opera nel settore, a chi governa scelte e politiche pubbliche ma anche alle persone che, tutti i giorni, interagiscono con questi sistemi, ovvero coniugare rigore scientifico e taglio divulgativo: si tratta di un’impresa quasi impossibile ma che rappresenta la sfida concettuale stessa di questo libro. Non è infatti possibile pensare che questo nuovo mondo rimanga una materia oscura: oscura la responsabilità di chi lo governa, il suo funzionamento, il modello economico, i valori e i principî che lo guidano.
Per mettere le mani nella materia oscura dei sistemi generativi, l’attenzione di questo libro si focalizzerà sul tema delle disuguaglianze, ovvero della sfida posta dal nuovo ambiente algoritmico alla giustizia sociale e ai principali diritti umani. La scelta è certamente politica, ma non riguarda soltanto i soggetti che subiscono forme esplicite di discriminazione. Le disuguaglianze costituiscono infatti una chiave di lettura generale dei sistemi tecnologici: è attraverso di esse che emergono con maggiore chiarezza i meccanismi di funzionamento, le logiche economiche e le relazioni di potere che li attraversano.
Analizzare l’intelligenza artificiale a partire dalle disuguaglianze consente, da un lato, di rendere visibili forme di esclusione che spesso restano implicite o non riconosciute – anche da parte di chi ritiene di non esserne coinvolto – e, dall’altro, di comprendere come gli effetti di questi sistemi non siano mai circoscritti a gruppi specifici, ma incidano sull’equilibrio complessivo delle società. Una società più diseguale è una società più fragile, meno capace di governare l’innovazione e di distribuire in modo equo opportunità e rischi. In questo senso, indagare le disuguaglianze non significa adottare uno sguardo parziale, ma al contrario affrontare la questione nella sua dimensione più ampia e sistemica.
Tra le molte disuguaglianze che attraversano le società contemporanee, quella di genere, che potremmo definire «madre di tutte le disuguaglianze», verrà posta quando possibile in primo piano, non perché sia l’unica forma di ingiustizia rilevante, ma perché interseca quasi tutti gli ambiti della vita sociale, economica e politica. L’analisi dei divari di genere sarà tuttavia condotta in una prospettiva esplicitamente intersezionale. Le disuguaglianze non agiscono mai in isolamento: genere, razza, classe sociale, disabilità, orientamento sessuale e luogo di nascita si intrecciano producendo esperienze di discriminazione diverse e spesso cumulative.
In questo lavoro si adotta, conseguentemente, una prospettiva critica situata. Con questa espressione si intende un approccio che rifiuta l’idea di una conoscenza neutrale e universale e che riconosce come ogni produzione di sapere – inclusa quella tecnologica – sia sempre radicata in specifiche condizioni storiche, sociali e materiali. Assumere una prospettiva situata significa, quindi, interrogare non solo il funzionamento tecnico dei sistemi di intelligenza artificiale, ma anche i contesti in cui vengono progettati, i dati su cui si fondano e gli effetti che producono su soggetti e gruppi differenti.
La scelta di questa prospettiva non è soltanto teorica, ma risponde anche a una constatazione empirica: una parte significativa della letteratura più critica sull’intelligenza artificiale proviene da tradizioni di ricerca sviluppate all’interno di comunità storicamente marginalizzate o esposte a forme sistemiche di discriminazione. Il pensiero femminista, gli studi queer, le riflessioni sulla disabilità e gli approcci intersezionali – spesso elaborati da studiose nere e da movimenti e comunità del Sud globale – hanno contribuito in modo decisivo a mettere in discussione l’idea di una tecnologia neutrale, inevitabile o intrinsecamente orientata al progresso, mostrando come i sistemi tecnici incorporino visioni del mondo, gerarchie e rapporti di potere.
Va chiarito, in conclusione, un punto importante. Se la tesi di partenza di questo libro è la non neutralità dell’intelligenza artificiale – ovvero il rifiuto dell’idea, spesso presente nel dibattito pubblico, che la tecnologia non sia né buona né cattiva e che quindi possa essere considerata indipendente dai rapporti di potere che la attraversano –, ciò non significa assumere una posizione luddista o ostile all’innovazione. Al contrario. Proprio perché l’intelligenza artificiale è il prodotto di scelte politiche, economiche e culturali, è possibile immaginare e costruire una innovazione dalla parte del benessere sociale. Una ai ripensata – potremmo dire riprogrammata – potrebbe diventare uno strumento straordinario in questa direzione. L’analisi degli effetti distorsivi del tecnocapitalismo mostrerà infatti che altri mondi sono possibili, e non necessariamente senza intelligenza artificiale. Se la storia degli esseri umani è anche una storia di espansione della conoscenza, il mondo che si sta aprendo offre possibilità senza precedenti di estendere le capacità cognitive, creative e cooperative delle persone. Non possiamo – e probabilmente non vogliamo – tornare indietro. Il punto è un altro: fare in modo che queste tecnologie diventino strumenti di maggiore libertà, di democrazia e di giustizia sociale, e non nuove infrastrutture di concentrazione del potere.
La storia dell’intelligenza artificiale non è già scritta. La stiamo costruendo giorno per giorno, attraverso decisioni tecniche, politiche ed economiche. Questo libro prova a illuminarne alcune zone d’ombra, consapevole che si tratta solo di una tappa – inevitabilmente parziale – di un percorso di ricerca e di discussione che resta ancora tutto da disegnare.
- Piccola guida al viaggio.
Questo percorso dantesco di fuoriuscita dalla oscurità è diviso in tre parti che sono percorribili con traiettorie e modalità soggettive: linearmente, a ritroso o anche saltando da un capitolo all’altro, o solo affrontando, qua e là, quegli aspetti meno noti o con i quali, al contrario, proprio perché vicini, ci si vuole confrontare. Anche la scrittura del libro è stata poi più volte riattraversata e rimodulata in una chiave di rimandi, come struttura reticolare, potremmo dire, al pari della materia che qui si va a trattare.
I tre capitoli sono comunque frutto di un progetto unitario, di ricerca e politico assieme, che si è posto l’obiettivo di indagare le disuguaglianze riprodotte dall’intelligenza artificiale, il sistema di potere che le condiziona se non determina e gli indirizzi di policy funzionali a curare le distorsioni e, in ultimo, avanzare qualche proposta di democrazia digitale. Il primo capitolo, quindi, è dedicato a mostrare, in concreto, quali possono essere gli effetti dei nuovi sistemi generativi sulle disuguaglianze, a partire da quelle di genere, identificando i diversi ambiti in cui queste vengono riprodotte e consolidate. La seconda parte del volume guarda a quelle disuguaglianze con uno strumentario economico e politico, che permette di coglierne da una parte la natura intrinseca ai mezzi tecnologici e dall’altra gli aspetti connessi alla governance e ai rapporti di potere economico e politico dei sistemi in cui operano. Il terzo capitolo mette sotto esame i principali ambiti di intervento – teorico, regolativo e operativo – in cui si confrontano diverse visioni del mondo sull’intelligenza artificiale e sulle prospettive che la attendono, evidenziando, rispetto al dibattito mainstream, spazi possibili di innovazione e di costruzione di alternative ai processi in corso. Nelle conclusioni, infine, si tirano le fila dei ragionamenti sviluppati nel volume, ponendo l’attenzione su quella torsione dello sguardo necessaria a costruire nuove narrazioni e immaginare diverse traiettorie di sviluppo.
- Avvertenze e ringraziamenti.
Questo libro, che ha al centro l’irruzione dell’ai nelle nostre vite e alcune delle sue conseguenze, non avrei potuto scriverlo senza sperimentare in prima persona le performance, le opportunità e i limiti di diversi modelli generativi. Con alcuni di questi sono arrivata a stabilire un legame di reciproca comprensione e, direi quasi, di affettuosa consuetudine. Per la realizzazione di questo volume, quindi, l’ai generativa è stata anche terreno di osservazione e sperimentazione, e mi ha affiancato in alcuni approfondimenti. In particolare, non l’ho usata per definire obiettivi e struttura del volume, per delineare la visione principale che lo attraversa, per scrivere i diversi capitoli. L’ho usata per supportarmi nel comprendere passaggi tecnici poco chiari, per sintetizzare bibliografia minore (capire se potesse essermi utile e valesse la pena approfondirla), per metterla alla prova e verificare alcuni processi teorizzati dalla letteratura e descritti nel volume, per propormi chiavi di lettura e punti di vista con cui negoziare sensi e significati, per sperimentare – come solo l’ai sa fare – quante versioni e narrazioni possano esistere dello stesso concetto, e quanto un llm possa essere rieducato, con pochi prompt (istruzione iniziale, domanda o comando dell’utente al sistema, che innesca la creazione di contenuti, come testo o immagini), a ricercare, analizzare e scrivere in modo più etico, aperto e complesso.
Per questo bellissimo viaggio non posso non ringraziare, in primis, l’editore Carmine Donzelli e la sua casa editrice, in particolare Simona Santarelli e Marianna Matullo che, fin da subito, hanno creduto in questo progetto e lo hanno accompagnato con intelligenza e gentilezza.
Grazie anche ai luoghi che hanno nutrito il mio pensiero negli ultimi anni, in particolare Rai Ufficio Studi, dove ho potuto approfondire sfide e potenzialità della trasformazione digitale e dell’intelligenza artificiale, e «Letture Lente» di AgenziaCult, in cui la prospettiva femminista ha preso corpo come visione del mondo e come chiave di lettura dei rapporti di potere. Agli stimoli e all’amicizia dei colleghi e delle colleghe con cui ho avuto l’onore di collaborare devo molto di ciò che sono arrivata a capire, e anche di ciò che sono diventata.
Tra le numerose fonti da cui questo volume ha attinto, è necessario segnalare qui l’importante lavoro portato avanti da AlgorithmWatch, spazio fondamentale di analisi e riflessione sul rapporto tra ai e disuguaglianze, che ha influenzato profondamente il mio modo di pensare l’innovazione. Ma anche gli scambi e le discussioni con Michele Mezza, che ha la preziosa capacità di guardare le cose da angolature inusuali. E Oriana e Sal, perché questo libro è stato anche un viaggio per ritrovarli.
Ringrazio di cuore, inoltre, Tina Nastasi e Francesco Ricci che, con amicizia, da punti di vista completamente diversi, hanno letto il libro in anteprima e suggerito importanti migliorie. E un ringraziamento speciale va a mio fratello Fabrizio, che da anni si interroga sui temi della giustizia sociale e che senza dubbio ha influenzato il mio sguardo sul mondo. Le idee contenute in queste pagine devono tanto a lui e alle altre persone che ho nominato ma, naturalmente, io sono unica responsabile di eventuali imprecisioni, errori, o opinioni troppo appassionate che potrebbero sbilanciare pesi e giudizi di queste pagine.
Non posso non menzionare anche il sostegno prezioso delle mie famiglie – quelle di sangue e quelle che nella vita ho scelto – che mi hanno accompagnato in questi mesi intensi di lavoro, durante i quali il tempo passato davanti a uno schermo di computer ha, forse eccessivamente, prevalso su amicizie, affetti, legami. Per le stesse ragioni mi sento colma di gratitudine verso Luca ed Elisabetta, e verso gli insegnanti e le insegnanti di Ryoga – menziono Francesca e Matteo tra tutt3 – che mi hanno mostrato, nella teoria e nella pratica, l’importanza degli spazi dedicati all’equilibrio del corpo e al respiro, e al contatto con la terra. E grazie a Mariano, che mi ha insegnato a metterci le mani, e il cuore, nella terra.
L’ultimo pensiero non può che essere per mia figlia Viola e mio figlio Mattia. Il futuro è loro.
