Né apocalisse né utopia sul futuro dell’intelligenza artificiale e del progresso tecnologico: è l’approccio che consiglia il Potere digitale, l’interessante libro della professoressa لوئیسہ ٹورچیا, allieva di Sabino Cassese e docente ordinario di Diritto amministrativo all’Università Roma Tre, uscito di recente per le edizioni de il Mulino. Il saggio affronta in modo sistematico ma di gradevole lettura tutti i temi di grande attualità che ruotano attorno all’AI, alle opportunità e ai rischi del progresso tecnologico. Ma cos’è esattamente il Potere digitale? “È un potere privato, concentrato in capo a poche imprese americane e cinesi che hanno raggiuto dimensioni tali da consentire loro di dominare i mercati e di fronteggiare gli Stati” e non solo. Un potere enorme che esige una buona regolazione, proprio quella che l’America di Trump non vuole. Ma la sfida non è finita. Ecco cosa sostiene Torchia nell’intervista a FIRST آن لائن.
Professoressa Torchia, significativamente l’ultimo capitolo del suo libro “Potere digitale” si apre su un tema di scottante attualità proprio in questi giorni e si intitola Il futuro digitale fra apocalisse, utopia e realismo. Sembra di capire che lei propenda per la terza opzione ma in concreto come vede il futuro del potere digitale?
“È un futuro ancora da scrivere e che dipende in misura significativa da diversi elementi. Dipende in primo luogo dalla volontà delle società, degli Stati, delle organizzazioni internazionali, delle comunità di studiosi e degli individui di non farsi, per così dire, “disarmare” dalla prospettiva apocalittica che, come in tutte le apocalissi, produce molta ansia e inibisce ogni azione, perché la previsione apocalittica dà per scontato non solo che il mondo stia per finire, ma anche che questa fine sia inevitabile. E, come ha acutamente osservato Christian Friedrich Hebbel già quasi un paio di secoli fa, “c’è della gente che si consolerebbe persino della fine del mondo, purché essi l’avessero preannunziata“. La prospettiva apocalittica è quindi anche, paradossalmente, consolatoria, perché giustifica l’incapacità o la non volontà di agire e reagire”.
Quindi cosa occorre?
“Occorre, contemporaneamente, non farsi illudere dalle promesse di futuri grandi e straordinari benefici per tutti. La visione utopica dello sviluppo tecnologico è smentita dalle tante promesse non mantenute. Non sono stati scoperti nuovi farmaci salvavita o terapie per i tumori e le malattie degenerative, non si è trovata una soluzione per il climate change, non sono state individuate fonti di energia a basso costo, non è stata “generata” nuova arte, o nuova letteratura, o nuova musica di qualità comparabile alla produzione umana. E ci si potrebbe chiedere se le dichiarazioni delle big tech sulle ‘magnifiche sorti e progressive’ dello sviluppo tecnologico – collocate sempre a distanza di diversi anni o addirittura decenni da oggi – non finiscano per essere messaggi pubblicitari finalizzati ad attrarre il capitale necessario per enormi investimenti il cui rendimento è anch’esso spostato in un futuro indeterminato”.
Lei cosa crede?
“Io credo che sia non solo possibile, ma anche necessario, un approccio realista, che non neghi i grandissimi vantaggi e benefici del progresso tecnologico, ma innanzitutto si concentri sui vantaggi reali e non sulle promesse e poi prenda in considerazione sia i rischi che le nuove tecnologie portano con sé, sia la distribuzione del tutto ineguale di quei vantaggi e quei rischi. Ci sono gruppi e imprese che si accaparrano in larghissima misura quei benefici e spostano su altri gruppi e comunità tutti i rischi e gli svantaggi. La percezione di questo fenomeno è oggi assai diffusa e spiega la sfiducia crescente nelle grandi imprese tecnologiche, l’opposizione alla costruzione di data center, ormai molto forte anche negli Stati Uniti, la moltiplicazione di cause contro le piattaforme per violazione del diritto della concorrenza, dei diritti di proprietà intellettuale, della privacy e per i danni alla salute mentale dei più giovani”.
Una strada difficile da percorrere?
“È naturalmente una strada difficile da percorrere, ma le stesse big tech cominciano a sentire la pressione di una opinione pubblica sempre più ostile e vedono chiaro il rischio di responsabilità sempre crescenti – e costose – che potrebbero essere loro imputate e, paradossalmente ma non troppo, vedono la soluzione nell’intervento pubblico, sia regolatorio, sia finanziario, sempre più spesso invocato proprio da chi finora ha sempre fieramente combattuto i tentativi di eteroregolazione, affermando enfaticamente che l’autoregolazione era sufficiente. Le regole dettate dallo Stato possono anche essere utilizzate strumentalmente per mitigare la concorrenza fra i grandi players e svantaggiare i più piccoli, alzando contemporaneamente le barriere all’entrata nel settore per i nuovi soggetti. La determinazione di regole deve essere quindi molto attenta e accurata ed essere soggetta a verifiche che ne accertino l’efficacia e ne consentano la correzione in tempi rapidi”.
Quali sono i tratti dominanti del potere digitale?
“Sintetizzando i risultati dell’analisi svolta nel mio libro, il potere digitale può essere definito come un potere privato, globale, strutturato secondo il modello della piattaforma, estrattivo, normativo, conformativo e conformista, persuasivo e pervasivo.
È, innanzitutto, un potere privato, concentrato in capo a poche imprese americane e cinesi, che hanno raggiunto dimensioni tali da consentire loro di dominare i mercati e fronteggiare gli Stati”.
تاثراتی.
“È, poi, un potere con un campo di azione globale, che opera senza incontrare confini territoriali e che offre o vende prodotti e servizi divenuti essenziali per la vita individuale e collettiva in tutto il mondo. È un potere strutturato secondo il modello della piattaforma, come un luogo di incontro di domanda ed offerta, di informazioni, beni, servizi, divenuto ormai così indispensabile, per gli utenti commerciali come per gli utenti finali, da impedire o rendere comunque molto difficile l’uscita dalla piattaforma dominante, anche per mancanza di alternative. Anche i sistemi basati sugli LLM vengono integrati in piattaforme esistenti (come Gemini per Google) o perseguono il modello della piattaforma, offrendo una gamma sempre più ampia di servizi integrati e non accessibili separatamente. È un potere ‘estrattivo’, che cerca di ottenere le risorse necessarie per il suo esercizio senza sopportarne i costi e appropriandosi in misura estrema dei ricavi. È un potere normativo, perché stabilisce le regole per le interazioni sulle piattaforme e, con le più recenti applicazioni, anche regole su come si esercita l’attività medica, o bancaria o finanziaria. È un potere conformativo e tendenzialmente conformista, perché tramite i modelli riduce la varietà del reale e ne restituisce poi una versione semplificata e uniformata, sulla base di un ordine meramente statistico e non morale o etico o sociale. È un potere persuasivo e pervasivo sul piano economico come sul piano politico e sociale, perché la tecnologia sulla quale si basa è diventata ormai una parte integrante della vita quotidiana, con la crescente diffusione dell’uso non solo di applicazioni specializzate, ma forse ancor di più dell’IA generativa capace di interagire mediante il linguaggio naturale”.
Nel suo libro lei illustra molto chiaramente come il potere digitale sia diventato un potere politico e come il capitalismo digitale sia diventato più potente degli Stati e metta in pericolo la stessa democrazia: è una sfida che abbiamo perso per sempre o possiamo ancora sperare di riequilibrare i rapporti di forza tra potere digitale e potere democratico?
“Un elemento distintivo e caratteristico del potere digitale è la concentrazione: una concentrazione così forte e così impenetrabile, che né il mercato, né lo Stato sono riusciti, almeno per ora, a produrre misure efficaci di redistribuzione. Il potere concentrato assomiglia pericolosamente al potere illimitato e il potere illimitato è quasi per definizione un potere arbitrario. Come tutti i poteri, però, anche il potere digitale ha bisogno di una legittimazione e questa legittimazione oggi non può essere basata solo sulla forza: anche le imprese tecnologiche hanno bisogno di vendere prodotti e servizi sul mercato, di convincere i consumatori che i loro prodotti e servizi sono utili e anzi essenziali, così come hanno bisogno di raccogliere capitali e di mantenere promesse di rendimento, di convincere le comunità ad accogliere i loro data center, di convincere gli Stati che non mettono in pericolo la loro sovranità. Non è un caso che i ‘capi’ delle big tech spesso favoleggino di nuovi pianeti o zone di questo pianeta a loro riservate”.
وہ ایسا کیوں کرتے ہیں؟
“Perché sentono la società e le regole come un vincolo al quale non vogliono sottostare, del quale vorrebbero liberarsi. Si tratta, però, di una prospettiva del tutto illusoria, come dimostrano due reazioni tipo diverso. Nei paesi autocratici, come la Cina, lo Stato esercita un saldo controllo sulle imprese tecnologiche e sull’uso e la diffusione della tecnologia. Non voglio certo indicare l’autocrazia come un esempio, ma dimostra che il potere pubblico, se c’è la volontà, non è impotente. Anzi, nel caso della Cina, lo Stato impone che i modelli di intelligenza artificiale rispecchino i ‘valori’ del socialismo, a dimostrazione che la tecnologia non è neutra. Nei Paesi democratici cresce l’insofferenza e la sfiducia verso l’innovazione tecnologica che distrugge lavoro, crea disuguaglianze e discriminazioni, accentua la povertà e la marginalizzazione di interi gruppi e comunità. La democrazia, la sua capacità inclusiva, pluralista e deliberativa, è un possibile antidoto e potrebbe rafforzarsi proprio come strumento che consente alle società moderne di difendersi e di preservare valori e fini collettivi. La speranza, quindi, è possibile, ma va coltivata, esercitata, difesa, ed è un compito che spetta a ciascuno di noi, come cittadini di paesi democratici”.
Per governare il potere digitale senza soffocare l’innovazione tecnologica ma senza farsi sopraffare lei sostiene che la leva decisiva è quella della regolazione. Su questo terreno l’Europa è più avanti mentre gli Usa di Trump non ne vogliono sapere, ma se la regolazione del potere digitale non può estendersi al mondo interno sembra inevitabile che la sua efficacia sia monca. O no? Come si può superare questo disallineamento tra Europa e Usa?
“Intanto potrebbe essere un disallineamento contingente: dipende molto da cosa accadrà nelle elezioni americane a partire da novembre e negli Usa nei prossimi due anni. Regolare l’innovazione è difficile, perché l’oggetto delle regole muta continuamente e proprio per questo l’approccio regolatorio europeo per quanto riguarda l’intelligenza artificiale è basato essenzialmente sul rischio: i rischi non si possono evitare, ma si possono mitigare e soprattutto si possono capire meglio, se c’è un sistema di controllo che li rileva. La regolazione europea può essere criticata per la sua pesantezza – e un tentativo di semplificazione si sta facendo con il Digital Omnibus – ma ha dalla sua un importante atout: nessuna big tech può rinunciare al mercato europeo, uno dei più ampi e ricchi al mondo. E quindi nonostante le tante critiche e resistenze, nessuna big tech è uscita dall’Europa, nonostante la regolazione. Il disallineamento fra Usa e Ue, quindi, esiste ma non impedisce l’applicazione delle regole europee, su territorio europeo e a volte anche al di fuori dei suoi confini, perché molti ordinamenti stanno convergendo intorno allo stesso tipo di principi e strumenti di regolazione e controllo dell’intelligenza artificiale. Anche l’argomento secondo cui la regolazione ostacola l’innovazione comincia ad essere meno convincente quando l’innovazione esce dallo stato embrionale, come ormai è accaduto per l’intelligenza artificiale. La regolazione è il principale strumento attraverso il quale una industria riesce a garantire la sicurezza dei suoi prodotti e a ottenere la fiducia dei consumatori: nessuno salirebbe su un aereo o comprerebbe medicine se non fosse ragionevolmente certo che il viaggio e la terapia sono sicuri e non rischiosi”.
La prospettiva migliore secondo lei quale sarebbe?
“Naturalmente la prospettiva migliore sarebbe quella di una regolazione globale, alla quale aderiscano molti Stati e organizzazioni internazionali. Non è una convergenza impossibile. Nel mio libro faccio due esempi per i quali questa convergenza si è realizzata: l’energia atomica e la clonazione. Sono evidenti le differenze fra questi due esempi: la potenza atomica appartiene tendenzialmente agli Stati, mentre la capacità di clonazione nasce nei laboratori di ricerca. Nel primo caso gli Stati hanno fatto ricorso allo strumento dei trattati internazionali, mentre nel secondo caso c’è stata una convergenza sulla scelta, adottata singolarmente da ciascuno Stato, di vietare la clonazione riproduttiva. Nell’un caso come nell’altro, però, la percezione dei pericoli e dei rischi connessi – nel caso della bomba atomica dimostrati drammaticamente a Hiroshima e Nagasaki – insieme alla convinzione che soluzioni nazionali isolate sarebbero state del tutto inidonee – ha portato all’adozione di regole condivise che gli Stati e i ricercatori hanno accettato e che, almeno per ora, non sono state violate o nel caso di possibili violazioni, come in Iran per quanto riguarda l’energia atomica, sono state sottoposte a meccanismi di controllo internazionali. In ambedue i casi si tratta – semplificando molto – di regole basate fondamentalmente su divieti e sulla accettazione da parte dei soggetti interessati dell’esercizio di un potere di controllo sul rispetto dei divieti in capo ad autorità o agenzie nazionali o internazionali”.
Ma un tentativo di convergenza sull’IA è stato fatto?
“Un tentativo di stabilire principi guida internazionali e regole di condotta condivise in materia di innovazione tecnologica è stato fatto anche dal G7, nel 2023, con l’adozione di principi denominati, non a caso, come Hiroshima AI Process. I principi guida internazionali così definiti dovrebbero essere applicati all’intero ciclo di vita dell’IA (e quindi a tutti gli attori coinvolti nelle diverse fasi) e il Codice di condotta internazionale fornisce indicazioni alle quali gli sviluppatori di IA possono aderire volontariamente. L’attuazione dell’Hiroshima AI Process è affidata all’Ocse, che nel febbraio del 2025 ha definito la struttura dei rapporti di monitoraggio”.
La sfida al potere digitale si gioca, come si evince anche dal suo libro, sul piano internazionale ma che cosa può fare l’Italia all’interno dell’Europa per mettersi nelle condizioni migliori per giocare la partita?
“L’Italia non dispone di grandi capitali di investimento, né di grandi risorse naturali, ma ha ottime università, è in grado di formare ottimi ricercatori – che vanno a cercare fortuna all’estero: noi li formiamo e poi regaliamo questo patrimonio ad altri Paesi – ha una tradizione di cultura e capacità tecnica che, nonostante la distruzione di tante esperienze industriali negli ultimi anni, ancora resiste. Se invece di disperdere questo patrimonio di cultura e capacità lo si concentrasse in centri di ricerca e di produzione, lo si facesse crescere come massa critica, si creasse una rete con il sistema produttivo e con il settore pubblico, potremmo dare un contributo importante”.
