Tentacle Magazine / Intelligenza Artificiale / TM8
L’era della democraz-IA
IA e democrazia/etica
DI Stefania Vanni / luglio 2024
Le tecnologie AI-based potrebbero plasmare il modo in cui partecipiamo alla vita democratica e influenzare il funzionamento delle istituzioni pubbliche. Quali sono le opportunità e i rischi per cittadine e cittadini?
- Prof. Sgueo, in Italia ai servizi pubblici sono spesso associati termini come “complessità” e “lentezza”, opposti alle caratteristiche che definiscono le tecnologie digitali: semplicità, velocità, accesso universale. Come possono queste ultime svecchiare la gestione pubblica e “promuovere un futuro digitale inclusivo e democratico”?
Su questo aspetto ho una visione provocatoria, che è anche oggetto del mio libro “Il Divario. I servizi pubblici digitali tra aspettative e realtà”. Il punto di partenza è che la Pubblica Amministrazione è lenta, complessa e farraginosa, mentre le tecnologie sono veloci, facili da usare e garantiscono servizi su misura. È certamente vero che il servizio digitale rende l’amministrazione più vicina ai cittadini, potenzialmente più veloce e in parte più efficiente. Penso però che il principio della complessità nella Pubblica Amministrazione sia un valore da difendere, non una caratteristica da condannare. Siamo soliti ritrovare una serie di parametri nelle tecnologie commerciali. Innanzitutto, la velocità: siamo abituati al minimo tempo di latenza tra quando compiamo un’azione e quando otteniamo il risultato. Si pensi a una cena ordinata con un’app di food delivery, oppure agli acquisti effettuati su Amazon. Poi, la semplicità: un esempio lampante sono i prodotti Apple. Non esistono manuali utenti, ma solo un breve foglietto con un link al sito, che poi neanche viene consultato. Il dispositivo è talmente semplice e intuitivo che basta usarlo per capirne le funzionalità. Infine, la singolarità digitale, ossia l’offerta di prodotti e servizi su misura. Google Maps riporta qual è il miglior percorso in base a un dato momento del giorno e al mezzo che si sta utilizzando. I tre parametri riportati non sono possibili nell’amministrazione digitale perché questa è frutto di negoziazioni, di tempi di riflessione, di lunghe raccolte di informazioni. Non potrà mai essere troppo veloce. Sicuramente può essere semplificata, ma non può essere semplice in senso “foolproof”, come dicono gli americani. Per questo si parla tanto di formazione in merito alle competenze digitali. Inoltre l’amministrazione non può essere individuale: esistono norme e servizi su misura, ma tali disposizioni devono essere valide per tutti coloro che vi hanno accesso. Per questo difendo la complessità della Pubblica Amministrazione, anche nella sua accezione digitale.
- Si prevede che il mercato globale dell’intelligenza artificiale generativa salirà da 43,87 miliardi di dollari nel 2023 a 667,96 miliardi entro il 2030. In Europa tale mercato raggiungerà i 56,85 miliardi di dollari entro il 2030. Sapremo gestire una crescita così rapida? Siamo pronti a livello strutturale?
Non esistono tecnologie propriamente dirompenti: la stessa IA, che da circa un anno e mezzo è in una fase di hype, è in realtà frutto di una lunga sedimentazione di quasi 50 anni, se non di più. C’è da chiedersi se noi europei siamo pronti all’IA, soprattutto rispetto ai due grandi blocchi che competono per il primato in campo tecnologico, ossia gli USA e l’Asia. L’Europa ha qualche problema in più, dovuto alla mancanza del vibrante ecosistema di start-up e di piccole imprese che sviluppano soluzioni di IA tipico degli altri Paesi nominati. Il sistema pubblico e le strutture europee si stanno adeguando, anche se non si possono escludere vittime o la rivoluzione di alcune attività. Si pensi al lobbying: l’IA sta rendendo obsolete pratiche molto comuni per chi svolge questo lavoro, come il monitoraggio legislativo. Oggi bastano semplici algoritmi per avere il medesimo risultato. Nel caso europeo vedo maggiori difficoltà perché il terreno di piccole realtà che possono creare delle idee innovative e aiutare le grandi imprese, o le strutture pubbliche, ad incorporare l’IA è meno vivace del resto del mondo. Questo ci rende, per il momento, meno competitivi.
Lei ha parlato spesso di come il digitale può suggerire soluzioni innovative a problemi tradizionali, anche nelle politiche pubbliche. Quali vantaggi può portare l’impiego dell’IA in questo campo?
I vantaggi toccano chi lavora nella catena politica pubblica: si pensi a tutti i funzionari di diversi livelli che gestiscono l'elaborazione di testi, la raccolta dei dati - il cosiddetto drafting - e attività simili. Queste potrebbero essere integrate da strumenti di IA. Possiamo aspettarci che il DAGL (Dipartimento per gli Affari Giuridici e Legislativi) abbia la possibilità di usare gli strumenti di IA per redigere i testi. Non vedo un cambiamento radicale, ma un’integrazione alle attività di pensiero che può essere compiuta con l’ausilio dell’IA. Io stesso, che scrivo molto, ho molteplici assistenti digitali: non lascerei mai che fossero l’unica parte del processo, bensì trovo utile la loro integrazione.
Ci sono due elementi da tenere presente: la capacità di impiegare questi strumenti, che può essere migliorata tramite l’esperienza, e la qualità degli algoritmi che stiamo utilizzando oggi, ancora non al massimo del loro potenziale. Il controllo umano resta imprescindibile.
- L’IA ci ha dimostrato di nascondere anche delle minacce per la democrazia e per i cittadini: una tra tutte è il fenomeno “deepfake”. Quali sono secondo lei le minacce concrete? Come ci possiamo proteggere?
A parer mio non è un sistema da cui ci si può proteggere introducendo dei correttivi nei social media o nelle piattaforme in cui acquistiamo e condividiamo le informazioni. La sofisticazione è sempre maggiore, i tentativi di inquinamento sono alti e sono anche scarsi i meccanismi di protezione. Il miglior antidoto per le informazioni sintetiche malevole è l’alfabetismo digitale, per tutte le fasce d’età, nativi digitali compresi. Esso non può garantire a una persona di non incorrere in rischi, ma può dare gli strumenti per saper diversificare le fonti. Se si ha un livello di alfabetizzazione sufficiente, si avrà la capacità di comprendere se una notizia è vera o meno.
- Il 13 marzo 2024 è stato approvato dal Parlamento europeo l’AI Act, un nuovo regolamento che ha l’obiettivo di creare un quadro normativo armonizzato e proporzionato per l’IA nell’Unione Europea. Secondo lei questa normativa aumenterà la fiducia nell’IA e preverrà i rischi che può portare?
La fiducia sull’IA è difficile da convogliare in un dato: molte persone sono ancora scettiche perché non conoscono lo strumento. Per me non c’è un legame diretto tra l’AI Act e la fiducia nell’IA. La parte più interessante del documento è la prevenzione dei rischi. Quando si è cominciato a discutere del regolamento, si è capito che la progressione tecnologica è talmente rapida che stabilire delle regole troppo specifiche le avrebbe rese obsolete velocemente. L’AI Act stabilisce un perimetro di rischio e dei criteri: le forme di IA che rispettano questi criteri possono essere sviluppate senza pericoli. Ci sono strumenti che pongono delle perplessità e possono essere sviluppati a certe condizioni, e poi ci sono quelli che pongono dei rischi inaccettabili. Si pensi alla raccolta di dati personali che consentono di assegnare alle persone un punteggio, tramite un algoritmo, e che comunicano tale score a banche o istituzioni simili. Questo rende l’AI Act un documento lungimirante, un ottimo approccio alla materia.
- Secondo alcune correnti di pensiero “avvolgeremo” il mondo intorno all’intelligenza artificiale: le tecnologie - come appunto l’IA - plasmano i nostri ambienti fisici e concettuali e ci costringono ad adattarci a essi perché è il modo più semplice per far funzionare le cose. Adatteremo all’IA anche il nostro modo di pensare e vivere nella società, in quanto cittadini?
Auspico che sia l’IA a essere sviluppata secondo le esigenze dell’umanità. Immaginare un adattamento del pensiero umano all’IA significherebbe diventare “stupidi” dato che ci baseremmo su algoritmi lineari. Se così fosse, saremmo di fronte a un grande rischio. Sono fiducioso che la capacità di pensiero, di creazione e immaginazione umane non siano comparabili rispetto a quelle delle macchine. L’IA ha già introdotto dinamiche nuove e ha cambiato le attività di alcuni settori. Si pensi all’insegnamento: nell’Ateneo di Parigi dove lavoro ci sono policy stringenti che impediscono agli studenti di utilizzare l’IA per fare i compiti. Trovo assurdo privarli di uno strumento così utile. Si dovrebbe, invece, cambiare il metodo di valutazione degli studenti, per esempio assegnando loro dei compiti che gli impongono riflessioni e interpretazioni profonde, magari sempre con l’ausilio dell’IA, e che gli insegnano a usare correttamente tale strumento. Solo così ci potrà essere un adattamento benefico che aiuterà a trasformare il nostro approccio al lavoro e alla socializzazione.
CHI L’HA SCRITTO?
Hobby preferito: organizzare cene per gli amici e godersi del buon cibo. Accanita sfogliatrice di riviste cartacee di interior design e cucina. Segni particolari: R moscia, praticamente inesistente. Affascinata dal mondo della comunicazione fin da bambina, quando imparava a memoria gli spot tv; poi ha scoperto la comunicazione digitale e ciaone.