Come si sta muovendo l’Unione europea sull’intelligenza artificiale? Prova a rispondere alla domanda, ma non solo a questa, la terza puntata del podcast Back to the Future of AI, che nei primi due episodi aveva esplorato le opportunità di questa tecnologia, alle basi della rivoluzione industriale del prossimo decennio. Con la professoressa dell’Università di Bologna Paola Manes, la corrispondente di Politico Europe, Melissa Heikkilä, e Giulia Pastorella, direttrice delle relazioni istituzionali con l’Ue di Zoom.
Con l’«Artificial Intelligence Act» la commissione europea ha proposto una ripartizione dell’AI in quattro livelli di rischio. Al primo, quello colpito da un divieto di utilizzo, si trova la tecnologia che può attentare ai diritti fondamentali dell’uomo. Sono i sistemi e le applicazioni che manipolano il comportamento umano per aggirare il libero arbitrio degli utenti. Per esempio, i giocattoli che impiegano l’assistenza vocale per incoraggiare comportamenti pericolosi dei minori, o i sistemi che consentono ai governi di attribuire un punteggio sociale ai loro cittadini.
La seconda categoria è quella «ad alto rischio». Questa tecnologia può essere utilizzata, ma con dei limiti molto stringenti. Per esempio: l’attribuzione dei punteggi agli esami, la chirurgia robotica, la gestione dei lavoratori, anche coi software di selezione dei curricula per l’assunzione. In questa fascia, ricadono anche tutti i sistemi di identificazione biometrica remota. La terza classe di rischio è quella del cosiddetto «rischio limitato», cioè i sistemi di intelligenza artificiale con specifici obblighi di trasparenza, come i chatbot. L’ultima è quella «a rischio minimo». Qui l’approccio è per una regolamentazione minimale, come nei videogiochi oppure per i filtri di spam basati sull’intelligenza artificiale.
«Mi preoccupa come tutti siano super ottimisti riguardo all’intelligenza artificiale – racconta Heikkilä sui rischi legati a questa tecnologia –. Penso ci siano così tanti “bias”, storture, che sono molto pericolose perché si stanno infiltrando anche nei servizi pubblici, senza che la gente le consideri. Un altro aspetto che mi preoccupa, e che esiste già, sono le armi letali autonome. Come potremmo proteggerci? Penso dovremmo diventare alfabetizzati sull’AI, intendo, capire i termini, non serve imparare a programmare in codice».
In un mondo di giganti, come Cina e Stati Uniti, e multinazionali Tech che assomigliano sempre di più alle nuove superpotenze, l’Europa dovrebbe trovare una «terza via». Lo spiega Giulia Pastorella. «Sono convinta che si possa fare innovazione anche in maniera democratica – dice –. Certo, il dirigismo cinese permette di essere molto più focalizzati rispetto agli investimenti pubblici, ma abbiamo un esempio completamente diverso, ma altrettanto funzionante, che è quello degli Stati Uniti. Al momento, il problema dell’Ue è che è un po’ timida su entrambi i fronti. Deve trovare una terza via: il modello europeo di sviluppo tecnologico è anche un modello etico, oltre che commerciale».
Il quarto episodio è invece dedicato al lato geopolitico dell’intelligenza artificiale, tra le minacce sempre più frequenti ai nostri dati, la cybersicurezza e le guerre del futuro. Saranno combattute nel cyberspazio? I nuovi equilibri mondiali passeranno anche dalla sovranità tecnologica. Gli ospiti sono la giornalista di Sky TG24 Mariangela Pira e il professore associato del Politecnico di Milano Stefano Zanero.
Nel 2020, le spese militari mondiali hanno raggiunto la quota di 1981 miliardi di dollari, il livello più elevato dal 1988. Una parte di questo bilancio, per le grandi potenze, si sta spostando nell’universo digitale. Per esempio, gli Stati Uniti stimano di investire in cybersicurezza e affini 901 milioni di dollari nel 2022. Secondo il professor Zanero, però, va fatta chiarezza quando si pensa agli scontri nel cyberspazio. Cita un libro di Thomas Reed, dal titolo “Cyber War will not take place”.
«Non significa che tra Stati non ci sia un confronto acceso nel cyberspazio – spiega il professore –, ma il concetto di guerra ha un sotteso di natura diplomatica e militare molto specifico. Le guerre sono sempre motivate da qualcosa e di solito questo qualcosa ha a che vedere con il controllo di un punto strategico. Nel cyberspazio non ci sono dei punti strategici, perché il cyberspazio non è uno spazio. Lo chiamiamo “cyberspazio” ma è una metafora, non è un posto topologico. Un server in Russia non è più vicino o più lontano a un server in Italia di un server che sta in Francia. Non è fatto così il cyberspazio: per arrivare dall’Italia alla Francia, a volte il giro più corto è passare dall’Ungheria. Per i carri armati no».
L’intelligenza artificiale, che sta orientando sempre di più la geopolitica, ha però anche ricadute sempre più evidenti sulla nostra vita quotidiana, di cittadini. «Temo il fronte della cybersecurity più delle guerre – conclude Mariangela Pira –. Come attacchi, inserimenti nelle reti infrastrutturali di un paese. Per intenderci, aveva scandalizzato tantissimo l’attacco alle Torri Gemelle, perché nessuno si aspettava che un aereo potesse schiantarsi contro delle persone fisiche e dei grattacieli. È un attacco che vent’anni fa ha fatto paura. Era un nuovo modo di attaccare. Ecco, quello che io temo della cybersecurity è un nuovo modo di attaccare».
Nel 2021, in Italia le truffe online sono aumentate del 27%, per un totale di 18 mila casi. Lo dice l’ultimo rapporto della Polizia Postale. Sono stati 126 gli attacchi informatici su larga scala, cioè contro i sistemi finanziari di grandi e medie imprese, frodi che hanno sottratto 36 milioni di euro, 17 dei quali recuperati dagli investigatori. A livello europeo, il cybercrime si è moltiplicato di cinque volte tra il 2013 e il 2017, secondo i dati del centro studi dell’Europarlamento. Negli ultimi due anni, le aggressioni ai danni dell’Europa sono quasi raddoppiate, salendo dalle 432 al 2019 alle 756 del 2020 (+43%).
Ascolta qui tutte le puntate di Back to the Future of AI, un podcast di Matteo Castellucci e Alessandro Cascianelli per il progetto Sphera, disponibile su Europod e tutte le piattaforme gratuite, come Apple Podcast e Spotify.