L’international AI Safety Report 2026, guidato da Yoshua Bengio, è la seconda edizione di quello che ormai è il principale tentativo globale di costruire una base scientifica condivisa sui rischi dell’intelligenza artificiale. Commissionato dal governo del Regno Unito, il rapporto è guidato dal professor Yoshua Bengio, sostenuto dall’AI Security Institute del Regno Unito, con un comitato consultivo internazionale di esperti che rappresentano i 30 paesi che hanno partecipato al vertice di Bletchley del 2023, più l’Unione europea (UE), l’Organizzazione per la cooperazione economica e lo sviluppo (OCSE) e le Nazioni Unite (Onu). Il primo rapporto pubblicato nel 2025 aveva un obiettivo soprattutto ricognitivo: mappare rischi emergenti, limiti tecnici, vulnerabilità e prime pratiche di governance.
La versione 2026 parte da quel terreno e si concentra sulla traiettoria: cosa sta cambiando, quanto velocemente e con quali implicazioni sistemiche. Il documento non si limita più a descrivere i rischi, ma prova a strutturare una proposta operativa. Il punto centrale resta invariato: l’Intelligenza Artificiale Generale (AI general-purpose) sta avanzando più rapidamente delle capacità istituzionali e sociali di governarla.
Il report analizza tre grandi aree. La prima è quella dei rischi tecnici. I sistemi stanno diventando più autonomi, più capaci di pianificare e integrare strumenti diversi, più difficili da valutare in modo esaustivo. Questo aumenta la probabilità di comportamenti inattesi, errori sistemici e difficoltà nel mantenere allineati gli obiettivi delle macchine con quelli umani.
La seconda area riguarda l’uso malevolo. La crescente accessibilità delle tecnologie amplia il rischio di disinformazione su larga scala, automazione di attacchi informatici e impieghi in contesti sensibili come la sicurezza biologica o militare. La terza dimensione è sistemica: dipendenza da pochi fornitori di modelli e infrastrutture, impatti sul lavoro, effetti sugli equilibri informativi e geopolitici.
Nel più recente rapporto emerge soprattutto la consapevolezza (degli autori) che il rischio non è più visto come episodico, ma come strutturale e sistemico. Nel 2025 gli investimenti globali nel settore hanno superato i 202 miliardi di dollari (fonte Crunchbase), con una crescita del 75 per cento in un solo anno. Dei mega-round (accordi superiori a 500 milioni di dollari) di investimento nel capitale di aziende completati al novembre 2025, il 73 per cento è andato a società di intelligenza artificiale, con la sola Anthropic che ha ricevuto capitale per 15 miliardi di dollari.
Ma è di questi giorni la notizia che Open AI sta perfezionando una maxi operazione di raccolta di capitali da oltre 100 miliardi di dollari, operazione che, se confermata, porterebbe la valutazione pre-money di Open AI a circa 730 miliardi di dollari.
Gli Stati Uniti la fanno da padrona. Microsoft, Alphabet, Amazon e Meta hanno riportato una spesa in conto capitale combinata di 246 miliardi di dollari nel 2024, rispetto ai 151 miliardi di dollari del 2023. Prevedono che la spesa potrebbe superare i 320 miliardi di dollari quest’anno. La spesa per investimenti nell’AI e relative infrastrutture tra i Magnificent Seven (Alphabet-Google, Amazon, Apple, Meta, NVIDIA e Tesla) fa impallidire il resto del benchmark statunitense S&P 500.
La loro spesa in conto capitale è aumentata del 40 per cento nel 2024 rispetto al 3,5 per cento tra le restanti 493 società, secondo Société Générale, e supererà i 320 miliardi di dollari nel 2026 e crescerà ancora nei prossimi anni. Solo OpenAI prevede investimenti cumulativi in capacità di calcolo nell’ordine dei 600 miliardi di dollari entro il 2030.
La dimensione tecnica cresce in parallelo. La misura più usata per stimare la potenza di addestramento dei modelli è il numero di FLOPs. I FLOP al secondo misurano la quantità di calcoli che possono essere eseguiti da un processore (GPU), una metrica standard per descrivere la velocità e la capacità delle GPU. Bene, le prestazioni si misurano ormai in milioni di miliardi di operazioni al secondo (petaFLOPs) e i relativi costi aumentano.
Il costo di training dei modelli frontier è cresciuto di 2-3 volte l’anno negli ultimi anni, con previsioni che indicano sistemi il cui addestramento potrebbe superare il miliardo di dollari entro il 2027, secondo Epoch AI, un istituto di ricerca multidisciplinare senza scopo di lucro che indaga sul futuro dell’intelligenza artificiale.
Vi è una parola magica, il cui significato spiega la sfida a colpi di miliardi delle società high-tech che si occupano di Intelligenza Artificiale: l’inferenza. Deriva dal latino inferre («portare dentro», «trarre una conseguenza»), da cui inferentia. Un’inferenza è il processo mentale o logico con cui si ricava una conclusione a partire da informazioni e/o premesse. Nel mondo dell’intelligenza artificiale è la capacità di modelli addestrati di riconoscere schemi e trarre conclusioni da informazioni che non hanno mai visto prima.
L’inferenza ha un costo gigantesco. Mentre l’addestramento, per quanto costoso, avviene una sola volta, l’inferenza avviene milioni o miliardi di volte. Ogni volta che qualcuno scrive a un chatbot, usa una traduzione automatica, genera un’immagine, parla con un assistente vocale, parte una nuova inferenza. Se una sola inferenza ha un costo piccolo, un miliardo di inferenze ha un costo enorme, superando di gran lunga il costo, per quanto miliardario, dell’addestramento del modello. Inoltre, la fase di addestramento dei modelli di AI può essere offline, mentre l’inferenza è solo live.
Mentre nella fase di addestramento dei modelli si può aspettare, si utilizza un’infrastruttura hardware concentrata, riuscendo a ottimizzare una serie di costi grazie all’efficienza, durante l’inferenza la risposta deve essere immediata, con server distribuiti nel mondo, compresa una rete diffusa di edge (piccoli data center di prossimità) per diminuire la latenza, capaci di reggere i picchi di traffico, sostenendo costi giganteschi per la realizzazione di nuovi data center e il loro raffreddamento, in aggiunta ai costi di rete, ai costi di ridondanza dei sistemi operativi (backup), ai costi di sicurezza (cyber-security) e manutenzione.
Una mega e variegata infrastruttura, con costi permanenti, dove l’effetto scala è micidiale, in considerazione di centinaia di milioni di persone che, nello stesso tempo e in tempo reale, ne faranno uso.
Nel documento di Deloitte “More compute for AI, not less” (Technology, Media and Telecom Predictions 2026) si stima che entro il corrente anno i carichi di lavoro per l’inferenza (uso dei modelli) supereranno quelli di addestramento, rappresentando circa i due terzi del calcolo totale. È altrettanto vero che la qualità dei dati su cui i modelli vengono addestrati è fondamentale per il loro successo. Proprio come gli umani che imparano da un insegnante non preparato, un modello AI addestrato su un set di dati scadente non funzionerà bene. I set di dati devono essere etichettati in modo chiaro ed essere iperpertinenti alle competenze che il modello AI sta tentando di apprendere.
Una sfida chiave dell’AI (e in particolare dell’accuratezza dell’inferenza AI) è la selezione del modello giusto su cui addestrarsi. Questo spiega come mai il costo della formazione dei modelli di intelligenza artificiale di frontiera è cresciuto di un fattore da 2 a 3 volte all’anno negli ultimi otto anni e si prevede che i modelli più grandi costeranno oltre un miliardo di dollari entro il 2027 (fonte: Cornell University).
Ma appare chiara la direzione verso cui stiamo andando e meno chiari i pericoli, nonché i superpoteri che potrebbero essere in mano a pochi e quindi potenzialmente anche fuori controllo, al netto del fenomeno della Singolarità Tecnologica (l’AI che prevale sull’uomo) che R. Kurzweil ci ha ribadito nel suo più recente libro “La singolarità è più vicina” del 2024. Bengio insiste nel report 2026 sul tema della governance dell’AI: la sicurezza (rischi sistemici) non può essere affrontata solo come un problema tecnico. Valutazione delle capacità, monitoraggio continuo, standard condivisi, reporting degli incidenti, ma soprattutto cooperazione internazionale, mettendo l’accento sul tempo come variabile critica.
La vera sintesi del rapporto è questa: l’AI non è più una tecnologia emergente. È una trasformazione infrastrutturale potentissima che corre a una velocità superiore alle nostre capacità di capirne gli effetti potenzialmente distorsivi, se non distruttivi. Noi umani dovremmo rendercene conto.
Dalle premesse dovremmo desumere che la questione dello sviluppo dell’intelligenza artificiale è seria e avrà di certo conseguenze (positive e negative) sul nostro futuro. Si tratta di un’inferenza. Ma non è che la stiamo insegnando senza conoscerla?
