L'intelligenza artificiale sta acquisendo capacità più rapidamente di quanto molti esperti avessero previsto, ma la nostra capacità di misurarne i rischi nel mondo reale non sta tenendo lo stesso passo. È questo il nodo centrale dell'International AI Safety Report 2026, una valutazione scientifica guidata da Yoshua Bengio e redatta con il contributo di oltre 100 esperti indipendenti, designati da più di 30 paesi e organizzazioni internazionali.
Il rapporto non prevede l'inevitabilità di un esito drammatico. Offre invece una panoramica di ciò che i ricercatori sanno e di ciò che non sanno, spiegando perché l'incertezza stessa sia rilevante quando l'IA general-purpose viene implementata su larga scala.
Tre famiglie di rischio
Il rapporto raggruppa i rischi emergenti in tre macro-aree:
- Uso doloso, incluse truffe, frodi, operazioni informatiche e contenuti sintetici abusivi.
- Malfunzionamenti, in cui un sistema si comporta in modo inaffidabile, persegue un obiettivo errato o produce un output dannoso.
- Rischi sistemici, laddove un'adozione diffusa incide sul lavoro, sugli ambienti informativi, sulla concentrazione del mercato o sulle istituzioni critiche.
Le evidenze sono eterogenee. Alcuni danni, come le frodi facilitate dall'IA e la diffusione di immagini intime non consensuali, sono già documentati. Altri scenari rimangono incerti, soprattutto quando dipendono da capacità future o da complesse catene di eventi sociali. Un'informazione responsabile deve rendere evidente tale distinzione.
Il divario di valutazione
Un punteggio di benchmark può dimostrare che un modello offre buone prestazioni in un test specifico. Non è però in grado, da solo, di prevedere come lo stesso sistema si comporterà in un ambiente di lavoro caotico, sotto pressione da parte di avversari o quando è connesso a strumenti e dati sensibili.
Il rapporto definisce questa situazione "divario di valutazione". I modelli possono essere sensibili ai prompt e al contesto, i test possono diventare obsoleti e i risultati di laboratorio potrebbero non tradursi direttamente nell'utilizzo reale. Ciò non rende inutile la valutazione; significa piuttosto che essa deve articolarsi su più livelli: test delle capacità, esercitazioni di red teaming, monitoraggio post-implementazione, segnalazione degli incidenti e revisione umana rispondono ciascuno a domande diverse.
Le misure di salvaguardia stanno migliorando, ma non sono decisive.
Sviluppatori e ricercatori hanno ampliato le attività di valutazione dei modelli, l'addestramento al rifiuto di richieste, i controlli di accesso, gli strumenti per la tracciabilità della provenienza e i framework di sicurezza per i modelli di frontiera. Il rapporto ne evidenzia tuttavia anche i limiti: attaccanti esperti possono aggirare le misure di sicurezza, le tecniche di watermarking possono rivelarsi vulnerabili e l'efficacia reale di molti controlli è ancora difficile da quantificare.
La risposta sensata non è abbandonare le misure di sicurezza, bensì evitare di considerare un singolo controllo come una garanzia assoluta. La difesa in profondità è fondamentale: occorre limitare i permessi, isolare i sistemi sensibili, registrare le azioni rilevanti, testare gli scenari di guasto e garantire la possibilità di ripristinare lo stato precedente (rollback).
Cosa possono fare i team operativi
- Adeguare il livello di supervisione alle conseguenze dell'attività.
- Mantenere la responsabilità umana per le decisioni in ambito finanziario, medico, legale e critico per la sicurezza.
- Fornisci agli strumenti di IA il minimo indispensabile di dati e autorizzazioni.
- Misura le prestazioni dopo il deployment, non solo prima del lancio.
- Registra i fallimenti e i quasi incidenti affinché la base di evidenze possa migliorare.
- Informare gli utenti quando contenuti o decisioni coinvolgono in modo sostanziale l'IA.
Il Mythic Mode prospettiva
La lezione più utile è di natura culturale: la fiducia deve basarsi sulle evidenze. L'IA può accelerare la ricerca, la progettazione e le operazioni, ma la velocità non equivale all'affidabilità. Un sistema diventa più affidabile quando i suoi limiti sono visibili, le sue azioni sono verificabili e i suoi operatori sono disposti ad ammettere: "non lo sappiamo ancora".
Il rapporto non risolve ogni dibattito. Offre una base scientifica condivisa per prendere decisioni migliori, mentre le capacità e i rischi continuano a cambiare.