Le politiche sui rischi dell’intelligenza artificiale spesso sembrano convincenti finché un gruppo di lavoro non deve decidere se un sistema è pronto per persone reali. Il National Institute of Standards and Technology degli Stati Uniti, NIST, ha progettato il suo AI Risk Management Framework, o AI RMF, di adozione volontaria per aiutare le organizzazioni a integrare considerazioni di affidabilità nella progettazione, nello sviluppo, nell’utilizzo e nella valutazione dei sistemi di IA. Il suo nucleo pratico è organizzato intorno a quattro funzioni: Govern, Map, Measure e Manage.
Queste funzioni non sono una sequenza da eseguire una sola volta e non costituiscono un marchio di certificazione. Sono ambiti di lavoro collegati. La governance orienta ogni decisione; la mappatura dà un contesto alle misurazioni; la misurazione fornisce evidenze; la gestione trasforma tali evidenze in priorità e azioni.
Govern: rendere visibile la responsabilità
Govern è il fondamento. Un gruppo ha bisogno di responsabili nominati, percorsi di escalation, politiche, aspettative documentali e un metodo per includere i punti di vista delle persone interessate. Deve sapere chi può approvare la messa in produzione, chi può fermarla, chi indaga su un incidente e quali evidenze devono essere conservate.
Una registrazione di governance utile è specifica. Invece di affermare che «gli esseri umani mantengono il controllo», occorre indicare quale decisione viene esaminata da una persona, quali informazioni ha a disposizione chi effettua la verifica, quanto tempo gli è concesso e che cosa accade quando il livello di affidabilità è basso. La governance comprende anche i fornitori: acquistare un modello non trasferisce la responsabilità al di fuori dell’organizzazione che lo utilizza.
Map: comprendere il sistema nel suo contesto
Map chiede a che cosa serve il sistema di IA, dove opererà e chi potrebbe sperimentarne i benefici o i danni. Lo stesso modello può comportare rischi molto diversi in uno strumento privato di scrittura, in uno screening per le assunzioni o in un flusso di lavoro clinico. I gruppi dovrebbero descrivere l’uso previsto, l’uso improprio prevedibile, le categorie interessate, le dipendenze, la provenienza dei dati e le conseguenze di un guasto.
Una buona mappatura registra anche le ipotesi. La lingua dell’input è supportata? L’utente saprà che l’output è stato generato da una macchina? Una persona può contestare un risultato? Quale ambiente è stato usato durante i test e in che modo quello di produzione è diverso? Un’ipotesi esplicita può essere verificata; un’ipotesi nascosta diventa una sorpresa.
Measure: raccogliere evidenze che rispondano alle domande mappate
Measure va oltre la comunicazione di un singolo punteggio di accuratezza. A seconda del contesto, le evidenze possono comprendere l’affidabilità con input variabili, le prestazioni per sottogruppi, test di privacy e sicurezza, tassi di contenuti dannosi, calibrazione, accessibilità, studi sui fattori umani e osservazioni successive alla messa in produzione. La metrica deve essere collegata al rischio descritto durante la mappatura.
I gruppi dovrebbero definire le soglie prima che arrivino i risultati, documentare i limiti e conservare i test non superati invece di selezionare soltanto i numeri favorevoli. Alcuni danni sono difficili da ridurre a un’unica metrica; per questo una valutazione qualitativa e il riscontro delle persone interessate possono integrare i test quantitativi. La misurazione riduce l’incertezza, ma non la elimina.
Manage: stabilire le priorità, reagire e continuare a monitorare
Manage trasforma il quadro dei rischi in decisioni. Un gruppo può mitigare un rischio, limitare il caso d’uso, aggiungere una verifica umana, monitorare un indicatore anticipatore, preparare un ripristino dello stato precedente oppure decidere di non mettere il sistema in produzione. Le priorità dovrebbero riflettere probabilità, gravità e tolleranza al rischio dell’organizzazione, non semplicemente quale correzione sia più facile.
La gestione prosegue dopo il lancio. Modelli, dati, comportamento degli utenti e condizioni esterne possono cambiare. Un piano pratico comprende quindi monitoraggio, gestione degli incidenti, controllo delle modifiche e un evento che attivi una nuova valutazione. Se un aggiornamento del modello ne modifica il comportamento, un rapporto di test precedente è un’evidenza storica, non un’approvazione automatica della nuova versione.
Usare i profili per adattare il quadro al contesto locale
Il NIST descrive i profili come applicazioni delle funzioni, delle categorie e delle sottocategorie del quadro a un ambiente specifico. Un profilo attuale può descrivere come un’organizzazione gestisce oggi un caso d’uso; un profilo obiettivo può descrivere lo stato desiderato. La differenza tra i due crea un elenco concreto di miglioramenti da realizzare.
Questo adattamento è importante perché il Playbook non è una lista di controllo che ogni organizzazione deve seguire per intero. Il NIST presenta azioni suggerite tra cui gli utenti possono scegliere in base al proprio caso d’uso, alle risorse e agli interessi. Copiare ogni suggerimento senza collegarlo a una decisione reale può produrre burocrazia senza risultati più sicuri.
Uno schema iniziale per un piccolo gruppo
- Govern: indica il responsabile, chi effettua la verifica, l’autorità che può fermare il sistema e il luogo in cui sono conservate le evidenze.
- Map: documenta l’uso previsto, le persone interessate, le principali modalità di guasto e le ipotesi.
- Measure: scegli test e soglie che affrontino tali modalità di guasto.
- Manage: decidi che cosa deve cambiare prima del lancio e che cosa attiverà in seguito un ripristino o una nuova verifica.
Ripeti le quattro funzioni quando cambiano il caso d’uso, il modello, i dati o l’ambiente operativo. Il valore non dipende dal numero di documenti prodotti. Dipende dalla capacità dell’organizzazione di spiegare che cosa sapeva, che cosa ha verificato, che cosa ha deciso e chi continua a esserne responsabile.
Che cosa il quadro può dimostrare — e che cosa non può dimostrare
L’uso dell’AI RMF può migliorare la disciplina e il linguaggio comune, ma da solo non dimostra che un sistema sia sicuro, legale o adatto allo scopo. Il NIST descrive il quadro come volontario e il Playbook di supporto come una risorsa flessibile. Possono comunque applicarsi obblighi di legge, regole settoriali e verifiche indipendenti.
L’affermazione responsabile è quindi misurata: le quattro funzioni aiutano i gruppi a porre domande migliori e a collegare i principi a decisioni sostenute da evidenze. Sono una struttura per la gestione continua dei rischi, non un distintivo che conclude la discussione.
Fonti primarie
NIST AI Risk Management Framework e NIST AI RMF Playbook. Consultati l’11 settembre 2026.