Richtlinien für Risiken künstlicher Intelligenz klingen oft überzeugend, bis ein Team entscheiden muss, ob ein System für echte Menschen bereit ist. Das US-amerikanische National Institute of Standards and Technology (NIST) hat sein freiwilliges AI Risk Management Framework, kurz AI RMF, entwickelt, um Organisationen dabei zu helfen, Aspekte der Vertrauenswürdigkeit in die Gestaltung, Entwicklung, Nutzung und Bewertung von KI-Systemen einzubeziehen. Sein praktischer Kern ist in vier Funktionen gegliedert: Govern, Map, Measure und Manage.
Diese Funktionen sind weder eine einmalig abzuarbeitende Reihenfolge noch ein Zertifizierungssiegel. Es handelt sich um miteinander verbundene Arbeitsbereiche. Governance prägt jede Entscheidung, die Kartierung gibt Messungen ihren Kontext, die Messung liefert Nachweise und das Management überführt diese Nachweise in Prioritäten und Maßnahmen.
Govern: Verantwortung sichtbar machen
Govern bildet die Grundlage. Ein Team braucht namentlich benannte Verantwortliche, Eskalationswege, Richtlinien, Anforderungen an die Dokumentation und eine Möglichkeit, die Perspektiven betroffener Personen einzubeziehen. Es sollte klar sein, wer eine Inbetriebnahme genehmigen darf, wer sie stoppen kann, wer einen Vorfall untersucht und welche Nachweise aufbewahrt werden müssen.
Eine hilfreiche Governance-Dokumentation ist konkret. Statt zu erklären, „der Mensch behält die Kontrolle“, sollte sie festhalten, welche Entscheidung ein Mensch prüft, welche Informationen dieser Person zur Verfügung stehen, wie viel Zeit sie hat und was bei geringer Sicherheit geschieht. Governance umfasst auch Lieferanten: Ein eingekauftes Modell verlagert die Verantwortung nicht von der Organisation weg, die es einsetzt.
Map: das System in seinem Kontext verstehen
Map fragt danach, wofür das KI-System bestimmt ist, wo es eingesetzt wird und wer seine Vorteile oder Schäden erfahren könnte. Dasselbe Modell kann in einem privaten Schreibwerkzeug, bei der Vorauswahl von Bewerbungen oder in einem klinischen Arbeitsablauf sehr unterschiedliche Risiken mit sich bringen. Teams sollten die beabsichtigte Nutzung, vorhersehbaren Missbrauch, betroffene Gruppen, Abhängigkeiten, die Herkunft der Daten und die Folgen eines Versagens beschreiben.
Eine gute Kartierung hält auch Annahmen fest. Wird die Eingabesprache unterstützt? Wird ein Nutzer wissen, dass die Ausgabe maschinell erzeugt wurde? Kann eine Person ein Ergebnis anfechten? Welche Umgebung wurde beim Testen verwendet und wie unterscheidet sie sich von der Produktionsumgebung? Eine ausdrücklich benannte Annahme lässt sich prüfen; eine verborgene Annahme wird zur Überraschung.
Measure: Nachweise sammeln, die die kartierten Fragen beantworten
Measure umfasst mehr als die Angabe eines einzigen Genauigkeitswerts. Je nach Kontext können die Nachweise Zuverlässigkeit bei veränderten Eingaben, die Leistung in Untergruppen, Datenschutz- und Sicherheitstests, Raten schädlicher Inhalte, Kalibrierung, Barrierefreiheit, Untersuchungen menschlicher Faktoren und Beobachtungen nach der Inbetriebnahme einschließen. Die Kennzahl muss mit dem Risiko verbunden sein, das bei der Kartierung beschrieben wurde.
Teams sollten Schwellenwerte festlegen, bevor die Ergebnisse vorliegen, Einschränkungen dokumentieren und fehlgeschlagene Tests aufbewahren, anstatt nur günstige Zahlen auszuwählen. Manche Schäden lassen sich nur schwer auf eine einzelne Kennzahl reduzieren; deshalb können qualitative Prüfungen und Rückmeldungen betroffener Menschen quantitative Tests ergänzen. Messen verringert Unsicherheit, beseitigt sie aber nicht.
Manage: priorisieren, reagieren und weiter beobachten
Manage überführt das Risikobild in Entscheidungen. Ein Team kann ein Risiko mindern, den Anwendungsfall begrenzen, eine menschliche Prüfung ergänzen, einen Frühindikator überwachen, eine Rückkehr zum vorherigen Zustand vorbereiten oder sich gegen eine Inbetriebnahme entscheiden. Prioritäten sollten Wahrscheinlichkeit, Schweregrad und die Risikotoleranz der Organisation widerspiegeln – nicht lediglich die Frage, welche Korrektur am einfachsten ist.
Das Management endet nicht mit der Einführung. Modelle, Daten, Nutzerverhalten und äußere Bedingungen können sich verändern. Ein praxistauglicher Plan umfasst deshalb Überwachung, Behandlung von Vorfällen, Änderungssteuerung und einen Auslöser für eine erneute Bewertung. Verändert ein Modell-Update das Verhalten, ist ein früherer Testbericht ein historischer Nachweis und keine automatische Freigabe der neuen Version.
Mit Profilen das Framework an den konkreten Kontext anpassen
NIST beschreibt Profile als Umsetzungen der Funktionen, Kategorien und Unterkategorien des Frameworks für ein bestimmtes Umfeld. Ein Ist-Profil kann darstellen, wie eine Organisation einen Anwendungsfall heute steuert; ein Zielprofil kann den gewünschten Zustand beschreiben. Die Lücke zwischen beiden ergibt eine konkrete Liste notwendiger Verbesserungen.
Diese Anpassung ist wichtig, weil das Playbook keine Checkliste ist, die jede Organisation vollständig abarbeiten muss. NIST stellt vorgeschlagene Maßnahmen bereit, aus denen Nutzer entsprechend ihrem Anwendungsfall, ihren Ressourcen und Interessen auswählen können. Werden alle Vorschläge ohne Verbindung zu einer echten Entscheidung übernommen, kann Papierarbeit entstehen, ohne dass die Ergebnisse sicherer werden.
Ein Einstiegsmuster für kleine Teams
- Govern: Benennen Sie die verantwortliche Person, die prüfende Person, die Befugnis zum Stoppen und den Speicherort der Nachweise.
- Map: Dokumentieren Sie die beabsichtigte Nutzung, betroffene Menschen, die wichtigsten Ausfallarten und Annahmen.
- Measure: Wählen Sie Tests und Schwellenwerte, die diese Ausfallarten adressieren.
- Manage: Entscheiden Sie, was sich vor der Einführung ändern muss und was später eine Rückkehr oder erneute Prüfung auslöst.
Durchlaufen Sie die vier Funktionen erneut, wenn sich der Anwendungsfall, das Modell, die Daten oder die Betriebsumgebung ändern. Der Wert liegt nicht in der Zahl der erstellten Dokumente. Entscheidend ist, ob die Organisation erklären kann, was sie wusste, was sie getestet hat, was sie entschieden hat und wer weiterhin verantwortlich ist.
Was das Framework belegen kann – und was nicht
Die Nutzung des AI RMF kann Disziplin und eine gemeinsame Sprache verbessern, belegt für sich allein jedoch nicht, dass ein System sicher, rechtmäßig oder geeignet ist. NIST beschreibt das Framework als freiwillig und das begleitende Playbook als flexible Ressource. Rechtliche Pflichten, branchenspezifische Regeln und unabhängige Prüfungen können weiterhin erforderlich sein.
Die verantwortungsvolle Aussage bleibt daher zurückhaltend: Die vier Funktionen helfen Teams, bessere Fragen zu stellen und Grundsätze mit nachweisgestützten Entscheidungen zu verbinden. Sie bilden eine Struktur für fortlaufendes Risikomanagement, kein Siegel, das die Diskussion beendet.
Primärquellen
NIST AI Risk Management Framework und NIST AI RMF Playbook. Abgerufen am 11. September 2026.