Künstliche Intelligenz entwickelt sich schneller zu höherer Leistungsfähigkeit, als viele Experten erwartet hatten, doch unsere Fähigkeit, ihre realen Risiken zu erfassen, hält mit dieser Entwicklung nicht Schritt. Genau dieses Spannungsfeld steht im Mittelpunkt des „International AI Safety Report 2026“ – einer wissenschaftlichen Analyse unter der Leitung von Yoshua Bengio, die unter Mitwirkung von mehr als 100 unabhängigen Experten erstellt wurde, welche von über 30 Staaten und internationalen Organisationen benannt worden waren.
Der Bericht ist keine Vorhersage, dass ein dramatisches Szenario unvermeidlich ist. Er bietet vielmehr einen Überblick darüber, was Forschende wissen und was nicht – und warum die Ungewissheit an sich von Bedeutung ist, wenn KI-Systeme für allgemeine Zwecke in großem Maßstab eingesetzt werden.
Drei Risikofamilien
Der Bericht fasst aufkommende Risiken in drei übergeordneten Bereichen zusammen:
- Bösartige Nutzung, einschließlich Betrugsmaschen, Betrug, Cyberoperationen und missbräuchlicher synthetischer Inhalte.
- Fehlfunktionen, bei denen sich ein System unzuverlässig verhält, ein falsches Ziel verfolgt oder schädliche Ergebnisse liefert.
- Systemische Risiken, bei denen sich eine weitverbreitete Einführung auf die Arbeitswelt, Informationsumgebungen, die Marktkonzentration oder kritische Institutionen auswirkt.
Die Beweislage ist uneinheitlich. Einige Schadensszenarien – etwa KI-gestützter Betrug oder die Verbreitung intimer Aufnahmen ohne Zustimmung – sind bereits dokumentiert. Andere Szenarien sind nach wie vor ungewiss, insbesondere wenn sie von künftigen technologischen Fähigkeiten oder komplexen gesellschaftlichen Ereignisketten abhängen. Eine verantwortungsvolle Berichterstattung muss diese Unterscheidung deutlich machen.
Die Bewertungslücke
Ein Benchmark-Wert kann zeigen, dass ein Modell bei einem definierten Test gut abschneidet. Er kann jedoch für sich genommen nicht vorhersagen, wie sich dasselbe System in einem unübersichtlichen Arbeitsumfeld, unter gezielten Angriffen oder bei der Anbindung an Werkzeuge und sensible Daten verhalten wird.
Der Bericht bezeichnet dies als „Evaluierungslücke“. Modelle können empfindlich auf Prompts und Kontext reagieren, Tests können veralten, und Laborergebnisse lassen sich nicht ohne Weiteres auf den realen Einsatz übertragen. Das macht Evaluierungen jedoch nicht überflüssig. Vielmehr sollten sie mehrstufig angelegt sein: Leistungstests, Red-Team-Übungen, Überwachung im laufenden Betrieb, Meldung von Vorfällen und menschliche Überprüfungen liefern jeweils Antworten auf unterschiedliche Fragen.
Die Schutzmaßnahmen verbessern sich – sind aber nicht ausschlaggebend.
Entwickler und Forscher haben Modellbewertungen, das Training zur Verweigerung von Anfragen, Zugriffskontrollen, Provenienz-Tools sowie Sicherheitsrahmenwerke für Spitzenmodelle ausgebaut. Der Bericht hebt jedoch auch deren Grenzen hervor: Versierte Angreifer können Schutzmaßnahmen umgehen, Wasserzeichen können anfällig sein, und die Wirksamkeit vieler Kontrollmechanismen in der Praxis lässt sich nach wie vor nur schwer beziffern.
Die vernünftige Reaktion besteht nicht darin, Schutzmaßnahmen aufzugeben. Vielmehr darf keine einzelne Kontrollmaßnahme als Garantie betrachtet werden. Das Prinzip der gestaffelten Verteidigung (Defence in Depth) ist entscheidend: Beschränken Sie Berechtigungen, isolieren Sie sensible Systeme, protokollieren Sie Folgemaßnahmen, testen Sie Ausfallszenarien und ermöglichen Sie Rollbacks.
Was praxisorientierte Teams tun können
- Stimmen Sie den Grad der Überwachung auf die Tragweite der Aufgabe ab.
- Belassen Sie die Verantwortung für finanzielle, medizinische, rechtliche und sicherheitskritische Entscheidungen bei Menschen.
- Geben Sie KI-Tools nur die minimal erforderlichen Daten und Berechtigungen.
- Messen Sie die Leistung nach der Bereitstellung, nicht nur vor dem Start.
- Erfassen Sie Fehler und Beinaheunfälle, damit die Evidenzbasis verbessert werden kann.
- Informieren Sie Nutzer darüber, wenn KI maßgeblich an Inhalten oder Entscheidungen beteiligt ist.
Die Mythic Mode Perspektive
Die wichtigste Erkenntnis ist kultureller Natur: Vertrauen sollte auf Belegen beruhen. KI kann Forschung, Design und Betrieb beschleunigen, doch Geschwindigkeit ist nicht gleichbedeutend mit Zuverlässigkeit. Ein System gewinnt an Vertrauenswürdigkeit, wenn seine Grenzen erkennbar sind, seine Handlungen überprüfbar bleiben und die Verantwortlichen bereit sind zu sagen: „Das wissen wir noch nicht.“
Der Bericht beendet nicht jede Debatte. Er bietet eine gemeinsame wissenschaftliche Grundlage für bessere Entscheidungen, während sich Fähigkeiten und Risiken stetig wandeln.