Schopnosti umělé inteligence rostou rychleji, než mnozí odborníci předpokládali, avšak naše schopnost měřit rizika, která představuje v reálném světě, tomuto tempu nestačí. Právě tento rozpor tvoří ústřední téma Mezinárodní zprávy o bezpečnosti AI z roku 2026 (International AI Safety Report 2026) – vědeckého hodnocení, které vedl Yoshua Bengio a na jehož vypracování se podílelo více než 100 nezávislých odborníků nominovaných více než 30 zeměmi a mezinárodními organizacemi.
Tato zpráva nepředpovídá, že je nevyhnutelný určitý dramatický výsledek. Představuje mapu toho, co výzkumníci vědí a co nevědí, a vysvětluje, proč je při rozsáhlém nasazení univerzální umělé inteligence důležitá samotná nejistota.
Tři skupiny rizik
Zpráva seskupuje vznikající rizika do tří hlavních oblastí:
- Zneužití, včetně podvodů, kybernetických operací a zneužívajícího syntetického obsahu.
- Poruchy, při nichž se systém chová nespolehlivě, sleduje nesprávný cíl nebo vytváří škodlivé výstupy.
- Systémová rizika, u nichž rozsáhlé zavádění ovlivňuje pracovní trh, informační prostředí, tržní koncentraci nebo klíčové instituce.
Důkazy jsou nerovnoměrné. Některé škodlivé jevy, jako jsou podvody s využitím umělé inteligence či šíření intimních snímků bez souhlasu, jsou již zdokumentovány. Jiné scénáře zůstávají nejisté, zejména pokud závisí na budoucích schopnostech technologií nebo na složitých řetězcích společenských událostí. Odpovědné zpravodajství musí tento rozdíl zohledňovat.
Propast v hodnocení
Výsledek benchmarku může prokázat, že si model vede dobře v rámci definovaného testu. Sám o sobě však nedokáže předpovědět, jak se tentýž systém bude chovat v nepřehledném pracovním prostředí, pod tlakem cílených útoků nebo při propojení s nástroji a citlivými daty.
Zpráva tento jev označuje jako „evaluační mezeru“. Modely mohou být citlivé na zadání (prompty) a kontext, testy mohou zastarat a výsledky z laboratorního prostředí nemusí být přímo přenositelné do reálného provozu. To však neznamená, že je hodnocení zbytečné. Znamená to, že by mělo probíhat ve více vrstvách: testy schopností, simulované útoky (tzv. red-teaming), monitorování po nasazení, hlášení incidentů a lidská kontrola – to vše poskytuje odpovědi na odlišné otázky.
Ochranná opatření se zlepšují – nejsou však rozhodující.
Vývojáři a výzkumníci rozšířili postupy hodnocení modelů, trénink odmítání nežádoucích požadavků, řízení přístupu, nástroje pro sledování původu a rámce bezpečnosti pro nejmodernější modely. Zpráva však zdůrazňuje i jejich omezení. Zkušení útočníci mohou bezpečnostní opatření obejít, vodoznaky mohou být snadno narušitelné a skutečnou účinnost mnoha kontrolních mechanismů je stále obtížné vyčíslit.
Rozumným přístupem není opuštění bezpečnostních opatření, nýbrž vyvarování se toho, abychom jakékoli jednotlivé opatření považovali za záruku. Klíčová je hloubková obrana: omezte oprávnění, izolujte citlivé systémy, zaznamenávejte významné akce, testujte scénáře selhání a zajistěte možnost návratu do předchozího stavu.
Co mohou praktické týmy dělat
- Přizpůsobte úroveň dohledu důsledkům daného úkolu.
- Ponechte odpovědnost za finanční, lékařská a právní rozhodnutí i rozhodnutí kritická z hlediska bezpečnosti na lidech.
- Poskytněte nástrojům AI pouze nezbytné minimum dat a oprávnění.
- Měřte výkon po nasazení, nejen před spuštěním.
- Zaznamenávejte selhání a situace, které těsně neskončily nehodou, aby se mohla zlepšit datová základna.
- Informujte uživatele, pokud se na obsahu nebo rozhodnutích podstatnou měrou podílí umělá inteligence.
Ten Mythic Mode perspektiva
Nejužitečnější ponaučení je kulturní povahy: míra důvěry by se měla odvíjet od dostupných důkazů. Umělá inteligence dokáže urychlit výzkum, návrh i provoz, avšak rychlost není totéž co spolehlivost. Systém se stává důvěryhodnějším, pokud jsou zřejmé jeho limity, jeho činnost lze zpětně posoudit a jeho provozovatelé jsou ochotni přiznat: „Zatím to nevíme.“
Tato zpráva neuzavírá veškeré debaty. Poskytuje společný vědecký základ pro lepší rozhodování v situaci, kdy se schopnosti i rizika neustále mění.