Umelá inteligencia nadobúda nové schopnosti rýchlejšie, než mnohí odborníci predpokladali, no naša schopnosť merať riziká, ktoré predstavuje v reálnom svete, za týmto vývojom zaostáva. Práve toto je ústredným bodom napätia v Medzinárodnej správe o bezpečnosti umelej inteligencie z roku 2026 (International AI Safety Report 2026) – vedeckom hodnotení, ktoré viedol Yoshua Bengio a na ktorého vypracovaní sa podieľalo viac ako 100 nezávislých odborníkov nominovaných vyše 30 krajinami a medzinárodnými organizáciami.
Táto správa nepredpovedá, že určitý dramatický výsledok je nevyhnutný. Predstavuje mapu toho, čo výskumníci vedia a čo nevedia, a objasňuje, prečo je pri rozsiahlom nasadení univerzálnej umelej inteligencie dôležitá samotná neistota.
Tri skupiny rizík
Správa zoskupuje vznikajúce riziká do troch hlavných oblastí:
- Zneužitie, vrátane podvodov, kybernetických operácií a zneužívajúceho syntetického obsahu.
- Poruchy, pri ktorých sa systém správa nespoľahlivo, sleduje nesprávny cieľ alebo vytvára škodlivé výstupy.
- Systémové riziká, pri ktorých rozsiahle zavádzanie ovplyvňuje pracovnú silu, informačné prostredie, koncentráciu trhu alebo kritické inštitúcie.
Dostupné dôkazy sú nerovnomerné. Niektoré škodlivé javy, ako napríklad podvody s využitím umelej inteligencie či šírenie intímnych záberov bez súhlasu, sú už zdokumentované. Iné scenáre zostávajú neisté, najmä ak závisia od budúcich technologických možností alebo zložitých reťazcov spoločenských udalostí. Zodpovedné informovanie verejnosti musí tento rozdiel jasne reflektovať.
Medzera v hodnotení
Výsledok benchmarku môže preukázať, že model dosahuje dobré výsledky v rámci definovaného testu. Sám osebe však nedokáže predpovedať, ako sa ten istý systém bude správať v neusporiadanom pracovnom prostredí, pod tlakom nepriateľských zásahov či pri prepojení s nástrojmi a citlivými údajmi.
Správa tento jav označuje ako „medzeru v hodnotení“. Modely môžu byť citlivé na zadania a kontext, testy môžu zastarať a výsledky z laboratórneho prostredia sa nemusia dať priamo preniesť do reálneho používania. To však neznamená, že hodnotenie je zbytočné. Znamená to, že hodnotenie by malo byť viacúrovňové: testy schopností, cvičenia typu „red team“, monitorovanie nasadenia, hlásenie incidentov a ľudské posudzovanie – to všetko slúži na zodpovedanie odlišných otázok.
Ochranné opatrenia sa zlepšujú – nie sú však rozhodujúce.
Vývojári a výskumníci rozšírili postupy hodnotenia modelov, tréning na odmietanie nevhodných požiadaviek, mechanizmy riadenia prístupu, nástroje na overovanie pôvodu a rámce bezpečnosti pre najpokročilejšie modely. Správa zároveň upozorňuje na ich obmedzenia. Skúsení útočníci môžu bezpečnostné opatrenia obísť, techniky vkladania vodoznakov môžu byť zraniteľné a reálnu účinnosť mnohých kontrolných mechanizmov je stále náročné vyčísliť.
Rozumným prístupom nie je upustiť od bezpečnostných opatrení, ale vyhnúť sa tomu, aby sme akékoľvek jednotlivé opatrenie považovali za záruku. Kľúčová je viacvrstvová obrana: obmedzte oprávnenia, izolujte citlivé systémy, zaznamenávajte významné operácie, testujte scenáre zlyhania a zabezpečte možnosť návratu do predchádzajúceho stavu.
Čo môžu praktické tímy urobiť
- Prispôsobte úroveň dohľadu následkom danej úlohy.
- Ponechajte zodpovednosť za finančné, zdravotné, právne a bezpečnostne kritické rozhodnutia na ľuďoch.
- Poskytnite nástrojom umelej inteligencie len tie údaje a oprávnenia, ktoré nevyhnutne potrebujú.
- Merajte výkon po nasadení, nielen pred spustením.
- Zaznamenávajte zlyhania a situácie, ktoré sa takmer skončili zlyhaním, aby sa mohla zlepšiť dôkazová základňa.
- Informujte používateľov, keď obsah alebo rozhodnutia podstatným spôsobom zahŕňajú umelú inteligenciu.
Ten Mythic Mode perspektíva
Najužitočnejšie ponaučenie sa týka kultúry: dôvera by mala vychádzať z dôkazov. Umelá inteligencia dokáže urýchliť výskum, návrh aj prevádzku, no rýchlosť nie je to isté čo spoľahlivosť. Systém sa stáva dôveryhodnejším, keď sú zrejmé jeho hranice, jeho činnosť možno spätne posúdiť a jeho prevádzkovatelia sú ochotní priznať: „Zatiaľ to nevieme.“
Správa neuzatvára každú diskusiu. Poskytuje spoločný vedecký základ pre prijímanie lepších rozhodnutí v situácii, keď sa možnosti a riziká neustále menia.