Umjetna inteligencija postaje sposobnija brže nego što su mnogi stručnjaci očekivali, no naša sposobnost mjerenja njezinih rizika u stvarnom svijetu ne prati taj tempo. To je ključna napetost u Međunarodnom izvješću o sigurnosti umjetne inteligencije za 2026. godinu – znanstvenoj procjeni koju je vodio Yoshua Bengio, a izrađena je uz smjernice više od 100 neovisnih stručnjaka koje je nominiralo više od 30 zemalja i međunarodnih organizacija.
Izvješće nije predviđanje da je određeni dramatičan ishod neizbježan. Ono predstavlja prikaz onoga što istraživači znaju, onoga što ne znaju te razloga zbog kojih je sama neizvjesnost važna pri primjeni umjetne inteligencije opće namjene u velikim razmjerima.
Tri skupine rizika
Izvješće svrstava nove rizike u tri šira područja:
- Zlonamjerna uporaba, uključujući prijevare, kibernetičke operacije i zlonamjeran sintetički sadržaj.
- Neispravnosti, pri čemu se sustav ponaša nepouzdano, teži pogrešnom cilju ili proizvodi štetne rezultate.
- Sistemski rizici, kod kojih široka primjena utječe na radnu snagu, informacijska okruženja, tržišnu koncentraciju ili ključne institucije.
Dokazi su neujednačeni. Neki oblici štete, poput prijevara uz pomoć umjetne inteligencije i dijeljenja intimnih snimaka bez pristanka, već su dokumentirani. Drugi scenariji ostaju neizvjesni, osobito kada ovise o budućim mogućnostima ili složenim društvenim lancima događaja. Odgovorno izvještavanje mora jasno isticati tu razliku.
Jaz u vrednovanju
Rezultat na testu uspješnosti (benchmarku) može pokazati da model postiže dobre rezultate na određenom testu. Sam po sebi, međutim, ne može predvidjeti kako će se isti sustav ponašati u neurednom radnom okruženju, pod pritiskom neprijateljskog djelovanja ili kada je povezan s alatima i osjetljivim podacima.
Izvješće to naziva jazom u evaluaciji. Modeli mogu biti osjetljivi na upite i kontekst, testovi mogu zastarjeti, a rezultati dobiveni u laboratorijskim uvjetima ne moraju se izravno preslikati na stvarnu primjenu. To ne znači da je evaluacija beskorisna. Naprotiv, ona bi trebala biti višeslojna: testovi sposobnosti, vježbe simulacije napada (tzv. red-teaming), praćenje tijekom primjene, izvješćivanje o incidentima i ljudska provjera – svaki od tih postupaka daje odgovor na drukčija pitanja.
Mjere zaštite se poboljšavaju – no nisu presudne.
Razvojni programeri i istraživači proširili su opseg evaluacije modela, obuke za odbijanje zahtjeva, kontrola pristupa, alata za utvrđivanje porijekla i okvira za sigurnost najnaprednijih modela. Izvještaj također naglašava njihova ograničenja. Vješti napadači mogu zaobići zaštitne mehanizme, tehnike vodenog žiga mogu biti nepouzdane, a stvarnu učinkovitost mnogih kontrola još je uvijek teško kvantificirati.
Razuman pristup nije odustajanje od zaštitnih mjera, već izbjegavanje tretiranja bilo koje pojedinačne kontrole kao jamstva. Slojevita obrana je ključna: ograničite ovlasti, izolirajte osjetljive sustave, bilježite značajne radnje, testirajte scenarije zatajenja i omogućite povratak na prethodno stanje.
Što praktični timovi mogu učiniti
- Uskladite razinu nadzora s posljedicama zadatka.
- Zadržite odgovornost ljudi za financijske, medicinske i pravne odluke te odluke ključne za sigurnost.
- Dodijelite alatima umjetne inteligencije minimalne potrebne podatke i dozvole.
- Mjerite performanse nakon implementacije, a ne samo prije lansiranja.
- Bilježite neuspjehe i situacije koje su zamalo dovele do incidenta kako bi se poboljšala baza dokaza.
- Obavijestite korisnike kada sadržaj ili odluke značajno uključuju umjetnu inteligenciju.
Taj Mythic Mode perspektiva
Najkorisnija pouka tiče se kulture: povjerenje treba slijediti dokaze. Umjetna inteligencija može ubrzati istraživanje, projektiranje i operativne procese, no brzina nije isto što i pouzdanost. Sustav postaje pouzdaniji kada su mu granice vidljive, postupci podložni provjeri, a njegovi rukovatelji spremni reći: „Još ne znamo.”
Izvješće ne rješava svaku raspravu. Ono pruža zajedničku znanstvenu osnovu za donošenje boljih odluka dok se sposobnosti i rizici neprestano mijenjaju.