Dirbtinis intelektas tampa vis pajėgesnis sparčiau, nei tikėjosi daugelis ekspertų, tačiau mūsų gebėjimas įvertinti su juo susijusią realią riziką neatsilieka tokiu pačiu tempu. Tai – pagrindinė įtampa, aptariama „Tarptautinėje dirbtinio intelekto saugos ataskaitoje (2026 m.)“ – moksliniame vertinime, kuriam vadovavo Yoshua Bengio ir kuris buvo parengtas vadovaujantis daugiau nei 100 nepriklausomų ekspertų, pasiūlytų daugiau kaip 30 šalių bei tarptautinių organizacijų, įžvalgomis.
Ši ataskaita nėra prognozė, kad neišvengiamai įvyks koks nors dramatiškas scenarijus. Tai – žemėlapis, atspindintis, ką tyrėjai žino, ko nežino ir kodėl pats neapibrėžtumas yra svarbus, kai plačiu mastu diegiamas bendrosios paskirties dirbtinis intelektas.
Trys rizikos grupės
Ataskaitoje kylančios rizikos skirstomos į tris plačias sritis:
- Piktavališkas naudojimas, įskaitant apgavystes, sukčiavimą, kibernetines operacijas ir žalingą sintetinį turinį.
- Veikimo sutrikimai, kai sistema veikia nepatikimai, siekia netinkamo tikslo arba generuoja žalingus rezultatus.
- Sisteminė rizika – kai dėl plataus masto diegimo daromas poveikis darbo rinkai, informacinei aplinkai, rinkos koncentracijai ar kritinėms institucijoms.
Turimi įrodymai nevienalyčiai. Kai kurios žalos formos, pavyzdžiui, sukčiavimas pasitelkiant dirbtinį intelektą ar intymaus pobūdžio vaizdų platinimas be asmens sutikimo, jau yra dokumentuotos. Kiti scenarijai išlieka neaiškūs – ypač tais atvejais, kai jie priklauso nuo būsimų technologinių galimybių ar sudėtingų socialinių įvykių grandinių. Atsakingai nušviečiant šias temas, būtina pabrėžti šį skirtumą.
Vertinimo spraga
Etaloninio vertinimo rezultatas gali parodyti, kad modelis gerai atlieka konkretų testą. Tačiau vien tai negali numatyti, kaip ta pati sistema veiks netvarkingoje darbo aplinkoje, patirdama priešišką poveikį ar būdama prijungta prie įrankių bei jautrių duomenų.
Ataskaitoje tai vadinama vertinimo spraga. Modeliai gali būti jautrūs užklausoms ir kontekstui, testai – pasenti, o laboratoriniai rezultatai – ne visada tiesiogiai pritaikomi realiomis naudojimo sąlygomis. Dėl to vertinimas netampa bevertis. Tai reiškia, kad vertinimas turėtų būti daugiapakopis: gebėjimų testai, „raudonosios komandos“ (red-team) pratybos, diegimo stebėsena, pranešimai apie incidentus ir žmonių atliekama peržiūra – kiekviena iš šių priemonių leidžia atsakyti į skirtingus klausimus.
Apsaugos priemonės gerėja, tačiau nėra lemiamos.
Kūrėjai ir tyrėjai išplėtė modelių vertinimo, atsisakymo generuoti turinį mokymo, prieigos kontrolės, kilmės nustatymo priemonių bei pažangiausių modelių saugos sistemų taikymą. Ataskaitoje taip pat pabrėžiami šių priemonių trūkumai: kvalifikuoti piktadariai gali apeiti apsaugos mechanizmus, skaitmeninės žymos gali būti lengvai pažeidžiamos, o daugelio kontrolės priemonių faktinį veiksmingumą vis dar sunku tiksliai įvertinti.
Protingas sprendimas – ne atsisakyti apsaugos priemonių, o vengti laikyti bet kurią vieną iš jų absoliučia garantija. Svarbi daugiapakopė gynyba: ribokite prieigos teises, izoliuokite jautrias sistemas, registruokite reikšmingus veiksmus, tikrinkite veikimą sutrikimų atvejais ir užtikrinkite galimybę grįžti į ankstesnę būseną.
Ką gali nuveikti praktinės komandos
- Pritaikykite priežiūros lygį užduoties pasekmėms.
- Užtikrinkite, kad žmonės būtų atsakingi už finansinius, medicininius, teisinius ir su sauga susijusius kritinius sprendimus.
- Suteikite dirbtinio intelekto įrankiams tik minimaliai reikalingus duomenis ir leidimus.
- Matuokite našumą po įdiegimo, o ne tik prieš paleidimą.
- Registruokite nesėkmes ir atvejus, kai pavojingų įvykių vos pavyko išvengti, kad būtų galima papildyti įrodomąją bazę.
- Informuokite naudotojus, kai turinys ar sprendimai yra iš esmės susiję su dirbtiniu intelektu.
Šis Mythic Mode perspektyva
Svarbiausia pamoka susijusi su kultūra: pasitikėjimas turi būti grindžiamas įrodymais. Dirbtinis intelektas gali paspartinti tyrimus, projektavimą ir veiklos procesus, tačiau greitis nėra tas pats, kas patikimumas. Sistema tampa patikimesnė, kai aiškiai matomos jos veikimo ribos, galima peržiūrėti jos veiksmus, o ją prižiūrintys specialistai yra pasirengę pripažinti: „Mes dar nežinome.“
Ši ataskaita neišsprendžia visų ginčų. Ji suteikia bendrą mokslinį pagrindą geresniems sprendimams priimti, kol galimybės ir rizika nuolat kinta.