Novosti

Sigurnost AI-ja otvorenog koda: što je utvrdio britanski pregled dokaza — a što nije mogao dokazati

Pregled koji je naručila britanska vlada utvrdio je velike praznine u dokazima o sigurnosti AI-ja otvorenog koda i upozorava da „otvoreno” ili „zatvoreno” nije potpuna procjena rizika.
Urednička ilustracija generirana umjetnom inteligencijom za članak „Sigurnost AI-ja otvorenog koda: što je utvrdio britanski pregled dokaza — a što nije mogao dokazati”; konceptualni prizor, a ne stvarna fotografija ili činjenični dokaz.

Pregled, a ne presuda

Studija koju je naručila britanska vlada, objavljena 7. rujna 2026., pregledala je literaturu o kibernetičkoj sigurnosti softvera i AI-ja otvorenog koda. Vodili su je istraživači Sveučilišta u Greenwichu; riječ je o neovisnom istraživanju, a ne politici vlade Ujedinjenog Kraljevstva.

Što su istraživači pregledali

Sažetak publikacije navodi da je tim pregledao 14.561 akademski zapis i uključio 43 koja su zadovoljila kriterije. Navodi 172 zapisa sive literature, uz analizu GitHuba i Hugging Facea. Uvod izvješća, međutim, navodi 126 takvih zapisa; ta neriješena unutarnja nedosljednost ograničava pouzdanost prijavljene veličine korpusa.

Središnja praznina

Studija je pronašla znatne praznine u dokazima, osobito o uzvodnom upravljanju AI-jem otvorenog koda: kako se modeli razvijaju, dokumentiraju, objavljuju i održavaju prije nego što ih provoditelj prilagodi određenoj uporabi.

Zašto oznake nisu dovoljne

„Otvoreni kod” opisuje pristup i licenciranje, a ne jedinstveno sigurnosno stanje. Rizici se razlikuju za izvorni kod, težine modela, skupove podataka, sučelja i implementirane aplikacije. Zatvoreni sustavi mogu skrivati slabosti; otvoreni mogu proširiti nadzor, ali i olakšati daljnju distribuciju moćnih komponenti.

Odgovornost kroz cijeli lanac

Sigurnost ovisi o programerima, platformama za hosting, distributerima, provoditeljima i korisnicima. Jasna dokumentacija, prijava ranjivosti, kontrola pristupa i ažuriranja mogu biti važniji od jedne oznake otvoreno ili zatvoreno.

Što dokazi ne mogu potvrditi

Pregled literature može otkriti obrasce i slijepe točke, ali ne može utvrditi da su svi otvoreni modeli sigurniji ili opasniji od zatvorenih. Zaključak ovisi o kvaliteti i opsegu dostupnih studija, koje samo izvješće opisuje kao nepotpune.

Primarni izvor

Službena stranica publikacije i izvješće. Pristupljeno 12. rujna 2026.