Noutăți

Securitatea AI cu sursă deschisă: ce a constatat o analiză britanică a dovezilor — și ce nu a putut demonstra

O analiză comandată de guvernul britanic a găsit lacune importante în dovezile despre securitatea AI open-source și avertizează că „deschis” sau „închis” nu este un verdict complet asupra riscului.
Ilustrație editorială generată cu IA pentru articolul „Securitatea AI cu sursă deschisă: ce a constatat o analiză britanică a dovezilor — și ce nu a putut demonstra”; scenă conceptuală, nu o fotografie reală sau o dovadă factuală.

O analiză, nu un verdict

Un studiu comandat de guvernul britanic și publicat la 7 septembrie 2026 a analizat literatura de securitate cibernetică despre software și AI open-source. Condus de cercetători ai Universității Greenwich, este cercetare independentă, nu politică a guvernului Regatului Unit.

Ce au analizat cercetătorii

Rezumatul publicației spune că echipa a examinat 14.561 de înregistrări academice și a inclus 43 care îndeplineau criteriile. Raportează 172 de documente din literatura gri, susținute de analiza GitHub și Hugging Face. Introducerea raportului indică însă 126; această neconcordanță internă nerezolvată limitează încrederea în dimensiunea raportată a corpusului.

Lacuna centrală

Studiul a găsit lacune substanțiale, mai ales în guvernanța din amonte a AI open-source: cum sunt dezvoltate, documentate, publicate și întreținute modelele înainte ca un operator să le adapteze unei utilizări concrete.

De ce etichetele nu sunt suficiente

„Sursă deschisă” descrie accesul și licențierea, nu o stare uniformă de securitate. Riscurile diferă între cod, ponderile modelelor, seturi de date, interfețe și aplicații implementate. Sistemele închise pot ascunde slăbiciuni; cele deschise extind verificarea, dar pot ușura redistribuirea componentelor puternice.

Responsabilitate în întregul lanț

Securitatea depinde de dezvoltatori, platforme de găzduire, distribuitori, operatori și utilizatori. Documentația clară, raportarea vulnerabilităților, controlul accesului și actualizările pot conta mai mult decât o singură etichetă deschis sau închis.

Ce nu pot demonstra dovezile

O analiză a literaturii poate arăta tipare și puncte oarbe, dar nu poate stabili că toate modelele deschise sunt mai sigure sau mai periculoase decât cele închise. Concluzia depinde de calitatea și amploarea studiilor disponibile, pe care raportul le consideră încă incomplete.

Sursa primară

Pagina oficială și raportul. Accesat la 12 septembrie 2026.