Novinky

Bezpečnost open-source AI: co zjistil britský přehled důkazů — a co nedokázal prokázat

Přehled zadaný britskou vládou zjistil velké mezery v důkazech o bezpečnosti open-source AI a varuje, že označení „otevřený“ či „uzavřený“ není úplným verdiktem o riziku.
Redakční ilustrace vytvořená pomocí AI k článku „Bezpečnost open-source AI: co zjistil britský přehled důkazů — a co nedokázal prokázat“; koncept, nikoli skutečná fotografie nebo faktický důkaz.

Přehled, nikoli verdikt

Studie zadaná britskou vládou a zveřejněná 7. září 2026 zhodnotila literaturu o kybernetické bezpečnosti open-source softwaru a open-source AI. Vedli ji výzkumníci z University of Greenwich; jde o nezávislý výzkum, nikoli politiku vlády Spojeného království.

Co výzkumníci zkoumali

Shrnutí publikace uvádí, že tým prověřil 14 561 akademických záznamů a zařadil 43, které splnily jeho kritéria. Uvádí 172 záznamů šedé literatury, podpořených analýzou GitHubu a Hugging Face. Úvod zprávy však uvádí 126 záznamů šedé literatury; tento nevyřešený vnitřní rozpor omezuje důvěru v uváděnou velikost souboru.

Hlavní mezera

Studie zjistila významné mezery v důkazech, zejména ve správě open-source AI před nasazením. Patří sem otázky, jak jsou modely vyvíjeny, dokumentovány, zveřejňovány a udržovány, než je provozovatel přizpůsobí konkrétnímu účelu.

Proč označení nestačí

„Open source“ popisuje přístup a licencování, nikoli jednotný bezpečnostní stav. Rizika se liší u zdrojového kódu, vah modelu, datových sad, rozhraní a nasazených aplikací. Uzavřené systémy mohou skrývat slabiny; otevřené rozšiřují možnost kontroly, ale mohou také usnadnit další šíření výkonných komponent.

Odpovědnost v celém řetězci

Bezpečnost závisí na vývojářích, hostingových platformách, distributorech, provozovatelích i uživatelích. Jasná dokumentace, hlášení zranitelností, řízení přístupu a aktualizace mohou být důležitější než samotné označení otevřený či uzavřený.

Co důkazy nemohou prokázat

Přehled literatury může ukázat vzorce a slepá místa, ale nemůže dokázat, že všechny otevřené modely jsou bezpečnější nebo nebezpečnější než uzavřené. Závěr závisí na kvalitě a rozsahu dostupných studií, které jsou podle zprávy stále neúplné.

Primární zdroj

Oficiální stránka publikace a zpráva. Zpřístupněno 12. září 2026.