Новини

Сигурността на AI с отворен код: какво установи британският преглед на доказателствата — и какво не можа да докаже

Поръчан от британското правителство преглед откри значителни пропуски в доказателствата за сигурността на AI с отворен код и предупреждава, че „отворено“ или „затворено“ не е цялостна оценка на риска.
Редакционна илюстрация, генерирана с ИИ, за статията „Сигурността на AI с отворен код: какво установи британският преглед на доказателствата — и какво не можа да докаже“; концептуална сцена, а не реална снимка или фактическо доказателство.

Преглед, а не присъда

Публикувано на 7 септември 2026 г. изследване, поръчано от британското правителство, прави преглед на литературата за киберсигурността на софтуера с отворен код и AI с отворен код. То е ръководено от изследователи от Университета в Гринуич и представлява независимо изследване, а не политика на правителството на Обединеното кралство.

Какво са проучили изследователите

Резюмето на публикацията посочва, че екипът е прегледал 14 561 академични записа и е включил 43, които отговарят на критериите му. То отчита 172 записа от сивата литература, подкрепени от анализ на GitHub и Hugging Face. Въведението на доклада обаче посочва 126 такива записа — нерешено вътрешно несъответствие, което ограничава увереността в обявения размер на корпуса.

Основният пропуск

Изследването установява съществени празноти в доказателствата, особено за управлението нагоре по веригата при AI с отворен код. Тези въпроси обхващат начина, по който моделите се разработват, документират, публикуват и поддържат, преди даден внедрител да ги адаптира за конкретна употреба.

Защо етикетите не са достатъчни

„Отворен код“ описва решения за достъп и лицензиране, а не единно състояние на сигурността. Рисковете могат да се различават при изходния код, теглата на модела, наборите от данни, интерфейсите и внедрените приложения. Затворените системи могат да прикриват слабости; отворените могат да разширят проверката, но и да улеснят разпространението на мощни компоненти.

Отговорност по цялата верига

Сигурността зависи от няколко участници: разработчици, хостинг платформи, разпространители, внедрители и потребители. Ясната документация, докладването на уязвимости, контролът на достъпа и практиките за актуализация могат да имат по-голямо значение от един етикет „отворено“ или „затворено“.

Какво доказателствата не могат да установят

Прегледът на литературата може да разкрие закономерности и слепи петна, но не може да установи, че всички отворени модели са по-безопасни или по-опасни от затворените. Изводът зависи от качеството и обхвата на наличните изследвания, които според самия доклад все още са непълни.

Първичен източник

Прочетете официалната страница на публикацията и доклада. Достъп на 12 септември 2026 г.