ニュース

オープンソースAIの安全性:英国の証拠レビューが確認したこと、証明できなかったこと

英国政府が委託したレビューは、オープンソースAIの安全性に大きな証拠の空白があり、「オープン」か「クローズド」かだけでは完全なリスク判定にならないと指摘しました。
「オープンソースAIの安全性:英国の証拠レビューが確認したこと、証明できなかったこと」の記事向けにAIで生成した編集用イラスト。概念的な場面であり、実際の写真や事実の証拠ではありません。

判決ではなくレビュー

英国政府が委託し、2026年9月7日に公表された研究は、オープンソースソフトウェアとオープンソースAIのサイバーセキュリティ文献を調べました。グリニッジ大学の研究者が主導した独立研究であり、英国政府の政策ではありません。

研究者が調べたもの

公開概要によると、研究チームは学術記録14,561件を選別し、基準を満たす43件を採用しました。また、GitHubとHugging Faceの分析を伴うグレー文献は172件としています。一方、報告書の序文は126件と記しており、この未解決の内部不一致により、報告された資料群の規模に対する確信は限定されます。

中心的な空白

特に、導入前のオープンソースAIの上流ガバナンスに大きな証拠不足がありました。具体的な用途へ適応される前に、モデルがどう開発、文書化、公開、保守されるかという問題です。

ラベルだけでは不十分な理由

「オープンソース」はアクセスとライセンスの選択を表し、均一な安全状態を意味しません。ソースコード、モデル重み、データセット、インターフェース、実運用アプリではリスクが異なります。閉鎖型は弱点を隠し得る一方、公開型は検証を広げますが、強力な構成要素の再配布も容易にします。

連鎖全体の責任

安全性は開発者、ホスティング基盤、配布者、導入者、利用者にまたがります。明確な文書、脆弱性報告、アクセス制御、更新手順は、単一の公開・非公開ラベルより重要になり得ます。

証拠が示せないこと

文献レビューは傾向や盲点を示せますが、全ての公開モデルが閉鎖モデルより安全、または危険だとは証明できません。結論は利用可能な研究の質と範囲に依存し、報告書自身も証拠は不完全だとしています。

一次資料

公式公開ページと報告書。2026年9月12日閲覧。