人工知能のリスク方針は、チームが「このシステムを実際の利用者に提供できるか」を判断しなければならなくなるまでは、説得力があるように聞こえがちです。米国国立標準技術研究所（NIST）は、AIシステムの設計、開発、利用、評価に信頼性への配慮を組み込むことを組織に促すため、任意で利用できるAI Risk Management Framework（AI RMF）を策定しました。その実践的な中核は、Govern、Map、Measure、Manageという4つの機能で構成されています。
これらの機能は、一度だけ順番に実行する工程でも、認証を示すラベルでもありません。相互につながった仕事の領域です。ガバナンスはあらゆる判断を方向づけ、マッピングは測定に文脈を与え、測定は根拠を提供し、管理はその根拠を優先順位と行動へ変えます。
Govern：責任の所在を見えるようにする
Governは土台です。チームには、氏名または役割が明確な責任者、エスカレーション経路、方針、文書化の要件、影響を受ける人々の視点を取り入れる方法が必要です。誰が導入を承認できるのか、誰が停止できるのか、誰がインシデントを調査するのか、どの根拠を保存すべきかを把握しなければなりません。
有用なガバナンス記録は具体的です。「人間が主導権を保つ」と述べるだけではなく、人がどの判断を確認するのか、確認者がどの情報を利用できるのか、判断にどれだけの時間があるのか、確信度が低い場合に何が起きるのかを明示します。ガバナンスは供給者にも及びます。モデルを購入しても、それを利用する組織の責任が他者へ移るわけではありません。
Map：システムを利用環境の中で理解する
Mapでは、AIシステムが何のために使われ、どこで運用され、誰が利益または不利益を受ける可能性があるかを問います。同じモデルでも、社内の文章作成ツール、採用候補者の選別、臨床業務の流れでは、リスクが大きく異なります。チームは、意図した用途、予見可能な誤用、影響を受ける集団、依存関係、データの来歴、障害が起きた場合の結果を記述する必要があります。
適切なマッピングは前提条件も記録します。入力言語は対応しているか。利用者は出力が機械生成だと分かるか。結果に異議を申し立てられるか。テストにはどの環境を使い、本番環境とはどう異なるか。明示された前提は検証できますが、隠れた前提は思わぬ問題になります。
Measure：マッピングした問いに答える根拠を集める
Measureは、単一の精度スコアを報告することにとどまりません。状況に応じて、入力が変化したときの信頼性、集団ごとの性能、プライバシーとセキュリティのテスト、有害なコンテンツの発生率、確率の較正、アクセシビリティ、ヒューマンファクター研究、導入後の観測などが根拠になります。指標は、マッピングで記述したリスクと結びついていなければなりません。
チームは結果を見る前にしきい値を定め、制約を文書化し、都合のよい数値だけを選ぶのではなく不合格となったテストも保存すべきです。被害の中には単一の指標へ還元しにくいものもあるため、定性的な審査や影響を受ける人々からの意見で定量テストを補うことができます。測定は不確実性を減らしますが、なくすものではありません。
Manage：優先順位を決め、対応し、監視を続ける
Manageはリスクの全体像を意思決定へ変えます。チームは、リスクを軽減する、用途を制限する、人による審査を加える、先行指標を監視する、以前の状態へ戻す手順を準備する、または導入しないと判断することができます。優先順位には、単に修正が容易かどうかではなく、発生可能性、深刻度、組織のリスク許容度を反映させるべきです。
管理は公開後も続きます。モデル、データ、利用者の行動、外部環境は変化します。そのため実用的な計画には、監視、インシデント対応、変更管理、再評価を開始する条件が含まれます。モデル更新によって挙動が変わった場合、以前のテスト報告書は過去の根拠であり、新しい版を自動的に承認するものではありません。
プロファイルでフレームワークを現場に合わせる
NISTはプロファイルを、特定の環境に応じてフレームワークの機能、カテゴリー、サブカテゴリーを実装したものと説明しています。現状プロファイルは、組織が現在その用途をどのように管理しているかを示し、目標プロファイルは望ましい状態を示します。両者の差が、具体的な改善項目の一覧になります。
この調整が重要なのは、Playbookがすべての組織に全項目の実施を求めるチェックリストではないからです。NISTは、利用者が用途、資源、関心に応じて選べる推奨行動を提示しています。各提案を実際の意思決定と結びつけずにすべて写すだけでは、安全性を高めずに事務作業だけを増やすおそれがあります。
小規模チームが始めるための型
- Govern：責任者、審査者、停止権限を持つ人、根拠の保存場所を明確にします。
- Map：意図した用途、影響を受ける人々、主な障害の形、前提条件を書き出します。
- Measure：それらの障害に対応するテストとしきい値を選びます。
- Manage：公開前に何を変えるべきか、公開後に何が復元または再審査の契機になるかを決めます。
用途、モデル、データ、運用環境が変わったら、4つの機能をもう一度実行します。価値は作成した文書の数にあるのではありません。組織が、何を知っていたか、何を試験したか、何を決定したか、誰が引き続き責任を負うかを説明できることにあります。
フレームワークが証明できること、できないこと
AI RMFの利用は規律や共通言語の改善に役立ちますが、それだけでシステムが安全、合法、適切であると証明するものではありません。NISTはフレームワークを任意のものとし、それを支えるPlaybookを柔軟な資料と位置づけています。法的義務、業界固有の規則、独立した保証が別途必要になる場合があります。
したがって責任ある主張は控えめです。4つの機能は、チームがよりよい問いを立て、原則を根拠に基づく意思決定へつなげるために役立ちます。継続的なリスク管理の構造であって、議論を終わらせる認定章ではありません。
一次資料
NIST AI Risk Management FrameworkおよびNIST AI RMF Playbook。2026年9月11日閲覧。