週刊 AI Governance Watch|2026年7月20日調査版

週刊 AI Governance Watch:AIガバナンスは「国際原則」から「実行時保証とAI主権」へ

本記事で得られる3つのポイント

  1. 中国の2026 World AI Conferenceで、国際AI倫理ガバナンスとAI協力に関する新しい行動計画が公表された。
  2. 英国AI Security Instituteは、オープンウェイトモデルと最先端クローズドモデルのサイバー能力差が縮小していると報告した。
  3. 企業実装では、AI台帳、継続監視、Runtime Control、モデル固有リスクの評価がAIガバナンスの中心になりつつある。

なぜ重要か

AIガバナンスの対象は、社内規程や倫理原則だけではありません。どのAIが稼働し、何へアクセスし、どの処理を実行し、問題発生時に停止できるかを継続的に管理することが求められています。


導入

前回の2026年7月13日版では、国連Global Dialogue、IBMのAI Asset Discovery、EU AI Actの主要適用、Agent Runtime Controlへの移行を中心に整理しました。

2026年7月13日以降、今回の調査で確認できた主な更新は以下です。

  • 中国が2026 World Artificial Intelligence ConferenceとHigh-Level Meeting on Global AI Governanceを開催
  • 中国が国際AI倫理ガバナンスの行動計画と、AI協力・開発に関する行動計画を公表
  • 英国AI Security InstituteがオープンウェイトAIモデルのサイバー能力評価を公表
  • Google DeepMindが生命科学・生物安全分野のAIリスク管理方針を公表
  • NISTが重要インフラ向けTrustworthy AI Profileのプロジェクト情報を更新
  • カナダ政府がAI評価結果の報告方法に関する実務的な考慮事項を公開
  • 日本では、政府調達・利用向け生成AIガイドラインのAIガバナンス対象範囲が2026年7月1日から適用開始
  • Anthropicの独立統治機関Long-Term Benefit Trustに新たな理事が参加

今回の中心テーマは、AI Assurance、AI Sovereignty、Runtime Governanceの接続です。


前回から変更された重要事項

分野前回まで今回確認した変化
中国WAICと国際AIガバナンス会合の開催準備2026年7月17日から20日に開催。AI倫理・国際協力の行動計画を公表
英国AISIクラウド設定不備検出事例を公表7月17日、オープンウェイトモデルのサイバー能力が最先端モデルへ接近していると報告
Google DeepMindAI Agent Control、Multi-Agent Safety7月16日、生物安全を対象とする4段階のSafety Processを公表
NIST重要インフラ向けAI RMF Profileを開発中プロジェクトページが7月17日に更新。策定作業は継続中
カナダAI for All国家戦略AI評価者が開示すべき情報に関するガイダンスを7月8日に公開
日本政府向け生成AI調達・利用ガイドラインを改訂AI Agentを含むAIガバナンス対象範囲が7月1日から適用
AnthropicRSP v3.1、Advanced AI FrameworkLong-Term Benefit Trustの理事構成を2026年7月に更新
OneTrustAI Inventory、Runtime Control7月28日・30日にRuntime ControlとAgent Governanceを扱う実務講演を予定

最新動向の概要

国際機関の動き

OECD

事実

OECDでは、2026年6月に公表されたDigital Government Outlookと、公共機関におけるTrustworthy AIの調査が引き続き最新の主要資料です。

OECD加盟国では、政府におけるAI統治機関の整備が進む一方、データ、インフラ、人材、調達、監督能力には国ごとの差が残っています。

今回の調査期間内に、前回内容を置き換える新たなOECD AIガバナンス枠組みは確認できませんでした。

分析

OECDの動向から読み取れるのは、AI原則の有無よりも、実装能力の差が次の課題になっていることです。

企業でも同様に、AIポリシーの作成だけでなく、次の運用能力が問われます。

  • AI資産の特定
  • 利用目的の記録
  • 責任者の明確化
  • リスク評価
  • 調達審査
  • 利用後の監視
  • インシデント対応

UNESCO・国連

事実

国連Global Dialogue on AI Governanceは2026年7月6日から7日にジュネーブで開催され、安全性、説明責任、人間による監督、包摂的なAIガバナンスが議論されました。

UNESCOは、2026年9月14日から17日にサウジアラビア・リヤドでGlobal Forum on the Ethics of AIを開催する予定です。

今回の調査期間内に、企業へ直ちに新しい法的義務を課すUNESCOまたは国連の新制度は確認できませんでした。

分析

国連・UNESCOの役割は、各国規制を直接統一することよりも、次の共通原則を形成することにあります。

  • 人権
  • 安全性
  • 説明責任
  • データガバナンス
  • AI格差の縮小
  • 国際的な評価協力

EUの動き

EU AI Act

事実

EU AI Actの主要部分は2026年8月2日に適用されます。

GPAIモデルに関しては、透明性、著作権、安全性・セキュリティを扱うGPAI Code of Practiceが、事業者による法令順守を支援する任意の手段として位置付けられています。

AI生成コンテンツのマーキングとラベリングについても、透明性義務への適合手段となるCode of Practiceが公表されています。

今回の調査期間内に、2026年8月2日の適用スケジュールを変更する公式発表は確認できませんでした。

分析

企業が直近で確認すべきなのは、EU AI Actの全文を読むことよりも、まず自社の立場を分類することです。

  • AIシステム提供者
  • AIシステム導入者
  • GPAIモデル提供者
  • GPAIモデルを組み込むサービス提供者
  • EU域外からEU市場へ提供する企業
  • AI生成コンテンツを公開する事業者

規制対象性を判断した根拠も、将来の監査証跡になります。


米国の動き

NIST AI RMF

事実

NIST AI RMF 1.0は引き続き改訂作業中であり、AI RMF Playbookは本体改訂後に更新される予定です。

重要インフラ向けの「AI RMF Profile on Trustworthy AI in Critical Infrastructure」は開発中で、プロジェクトページは2026年7月17日に更新されています。

ただし、更新内容から完成版Profileが公表されたとは確認できません。

分析

重要インフラProfileでは、一般的なAI品質だけでなく、以下の観点が重要になると考えられます。

  • 可用性
  • サイバー攻撃耐性
  • フェイルセーフ
  • 人間への切り替え
  • サプライチェーン
  • モデル更新管理
  • 障害時の復旧
  • 重要機能の継続

完成版を待たず、現行AI RMFのGovern、Map、Measure、Manageを使って準備するのが現実的です。


米国政府全体

事実

今回の調査期間内に、米国政府から企業全般に適用される新たな包括的AI法またはAI規制枠組みの成立は確認できませんでした。

OpenAIやAnthropicによるFrontier AI政策提案、NISTによる技術標準、分野別規制、輸出管理、安全保障政策が引き続き主要な統治手段です。

分析

米国では、単一の包括法よりも、次の複数レイヤーでAI統治が進んでいます。

  • 州法
  • 連邦機関の調達規則
  • セクター別規制
  • NIST標準
  • 輸出管理
  • 国家安全保障
  • 企業の自主的Safety Framework

英国の動き

AI Security Institute

事実

英国AI Security Instituteは2026年7月17日、主要なオープンウェイトモデルとクローズドモデルのサイバー能力を比較した評価結果を公表しました。

GLM-5.2とDeepSeek V4-Proは、4~7か月前に公開された最先端クローズドモデルと同程度のサイバー能力を示し、2025年に観測されていた6~10か月の能力差より縮小したと報告しています。

分析

この結果は、オープンウェイトモデルが危険という単純な話ではありません。

重要なのは、高いサイバー能力を持つモデルが、より低コストで広く利用可能になる速度が上がっていることです。

企業は次の前提で防御を見直す必要があります。

  • 攻撃者も高性能AIを使用する
  • 脆弱性調査が自動化される
  • 攻撃コード作成のコストが低下する
  • フィッシングや偵察が高度化する
  • 防御側もAIによる脆弱性検出を活用する

日本の動き

政府向け生成AIガバナンス

事実

デジタル庁の政府向け生成AI調達・利用ガイドライン改訂版では、生成AIシステムに加えてAI Agentなどの高度なシステムもAIガバナンスの対象とされています。

改訂ガイドライン上の対象範囲は2026年7月1日から適用されています。

AI Agentについて個別の詳細技術要件をすべて規定しているわけではありませんが、各省庁のAIガバナンス体制、リスク事例への対応、高リスクAIの評価対象に含めています。

分析

これは政府向けガイドラインですが、民間企業にも参考になります。

特に有効なのは以下の考え方です。

  • 企画段階でリスク分類する
  • 高リスク案件を識別する
  • 調達時に安全性要件を確認する
  • AI利用責任者を定める
  • 導入後もモニタリングする
  • AI Agentを通常のチャットAIと分けて管理する

AI事業者ガイドライン

事実

AI事業者ガイドラインVer.1.2は2026年3月31日に公表され、生成AI、AI Agent、国際的なAI Safety・Security動向を反映しています。

今回の調査期間内にVer.1.2を置き換える新バージョンは確認できませんでした。

分析

国内企業では、EU AI Actへ直接対応する前に、AI事業者ガイドラインを基礎として次を整備する方法が現実的です。

  • AIポリシー
  • AI台帳
  • リスク評価
  • データ管理
  • 人間による確認
  • AI Agent権限管理
  • インシデント対応

韓国の動き

事実

韓国のAI Basic Actは、AI産業振興と信頼基盤を組み合わせた国家的なAI統治枠組みです。

今回の調査期間内に、同法の構造を大幅に変更する新たな公式発表は確認できませんでした。

分析

韓国では、AIガバナンスと産業政策が別々ではなく、同時に進められています。

日本企業が韓国市場でAIサービスを提供する場合は、以下を確認する必要があります。

  • 高影響AIへの該当性
  • 透明性表示
  • 生成AIであることの通知
  • 安全性評価
  • 現地代理人要件
  • 個人情報保護法との関係

シンガポール・ASEANの動き

シンガポール

事実

IMDAのModel AI Governance Framework for Agentic AIは、Agentic AIを導入する組織に対し、以下のような統制を推奨しています。

  • リスクを事前に限定する
  • 人間の責任を明確にする
  • 技術的統制を導入する
  • 利用者へ適切に情報提供する
  • Agentの行動を継続的に監視する

2026 Singapore Consensus on Global AI Safetyでは、Agentic AI Risk Managementを主要な技術・政策研究分野として扱っています。

今回の調査期間内に、前回のFrameworkを置き換える新文書は確認できませんでした。

分析

シンガポール方式の特徴は、「すべてを人間が常時監視する」という非現実的な設計ではなく、リスクに応じて自動化レベルを分ける点です。


ASEAN

事実

ASEANでは、生成AIを対象とするExpanded ASEAN Guide on AI Governance and Ethicsが引き続き地域共通の実務参考資料です。

今回の調査期間内に、同Guideを置き換える新たな地域共通規則は確認できませんでした。

分析

ASEAN各国では法制度、データ保護、AI政策の成熟度が異なるため、ASEAN Guideだけで全地域への法的適合を判断することはできません。


中国の動き

2026 World AI Conference

事実

2026 World Artificial Intelligence ConferenceとHigh-Level Meeting on Global AI Governanceは、2026年7月17日から20日に上海で開催されました。

約80か国・国際機関の代表が参加し、中国は「人間中心」「AI for Good」「安全かつ制御可能」「国際協力」を主要原則として提示しました。

中国政府は7月17日、国際AI倫理ガバナンスの行動計画を公表しました。国連のGlobal Digital Compactを踏まえ、国際的なAI倫理協力と能力構築を進める内容です。

同時に、データ、計算資源、エコシステム、産業応用、人材、規則・標準、ガバナンス、AI倫理の8分野を対象とするAI協力・開発行動計画も発表されました。

分析

今回の最大の政策更新です。

中国は、国内規制だけでなく、国際AIガバナンスの制度設計へ積極的に関与する姿勢を明確にしています。

ただし、中国が提案する「安全かつ制御可能」という概念が、EUの基本権保護やOECDの民主的価値と完全に同じ意味であるとは限りません。

企業は、共通部分と制度差を分けて理解する必要があります。


UAE・サウジアラビアの動き

サウジアラビア

事実

サウジアラビアは国連Global Dialogue on AI Governanceへ参加し、2026年9月にはリヤドでUNESCO Global Forum on the Ethics of AIを開催する予定です。

今回の調査期間内に、企業へ新たな包括的義務を課すAI法の公式発表は確認できませんでした。

分析

サウジアラビアでは、AI倫理、行政利用、国家データ政策、投資政策が一体として進む傾向があります。


UAE

事実

今回の調査期間内に、UAEの既存AI戦略またはAIガバナンス制度を大幅に変更する新たな公式文書は確認できませんでした。

分析

UAEで事業を行う企業は、AI専用規制だけでなく、以下を確認する必要があります。

  • 連邦データ保護法
  • フリーゾーンのデータ規制
  • 政府調達要件
  • クラウド・データ所在地
  • 金融・医療等の業界規制

オーストラリアの動き

事実

オーストラリア政府は、2026年7月7日のAI Safety Forumで、Frontier AIに欺瞞、ルール回避、状況認識などの兆候が現れているとのInternational AI Safety Report 2026の知見を紹介しました。

今回の調査期間内に、前回内容を置き換える新たな包括的AI法制の成立は確認できませんでした。

分析

オーストラリアでは、AI専用法だけに依存せず、既存の消費者保護、プライバシー、オンライン安全、競争法とAI Safety Instituteを組み合わせる方向が続いています。


カナダの動き

AI評価の透明性

事実

Canadian Artificial Intelligence Safety Instituteは2026年7月8日、AI評価者が評価結果を公表する際に共有すべき情報について、報告上の考慮事項とベストプラクティスを公開しました。

カナダの国家AI戦略「AI for All」は、安全性、主権、信頼、国内計算資源、中小企業のAI導入を柱としています。

分析

AI評価では、単にスコアを公表するだけでは不十分です。

少なくとも次の情報が必要です。

  • 評価対象モデル
  • モデルバージョン
  • 評価日時
  • テスト環境
  • 使用したプロンプト
  • 評価指標
  • 制限事項
  • 再現可能性
  • 利益相反
  • 結果の解釈範囲

国際標準・セキュリティフレームワーク

OWASP LLM Top 10

事実

OWASP Top 10 for LLM Applicationsの現行版は2025版で、Prompt Injection、Sensitive Information Disclosure、Supply Chain、Data and Model Poisoningなどを主要リスクとして扱っています。

今回の調査期間内に、2025版を置き換える新しいLLM Top 10は確認できませんでした。


OWASP Agentic Applications Top 10

事実

Agentic Applications Top 10 for 2026では、以下のリスクが整理されています。

  • Agent Goal Hijacking
  • Tool Misuse
  • Identity and Privilege Abuse
  • Agentic Supply Chain Vulnerabilities
  • Unexpected Code Execution
  • Memory and Context Poisoning
  • Insecure Inter-Agent Communication
  • Cascading Failures
  • Human-Agent Trust Exploitation
  • Rogue Agents

分析

LLMセキュリティとAgentセキュリティの違いは、「誤った回答」で終わるか、「誤った処理を実行するか」にあります。


ISO/IEC 42001

事実

ISO/IEC 42001:2023は、AIマネジメントシステムの構築、運用、維持、継続改善を定める国際標準です。

今回の調査期間内に、新版の発行は確認できませんでした。

分析

ISO/IEC 42001認証はAIシステム自体の安全性を自動的に保証するものではありません。

認証対象は、組織の管理体制とプロセスです。

実務では以下を組み合わせます。

  • ISO/IEC 42001:AIマネジメント
  • ISO/IEC 27001:情報セキュリティ
  • ISO/IEC 23894:AIリスク管理
  • ISO/IEC 42005:AI Impact Assessment
  • NIST AI RMF:Trustworthy AI
  • OWASP:LLM・Agentの技術リスク

主要AI企業の動き

OpenAI

事実

今回の調査期間内に、前回確認したFrontier Governanceや政府・国家安全保障利用原則を置き換える新しい包括的ガバナンス文書は確認できませんでした。

分析

OpenAIについては、以下を継続して確認すべきです。

  • Frontierモデルの安全性評価
  • 政府利用
  • 国家安全保障用途
  • モデルウェイト保護
  • インシデント報告
  • 外部評価
  • Agent権限管理

Anthropic

事実

AnthropicのResponsible Scaling Policyは2026年7月8日更新のv3.1が現行です。

Anthropicの独立統治機関Long-Term Benefit Trustには、2026年7月に元FRB議長のBen Bernanke氏が参加したことが記載されています。

分析

Long-Term Benefit Trustは、通常の取締役会とは異なり、公共利益をAnthropicの経営判断へ反映させるための独立した統治構造です。

ただし、Trustの存在だけで、モデル安全性や企業行動が自動的に保証されるわけではありません。


Google DeepMind

事実

Google DeepMindは2026年7月16日、生物科学とAIの安全利用を対象とするBioresilience方針を公表しました。

安全管理を次の4段階で説明しています。

  1. Threat Modeling
  2. Evaluations
  3. Mitigations
  4. Monitoring

分析

この4段階は、生物安全以外の高リスクAIにも応用できます。

特に重要なのは、Mitigationで終わらず、導入後のMonitoringまで含めていることです。


Microsoft

事実

今回の調査期間内に、Agent Governance Toolkitを置き換える新たな包括的製品発表は確認できませんでした。

MicrosoftとIMDAは、Agentic AIの評価方法、ツール、ベンチマークに関する共同研究を継続しています。

分析

Microsoftの方向性は、AgentのRuntime Policy Enforcementを既存のクラウド、ID、アプリケーション基盤へ統合することです。


IBM

事実

IBMは、以下のAIガバナンス機能を2026年7月に公表しています。

  • AI Asset Discovery
  • Agentic Control Plane
  • Use Case Onboarding Optimization
  • 継続的なAI Assurance

今回の調査期間内に追加の主要製品発表は確認できませんでした。

分析

IBMの実装は、AIガバナンスの主要課題を以下の順で捉えています。

  1. AIを発見する
  2. 利用目的を登録する
  3. リスクを評価する
  4. Agentを管理する
  5. 稼働中も監視する
  6. 証跡を残す

Palantir

事実

今回の調査期間内に、Palantir AIPのSecurity and Governance文書を置き換える新たな公式更新は確認できませんでした。

分析

Palantirの特徴は、AIへ独立した権限を与えるのではなく、Ontology、既存データ権限、ユーザーID、監査ログへAIを接続する設計です。


xAI

事実

今回の調査期間内に、xAIから新たな包括的AI Safety FrameworkまたはAI Governance Frameworkの公表は確認できませんでした。

分析

xAIについては、Trust Center、プライバシーポリシー、安全性評価、有害コンテンツ対策、政府利用の透明性を継続確認する必要があります。


OneTrust

事実

OneTrustは2026年7月28日に「From AI Risk to Runtime Control」、7月30日にAgent Governance、Policy、Data Governanceを扱う講演を予定しています。

同社はAI Inventoryに加え、Databricks、AWS Bedrock、Microsoft Foundry上のAIをRuntimeで管理する方向を示しています。

分析

AIガバナンス製品市場は、申請フォームとリスク台帳から、以下の領域へ移行しています。

  • 自動検出
  • リアルタイム監視
  • データフロー制御
  • Agent権限管理
  • Runtime Policy Enforcement
  • 証跡の自動生成

今回の重要ポイント

ポイント1:AI国際協力は「共通原則」と「国家主権」の両方を強めている

中国の新しい行動計画、カナダのAI Sovereignty、EU AI Act、米国の輸出管理は、一見すると異なる方向に見えます。

しかし共通しているのは、AIを国家の経済、安全保障、データ、文化に関わる基盤と捉えている点です。


ポイント2:オープンウェイトモデルの能力差が縮小している

高性能モデルが広く入手可能になると、技術革新は促進されます。

一方で、以下のリスク管理が必要になります。

  • モデル配布先
  • 利用条件
  • 重みファイルの保護
  • Fine-tuning後の安全性
  • サイバー能力評価
  • 悪用監視
  • インシデント共有

ポイント3:AI Assuranceは「導入後の監視」を含む

評価報告書や導入時審査だけでは、AIの継続的な安全性を保証できません。

モデル更新、データ変更、Tool追加、権限変更、利用者変更のたびにリスクが変化するためです。


実務への影響

企業が確認すべきこと

  • 使用中のAIとAI Agentをすべて把握しているか
  • オープンウェイトモデルを社内で運用しているか
  • AIが使用するIDと権限を把握しているか
  • モデル更新後に再評価しているか
  • Tool Callを記録しているか
  • AIが外部へ送信するデータを制御しているか
  • EU AI Actの対象性を判定しているか
  • 緊急停止方法をテストしているか

個人事業主が確認すべきこと

  • 顧客情報を個人向けAIへ入力していないか
  • AI利用が契約で禁止されていないか
  • AI生成物を確認せず納品していないか
  • 接続済みクラウドサービスを把握しているか
  • AIサービス停止時の代替手段があるか

AIを業務利用する現場が確認すべきこと

  • AIへ入力してよい情報を理解しているか
  • 外部PDFやWebページのPrompt Injectionを想定しているか
  • AI Agentに削除・公開・送信・決済権限を与えていないか
  • 異常な出力や処理を報告できるか
  • AIの回答と人間の承認を区別して記録しているか

リスク整理

リスク内容実務上の注意点
情報漏洩プロンプト、RAG、Agentメモリ、外部通信から情報が流出するDLP、入力制限、送信先制御を導入する
誤回答AIが誤った内容を自然な文章で出力する重要処理では根拠確認と人間承認を必須にする
プロンプトインジェクション外部データから不正命令を読み込む命令と参照データを分離する
権限管理不備Agentが必要以上のシステムへアクセスする専用ID、最小権限、短期認証を使う
ログ不足AIの判断・実行経路を追跡できないInput、Output、Tool Call、承認を保存する
モデル更新リスク更新後に性能、安全性、動作が変わるバージョン固定と再評価を行う
オープンモデル悪用高性能モデルを制限なく改変・利用できる配布、保管、Fine-tuning、API公開を管理する
著作権・個人情報入力・生成物に第三者権利が含まれる利用目的、同意、出典、規約を確認する

今日からできる対策

1. AI利用台帳を更新する

チャットAIだけでなく、AI搭載SaaS、ローカルモデル、RAG、AI Agentも登録します。

2. AI Agent専用IDを作る

人間の管理者IDや共有IDでAgentを動かさないようにします。

3. モデルバージョンを記録する

評価結果と使用モデルを対応付けます。

4. Tool Callを記録する

何を読み、何を更新し、どこへ送信したかを追跡できるようにします。

5. 停止手順をテストする

Kill Switchが存在するだけでなく、実際に機能するかを確認します。

6. 月次レビューを行う

利用中AI、規約、モデル更新、権限、インシデントを月1回確認します。


今後の注目ポイント

今後30日以内

  • 2026年8月2日のEU AI Act主要適用
  • GPAI提供者へのEuropean Commissionの執行体制
  • OneTrustのRuntime Control実装
  • Google DeepMindのBioresilience評価手法
  • 中国のAI国際協力行動計画への各国反応
  • NIST重要インフラProfileの進捗
  • OWASP Agentic Security関連資料の追加更新

今後3か月

  • UNESCO Global Forum on the Ethics of AI
  • NIST AI RMF改訂版
  • EU AI Actの初期執行事例
  • AI Safety Institute間の評価情報共有
  • オープンウェイトモデルの能力差
  • AI AgentのID・権限管理標準
  • ISO/IEC 42001導入・認証事例

まとめ

今回の最大の更新は、中国が国際AI倫理ガバナンスとAI協力に関する行動計画を公表したことです。

同時に、英国AISIの評価は、高性能AIのサイバー能力がより広く利用可能になっていることを示しています。

企業が取るべき対応は、AIを禁止することではありません。

必要なのは、次の状態を作ることです。

  • どのAIが存在するか分かる
  • 誰が責任者か分かる
  • 何へアクセスできるか分かる
  • 何を実行したか追跡できる
  • 問題発生時に停止できる
  • モデル更新後に再評価できる

AIガバナンスは、書類を完成させる活動ではなく、AIを安全に使い続けるための運用です。


参照URL

https://www.oecd.org/en/publications/digital-government-outlook_0496b2bc-en/full-report/adopting-and-governing-ai-in-government_7ef312a9.html
https://www.oecd.org/en/publications/oecd-survey-on-drivers-of-trust-in-public-institutions-2026-results_9eb63fec-en/full-report/trustworthy-artificial-intelligence-in-the-public-sector_6f98c91a.html
https://www.unesco.org/en/articles/un-global-dialogue-opens-urgent-call-safe-and-inclusive-ai-benefits-all
https://www.unesco.org/en/articles/global-dialogue-ai-governance-geneva-6-7-july
https://www.unesco.org/en/forum-ethics-ai
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
https://digital-strategy.ec.europa.eu/en/policies/ai-code-practice
https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai
https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content
https://www.nist.gov/itl/ai-risk-management-framework
https://www.nist.gov/itl/ai-risk-management-framework/nist-ai-rmf-playbook
https://www.nist.gov/programs-projects/concept-note-ai-rmf-profile-trustworthy-ai-critical-infrastructure
https://www.aisi.gov.uk/
https://www.aisi.gov.uk/blog
https://www.aisi.gov.uk/frontier-ai-trends-report
https://www.digital.go.jp/assets/contents/node/information/field_ref_resources/decb64eb-f26e-41cb-8d37-f3dd173108b8/47764804/20260612_resources_standard_guidelines_guideline_04.pdf
https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20260331_12.pdf
https://www.msit.go.kr/eng/bbs/view.do?bbsSeqNo=42&mId=4&mPid=2&nttSeqNo=1071&sCode=eng
https://www.imda.gov.sg/resources/press-releases-factsheets-and-speeches/factsheets/2026/updated-model-ai-governance-framework-for-agentic-ai
https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf
https://www.imda.gov.sg/assets/637e92e5-d6df-499b-abfe-81a3c52bd6cc.pdf
https://www.mfa.gov.cn/eng/xw/wjbxw/202607/t20260719_11985895.html
https://un.china-mission.gov.cn/eng/zgyw/202607/t20260717_11984715.htm
https://un.china-mission.gov.cn/eng/zgyw/202607/t20260717_11984766.htm
https://english.www.gov.cn/news/202607/17/content_WS6a5a1c6ec6d00ca5f9a0c478.html
https://english.www.gov.cn/news/202607/17/content_WS6a5a1bbec6d00ca5f9a0c474.html
https://www.industry.gov.au/publications/international-ai-safety-report-2026
https://www.minister.industry.gov.au/charlton/media/ai-safety-forum
https://ised-isde.canada.ca/site/ised/en/canadas-national-artificial-intelligence-strategy-ai-all
https://ised-isde.canada.ca/site/ised/en/canadian-artificial-intelligence-safety-institute
https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/
https://owasp.org/www-project-top-10-for-large-language-model-applications/
https://genai.owasp.org/llm-top-10/
https://www.iso.org/standard/42001
https://www.anthropic.com/responsible-scaling-policy
https://www.anthropic.com/responsible-scaling-policy/roadmap
https://www.anthropic.com/news/the-long-term-benefit-trust
https://deepmind.google/blog/our-approach-to-bioresilience/
https://deepmind.google/blog/securing-the-future-of-ai-agents/
https://opensource.microsoft.com/blog/2026/04/02/introducing-the-agent-governance-toolkit-open-source-runtime-security-for-ai-agents/
https://www.ibm.com/new/announcements/introducing-the-agentic-control-plane
https://www.ibm.com/new/announcements/ai-asset-discovery-in-watsonx-governance
https://www.ibm.com/new/announcements/optimize-ai-use-case-onboarding-with-ibm-watsonx-governance
https://www.ibm.com/think/perspectives/ai-governance-to-assurance-what-we-shared-think-2026
https://palantir.com/docs/foundry/ai-fde/security-and-governance/
https://palantir.com/docs/foundry/aip/ethics-governance/
https://x.ai/safety
https://x.ai/legal/privacy-policy
https://www.onetrust.com/blog/why-an-ai-inventory-is-the-foundation-of-ai-governance/
https://www.onetrust.com/resources/from-ai-risk-to-runtime-control-webinar/
https://www.onetrust.com/resources/governing-ai-at-runtime-webinar/
https://www.onetrust.com/resources/latest-in-ai/

週刊 AI Governance Watch|2026年7月13日調査版

週刊 AI Governance Watch:AIガバナンスは「原則」から「実行時統制・継続的保証」へ

本記事で得られる3つのポイント

  1. 国際的な議論は、AI倫理原則の策定から、評価・報告・監視を実行する段階へ進んでいる。
  2. AI Agentの導入では、台帳管理だけでなく、権限、ツール呼び出し、メモリ、ログ、緊急停止を実行時に制御する必要がある。
  3. EU AI Actの本格適用を前に、企業はAIの利用状況と規制対象性を説明できる証跡を整える必要がある。

なぜ重要か

AIガバナンスは、法務部門が規程を作るだけの活動ではなくなりました。AIやAI Agentが実際に何を参照し、判断し、実行したかを把握し、必要に応じて止められる運用体制が問われています。


導入

前回の2026年7月6日版では、国連によるAIリスク評価、Frontier AIのアクセス管理、AI主権、MicrosoftやGoogle DeepMindによるAgent Governanceの進展を中心に整理しました。

今回、2026年7月6日から7月13日までの情報を確認したところ、特に重要な変化は次のとおりです。

  • 国連の初回Global Dialogue on AI Governanceが7月6日から7日にジュネーブで開催された
  • 英国AI Security InstituteがFrontier AIを使ったクラウド設定不備検出の実証事例を公開した
  • Anthropicが政府向けFrontier Safety Roadmapを7月8日に更新した
  • OpenAIが政府・国家安全保障分野にAIを提供する際の原則を公表した
  • IBMが未登録AI資産を発見するAI Asset Discoveryを7月9日に発表した
  • 中国が2026 World AI ConferenceとGlobal AI Governance会合の開催準備を具体化した
  • オーストラリア政府が「人間がAIを制御し続けられるか」を主要政策課題として明示した
  • ISOでは、AI固有のサイバー脅威を扱うISO/IEC 27090がFDIS段階に進んでいる

今回の大きなテーマは、AI GovernanceからAI Assuranceへの移行です。

AIを登録し、規程に照らして審査するだけではなく、稼働後も継続的に検出、評価、制御、記録する必要性が強まっています。


前回から変更された重要事項

項目前回まで今回確認できた変化
国連初回Global Dialogue開催予定2026年7月6日・7日にジュネーブで開催
英国AISIFrontier AIの能力評価AIを使ってクラウド設定不備を検出する実証事例を7月7日に公開
OpenAIFrontier AIの連邦統治案政府・国家安全保障分野への提供原則を新たに公開
AnthropicAdvanced AI Framework7月8日にFrontier Safety Roadmap上の政策目標達成を記録
IBMAgentic Control Plane7月9日に未把握AIを発見するAI Asset Discoveryを追加
中国7月の国際会議開催予定7月7日に会議内容とGlobal AI Governance会合を公式説明
オーストラリアAI Safety Instituteの整備7月7日の政府演説でHuman Controlを中心課題として明示
ISO/IECISO/IEC 42001中心AIセキュリティ規格ISO/IEC 27090がFDIS段階へ

最新動向の概要

国際機関の動き

OECD

事実

OECDは2026年6月15日公開のDigital Government Outlookで、OECD諸国の36か国中30か国、約83%に公共部門のAIを統治する機関が少なくとも一つ存在すると整理しました。

一方で、データガバナンス、インフラ、人材、組織能力など、AIを安全に拡大するための条件には国ごとの差が残っています。

分析

OECDの焦点は、AI原則を持っているかではなく、原則を行政組織、調達、データ管理、監査に実装できているかへ移っています。

中小企業でも、AI利用規程だけを整備して終わるのではなく、AI台帳、責任者、承認、ログ、定期評価まで運用する必要があります。

UNESCO・国連

事実

国連の初回Global Dialogue on AI Governanceは、2026年7月6日から7日にジュネーブで開催されました。WSIS Forum 2026およびAI for Good Global Summitと連携して実施され、各国政府と関係者が包括的なAI統治について協議しました。

UNESCOは、2026年9月14日から17日にリヤドで開催するGlobal Forum on the Ethics of AIで、倫理原則を具体的なガバナンスと実装へ移すことを主要テーマとしています。

分析

UNESCOの人権・倫理原則と、国連の包括的な政策対話が接続され始めています。

ただし、今回確認した公式情報では、初回Global Dialogueから直ちに企業へ強制される新しい国際規則が成立したとは確認できません。現段階では、国際的な共通認識と政策協調を形成するプロセスと見るべきです。


EUの動き

EU AI Act

事実

EU AI Actは2024年8月1日に発効し、主要部分は2026年8月2日に適用されます。

特に、高性能なGPAIモデルに対するEuropean Commissionの執行権限が2026年8月2日から適用されるため、今回の調査日から約3週間後に重要な節目を迎えます。

European AI OfficeはGPAI提供者とのSignatory Taskforceを運営し、Code of Practiceへの対応とコンプライアンス評価の準備を進めています。

また、AI生成コンテンツのマーキングとラベリングに関するCode of Practiceは、AI Actの透明性義務に対応する任意の実証手段として位置付けられています。

分析

日本企業であっても、EU向けサービス、EU域内利用者、欧州企業へのAI機能提供がある場合は、無関係とは限りません。

まず必要なのは、次の分類です。

  • 自社はAIシステムの提供者か、導入者か
  • GPAIモデルを直接提供しているか
  • 他社モデルを組み込んだサービスか
  • 高リスク用途に該当する可能性があるか
  • AI生成物の表示義務に関係するか

EU AI Act対応を「契約書の改定」だけで終わらせず、技術文書、データ、評価、ログ、インシデント対応の証跡へ落とし込む必要があります。


米国の動き

NIST AI RMF

事実

NIST AI RMF 1.0は引き続き改訂作業中です。AI RMF Playbookについても、本体の改訂後に更新される予定と明示されています。

現行のAI RMFは、Govern、Map、Measure、Manageの4機能を中心に、AIの信頼性とリスクを組織的に管理する任意フレームワークです。

分析

改訂版が未公表である以上、将来の内容を推測して運用を止める必要はありません。

現行版で次の基盤を整え、改訂後に差分対応する方が現実的です。

  • AI利用台帳
  • リスク分類
  • 影響を受ける人と業務の特定
  • 評価基準
  • 承認責任者
  • 継続監視
  • インシデント対応

OpenAIと国家安全保障利用

事実

OpenAIは2026年7月に、政府・国家安全保障分野とのパートナーシップに関する原則を公開しました。

政府によるFrontier AI利用が重要業務へ広がるなか、AI企業、政府、市民社会が、機密性の高い用途における利用条件と安全措置を共同で設計する必要があるとしています。

分析

Frontier AIの統治は、一般向け利用規約だけでは処理できなくなっています。

政府、国防、重要インフラ用途では、以下を別枠で管理する必要があります。

  • 利用可能な任務
  • 禁止用途
  • データ区分
  • モデルへのアクセス者
  • 出力の承認
  • ログ保存
  • モデル停止権限
  • 第三者監査

英国の動き

AI Security Institute

事実

英国AI Security Instituteは2026年7月7日、Frontier AIモデルを使って、自らの研究プラットフォーム上のクラウド設定不備を検出する実証事例を公開しました。

AISIは、Frontier AIのサイバー、Autonomy、Safeguardsなどの能力を継続的に評価しています。

分析

この事例には二つの意味があります。

第一に、高性能AIは防御側のクラウド監査や脆弱性発見を支援できます。

第二に、同じ能力は攻撃側にも利用され得ます。

企業は「生成AIをセキュリティ業務に使うか」という判断だけでなく、「攻撃者も同等のAIを使う」という前提で脅威モデルを更新する必要があります。


日本の動き

事実

経済産業省は、AI事業者ガイドライン、契約ガイドライン、AIガバナンス関連資料をAIガバナンスの公式ページで整理しています。

今回の調査期間である2026年7月6日から13日の間に、経済産業省、総務省、デジタル庁、個人情報保護委員会から、企業実務を大きく変更する新たな包括的AIガバナンス規則は確認できませんでした。

分析

日本企業にとって当面の実務軸は、次の組み合わせです。

  • AI事業者ガイドライン
  • 個人情報保護法
  • 著作権法
  • 不正競争防止法
  • 業界固有規制
  • 契約上の秘密保持義務
  • 海外展開先のAI規制

日本ではソフトロー中心であっても、情報漏洩や権限乱用が許容されるわけではありません。


韓国の動き

事実

韓国のAI Basic Actは2026年1月22日に施行されています。韓国政府は、AI産業振興と安全・信頼の基盤を同時に構築する制度と説明しています。

韓国科学技術情報通信部の公表資料では、2026年7月8日にAIを活用した製造業変革に関する2030年構想が掲載されています。

分析

韓国では、規制対応とAI産業実装が同時に進んでいます。

製造業、ロボティクス、Physical AIが広がると、情報セキュリティだけでなく、安全制御、設備停止、現場作業者への影響もAIガバナンスの対象になります。


シンガポール・ASEANの動き

事実

シンガポールIMDAのModel AI Governance Framework for Agentic AIは、Agentic AIを導入する組織に対し、技術的・非技術的な統制を組み合わせるよう求めています。

2026年版Singapore Consensus on Global AI Safetyでは、Agentic Risk Managementが技術研究とガバナンス研究の重点分野として位置付けられました。

IMDAとMicrosoftは、Agentic AIの評価手法、ツール、ベンチマークに関する共同研究を進めています。

分析

シンガポールの特徴は、「すべてを人間が常時監視する」という現実性の低い前提を置かず、リスクに応じた統制を設計している点です。

重要処理では事前承認、低リスク処理では自動化、異常時は人間へエスカレーションする方式が現実的です。


中国の動き

事実

中国外交部は2026年7月7日、上海で開催する2026 World Artificial Intelligence ConferenceおよびHigh-Level Meeting on Global AI Governanceについて説明しました。

中国は国連Global Dialogueでも、AI格差の縮小、能力構築、国際協力を強調しています。

分析

中国は、国内のAI統制と国際的なAI協力構想を並行して推進しています。

企業にとっては、次の二つを分けて理解する必要があります。

  • 中国国内でサービスを提供する際のデータ・コンテンツ・アルゴリズム規制
  • 中国が主張するGlobal AI Governanceの国際政策構想

UAE・サウジアラビアの動き

事実

サウジアラビアは、2026年7月6日から7日に開催された国連Global Dialogue on AI Governanceへ閣僚級代表団を派遣しました。

SDAIAは、AI倫理、責任あるAI、Deepfakeリスク、AIガバナンスを対象とした複数の規制・政策文書を整備していると説明しています。

UAEについては、今回の調査期間内に、既存の国家AI戦略やデータ政策を大幅に変更する新たな公式規則は確認できませんでした。

分析

湾岸諸国では、AIガバナンスは規制対応だけでなく、行政高度化、国家投資、スマートシティ、政府データ活用と結び付いています。

現地進出企業は、EU型規制だけを基準にするのではなく、政府調達、データ所在地、クラウド、現地パートナー要件も確認する必要があります。


オーストラリアの動き

事実

オーストラリア政府は2026年7月7日のAI Safety Forumで、AI Safetyの中心的な問いを「人間がAIの行動を制御し続けられるか」と表現しました。

また、Frontier AIに欺瞞、ルール回避、状況認識などの兆候が観察されているというInternational AI Safety Report 2026の知見に言及しています。

EUとオーストラリアは2026年7月8日のDigital Economy and Technology Policy Dialogueで、AI、子どものオンライン安全、セキュアなデジタル基盤について協議しました。

分析

オーストラリアは、既存法を活用しながら、AI Safety Instituteによる評価・監視能力を追加する方向です。

これは、AI専用法だけに依存せず、消費者保護、プライバシー、オンライン安全、競争法とAI評価を組み合わせる方式です。


カナダの動き

事実

今回の調査期間内に、カナダ政府から新たな包括的AI法制や、既存の国家AI戦略を大きく変更する公式発表は確認できませんでした。

前回までに確認した「AI for All」国家戦略、Canadian AI Safety Institute、ソブリンAI基盤の強化が、引き続き主要政策です。

分析

カナダについては、AIDA後の制度設計、州法、プライバシー当局のAI判断、AI Safety Instituteの実務活動を継続監視する必要があります。

新情報がないことを、政策が止まっていると解釈するのは適切ではありません。


国際標準・セキュリティフレームワーク

OWASP LLM Top 10・Agentic Applications Top 10

事実

OWASP Top 10 for LLM Applicationsは、LLMアプリケーションの主要セキュリティリスクを整理する基礎資料として継続されています。

Agentic Applications Top 10 for 2026では、次のようなAgent固有リスクが対象です。

  • Agent Goal Hijacking
  • Tool Misuse
  • Identity and Privilege Abuse
  • Memory Poisoning
  • Insecure Inter-Agent Communication
  • Cascading Failures
  • Rogue Agents

OWASPは、Agentic AIの脅威・緩和策、AIUC-1とのCrosswalk、Agentic Skills Top 10も公開しています。

分析

従来のWebアプリケーション診断だけでは、AI Agentの安全性を十分に評価できません。

特に確認すべきなのは、モデルの回答内容よりも、その回答に基づいてAgentが何を実行できるかです。


ISO/IEC 42001

事実

ISO/IEC 42001:2023は、AIマネジメントシステムを構築、運用、維持、継続改善するための要求事項を定めています。

ISO/IEC 42001の導入ガイダンスであるISO/IEC 42003は、現在も開発中です。

さらに、AI固有のセキュリティ脅威、その検出と緩和を扱うISO/IEC 27090がFDIS段階に進んでいます。

分析

ISO/IEC 42001単独ですべてのAIセキュリティ統制を詳細に規定するわけではありません。

実務では、次の組み合わせが重要です。

  • ISO/IEC 42001:AIマネジメントシステム
  • ISO/IEC 27001:情報セキュリティ管理
  • ISO/IEC 27090:AI固有のセキュリティ脅威
  • ISO/IEC 42005:AIシステムのインパクト評価
  • NIST AI RMF:AIリスク管理
  • OWASP:アプリケーション・Agentの技術リスク

主要AI企業の動き

OpenAI

事実

OpenAIは、Frontier AIの連邦統治案に続き、政府・国家安全保障利用に関する原則を公開しました。

同社の統治提案では、重大インシデント報告、モデルウェイトの保護、外部評価、政府の評価能力強化などが重視されています。

分析

OpenAIの政策提案は、自主的なSafety Frameworkから、政府と企業の責任分担を含む制度設計へ広がっています。


Anthropic

事実

Anthropicは2026年7月8日、Frontier Safety Roadmap上で「政策担当者向けロードマップ」の目標を、Advanced AI Frameworkの公開によって達成したと記録しました。

同Frameworkでは、Frontier AI開発企業に対し、重大リスク評価、外部評価、継続的な情報開示、インシデント報告、説明責任を求める方向を示しています。

Responsible Scaling Policyはv3.1が現行です。

分析

Anthropicは、自社内の自主規則だけでなく、政府が導入できる制度モデルへ提案範囲を広げています。


Google・Google DeepMind

事実

Google DeepMindは、AI Control Roadmap、Multi-Agent Safety研究、モデルカードを通じて、AI Agentの安全性、監視、制御、評価を進めています。

モデルカード一覧では、2026年6月30日にGemini 3.1 Flash-Lite Imageの更新が確認できます。

今回の調査期間内に、前回のAI Control Roadmapを置き換える新たな包括的ガバナンス文書は確認できませんでした。

分析

Googleの方向性は、事前評価だけでなく、稼働中のAgentを監視し、異常行動を検知・制御するAI Controlへ向かっています。


Microsoft

事実

Microsoft Agent Governance Toolkitは、Agentの実行時に決定論的なポリシー制御を行い、OWASP Agentic Applications Top 10への対応を支援するオープンソースツールです。

IMDAとの協力では、Agentic AIの評価手法、ツール、ベンチマーク開発が対象になっています。

今回の調査期間内に、Toolkitの後継となる新たな包括的製品発表は確認できませんでした。

分析

Microsoftの重要な貢献は、ガバナンスを文書審査から実行時のPolicy Enforcementへ移した点です。


IBM

事実

IBMは2026年7月9日、watsonx.governance向けAI Asset Discoveryを発表しました。

複数部門で開発・導入され、中央のAI台帳に登録されていないAIシステムを検出し、可視性の不足を解消することを目的としています。

また、Agentic Control Planeでは、AI Agentの操作、統制、再利用、スケジューリングを一元管理します。

分析

今回の企業実装で最も実務的な更新です。

AI Governanceの最初の問題は、リスク評価方法ではなく、組織が保有するAIを把握できていないことです。

生成AI、組み込みAI、社内Agent、外部SaaSのAI機能を自動発見し、台帳へ接続する方向が強まっています。


Palantir

事実

Palantirは、AI FDEとAIPにおいて、既存のID、アクセス権、データ権限、監査ログ、Ontologyとの統合を主要な統制として説明しています。

今回の調査期間内に、前回確認したSecurity and Governance文書を大幅に置き換える新しい公式発表は確認できませんでした。

分析

Palantirの設計上の特徴は、AIに独立した万能権限を与えず、既存の組織権限へ接続する点です。


xAI

事実

xAIはAPIについてSOC 2 Type 2への準拠を説明し、契約顧客向けTrust Centerで認証・データガバナンス情報を提供しています。

今回の調査期間内に、Safety FrameworkまたはAI Governance体制を大幅に変更する新しい公式文書は確認できませんでした。

分析

xAIについては、製品能力の更新だけでなく、プライバシー当局への対応、有害生成対策、政府用途の統制を継続的に確認する必要があります。


OneTrust

事実

OneTrustは、AI GovernanceをAI Inventory、規制マッピング、ワークフロー、継続監視、Runtime Controlへ拡張しています。

2026年7月15日にはISO/IEC 42001の運用証跡をテーマとする講演、7月28日にはAI RiskからRuntime Controlへの移行を扱う講演を予定しています。

分析

製品戦略としては、AI Governanceを「申請・承認システム」から「常時稼働する統制インフラ」へ転換する方向が明確です。


今回の重要ポイント

ポイント1:AI台帳は手作業だけでは維持できなくなる

部門ごとに生成AI、AI Agent、AI搭載SaaSが導入されると、申請ベースの台帳には漏れが生じます。

今後は、クラウド、API、ソースコード、SaaS、認証ログなどからAI資産を発見し、中央台帳へ接続する仕組みが重要になります。

ポイント2:Agent Governanceは実行時制御が中心になる

AI Agentでは、導入前審査だけでは不十分です。

最低限、次を実行時に制御する必要があります。

  • どのユーザーとして動くか
  • どのデータへアクセスできるか
  • どのツールを呼び出せるか
  • 何回まで処理を繰り返せるか
  • 外部へ何を送信できるか
  • どの処理に人間承認が必要か
  • どの条件で停止するか

ポイント3:EU AI Act対応は2026年8月2日が直近の節目

GPAI提供者、高リスクAI関係者、AI生成物を扱う企業は、対象性の確認を急ぐ必要があります。

ただし、すべての中小企業が直ちに高額な認証や大規模システムを導入する必要があるわけではありません。

まずは自社の役割、用途、対象地域、データ、影響を確認することが優先です。


実務への影響

企業が確認すべきこと

  • AI台帳に未登録のAIやAI搭載SaaSがないか
  • EU向けサービスがAI Actに関係するか
  • AI Agentが使用するIDと権限
  • Tool Callと外部通信の記録
  • 個人情報、機密情報、認証情報の入力制限
  • AIの判断で自動実行してよい業務
  • 人間承認が必要な業務
  • 緊急停止と権限剥奪の方法
  • モデル更新後の再評価
  • インシデントの報告先

個人事業主が確認すべきこと

  • 顧客データを個人向けAIへ入力していないか
  • AI生成物を無確認で納品していないか
  • AI利用を顧客契約で禁止されていないか
  • 商用利用条件を確認しているか
  • AIサービスが停止した場合の代替手段があるか
  • 外部Agentにメールやクラウドストレージを接続していないか

AIを業務利用する現場が確認すべきこと

  • 個人アカウントと業務アカウントを分離する
  • AI回答の根拠を確認する
  • 機密情報をマスキングする
  • 外部ファイルやWebページを読み込ませる際はPrompt Injectionを想定する
  • Agentに削除、送信、決済、公開権限を直接与えない
  • 異常動作の報告窓口を決める

リスク整理

リスク内容実務上の注意点
情報漏洩入力情報、Agentのメモリ、外部Tool Callから情報が流出する入力制限、DLP、データ分類、送信先制御を行う
誤回答AIが誤った内容を自然な文章で出力する重要判断では人間確認と根拠確認を必須にする
プロンプトインジェクションWeb、メール、PDF、RAG文書から不正命令を読み込む外部コンテンツを命令ではなくデータとして隔離する
権限管理不備Agentが過剰な権限でメール、ファイル、DBを操作する専用ID、最小権限、短期トークン、承認制を使う
ログ不足判断や実行の経緯を追跡できない入力、出力、Tool Call、承認、例外を保存する
メモリ汚染長期メモリに誤情報や悪意ある指示が残るメモリ書き込みを制限し、検査と削除機能を設ける
連鎖障害複数Agentが誤判断を引き継ぎ処理を拡大する処理回数、予算、時間、影響範囲に上限を設定する
著作権・個人情報学習・入力・生成物に第三者の権利が含まれる利用目的、法的根拠、同意、出典、規約を確認する

今日からできる対策

1. AI利用ルールを決める

誰が、どのAIを、何の業務に使えるかを1枚の文書にまとめます。

2. 入力してよい情報・禁止情報を分ける

顧客情報、未公開情報、契約書、認証情報、ソースコードを分類します。

3. 承認フローを決める

送信、公開、削除、決済、契約判断など、重大処理には人間承認を入れます。

4. ログを残す

最低限、利用者、AIサービス、日時、目的、確認者を記録します。

5. AIエージェントの権限を制限する

Agent専用IDを作り、必要なデータと機能だけを許可します。

6. 定期的に見直す

月1回、AI台帳、利用規約、モデル変更、インシデント、不要権限を確認します。


今後の注目ポイント

今後30日以内

  • 2026年8月2日のEU AI Act主要適用
  • GPAI提供者に対するEuropean Commissionの執行体制
  • AI生成コンテンツ透明性Code of Practiceの採用
  • 中国2026 World AI Conferenceの最終成果
  • OpenAIの政府・国家安全保障利用原則の具体的適用
  • ISO/IEC 27090の標準化進捗

今後3か月

  • UNESCO Global Forum on the Ethics of AI
  • NIST AI RMF改訂版
  • シンガポールAgentic AI Frameworkの導入事例
  • Anthropic Advanced AI Frameworkへの政策反応
  • AI Asset Discovery市場の拡大
  • Agent Runtime Control製品の標準化
  • AIインシデント報告制度の国際的な整合

中小企業・個人事業主が準備すべきこと

  • AI利用台帳
  • 禁止情報リスト
  • AI利用責任者
  • 出力確認ルール
  • Agent権限一覧
  • 取引先へのAI利用説明
  • インシデント連絡手順
  • AIサービス停止時の代替手段

まとめ

今回の調査で最も重要なのは、AI Governanceが「方針を作る活動」から、AIを継続的に発見、監視、制御、評価する活動へ変わっていることです。

直ちに大規模なAI Governance製品を導入する必要はありません。

まずは次の五つを明確にしてください。

  • 何のAIを使っているか
  • 何のデータを扱っているか
  • 誰の権限で動いているか
  • 何を自動実行できるか
  • 問題が起きたときに止められるか

AIを安全に使うために最初から完璧な制度は必要ありません。ただし、誰も把握していないAIと、誰にも止められないAI Agentは放置しない方がよいでしょう。


参照URL

https://www.oecd.org/en/publications/digital-government-outlook_0496b2bc-en/full-report/adopting-and-governing-ai-in-government_7ef312a9.html
https://www.oecd.org/en/topics/ai-principles.html
https://www.unesco.org/en/artificial-intelligence
https://www.unesco.org/en/articles/global-dialogue-ai-governance-geneva-6-7-july
https://www.unesco.org/en/forum-ethics-ai
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
https://ai-act-service-desk.ec.europa.eu/en/faq
https://digital-strategy.ec.europa.eu/en/policies/ai-office
https://digital-strategy.ec.europa.eu/en/policies/signatory-taskforce-gpai-code-practice
https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content
https://www.nist.gov/itl/ai-risk-management-framework
https://airc.nist.gov/
https://www.nist.gov/itl/ai-risk-management-framework/nist-ai-rmf-playbook
https://www.aisi.gov.uk/
https://www.aisi.gov.uk/frontier-ai-trends-report
https://www.aisi.gov.uk/blog
https://www.meti.go.jp/policy/it_policy/ai-governance/index.html
https://www.msit.go.kr/eng/bbs/view.do?bbsSeqNo=42&mId=4&mPid=2&nttSeqNo=1071
https://www.msit.go.kr/eng/bbs/list.do?mId=4&mPid=2&sCode=eng
https://www.imda.gov.sg/resources/press-releases-factsheets-and-speeches/factsheets/2026/updated-model-ai-governance-framework-for-agentic-ai
https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf
https://www.imda.gov.sg/assets/637e92e5-d6df-499b-abfe-81a3c52bd6cc.pdf
https://www.imda.gov.sg/resources/press-releases-factsheets-and-speeches/imda-and-microsoft-commit-to-advancing-ai-safety-and-security
https://www.mfa.gov.cn/eng/xw/wjbxw/202607/t20260709_11978928.html
https://www.mfa.gov.cn/eng/xw/zwbd/202607/t20260709_11978274.html
https://www.spa.gov.sa/en/N2627422
https://www.spa.gov.sa/en/N2608636
https://www.spa.gov.sa/en/N2570498
https://www.industry.gov.au/publications/international-ai-safety-report-2026
https://www.minister.industry.gov.au/charlton/media/ai-safety-forum
https://www.industry.gov.au/news/european-union-and-australia-discuss-shared-priorities-digital-dialogue
https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/
https://owasp.org/www-project-top-10-for-large-language-model-applications/
https://genai.owasp.org/resource/agentic-ai-threats-and-mitigations/
https://genai.owasp.org/resource/aiuc-1-crosswalks-owasp-top-10-for-agentic-applications/
https://owasp.org/www-project-agentic-skills-top-10/
https://www.iso.org/standard/42001
https://www.iso.org/home/insights-news/resources/iso-42001-explained-what-it-is.html
https://www.iso.org/standard/91021.html
https://www.iso.org/standard/56581.html
https://openai.com/index/frontier-safety-blueprint/
https://openai.com/index/government-national-security-partnerships/
https://www.anthropic.com/responsible-scaling-policy
https://www.anthropic.com/responsible-scaling-policy/roadmap
https://www-cdn.anthropic.com/files/4zrzovbb/website/0a58d567024a8b448ff15158ebc3625328dfcc1f.pdf
https://deepmind.google/responsibility-and-safety/
https://deepmind.google/models/model-cards/
Introducing the Agent Governance Toolkit: Open-source runtime security for AI agents
https://www.ibm.com/new/announcements/introducing-the-agentic-control-plane https://www.ibm.com/new/announcements/ai-asset-discovery-in-watsonx-governance https://www.ibm.com/think/perspectives/ai-governance-to-assurance-what-we-shared-think-2026 https://palantir.com/docs/foundry/ai-fde/security-and-governance/ https://palantir.com/docs/foundry/aip/ethics-governance/ https://docs.x.ai/llms.txt https://x.ai/legal/privacy-policy https://www.onetrust.com/solutions/ai-governance/ https://www.onetrust.com/resources/from-ai-principles-to-proof-operationalizing-iso-42001-webinar/ https://www.onetrust.com/resources/from-ai-risk-to-runtime-control-webinar/

週刊 AI Governance Watch|2026年7月6日調査版

週刊 AI Governance Watch:AI SecurityとAI Sovereigntyが企業実務に近づく

本記事で得られる3つのポイント

  1. AI Governanceは、倫理・原則から「実行時統制」「安全保障」「AI主権」へ広がっている。
  2. Frontier AIとAI Agentは、企業の便利ツールではなく、監査・権限管理・停止設計が必要な管理対象になっている。
  3. 中小企業・個人事業主でも、AI利用ルール、入力禁止情報、ログ、承認フロー、権限制限の整備が必要になっている。

なぜ重要か

AI活用は止めるものではありませんが、無管理で使うものでもありません。今後は「使えるAI」よりも「安全に使い続けられるAI」が企業価値になります。


導入

前回の2026年6月29日版では、Five EyesのAIサイバーリスク警告、OpenAI・AnthropicをめぐるFrontier AIのアクセス管理、Google DeepMindのAI Control Roadmap、Microsoft Agent Governance Toolkitを中心に整理しました。

今回の2026年7月6日版では、さらに以下の動きが確認されました。

  • UNの独立科学パネルがAIの利点とリスクに関する初回評価を公表
  • AnthropicのFable 5 / Mythos 5に対する米国輸出制限が解除
  • AlibabaがClaude Codeの社内利用禁止を進めたと報道
  • Microsoftが企業向けAI導入支援組織を新設
  • 韓国がAI・半導体・データセンター投資を国家戦略として加速
  • OECD、EU、NIST、IMDA、OWASPの既存フレームワークが、より実務証跡・運用管理へ接近

中小企業・個人事業主にとっても、これは遠い話ではありません。ChatGPT、Claude、Gemini、Copilot、業務SaaS内蔵AIを使う時点で、情報漏洩、著作権、個人情報、誤回答、権限管理、ログ不足の問題はすでに関係しています。


最新動向の概要

国際機関の動き

事実

OECDは2026年5月28日、Hiroshima AI Process voluntary reporting framework 2.0を発表しました。これは、先進AIシステムを開発する組織が、安全性・セキュリティ・信頼性に関する取り組みを報告しやすくする枠組みです。

UNESCOは、2026年9月14日から17日にサウジアラビア・リヤドで第4回Global Forum on the Ethics of AIを開催予定です。

また、2026年7月1日には、UNの独立科学パネルによるAIの利点とリスクに関する初回報告が報じられました。報告は、2026年7月6日から7日にジュネーブで開催されるGlobal Dialogue on AI governanceで各国政府に提示される予定です。

分析

国際機関の動きは、「AI倫理を語る段階」から「報告・評価・国際対話の仕組みを作る段階」へ移っています。特にOECDの報告フレームワークは、企業のAI透明性報告のひな型として参考になります。

EUの動き

事実

EU AI Actは、GPAIモデル提供者向けのCode of Practiceを通じて、透明性、著作権、安全性・セキュリティ対応を求めています。European Commissionは、GPAI Code of Practiceを、AI Act上の義務を満たすための任意ツールとして位置付けています。

2026年6月10日には、AI生成コンテンツのマーキング・ラベリングに関するCode of Practiceの情報も公開されています。

分析

EUでは、AI Governanceが「方針」ではなく「証跡」に寄っています。モデル文書、著作権対応、AI生成表示、安全性評価、インシデント対応、監査ログを残せるかが重要です。

米国の動き

事実

OpenAIは2026年6月3日、Frontier AI governanceに関する米国向け青写真を公開しました。さらに2026年6月23日には、Frontier Governance Frameworkを通じて、リスク評価、モデル報告、セキュリティ制御、インシデント対応、外部専門家の関与を運用実務へ落とし込む考えを示しています。

Anthropicは、2026年6月12日に米国政府の指令によりFable 5 / Mythos 5への外国人アクセスを停止したと発表しました。その後、2026年6月30日に輸出制限が解除されたと公表しています。

分析

米国では、Frontier AIが通常のSaaSではなく、安全保障・輸出管理・サイバー能力評価の対象になりつつあります。企業は、モデルの性能だけでなく、提供国、利用者制限、データ所在地、アクセス条件を確認する必要があります。

英国の動き

事実

英国AI Security Instituteは、Frontier AI Trends Reportを公開し、LLMの能力進展、サイバー、化学・生物、Autonomy、Safeguardsなどの領域を評価しています。

分析

英国は「AI Safety」から「AI Security」へ軸足を移しています。高性能AIが社会や企業に与えるリスクを、抽象論ではなく評価・テストの対象として扱っている点が重要です。

日本の動き

事実

日本では、AI研究開発・利活用を促進する法律が成立し、AI活用を後押しする制度設計が進んでいます。また、個人情報保護法の改正議論では、AI学習、個人情報、越境移転、行政上の制裁などが論点になっています。

分析

日本はEU型の強い規制よりも、促進型・協調型のAI Governanceを重視しています。ただし、金融、医療、行政、重要インフラでは、AI Securityと個人情報保護の実務対応がより重要になります。

主要AI企業の動き

事実

Google DeepMindは2026年6月18日、AI Agentを安全に管理するためのAI Control Roadmapを公開しました。

Microsoftは2026年4月2日、Agent Governance Toolkitを公開し、AI Agentに対する実行時ポリシー制御、監査ログ、権限管理を示しました。2026年7月2日には、企業のAI導入を支援する新組織を立ち上げたと報じられています。

AnthropicはFable 5 / Mythos 5をめぐる輸出制限と解除を経験し、Frontier AIが政府判断の対象になり得ることを示しました。

Alibabaは2026年7月3日、Claude Codeの社内利用を禁止する方針と報じられました。背景には、Anthropicによるモデル蒸留・不正利用対策と米中AI対立があります。

分析

AI企業の実装競争は、モデル性能だけでなく、Agent統制、アクセス管理、モデル保護、企業導入支援へ広がっています。企業側は、AIツールを「便利な外部サービス」と見るだけでは不十分です。


今回の重要ポイント

ポイント1:AI Governanceは「報告できる統制」へ進んでいる

OECDのHiroshima AI Process Reporting Framework 2.0やEUのGPAI Code of Practiceは、AIリスク管理を外部に説明できる形へ変えています。

実務上の意味

  • AI利用台帳を作る
  • どのAIを何に使っているか記録する
  • モデル・サービス提供元を把握する
  • リスク評価と承認履歴を残す
  • インシデント時の連絡先と対応手順を決める

ポイント2:Frontier AIは安全保障・輸出管理の対象になり始めた

AnthropicのFable 5 / Mythos 5に対する一時的な米国輸出制限と解除は、Frontier AIが政府判断の対象になり得ることを示しています。

実務上の意味

  • 利用しているAIモデルの提供国を確認する
  • 海外拠点・外部委託先で使えるか確認する
  • 突然の利用停止に備える
  • 代替AIサービスを検討する
  • 重要業務を単一AIベンダーに依存しすぎない

ポイント3:AI Agentは「権限を持つ実行主体」として管理する必要がある

Google DeepMindのAI Control Roadmap、Microsoft Agent Governance Toolkit、OWASP Agentic Applications Top 10は、AI Agentを監査・制御・停止できる設計の重要性を示しています。

実務上の意味

  • Agentに付与する権限を最小化する
  • API、ファイル、メール、DBへのアクセス範囲を限定する
  • Tool Callをログ化する
  • 承認が必要な処理を定義する
  • 緊急停止、隔離、権限剥奪の仕組みを持つ

実務への影響

企業が確認すべきこと

  • 自社で使っている生成AI、AI Agent、AI内蔵SaaSの棚卸し
  • 入力してよい情報と禁止情報の分類
  • 顧客情報、個人情報、契約情報、ソースコードの取り扱い
  • AIの出力を誰が確認するか
  • AI Agentが実行できる処理の範囲
  • ログ、承認履歴、修正履歴の保存
  • ベンダーのAI Safety / Security方針
  • 海外AIサービス利用時のデータ所在地と越境移転

個人事業主が確認すべきこと

  • 顧客情報をAIに入力していないか
  • 契約書、請求書、未公開原稿、写真データの扱い
  • 生成物の著作権・商用利用条件
  • AIで作った文章や画像をそのまま公開していないか
  • AIサービスの利用規約変更を確認しているか
  • 代替ツールを持っているか

AIを業務利用する現場が確認すべきこと

  • AI回答を最終判断にしていないか
  • AIに社内秘密を入れていないか
  • AI Agentに過剰な権限を与えていないか
  • 誰がAI出力を承認したか記録しているか
  • 誤回答が起きた時の訂正手順があるか
  • AI利用の相談窓口があるか

リスク整理

リスク内容実務上の注意点
情報漏洩個人情報、顧客情報、契約情報、ソースコードをAIへ入力してしまう入力禁止情報を明文化し、業務AIと個人AIを分ける
誤回答AIが事実と異なる内容を自然な文章で出力する公開前・納品前に人間が確認する
プロンプトインジェクション外部文書やWebページ経由でAIの指示が乗っ取られるRAG、ブラウザ操作、Agent利用時に特に注意する
権限管理不備AI Agentが本来不要なファイル、API、DBへアクセスできる最小権限、アクセス制御、承認制を導入する
ログ不足AIが何を参照し、何を実行したか追跡できないTool Call、入力、出力、承認、例外処理を記録する
著作権・個人情報生成物や学習データに第三者権利・個人情報が含まれる商用利用条件、引用、同意、匿名化を確認する

今日からできる対策

1. AI利用ルールを決める

まずは1枚で構いません。誰が、どのAIを、何の業務に使ってよいかを決めます。

2. 入力してよい情報・禁止情報を分ける

顧客情報、個人情報、契約書、未公開資料、ソースコード、認証情報は原則として禁止情報に分類します。

3. 承認フローを決める

AI出力をそのまま公開・送信・納品しないルールを作ります。重要な文章、契約、見積、顧客対応は人間の確認を必須にします。

4. ログを残す

最低限、どのAIを使ったか、何の目的で使ったか、誰が確認したかを記録します。

5. AIエージェントの権限を制限する

Agentにメール送信、ファイル削除、外部API操作、DB更新などを許可する場合は、必ず権限範囲と承認条件を決めます。

6. 定期的に見直す

AIサービスは更新が速いため、月1回でも利用状況、規約変更、社内ルールの見直しを行います。


今後の注目ポイント

今後30日以内に確認すべき動き

  • EU AI Act / GPAI Code of Practiceの署名・運用状況
  • Anthropic Fable 5 / Mythos 5の再展開とアクセス条件
  • AlibabaとAnthropicのモデル蒸留・Claude Code問題
  • Microsoftの企業AI導入支援組織の具体的サービス
  • UN Global Dialogue on AI governanceの議論内容

今後3か月で注視すべき規制・企業動向

  • UNESCO第4回Global Forum on the Ethics of AI
  • NIST AI RMF重要インフラProfileの進展
  • シンガポールAgentic AI Frameworkの企業採用
  • OECD Hiroshima AI Process Reporting Framework 2.0の利用拡大
  • OpenAI、Anthropic、Google DeepMindのFrontier AI安全性文書の更新
  • ISO/IEC 42001認証取得企業の増加

中小企業・個人事業主が準備しておくべきこと

  • AI利用台帳
  • 入力禁止情報リスト
  • 生成物確認ルール
  • AI利用時の顧客説明文
  • AI Agentの権限管理
  • 代替AIツールの候補
  • 月1回のAI利用見直し

まとめ

2026年7月6日時点で、AI Governanceは「大企業や政府だけの話」ではなくなっています。

国際機関は報告フレームワークを整備し、EUはGPAI対応を進め、米国ではFrontier AIが安全保障・輸出管理の対象になり、企業ではAI Agentの実行時統制が本格化しています。

中小企業・個人事業主が今すぐやるべきことは、難しい制度対応ではありません。

まずは、

  • 何のAIを使っているか
  • 何を入力してはいけないか
  • 誰が確認するか
  • ログをどう残すか
  • AI Agentにどこまで権限を与えるか

を決めることです。

AIは使わないリスクもあります。だからこそ、恐れすぎず、雑に使いすぎず、管理しながら活用する姿勢が重要です。


参照URL

https://www.oecd.org/en/about/news/press-releases/2026/05/oecd-launches-streamlined-hiroshima-ai-process-reporting-framework-to-help-small-and-medium-sized-enterprises-participate.html
https://oecd.ai/
https://www.unesco.org/en/forum-ethics-ai
https://www.unesco.org/en/artificial-intelligence/recommendation-ethics
https://www.reuters.com/legal/litigation/un-report-sees-enormous-potential-benefits-big-risks-ai-2026-07-01/
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai
https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content
https://www.nist.gov/itl/ai-risk-management-framework
https://airc.nist.gov/airmf-resources/airmf/
https://owasp.org/www-project-top-10-for-large-language-model-applications/
https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/
https://www.iso.org/home/insights-news/resources/iso-42001-explained-what-it-is.html
https://openai.com/index/frontier-safety-blueprint/
https://openai.com/index/helping-build-shared-standards-for-advanced-ai/
https://www.anthropic.com/news/fable-mythos-access
https://www.anthropic.com/news/redeploying-fable-5
https://www.anthropic.com/responsible-scaling-policy
https://deepmind.google/blog/securing-the-future-of-ai-agents/
Introducing the Agent Governance Toolkit: Open-source runtime security for AI agents
https://techcommunity.microsoft.com/blog/appsonazureblog/govern-ai-agents-on-app-service-with-the-microsoft-agent-governance-toolkit/4510962 https://www.reuters.com/business/retail-consumer/microsoft-launches-firm-help-companies-adopt-ai-with-25-billion-2026-07-02/ https://www.reuters.com/world/china/alibaba-ban-claude-code-workplace-over-alleged-backdoor-risks-source-says-2026-07-03/ https://www.reuters.com/world/asia-pacific/south-korean-president-unveil-massive-ai-chip-investment-drive-2026-06-29/ https://www.reuters.com/world/asia-pacific/south-korea-create-future-fund-chip-windfall-spur-growth-tackle-inequality-2026-07-05/ https://www.imda.gov.sg/resources/press-releases-factsheets-and-speeches/updated-model-ai-governance-framework-for-agentic-ai https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf https://asean.org/book/expanded-asean-guide-on-ai-governance-and-ethics-generative-ai/ https://www.aisi.gov.uk/frontier-ai-trends-report https://www.industry.gov.au/publications/voluntary-ai-safety-standard https://www.ai.gov.au/staying-safe-and-responsible/essential-ai-practices/guidance-ai-adoption-implementation-guidance https://ised-isde.canada.ca/site/ised/en/canadas-national-artificial-intelligence-strategy-ai-all https://www.pm.gc.ca/en/news/news-releases/2026/06/04/prime-minister-carney-launches-ai-all-canadas-new-national-artificial https://www.reuters.com/business/media-telecom/china-announces-measures-promote-ai-integration-with-consumption-2026-06-18/ https://www.ibm.com/products/watsonx-governance https://www.ibm.com/think/insights/agentic-ai-governance-playbook https://palantir.com/docs/foundry/ai-fde/security-and-governance/ https://palantir.com/docs/foundry/aip/ethics-governance/ https://x.ai/safety https://x.ai/legal/privacy-policy https://www.onetrust.com/solutions/ai-governance/ https://www.onetrust.com/blog/responsible-ai-in-2026-a-3-step-guide-for-governance-that-scales/
NVIDIA-Verified Agent Skills Provide Capability Governance for AI Agents

週刊 AI Governance Watch|2026年6月29日調査版

本記事で得られる3つのポイント

  • AI Governanceは、AI Agentの「実行時制御」と「停止可能性」へ移行している
  • Five Eyes、米国、日本、カナダで、AI Securityが国家安全保障・重要インフラ防衛と直結し始めている
  • Google DeepMind、Microsoft、OpenAI、Anthropicの動きから、Frontier AIは通常のSaaSではなく「管理対象インフラ」になりつつある

なぜ重要か:
今後のAI活用では、「AIを使えること」よりも「AIを監査・制御・隔離・停止できること」が企業価値とリスク管理の中核になります。

前回からの主な変化

今回の主な更新は以下です。

  • Five Eyesが、AIによる高度サイバー攻撃リスクを「数年後」ではなく「数か月以内」の脅威として警告
  • OpenAIの新モデル提供が、米国政府のサイバーセキュリティ審査を受けた制限付きアクセスとして報道
  • Anthropicが、Alibaba関連主体によるClaude能力抽出を主張
  • Google DeepMindのAI Control Roadmapが、Agentを潜在的な内部脅威として扱う設計思想を明確化
  • Microsoft AutoGen StudioのAutoJack脆弱性報道により、Agent制御プレーンの分離・認証・認可が実務課題化
  • カナダはAI for All戦略でAI Safety InstituteとソブリンAIを強化
  • 日本では、日銀総裁発言として生成AI由来のサイバー攻撃リスク監視が報じられた

今週の重要アップデート

Five Eyes:AI Securityが経営リスクへ格上げ

事実

2026年6月22日、米国・英国・カナダ・オーストラリア・ニュージーランドのFive Eyesは、Frontier AIモデルが高度なサイバー攻撃能力を急速に高める可能性について警告しました。

参照URL:
https://www.reuters.com/world/asia-pacific/five-eyes-intelligence-alliance-warns-that-new-ai-models-pose-urgent-cyber-risk-2026-06-22/

分析

これは今週最大の差分です。AI Securityは、情報システム部門だけの課題ではなく、経営、BCP、重要インフラ、国家安全保障の論点になりました。

企業は今後、AI利用ポリシーだけでなく、AIを使った攻撃を前提にしたサイバー防衛計画を必要とします。

OECD:Hiroshima AI Process Reporting Framework 2.0

事実

OECDは2026年5月28日、Hiroshima AI Process voluntary reporting framework 2.0を発表しました。

参照URL:
https://www.oecd.org/en/about/news/press-releases/2026/05/oecd-launches-streamlined-hiroshima-ai-process-reporting-framework-to-help-small-and-medium-sized-enterprises-participate.html
https://oecd.ai/

分析

OECDは、原則提示から「報告可能なAI Governance」へ移行しています。特に中小企業も参加しやすい形へ整理された点は、AI透明性報告の裾野拡大として重要です。

UNESCO:2026年9月に第4回AI倫理グローバルフォーラム

事実

UNESCOは、2026年9月14日から17日にサウジアラビア・リヤドで第4回Global Forum on the Ethics of AIを開催予定です。

参照URL:
https://www.unesco.org/en/forum-ethics-ai
https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

分析

UNESCOは、法規制ではなく倫理・人権・包摂性の国際基盤です。中東開催という点からも、AI Governanceが欧米中心から多極化していることが分かります。

EU AI Act:GPAI対応は実装フェーズへ

事実

EU AI Actは2024年8月1日に発効し、原則として2026年8月2日に全面適用されます。GPAI Code of Practiceは、Transparency、Copyright、Safety and Securityを中心に構成されています。

参照URL:
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai

分析

EU対応では、AIポリシーの作成だけでは不十分です。モデル文書、評価結果、著作権対応、安全性評価、監査ログ、インシデント対応記録を、実務証跡として残す必要があります。

NIST AI RMF:重要インフラ向けProfileが焦点

事実

NISTはAI RMF 1.0の改訂を進めており、2026年4月7日に重要インフラ向けAI RMF ProfileのConcept Noteを公開しています。

参照URL:
https://www.nist.gov/itl/ai-risk-management-framework
https://airc.nist.gov/airmf-resources/airmf/

分析

NIST AI RMFは、AI Governanceの実務OSとして引き続き重要です。特に重要インフラ向けProfileは、金融、通信、電力、医療、公共サービスのAI利用に直結します。

OWASP:Agentic AI Securityが実装標準へ

事実

OWASPはLLM Applications Top 10に加え、Agentic Applications Top 10 for 2026を公開しています。

参照URL:
https://owasp.org/www-project-top-10-for-large-language-model-applications/
https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/
https://owasp.org/www-project-agentic-skills-top-10/

分析

AI Agentでは、Prompt Injectionだけでなく、Tool Misuse、Agent Identity、Memory Poisoning、Unexpected Code Execution、Rogue Agentsが重要になります。

今後、Agentを本番導入する企業は、OWASP Agentic Applications Top 10をセキュリティレビューの標準チェックリストに入れるべきです。

ISO/IEC 42001:AIマネジメントシステムの基盤

事実

ISO/IEC 42001は、AIマネジメントシステムに関する国際規格です。

参照URL:
https://www.iso.org/home/insights-news/resources/iso-42001-explained-what-it-is.html

分析

ISO/IEC 42001は、EU AI Act、NIST AI RMF、各国AI規制を社内統制として運用するための土台です。AI利用企業では、AI責任者、AI台帳、リスク評価、監査、改善プロセスの整備が必要です。

地域別アップデート

米国:Frontier AIは政府審査対象へ

事実

2026年6月2日、米ホワイトハウスは「Promoting Advanced Artificial Intelligence Innovation and Security」を公表しました。また、OpenAIのGPT-5.6提供が制限付きアクセスで開始されたと報じられています。

参照URL:
https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security/
https://www.axios.com/2026/06/26/openai-gpt-sol-terra-luna-trump

分析

米国では、Frontier AIが通常のクラウドサービスではなく、サイバー能力・安全保障上の管理対象として扱われ始めています。企業は、モデルアクセス、利用者属性、国籍、用途制限を確認する必要があります。

英国:AI Security Instituteが評価基盤を形成

事実

英国AI Security Instituteは、Frontier AI Trends Reportを通じて、サイバー、化学・生物、 autonomy、safeguardsなどの能力進展を評価しています。

参照URL:
https://www.aisi.gov.uk/frontier-ai-trends-report
https://www.gov.uk/government/publications/ai-security-institute-frontier-ai-trends-report-factsheet/ai-security-institute-frontier-ai-trends-report-factsheet

分析

英国はAI SafetyからAI Securityへ軸足を移しています。特にFrontier AIの能力評価を政府主導で行う点は、今後の国際的なAI審査モデルになり得ます。

日本:AI促進と金融サイバーリスクが並行

事実

日本ではAI促進法によりAI研究開発・利活用を後押しする制度が進んでいます。一方、2026年6月24日には、日銀総裁がAIや非銀行金融活動が金融システムに与える影響を注視すべきと述べたと報じられました。

参照URL:
https://www.whitecase.com/insight-alert/japans-first-ai-legislation-becomes-law-focus-promoting-research-and-development-no
https://www.reuters.com/world/asia-pacific/boj-must-scrutinise-impact-financial-system-ai-non-bank-activities-ueda-says-2026-06-24/

分析

日本は促進型AI Governanceを維持しつつ、金融・重要インフラではAI Security対応が急務になっています。企業は、AI導入促進とサイバー防衛を同時に設計する必要があります。

韓国:AI Basic ActとAI産業投資

事実

韓国のAI Basic Actは2026年1月22日に施行されました。また、SamsungがAIデータセンター、半導体、ロボティクス等へ大規模投資を計画していると報じられています。

参照URL:
https://www.cooley.com/news/insight/2026/2026-01-27-south-koreas-ai-basic-act-overview-and-key-takeaways
https://www.reuters.com/world/asia-pacific/samsung-invest-1000-trillion-won-south-korea-media-report-says-2026-06-25/

分析

韓国は、制度化されたAI Governanceと産業政策を同時に進めています。AIサービス提供企業は、高影響AI、透明性、通知、利用者保護、国内代理人要件を確認する必要があります。

シンガポール/ASEAN:Agentic AI Governanceで先行

事実

シンガポールIMDAは2026年5月20日、Model AI Governance Framework for Agentic AIを更新しました。

参照URL:
https://www.imda.gov.sg/resources/press-releases-factsheets-and-speeches/updated-model-ai-governance-framework-for-agentic-ai
https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf
https://asean.org/book/expanded-asean-guide-on-ai-governance-and-ethics-generative-ai/

分析

シンガポールは、AI Agentの実務統制で先行しています。特に、完全な人間監視が現実的でない状況で、リスク評価、制御、監査、説明可能性をどう組み合わせるかが実務的です。

中国:AI消費統合とモデル能力抽出問題

事実

中国はAIを消費・サービス領域へ統合する17施策を発表しました。一方、AnthropicはAlibaba関連主体がClaudeの能力を不正に抽出したと主張しています。

参照URL:
https://www.reuters.com/business/media-telecom/china-announces-measures-promote-ai-integration-with-consumption-2026-06-18/
https://www.reuters.com/world/china/anthropic-says-alibaba-illicitly-extracted-claude-ai-model-capabilities-2026-06-24/

分析

中国はAIの社会実装を加速しつつ、米中間ではモデル能力・知的財産・サイバー能力をめぐる緊張が高まっています。AI Governanceは技術統制だけでなく、地政学リスク管理になっています。

UAE/サウジアラビア:AI倫理と国家戦略が接続

事実

UNESCOの第4回Global Forum on the Ethics of AIは、2026年9月にサウジアラビア・リヤドで開催予定です。

参照URL:
https://www.unesco.org/en/forum-ethics-ai
https://www.spa.gov.sa/en/N2608636

分析

中東地域では、AI Governanceが国家戦略、行政DX、スマートシティ、データ主権、国際会議誘致と一体化しています。AI倫理の議論も、欧米中心から中東・アジアを含む多極型へ移っています。

オーストラリア:Five Eyes警告と任意AI安全標準

事実

オーストラリアはFive Eyes警告の一角を担い、国内ではVoluntary AI Safety Standardを運用しています。

参照URL:
https://www.industry.gov.au/publications/voluntary-ai-safety-standard
https://www.reuters.com/world/asia-pacific/five-eyes-intelligence-alliance-warns-that-new-ai-models-pose-urgent-cyber-risk-2026-06-22/

分析

オーストラリアは、任意ガードレールとサイバー安全保障を組み合わせる実務型です。AIを導入する企業には、リスク評価、Human Oversight、記録管理、サプライチェーン情報共有が求められます。

カナダ:AI for AllとAI Safety Institute強化

事実

カナダ政府は2026年6月8日、「Canada’s National Artificial Intelligence Strategy: AI for All」を公表し、Canadian AI Safety Institute強化に5,000万カナダドルを投資するとしています。

参照URL:
https://ised-isde.canada.ca/site/ised/en/canadas-national-artificial-intelligence-strategy-ai-all

分析

カナダは、AIDA後の包括法不在を、AI Safety Institute、ソブリンAI、透明性、公共投資で補う方向です。AI依存リスクと国内AI能力の確保が主要テーマになっています。

主要企業アップデート

Google DeepMind:AI Control Roadmap

事実

Google DeepMindは2026年6月18日、「Securing the future of AI agents」を公開し、AI Control Roadmapを示しました。

参照URL:
https://deepmind.google/blog/securing-the-future-of-ai-agents/

分析

最も重要なのは、AI Agentを「完全に信頼できる存在」ではなく「潜在的にミスアラインした内部主体」として扱う点です。これは、AI Agent版ゼロトラストに近い設計思想です。

Microsoft:Agent Governance ToolkitとAutoJack

事実

MicrosoftはAgent Governance Toolkitを公開しています。また、AutoGen Studioに関連するAutoJack脆弱性が報じられ、制御プレーンの認証・認可・分離の重要性が示されました。

参照URL:
https://opensource.microsoft.com/blog/2026/04/02/introducing-the-agent-governance-toolkit-open-source-runtime-security-for-ai-agents/
https://github.com/microsoft/agent-governance-toolkit
https://www.techradar.com/pro/security/microsoft-warns-ai-agents-are-being-autojack-ed-to-deliver-rce-payloads-by-browsing-untrusted-websites

分析

Microsoftの事例は、Agent Governanceが理論ではなく実装課題であることを示しています。Agentがブラウザ、ローカルサービス、API、開発環境に接続する場合、制御プレーンを守れなければRCEリスクが発生します。

OpenAI:Frontier Governance Frameworkと制限付きモデル提供

事実

OpenAIは2026年5月28日にFrontier Governance Frameworkを公開し、6月3日にはFrontier AI governanceの青写真も公開しました。加えて、GPT-5.6の制限付き提供が報じられています。

参照URL:
https://openai.com/index/openai-frontier-governance-framework/
https://openai.com/index/frontier-safety-blueprint/
https://www.axios.com/2026/06/26/openai-gpt-sol-terra-luna-trump

分析

OpenAIは、自社の安全性実務を規制適合文書として見せる方向へ進んでいます。これはAI企業が、単なる製品提供者ではなく、規制対象インフラ事業者として扱われ始めていることを意味します。

Anthropic:RSPとモデル能力抽出問題

事実

AnthropicはResponsible Scaling Policyを公開しています。2026年6月24日には、Alibaba関連主体がClaudeの能力を大規模に抽出したとAnthropicが主張したことが報じられました。

参照URL:
https://www.anthropic.com/responsible-scaling-policy
https://www.anthropic.com/news/responsible-scaling-policy-v3
https://www.reuters.com/world/china/anthropic-says-alibaba-illicitly-extracted-claude-ai-model-capabilities-2026-06-24/

分析

AI Governanceは、モデルの有害利用だけでなく、モデル能力そのものの窃取・蒸留・再現リスクを扱う段階に入りました。これはAI企業の競争力、知的財産、安全保障に直結します。

Palantir:権限・監査・既存統制との統合

事実

Palantir AI FDEは、ユーザーの既存IDと権限のもとで動作し、手動操作と同じ権限チェック、ガバナンス制御、監査ログの対象になると説明されています。

参照URL:
https://palantir.com/docs/foundry/ai-fde/security-and-governance/
https://palantir.com/docs/foundry/aip/ethics-governance/

分析

Palantirの設計は、Agent Governanceの基本に近いものです。AI Agentを独立した万能Botとして扱わず、既存のID、権限、監査、Ontologyに紐づけることが重要です。

IBM:watsonx.governanceとAgentic AI Governance

事実

IBM watsonx.governanceは、AIの監視、説明可能性、リスク管理、規制対応を支援するプラットフォームです。

参照URL:
https://www.ibm.com/products/watsonx-governance
https://www.ibm.com/think/insights/agentic-ai-governance-playbook

分析

IBMは、AI GovernanceをGRC、モデル管理、Agent Catalog、ライフサイクル統制へ接続しています。大企業では、AI台帳とAgent台帳を分けずに一体管理する方向が現実的です。

xAI:Grok画像生成とプライバシー法違反

事実

2026年6月11日、カナダのプライバシー当局は、xAIのGrok画像生成機能が非同意の性的ディープフェイク生成を可能にしたとして、プライバシー法違反を認定したと報じられました。

参照URL:
https://www.reuters.com/business/media-telecom/groks-ai-image-generation-tool-violated-canadian-privacy-law-says-watchdog-2026-06-11/
https://x.ai/safety

分析

安全性ページやモデルカードは重要ですが、それだけでは不十分です。実際に問われるのは、事前リスク評価、有害生成の防止、インシデント後の是正、継続監視の運用証跡です。

OneTrust:AI GovernanceをGRC運用へ統合

事実

OneTrustはAI Governance、Privacy、Data Use Governance、Tech Risk & Complianceを統合するプラットフォームとして、AIライフサイクル全体の管理を打ち出しています。

参照URL:
https://www.onetrust.com/
https://www.onetrust.com/solutions/ai-governance/

分析

OneTrustの方向性は、AI Governanceを法務・リスク・セキュリティ・プライバシーの統合運用へ接続するものです。企業では、AI導入申請、リスク評価、承認、監査、是正措置をワークフロー化する必要があります。

今週の総括

2026年6月29日時点での結論は、AI Governanceが「AIを正しく使うための方針」から、「AI AgentとFrontier AIを制御するための運用基盤」へ移行しているということです。

特に今週は、以下の論点が明確になりました。

  • Frontier AIは国家安全保障上の管理対象になりつつある
  • AI Agentは内部脅威モデルで管理する必要がある
  • Agentの制御プレーンはサイバー攻撃対象になる
  • AI能力抽出・モデル蒸留は企業リスクであり安全保障リスクでもある
  • AI GovernanceはGRC、サイバーセキュリティ、BCP、法務、データガバナンスの統合領域になった

実務担当者向けチェックポイント

  • AI Agentが利用するAPI、ブラウザ、ローカルサービス、外部ツールを棚卸しする
  • Agentに付与する権限を人間ユーザー単位、業務単位、データ分類単位で制限する
  • Tool Call、判断理由、承認履歴、出力結果、例外処理をログ化する
  • Agent制御プレーンに認証・認可・ネットワーク分離を適用する
  • OWASP LLM Top 10とAgentic Applications Top 10をセキュリティレビューに組み込む
  • NIST AI RMF、ISO/IEC 42001、EU AI Act、韓国AI Basic Actを横断的にマッピングする
  • Frontier AI利用時は、提供国、利用制限、モデルアクセス条件、データ所在地を確認する
  • 重要インフラ・金融・医療・公共領域では、AI SecurityをBCPと同じ経営課題として扱う
  • モデル能力抽出、プロンプト漏洩、データ蒸留、シャドーAIを監視対象にする
  • AIベンダーのSafety Framework、Incident Response、監査証跡、第三者評価を確認する

週刊 AI Governance Watch|2026年6月15日調査版

前回記事からの主な変化

前回記事:
https://kaichitsukai.com/2026/06/01/%e9%80%b1%e5%88%8a-ai-governance-watch/

2026年6月1日版では、AI Governanceが「Trustworthy AI」から「Agent Governance」「Runtime Oversight」「AI Security」へ分化している点を整理しました。

今回確認できた大きな変化は、AI Agentの統制が概念段階から、実装・標準化・法的責任の段階へ進み始めていることです。


本記事で得られる3つのポイント

  • AI Agentの管理は「設計時のガバナンス」から「実行時の監視・制御」へ移行している
  • EU、米国、英国、韓国、日本などで、AI Governanceは産業政策・安全保障・データ保護と結びつき始めている
  • Microsoft、OpenAI、IBM、Palantir、xAIなどの企業動向から、AI Governanceの中心が「モデル管理」から「エージェント運用管理」へ移っている

なぜ重要か

AIを業務に導入する企業にとって、今後の競争力は「高性能なAIを使うこと」ではなく、「AI Agentを安全に運用し、監査できること」で決まり始めています。


今週の重要アップデート

米国:AI政策が「安全性」から「国家安全保障」へ強く傾いた

事実

2026年6月2日、米ホワイトハウスは「Promoting Advanced Artificial Intelligence Innovation and Security」という大統領令を公開しました。
参照URL:
https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security/

同大統領令は、先端AIのイノベーションを推進しつつ、安全保障リスクへの対応を強化する内容です。

また、G7でもAIとオンライン安全性が主要議題として扱われ、OpenAI、Anthropic、Google、Mistral AIなどの経営層が参加予定と報じられています。

分析

前回記事では、米国の中心軸をNIST AI RMFとAI Safetyとして整理しました。

今回の更新では、米国のAI Governanceがより明確に、

  • Frontier AI
  • Cybersecurity
  • Export Control
  • National Security

へ寄っています。

これは企業にとっても重要です。今後、AIモデルやAI Agentの利用可否は、単なる利用規約や契約条件だけでなく、安全保障・輸出管理・利用者属性によって制限される可能性があります。


EU AI Act:GPAI Code of Practiceが実務基準として定着へ

事実

EU AI Actは2024年8月1日に発効し、原則として2026年8月2日に全面適用されます。
参照URL:
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

GPAI向けのCode of Practiceは、Transparency、Copyright、Safety and Securityの3章で構成され、GPAIモデル提供者がAI Act上の義務を満たすための任意ツールとして位置付けられています。
参照URL:
https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai

分析

前回からの大きな変化は、EU AI Actが「規制の存在」ではなく、「運用証跡をどう残すか」という実務課題へ移っている点です。

今後、EU向けにAIサービスを提供する企業は、

  • モデル文書
  • 評価結果
  • 著作権対応
  • 安全性評価
  • 監査ログ

を整備する必要があります。

EU AI Actは、AI開発企業だけでなく、AIを組み込んだ業務システムを提供する企業にも影響します。


NIST AI RMF:Critical Infrastructure向けProfileが重要に

事実

NISTはAI RMF 1.0の改訂を進めており、2026年4月7日には重要インフラ向けのAI RMF Profileに関するConcept Noteを公開しています。
参照URL:
https://www.nist.gov/itl/ai-risk-management-framework

分析

前回記事では、NIST AI RMFを「AI Governance OS」として整理しました。

今回の更新で重要なのは、AIリスク管理の対象が一般企業利用だけでなく、

  • 金融
  • 通信
  • エネルギー
  • 医療
  • 公共サービス
  • 重要インフラ

へ明確に拡張している点です。

AI Agentが業務プロセスやインフラ運用に組み込まれるほど、リスク管理は「モデルの品質」では足りません。

今後は、

  • どのAgentが
  • どの権限で
  • どのデータにアクセスし
  • どの判断を行い
  • 誰が承認したか

を追跡できることが必須になります。


OWASP:LLM Top 10からAgentic Applicationsへ

事実

OWASPは、LLMアプリケーション向けのTop 10に加え、Agentic Applications向けのTop 10を公開しています。
参照URL:
https://owasp.org/www-project-top-10-for-large-language-model-applications/
参照URL:
https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/

Agentic Applications向けTop 10は、自律的に計画・判断・実行するAI Agent特有のリスクを対象にしています。

分析

これは今週の重要な差分です。

従来のLLM Securityは、

  • Prompt Injection
  • Data Leakage
  • Insecure Output Handling

が中心でした。

一方、Agentic AIでは、

  • Tool Abuse
  • Excessive Agency
  • Memory Poisoning
  • Multi-step Failure
  • Delegation Risk

が問題になります。

つまり、AI Securityは「チャットボット防御」から「実行主体の制御」へ移行しています。


Microsoft:Agent Governance ToolkitとRuntime Controlが本格化

事実

Microsoftは2026年6月2日、AI Agent向けにOpen Evals、Runtime Controls、Production Observabilityを組み合わせた取り組みを発表しました。
参照URL:
https://devblogs.microsoft.com/foundry/build-2026-open-trust-stack-ai-agents/

同記事では、企業がAI Agentを本番利用する際に、ポリシーを実行時制御へ落とし込み、稼働中の挙動を監視する必要があると説明されています。

また、MicrosoftはAgent Governance Toolkitも公開しており、AI Agentに対してRuntime Security Governanceを適用する方向を示しています。
参照URL:
https://opensource.microsoft.com/blog/2026/04/02/introducing-the-agent-governance-toolkit-open-source-runtime-security-for-ai-agents/

分析

Microsoftの動きは、今週もっとも実務的です。

AI Governanceを文書・規程で終わらせず、

  • 実行時のPolicy Enforcement
  • Tool Callの監視
  • Audit Logging
  • Production Observability
  • 評価と制御の標準化

へ進めています。

これは、企業のAI Agent導入における実装モデルとして非常に重要です。


OpenAI:Frontier Governance Frameworkを公開

事実

OpenAIは2026年5月28日、「Frontier Governance Framework」を公開しました。
参照URL:
https://openai.com/index/openai-frontier-governance-framework/

このフレームワークは、OpenAIの安全性・セキュリティ実務が、カリフォルニア州のTransparency in Frontier AI ActやEU AI ActのGPAI Code of Practiceなどの新興法規制とどのように整合するかを説明するものです。

分析

OpenAIの動きは、AI企業が自主的な安全性説明から、規制適合性の説明へ移行していることを示しています。

今後、主要AI企業は、

  • Safety Framework
  • Model Evaluation
  • Frontier Risk Management
  • Security Practices
  • Regulatory Alignment

を公開することが標準化していく可能性があります。


Anthropic:Responsible Scaling Policyと安全保障リスク

事実

Anthropicは2026年2月にResponsible Scaling Policy Version 3.0を公開し、4月にはVersion 3.1へ更新しています。
参照URL:
https://www.anthropic.com/news/responsible-scaling-policy-v3
参照URL:
https://www.anthropic.com/responsible-scaling-policy

一方、2026年6月には、米政府がAnthropicの先端モデルに対して安全保障上の懸念から外国利用制限を求めたと報じられています。

分析

AnthropicはAI Safetyを前面に出してきた企業ですが、今回の報道は「安全性フレームワークを公開している企業でも、政府の安全保障判断とは衝突し得る」ことを示しています。

今後のAI Governanceは、企業の自主安全性評価だけでは完結しません。

  • 政府評価
  • 輸出管理
  • サイバー能力評価
  • 利用者制限
  • モデルアクセス制御

が重なります。


xAI:Grokをめぐる安全性・プライバシー問題

事実

xAIは公式サイト上でSafetyページを設け、Frontier AI FrameworkやModel Cardsを通じた安全性への取り組みを示しています。
参照URL:
https://x.ai/safety

一方で、2026年6月には、カナダのプライバシー当局がGrokの画像生成機能について、十分な安全対策なしに不適切な画像生成を可能にしたとして、プライバシー法違反を認定したと報じられています。

分析

xAIの事例は、AI Governanceにおいて重要な教訓です。

安全性ページやモデルカードの存在だけでは不十分です。

実際に問われるのは、

  • 有害生成を防げたか
  • 個人データを適切に扱ったか
  • 事前にリスク評価をしたか
  • インシデント後に是正措置を取ったか
  • 継続監視が機能していたか

です。

AI Governanceは、宣言ではなく運用証跡で評価される段階へ入っています。


IBM:watsonx.governanceはAgentic AI Governanceへ拡張

事実

IBMのwatsonx.governanceは、リアルタイムの保証、可視性、制御によってAIを大規模に運用するための製品として位置付けられています。
参照URL:
https://www.ibm.com/jp-ja/products/watsonx-governance

IBMはAgentic AI governanceに関するデモやSDKも公開しており、AI Agentの登録・管理を含む方向へ拡張しています。
参照URL:
https://mediacenter.ibm.com/media/Agentic%2BAI%2Bgovernance%2Bwith%2Bwatsonx.governance/1_onk8wg8s
参照URL:
https://ibm.github.io/ibm-watsonx-gov/generated_apidoc/ibm_watsonx_gov.agent_catalog.clients.ai_agent_client.html

分析

IBMは、従来のGRCに近いAI Governanceから、Agentic AI Governanceへ自然に拡張しています。

特に大企業では、

  • AI Inventory
  • Model Risk
  • Agent Catalog
  • Lifecycle Governance
  • Compliance Evidence

を一体管理する需要が高まります。


Palantir:Permission、Audit、Ontology中心の統制は継続

事実

PalantirはAI FDEおよびAIPにおいて、ユーザー権限、監査ログ、承認フローを重視しています。
参照URL:
https://palantir.com/docs/foundry/ai-fde/security-and-governance/
参照URL:
https://palantir.com/docs/foundry/aip/ethics-governance/

PalantirのAI FDEは、ユーザーの既存権限・セッションのもとで動作し、手動操作と同じ権限チェック、ガバナンス制御、監査ログの対象になると説明されています。

分析

Palantirは前回記事でも触れた通り、AI Governanceの実装面では一貫しています。

今回の差分としては、MicrosoftやIBMがAgent Governanceを強く打ち出したことで、Palantirが以前から重視していた、

  • Permission Layer
  • Auditability
  • Ontology
  • Human-in-the-loop

の価値が、より市場全体の標準に近づいている点です。


Google:Responsible AIから法的責任の段階へ

事実

Googleは2026年版Responsible AI Progress Reportを公開しています。
参照URL:
https://blog.google/innovation-and-ai/products/responsible-ai-2026-report-ongoing-work/

一方、2026年6月には、ドイツの裁判所がGoogleのAI Overviewsによる虚偽・名誉毀損的な表示について、Googleに責任があると判断したと報じられています。

分析

これはAI Governanceにとって非常に重要です。

AI生成物について、

「AIが誤っただけ」

という説明では免責されにくくなっています。

今後、検索、要約、推薦、エージェント回答を提供する企業は、

  • 出力責任
  • 誤情報対策
  • 苦情処理
  • 修正プロセス
  • 証跡管理

を明確にする必要があります。


日本:AI促進法とデータ利活用の緊張

事実

日本では、AIの研究開発・利活用を促進する法律が2025年に成立し、2025年9月に全面施行されています。
参照URL:
https://www.gov-online.go.jp/hlj/en/november_2025/november_2025-08.html

また、2026年6月には、日本のデジタル担当大臣が、AI競争で遅れれば日本が「AI colony」になりかねないと述べ、個人情報保護法改正を含むデータ利活用の必要性を訴えたと報じられています。

分析

日本のAI Governanceは、EUのような禁止型・罰則型ではなく、依然として促進型です。

ただし今後は、

  • 医療データ
  • 個人情報
  • 生成AI学習
  • 安全保障
  • 産業競争力

のバランスが争点になります。

日本企業にとっては、AI利用を止めるのではなく、利用根拠・リスク評価・説明責任を整えることが現実的な対応になります。


韓国:AI Basic Actが市場参入時のガバナンス要件へ

事実

韓国のAI Basic Actおよび施行令は、2026年1月22日に施行されました。
参照URL:
https://www.trade.gov/market-intelligence/south-korea-ai-basic-act

同法は、AI産業振興と、信頼性・安全性・透明性・利用者保護の基本義務を組み合わせた制度です。

分析

韓国は、EUほど厳格ではない一方、日本よりも明確に制度化されたAI Governanceへ進んでいます。

韓国市場にAIサービスを提供する企業は、今後、

  • 高影響AI
  • 透明性
  • 安全性
  • 国内代理人
  • 利用者保護

を事前に整理する必要があります。


シンガポール/ASEAN:実装可能なAI Governanceを継続

事実

ASEANは「ASEAN Guide on AI Governance and Ethics」を公開しており、AIの設計・開発・導入に関する実務ガイドとして位置付けています。
参照URL:
https://asean.org/book/asean-guide-on-ai-governance-and-ethics/

また、シンガポールのIMDAはASEAN Working Group on AI Governanceを主導し、フレームワーク開発、評価、知識共有、能力構築を進めています。
参照URL:
https://www.imda.gov.sg/about-imda/international-relations/asean-working-group-on-ai-governance

分析

ASEANは、EU型の包括法よりも、企業が導入しやすい実務ガイドを重視しています。

このアプローチは、日系企業が東南アジアでAIサービスを展開する際にも参考になります。


英国・オーストラリア:AI Security Institute連携が進展

事実

日本のAISIがまとめた政策動向によると、2026年5月25日に英国AISIとオーストラリアAISIは、急速に変化するAIセキュリティリスクに対処するため連携を強化することで合意しています。
参照URL:
https://aisi.go.jp/activity/activity_information/260612/
参照URL:
https://www.gov.uk/government/news/uk-and-australia-pact-on-fast-moving-ai-security-risks

分析

英国はAI SafetyからAI Securityへ表現を変えつつあります。

ここで重要なのは、AIリスクが倫理・公平性だけでなく、

  • Cybersecurity
  • Model Misuse
  • National Security
  • Critical Infrastructure

へ明確に接続されていることです。


中国:AI規制とAIインフラ投資が同時進行

事実

中国は生成AI、アルゴリズム推薦、ディープシンセシス、データ管理を組み合わせた規制体系を維持しています。
参照URL:
https://www.cambridge.org/core/journals/cambridge-forum-on-ai-law-and-governance/article/navigating-chinas-regulatory-approach-to-generative-artificial-intelligence-and-large-language-models/969B2055997BF42DE693B7A1A1B4E8BA

さらに2026年6月には、中国が全国規模のAIデータセンター網に約2兆元規模の投資を計画していると報じられています。

分析

中国のAI Governanceは、Trustworthy AIというより、

  • 国家統制
  • データ主権
  • 国内技術依存
  • コンテンツ管理
  • 産業政策

が一体化したモデルです。

企業にとっては、中国市場向けAI展開では、技術性能よりも規制適合・データ管理・国内要件対応が重要になります。


UAE/サウジアラビア:AI Governanceは国家戦略と一体化

事実

サウジアラビアのSDAIAは、AI倫理や責任あるAI利用を含む複数の規制文書を整備していると発表しています。
参照URL:
https://www.spa.gov.sa/en/N2608636

サウジアラビアでは、AI Governanceが国家AI戦略、データ政策、2030年に向けた産業政策と結びついています。

分析

中東地域では、AI Governanceは単なるリスク管理ではありません。

国家競争力、公共サービス、スマートシティ、データ主権、投資誘致と一体化しています。


オーストラリア:任意標準から実務ガイダンスへ

事実

オーストラリア政府は、AI導入に関するガイダンスを公開し、責任あるAIガバナンスの実務指針を示しています。
参照URL:
https://www.industry.gov.au/publications/voluntary-ai-safety-standard/10-guardrails

2025年10月には、AI導入に関する6つの実践項目を含むGuidance for AI Adoptionも公表されています。

分析

オーストラリアは、EUのような包括法ではなく、実務ガードレールを重視しています。

企業にとっては、AI利用ポリシー、リスク評価、Human Oversight、ベンダー管理の整備が優先されます。


カナダ:AIDA後の空白とAI依存リスク

事実

カナダでは、AIDAがBill C-27の一部として提案されていましたが、2025年1月の議会閉会により廃案となったと整理されています。
参照URL:
https://ised-isde.canada.ca/site/innovation-better-canada/en/artificial-intelligence-and-data-act-aida-companion-document
参照URL:
https://www.cigionline.org/articles/canada-cannot-compete-on-ai-regulation-but-it-can-coordinate-it/

また、2026年6月には、カナダ首相が米国AIモデルへの依存リスクを指摘したと報じられています。

分析

カナダのAI Governanceは、包括法の不在により、プライバシー法、州レベル政策、公共調達、国際協調を組み合わせる方向に見えます。

AI主権、調達リスク、外国モデル依存は、今後カナダだけでなく各国共通のテーマになります。


今週の総括

2026年6月15日時点で最も重要な変化は、AI Governanceが「方針」から「実行時統制」へ移っていることです。

前回記事では、

  • Trustworthy AI
  • AI Governance
  • AI Security
  • Agent Governance
  • Runtime Oversight

の分化を整理しました。

今週の調査では、さらに一段進み、

  • Runtime Control
  • Agent Evaluation
  • Agent Catalog
  • Policy Enforcement
  • Audit Logging
  • Legal Liability
  • Export Control
  • AI Sovereignty

が前面に出てきました。

つまり、今後のAI Governanceは、

「AIを正しく作る」

だけではなく、

「AI Agentが実行中に何をしているかを監視し、止められるか」

が中心になります。


実務担当者向けチェックポイント

企業が今すぐ確認すべき項目は以下です。

  • 自社で利用しているAIツールとAI Agentの棚卸し
  • AI Agentがアクセスできるデータ範囲
  • Tool Callのログ取得
  • 人間の承認が必要な処理の定義
  • 外部AIサービスの利用国・データ所在地
  • ベンダーのAI Safety / Security Framework
  • EU AI Act、韓国AI Basic Act、日本AI促進法への影響
  • OWASP LLM Top 10およびAgentic Applications Top 10への対応
  • NIST AI RMFベースの社内リスク管理
  • ISO/IEC 42001を意識したAIマネジメント体制

次回追跡ポイント

  • EU GPAI Code of Practiceの署名企業・運用状況
  • 米国大統領令後のAI輸出管理・安全保障対応
  • NIST AI RMF改訂と重要インフラ向けProfile
  • OWASP Agentic Applications Top 10の実装事例
  • Microsoft Agent Governance Toolkitの採用状況
  • OpenAI Frontier Governance Frameworkの更新
  • Anthropicの先端モデル利用制限問題
  • xAI / Grokをめぐる各国規制対応
  • 日本の個人情報保護法改正とAI学習利用
  • 韓国AI Basic Actの実務運用

参照URL

https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security

https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai

https://www.nist.gov/itl/ai-risk-management-framework

https://owasp.org/www-project-top-10-for-large-language-model-applications

https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026

https://devblogs.microsoft.com/foundry/build-2026-open-trust-stack-ai-agents/

https://opensource.microsoft.com/blog/2026/04/02/introducing-the-agent-governance-toolkit-open-source-runtime-security-for-ai-agents/

https://openai.com/index/openai-frontier-governance-framework

https://www.anthropic.com/news/responsible-scaling-policy-v3

https://www.anthropic.com/responsible-scaling-policy

https://x.ai/safety

https://www.ibm.com/jp-ja/products/watsonx-governance

https://mediacenter.ibm.com/media/Agentic%2BAI%2Bgovernance%2Bwith%2Bwatsonx.governance/1_onk8wg8s

https://ibm.github.io/ibm-watsonx-gov/generated_apidoc/ibm_watsonx_gov.agent_catalog.clients.ai_agent_client.html

https://palantir.com/docs/foundry/ai-fde/security-and-governance

https://palantir.com/docs/foundry/aip/ethics-governance

https://blog.google/innovation-and-ai/products/responsible-ai-2026-report-ongoing-work

https://www.gov-online.go.jp/hlj/en/november_2025/november_2025-08.html

https://www.trade.gov/market-intelligence/south-korea-ai-basic-act

https://asean.org/book/asean-guide-on-ai-governance-and-ethics

https://www.imda.gov.sg/about-imda/international-relations/asean-working-group-on-ai-governance

https://aisi.go.jp/activity/activity_information/260612

https://www.gov.uk/government/news/uk-and-australia-pact-on-fast-moving-ai-security-risks

https://www.cambridge.org/core/journals/cambridge-forum-on-ai-law-and-governance/article/navigating-chinas-regulatory-approach-to-generative-artificial-intelligence-and-large-language-models/969B2055997BF42DE693B7A1A1B4E8BA

https://www.spa.gov.sa/en/N2608636

https://www.industry.gov.au/publications/voluntary-ai-safety-standard/10-guardrails

https://ised-isde.canada.ca/site/innovation-better-canada/en/artificial-intelligence-and-data-act-aida-companion-document

https://www.cigionline.org/articles/canada-cannot-compete-on-ai-regulation-but-it-can-coordinate-it

週刊 AI Governance Watch|2026年6月8日調査版

前回記事(2026年6月1日公開)から見えてきた「Agent Assurance」時代への移行

前回記事:
https://kaichitsukai.com/2026/06/01/%e9%80%b1%e5%88%8a-ai-governance-watch/


本記事で得られる3つのポイント

  • AI Governanceの中心テーマが「Trustworthy AI」から「Agent Governance」「Agent Assurance」へ移行し始めている
  • OWASP・NIST・ISO42001が単独フレームワークではなく、「AI統制基盤」として統合的に扱われ始めている
  • AI Agentの継続監視(Continuous Monitoring)が実装フェーズへ入りつつある

なぜ重要か

前回記事では「AIをどう統治するか」が中心テーマでした。しかし今週確認できた更新情報からは、「AI Agentをどう継続監視し続けるか」が次の主戦場になりつつあることが見えてきました。


Agent Governanceから「Agent Assurance」へ

今週、企業実装領域で特に注目されたのは、AI Agentそのものを継続的に監査・評価・監視する動きです。

米Workdayは「Agent Passport」を発表しました。

参照URL:
https://www.prnewswire.com/news-releases/workday-launches-agent-passport-to-test-verify-and-continuously-monitor-every-ai-agent-in-the-enterprise-302787979.html

同発表では、

  • OWASP LLM Top 10
  • NIST AI RMF
  • MITRE ATLAS

などをベースに、AI Agentを継続監視すると説明されています。

これは単なるAI Security強化ではありません。

これまでのAI Governanceは、

  • モデル管理
  • リスク管理
  • ポリシー整備

が中心でした。

しかし現在は、

「AI Agentが実行中に何をしたか」

まで監査対象になり始めています。

これは非常に重要な変化です。


EU AI Actは「規制」から「監査」へ移行し始めている

EU AI Actは引き続き2026年8月2日の本格適用へ向けて進行しています。

参照URL:
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

今週確認できた情報では、特にGPAI(General Purpose AI)向け運用体制の具体化が進んでいます。

参照URL:
https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai

前回記事でも触れたGPAI Code of Practiceですが、今回確認できた動向では、

  • モデル提供企業
  • モデル利用企業
  • 統合サービス提供企業

それぞれに説明責任が求められる方向性がさらに明確になっています。

現時点で確認できる範囲では、EU AI Actは単なる「禁止・規制法」ではなく、

「AI監査法」

に近づき始めているように見えます。

特に今後は、

  • モデル評価
  • Runtime Monitoring
  • Audit Logging
  • Human Oversight

が実務上の主要論点になる可能性があります。


OECD・UNESCOは「Trustworthy AI」を維持

Trustworthy AIという言葉自体が消えたわけではありません。

OECD AI Principlesでは引き続き、

  • Human Rights
  • Transparency
  • Accountability
  • Democratic Values

が中核概念として維持されています。

参照URL:
https://www.oecd.org/en/topics/sub-issues/ai-principles.html

参照URL:
https://legalinstruments.oecd.org/en/instruments/oecd-legal-0449

またUNESCOも、

「Recommendation on the Ethics of Artificial Intelligence」

を継続しています。

参照URL:
https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

ただし実務の世界では、Trustworthy AI単体で語られるケースは減少しつつあります。

現在の構造を整理すると、

Trustworthy AI

Responsible AI

AI Governance

AI Security

Agent Governance

Agent Assurance

という多層構造になり始めていると考えられます。


NIST AI RMFは「Agent Runtime Risk」へ拡張し始めた

NIST AI RMFは引き続き、事実上のグローバル標準フレームワークとして扱われています。

参照URL:
https://www.nist.gov/itl/ai-risk-management-framework

今週特に注目されたのは、Agentic AI向けプロファイル整備です。

関連資料:
https://labs.cloudsecurityalliance.org/agentic/agentic-nist-ai-rmf-profile-v1/

ここで議論されているのは、単なるモデルリスクではありません。

現在対象になり始めているのは、

  • Tool権限制御
  • Runtime Behavior
  • Agent Interoperability
  • Autonomous Execution
  • Runtime Oversight

です。

つまりNIST AI RMFも、

「モデル管理」

から、

「Agent実行環境管理」

へ対象範囲を広げ始めています。


OWASP LLM Top 10は「防御評価基準」へ進化

OWASP LLM Top 10は依然として企業実装の中心基準です。

参照URL:
https://owasp.org/www-project-top-10-for-large-language-model-applications/

しかし今週確認できた研究では、OWASP LLM Top 10を「脅威一覧」としてではなく、

「防御評価基準」

として扱う流れが見え始めています。

参照URL:
https://arxiv.org/abs/2606.02822

研究では、

  • Prompt Injection
  • Jailbreak
  • Tool Abuse
  • Prompt Leakage

への防御有効性が分析されています。

これはAI Security分野が、

「脆弱性列挙」

から、

「Runtime Defense」

へ進化していることを示しているように見えます。


ISO/IEC 42001は「AI統治基盤」へ

ISO/IEC 42001も引き続き存在感を強めています。

参照URL:
https://www.iso.org/standard/81230.html

以前は、

「AI版ISO27001」

という説明が多く見られました。

しかし最近の実装動向を見る限り、より実態に近い表現は、

「AI統治の共通管理基盤」

です。

現在対象になっているのは、

  • AI Lifecycle
  • Supplier Governance
  • Risk Assessment
  • Monitoring
  • Human Oversight

まで広がっています。

つまりISO42001は、

AI Governance全体を統合管理する枠組み

へ進化しつつあります。


企業実装で共通して見えてきた変化

主要企業を確認すると、方向性はかなり共通しています。

Palantir

引き続き、

  • Ontology
  • Permission Layer
  • Auditability

が強みです。

AI Governance実装企業としては依然として先行しています。


OpenAI

参照URL:
https://openai.com/

Enterprise市場では、

  • Evaluation
  • Governance
  • Agent

への重点移行が続いています。


Anthropic

Constitutional AIとResponsible Scaling Policyを継続。

依然として「安全性」を前面に出しています。


Google

Gemini企業導入拡大に伴い、

  • Governance
  • Compliance
  • Data Controls

が重要性を増しています。


Microsoft

Copilot展開拡大に伴い、

  • Agent Governance
  • Runtime Control
  • Compliance

需要が急増しています。


IBM

watsonx Governanceを中心に、

AI Governance Platform企業としての立ち位置を強化しています。


OneTrust

Privacy Governance企業から、

AI Governance Platform企業への転換が進行しています。


今週の考察

前回記事では、

「AIをどう統治するか」

が中心テーマでした。

しかし今週確認できた動向からは、

「AI Agentをどう監視し続けるか」

へ論点が移行し始めているように見えます。

これは単なる技術論ではありません。

企業が実際にAI Agentを本番環境へ投入し始めた結果、

  • Runtime Risk
  • Continuous Monitoring
  • Human Oversight
  • Auditability

が現実問題になり始めています。

現時点で確認できる範囲では、

2026年後半から2027年にかけて、

「Agent Assurance」

がAI Governance領域の最重要キーワードになる可能性があります。


次回追跡ポイント

  • EU GPAI Code of Practice最終動向
  • NIST Agentic AI Profile
  • OWASP Agent Security
  • ISO42001認証事例
  • OECD AI Observatory更新
  • UNESCO AI Ethics更新
  • OpenAI Enterprise Governance機能
  • Anthropic Safety Framework
  • Palantir AIP更新
  • Runtime Monitoring製品群

参照URL

https://oecd.ai

https://www.oecd.org/en/topics/sub-issues/ai-principles.html

https://legalinstruments.oecd.org/en/instruments/oecd-legal-0449

https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai

https://www.nist.gov/itl/ai-risk-management-framework

https://owasp.org/www-project-top-10-for-large-language-model-applications

https://www.iso.org/standard/81230.html

https://www.prnewswire.com/news-releases/workday-launches-agent-passport-to-test-verify-and-continuously-monitor-every-ai-agent-in-the-enterprise-302787979.html

https://arxiv.org/abs/2606.02822

週刊 AI Governance Watch

本記事で得られる3つのポイント

  • EU AI Actは「厳格化一辺倒」ではなく、実装可能性を重視した運用フェーズへ移行しつつある
  • AI GovernanceはTrustworthy AIから、Agent Governance・Runtime Oversight・AI Securityへ明確に分化している
  • 企業実装の中心論点は「モデル性能」から「権限制御・監査ログ・エージェント統制」へ移行している

なぜ重要か

AI競争の本質はモデル性能競争から、AIをどのように統治・監査・制御するかというガバナンス競争へ移行し始めています。


1. 今週の重要アップデート

OECD

事実

OECDはOECD.AI Policy Observatoryの拡張を継続しており、2026年には「OECD.AI Index」を公表しました。

URL:
https://oecd.ai/

URL:
https://www.oecd.org/en/publications/2026/02/oecd-ai-observatory-index_8f5fa0f2.html

同Indexは各国のAI能力だけでなく、AIガバナンス実装状況の比較を可能にする政策評価ツールとして位置付けられています。

分析

Trustworthy AIを理念として扱う段階から、各国のAI Governance成熟度を定量評価する段階へ移行しつつあります。


EU AI Act

事実

EU AI Actは2024年8月に発効済みであり、主要条項は2026年8月から本格適用が進む予定です。

URL:
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

URL:
https://artificialintelligenceact.eu/implementation-timeline/

GPAI(General Purpose AI)関連義務は既に段階的適用が始まっており、AI Officeによる監督体制も整備が進められています。

前回からの変化

欧州議会とEU加盟国は、Omnibus VIIパッケージの中で一部高リスクAI規制の適用時期を後ろ倒しする暫定合意に到達しました。

分析

規制緩和というより、

  • 実装負荷
  • 適合性評価不足
  • 企業側の準備遅れ

に対応する現実的調整と見る方が適切です。

EUは依然として世界で最も包括的なAIガバナンス体制を維持しています。


2. リージョン別動向

EU

事実

GPAIプロバイダーには以下が求められています。

  • 技術文書管理
  • 評価結果の保存
  • AI Officeへの提出体制
  • 透明性確保

URL:
https://artificialintelligenceact.eu/article/53/

分析

実質的には「モデル開発管理規制」が始まったと言えます。


米国

事実

NIST AI RMFは引き続き米国企業の事実上の標準フレームワークとなっています。

URL:
https://www.nist.gov/itl/ai-risk-management-framework

NIST AI 600-1(Generative AI Profile)は生成AI特有のリスク管理を定義しています。

対象リスク例:

  • Confabulation
  • Information Integrity
  • Data Privacy
  • Information Security
  • Value Chain Risk

分析

NIST AI RMFは「AI Governance OS」のような役割を担い始めています。


日本

事実

2026年3月31日にAI Guidelines for Business Ver1.2が公開されています。

URL:
https://oecd.ai/en/dashboards/policy-initiatives

日本の方針は依然として自主ガバナンス中心です。

分析

EU型の法規制よりも、

  • ガイドライン
  • リスクベース運用
  • 業界協調

を重視する方向性が継続しています。


韓国

事実

AI Basic Act関連の制度設計が継続しており、高影響AIや信頼性評価が主要テーマとなっています。

分析

韓国は産業育成と規制を同時に進めるバランス型モデルを志向しています。


シンガポール/ASEAN

事実

AI VerifyおよびModel AI Governance Frameworkが引き続き中心的役割を担っています。

分析

欧州型の法規制ではなく、

  • 実装可能性
  • 相互運用性
  • 企業導入

を重視するモデルが強化されています。


英国

事実

AI Safety Instituteを軸とした評価体制が継続しています。

分析

英国は法規制主導ではなく、

  • Frontier Model Evaluation
  • Safety Testing
  • 実証評価

を強みとする独自路線を維持しています。


中国

事実

生成AI規制、アルゴリズム管理、コンテンツ管理体制が継続しています。

分析

Trustworthy AIというより、

国家安全保障型AI Governance

として理解する方が実態に近い状況です。


UAE/サウジアラビア

事実

国家AI戦略とAI投資拡大が継続しています。

分析

AI Governanceよりも、

  • 国家競争力
  • データ主権
  • AI産業誘致

が主要目的です。


オーストラリア/カナダ

事実

両国ともリスクベース型AI Governance整備を継続しています。

分析

EU法体系を参考にしつつ、より実務導入しやすい制度設計を模索しています。


3. Agent Governance / Runtime Oversight

事実

Agentic AI向けガバナンス研究が急速に増加しています。

URL:
https://arxiv.org/abs/2604.04604

URL:
https://arxiv.org/abs/2510.25863

研究では以下が重点課題として整理されています。

  • Runtime Behavioral Drift
  • Human Oversight
  • External Tool Control
  • Multi-Agent Traceability
  • Runtime Monitoring
  • Auditability

分析

Agent Governanceは既にAI Governanceの下位概念ではありません。

独立した管理領域へ成長しています。


4. AI Security / AI Safety

事実

NIST AI 600-1とOWASP系の実務コミュニティでは以下が共通課題になっています。

  • Prompt Injection
  • Supply Chain Risk
  • Tool Abuse
  • Data Leakage
  • Autonomous Agent Risk

分析

AI Securityはサイバーセキュリティの一部ではなく、

「AI Runtime Security」

として独立分野化しています。


5. 主要企業の実装動向

Palantir

分析

引き続き、

  • Permission Layer
  • Ontology
  • Auditability
  • Human-in-the-loop

が差別化要素です。

AI Governance実装企業として最も完成度が高いポジションを維持しています。


OpenAI

分析

Enterprise市場では、

  • Agent運用
  • API Governance
  • Evaluation

が中心テーマになっています。


Anthropic

分析

Constitutional AIとResponsible Scaling Policyが引き続き差別化要素です。


Google

分析

Geminiの企業導入拡大に伴い、

  • Responsible AI
  • Security Controls
  • Governance Framework

が重要性を増しています。


Microsoft

分析

Copilot展開拡大により、

  • Compliance
  • Security
  • Enterprise Governance

が中核機能になっています。


IBM

分析

watsonxを中心に、

  • AI Governance
  • Explainability
  • Monitoring

を強化しています。


xAI

分析

Grok関連議論を背景に、

  • Safety Controls
  • Governance Transparency

への関心が高まっています。


OneTrust

分析

Privacy Governanceから、

AI Governance Platform企業へポジションを拡大しています。


6. 前回からの主な変化

今回は初回レポートのため比較対象はありません。

今後は以下を継続追跡します。

  • EU AI Act施行スケジュール変更
  • GPAI Code of Practice
  • NIST AI RMF Profile追加
  • AI Security脅威動向
  • Agent Governance標準化
  • ISO/IEC 42001実装事例
  • Enterprise Governance Platform進化

7. 今週の分析

Trustworthy AIは終わっていません。

むしろ分化しています。

進化の流れは以下です。

AI Ethics

Trustworthy AI

Responsible AI

AI Governance

AI Safety

AI Security

Agent Governance

Runtime Oversight

Multi-Agent Oversight

現在の最大テーマは、

「AIをどう作るか」

ではなく

「AIをどう統治するか」

です。


8. 来週以降の注目点

  • EU AI Office関連実装ガイド
  • GPAI Code of Practice
  • ISO/IEC 42001採用事例
  • Agent Governance標準化
  • Runtime Security製品群
  • AI監査ログ標準
  • Multi-Agent監視技術
  • AI権限制御アーキテクチャ

9. 参照ソース一覧

https://oecd.ai

https://www.oecd.org/en/publications/2026/02/oecd-ai-observatory-index_8f5fa0f2.html

https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

https://www.nist.gov/itl/ai-risk-management-framework

https://oecd.ai/en/dashboards/policy-initiatives

https://arxiv.org/abs/2604.04604

https://arxiv.org/abs/2510.25863