前回記事からの主な変化

前回記事：
https://kaichitsukai.com/2026/06/01/%e9%80%b1%e5%88%8a-ai-governance-watch/

2026年6月1日版では、AI Governanceが「Trustworthy AI」から「Agent Governance」「Runtime Oversight」「AI Security」へ分化している点を整理しました。

今回確認できた大きな変化は、AI Agentの統制が概念段階から、実装・標準化・法的責任の段階へ進み始めていることです。

本記事で得られる3つのポイント

AI Agentの管理は「設計時のガバナンス」から「実行時の監視・制御」へ移行している
EU、米国、英国、韓国、日本などで、AI Governanceは産業政策・安全保障・データ保護と結びつき始めている
Microsoft、OpenAI、IBM、Palantir、xAIなどの企業動向から、AI Governanceの中心が「モデル管理」から「エージェント運用管理」へ移っている

なぜ重要か

AIを業務に導入する企業にとって、今後の競争力は「高性能なAIを使うこと」ではなく、「AI Agentを安全に運用し、監査できること」で決まり始めています。

今週の重要アップデート

米国：AI政策が「安全性」から「国家安全保障」へ強く傾いた

事実

2026年6月2日、米ホワイトハウスは「Promoting Advanced Artificial Intelligence Innovation and Security」という大統領令を公開しました。
参照URL：
https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security/

同大統領令は、先端AIのイノベーションを推進しつつ、安全保障リスクへの対応を強化する内容です。

また、G7でもAIとオンライン安全性が主要議題として扱われ、OpenAI、Anthropic、Google、Mistral AIなどの経営層が参加予定と報じられています。

分析

前回記事では、米国の中心軸をNIST AI RMFとAI Safetyとして整理しました。

今回の更新では、米国のAI Governanceがより明確に、

Frontier AI
Cybersecurity
Export Control
National Security

へ寄っています。

これは企業にとっても重要です。今後、AIモデルやAI Agentの利用可否は、単なる利用規約や契約条件だけでなく、安全保障・輸出管理・利用者属性によって制限される可能性があります。

EU AI Act：GPAI Code of Practiceが実務基準として定着へ

事実

EU AI Actは2024年8月1日に発効し、原則として2026年8月2日に全面適用されます。
参照URL：
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

GPAI向けのCode of Practiceは、Transparency、Copyright、Safety and Securityの3章で構成され、GPAIモデル提供者がAI Act上の義務を満たすための任意ツールとして位置付けられています。
参照URL：
https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai

分析

前回からの大きな変化は、EU AI Actが「規制の存在」ではなく、「運用証跡をどう残すか」という実務課題へ移っている点です。

今後、EU向けにAIサービスを提供する企業は、

モデル文書
評価結果
著作権対応
安全性評価
監査ログ

を整備する必要があります。

EU AI Actは、AI開発企業だけでなく、AIを組み込んだ業務システムを提供する企業にも影響します。

NIST AI RMF：Critical Infrastructure向けProfileが重要に

事実

NISTはAI RMF 1.0の改訂を進めており、2026年4月7日には重要インフラ向けのAI RMF Profileに関するConcept Noteを公開しています。
参照URL：
https://www.nist.gov/itl/ai-risk-management-framework

分析

前回記事では、NIST AI RMFを「AI Governance OS」として整理しました。

今回の更新で重要なのは、AIリスク管理の対象が一般企業利用だけでなく、

金融
通信
エネルギー
医療
公共サービス
重要インフラ

へ明確に拡張している点です。

AI Agentが業務プロセスやインフラ運用に組み込まれるほど、リスク管理は「モデルの品質」では足りません。

今後は、

どのAgentが
どの権限で
どのデータにアクセスし
どの判断を行い
誰が承認したか

を追跡できることが必須になります。

OWASP：LLM Top 10からAgentic Applicationsへ

事実

OWASPは、LLMアプリケーション向けのTop 10に加え、Agentic Applications向けのTop 10を公開しています。
参照URL：
https://owasp.org/www-project-top-10-for-large-language-model-applications/
参照URL：
https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/

Agentic Applications向けTop 10は、自律的に計画・判断・実行するAI Agent特有のリスクを対象にしています。

分析

これは今週の重要な差分です。

従来のLLM Securityは、

Prompt Injection
Data Leakage
Insecure Output Handling

が中心でした。

一方、Agentic AIでは、

Tool Abuse
Excessive Agency
Memory Poisoning
Multi-step Failure
Delegation Risk

が問題になります。

つまり、AI Securityは「チャットボット防御」から「実行主体の制御」へ移行しています。

Microsoft：Agent Governance ToolkitとRuntime Controlが本格化

事実

Microsoftは2026年6月2日、AI Agent向けにOpen Evals、Runtime Controls、Production Observabilityを組み合わせた取り組みを発表しました。
参照URL：
https://devblogs.microsoft.com/foundry/build-2026-open-trust-stack-ai-agents/

同記事では、企業がAI Agentを本番利用する際に、ポリシーを実行時制御へ落とし込み、稼働中の挙動を監視する必要があると説明されています。

また、MicrosoftはAgent Governance Toolkitも公開しており、AI Agentに対してRuntime Security Governanceを適用する方向を示しています。
参照URL：
https://opensource.microsoft.com/blog/2026/04/02/introducing-the-agent-governance-toolkit-open-source-runtime-security-for-ai-agents/

分析

Microsoftの動きは、今週もっとも実務的です。

AI Governanceを文書・規程で終わらせず、

実行時のPolicy Enforcement
Tool Callの監視
Audit Logging
Production Observability
評価と制御の標準化

へ進めています。

これは、企業のAI Agent導入における実装モデルとして非常に重要です。

OpenAI：Frontier Governance Frameworkを公開

事実

OpenAIは2026年5月28日、「Frontier Governance Framework」を公開しました。
参照URL：
https://openai.com/index/openai-frontier-governance-framework/

このフレームワークは、OpenAIの安全性・セキュリティ実務が、カリフォルニア州のTransparency in Frontier AI ActやEU AI ActのGPAI Code of Practiceなどの新興法規制とどのように整合するかを説明するものです。

分析

OpenAIの動きは、AI企業が自主的な安全性説明から、規制適合性の説明へ移行していることを示しています。

今後、主要AI企業は、

Safety Framework
Model Evaluation
Frontier Risk Management
Security Practices
Regulatory Alignment

を公開することが標準化していく可能性があります。

Anthropic：Responsible Scaling Policyと安全保障リスク

事実

Anthropicは2026年2月にResponsible Scaling Policy Version 3.0を公開し、4月にはVersion 3.1へ更新しています。
参照URL：
https://www.anthropic.com/news/responsible-scaling-policy-v3
参照URL：
https://www.anthropic.com/responsible-scaling-policy

一方、2026年6月には、米政府がAnthropicの先端モデルに対して安全保障上の懸念から外国利用制限を求めたと報じられています。

分析

AnthropicはAI Safetyを前面に出してきた企業ですが、今回の報道は「安全性フレームワークを公開している企業でも、政府の安全保障判断とは衝突し得る」ことを示しています。

今後のAI Governanceは、企業の自主安全性評価だけでは完結しません。

政府評価
輸出管理
サイバー能力評価
利用者制限
モデルアクセス制御

が重なります。

xAI：Grokをめぐる安全性・プライバシー問題

事実

xAIは公式サイト上でSafetyページを設け、Frontier AI FrameworkやModel Cardsを通じた安全性への取り組みを示しています。
参照URL：
https://x.ai/safety

一方で、2026年6月には、カナダのプライバシー当局がGrokの画像生成機能について、十分な安全対策なしに不適切な画像生成を可能にしたとして、プライバシー法違反を認定したと報じられています。

分析

xAIの事例は、AI Governanceにおいて重要な教訓です。

安全性ページやモデルカードの存在だけでは不十分です。

実際に問われるのは、

有害生成を防げたか
個人データを適切に扱ったか
事前にリスク評価をしたか
インシデント後に是正措置を取ったか
継続監視が機能していたか

です。

AI Governanceは、宣言ではなく運用証跡で評価される段階へ入っています。

IBM：watsonx.governanceはAgentic AI Governanceへ拡張

事実

IBMのwatsonx.governanceは、リアルタイムの保証、可視性、制御によってAIを大規模に運用するための製品として位置付けられています。
参照URL：
https://www.ibm.com/jp-ja/products/watsonx-governance

IBMはAgentic AI governanceに関するデモやSDKも公開しており、AI Agentの登録・管理を含む方向へ拡張しています。
参照URL：
https://mediacenter.ibm.com/media/Agentic%2BAI%2Bgovernance%2Bwith%2Bwatsonx.governance/1_onk8wg8s
参照URL：
https://ibm.github.io/ibm-watsonx-gov/generated_apidoc/ibm_watsonx_gov.agent_catalog.clients.ai_agent_client.html

分析

IBMは、従来のGRCに近いAI Governanceから、Agentic AI Governanceへ自然に拡張しています。

特に大企業では、

AI Inventory
Model Risk
Agent Catalog
Lifecycle Governance
Compliance Evidence

を一体管理する需要が高まります。

Palantir：Permission、Audit、Ontology中心の統制は継続

事実

PalantirはAI FDEおよびAIPにおいて、ユーザー権限、監査ログ、承認フローを重視しています。
参照URL：
https://palantir.com/docs/foundry/ai-fde/security-and-governance/
参照URL：
https://palantir.com/docs/foundry/aip/ethics-governance/

PalantirのAI FDEは、ユーザーの既存権限・セッションのもとで動作し、手動操作と同じ権限チェック、ガバナンス制御、監査ログの対象になると説明されています。

分析

Palantirは前回記事でも触れた通り、AI Governanceの実装面では一貫しています。

今回の差分としては、MicrosoftやIBMがAgent Governanceを強く打ち出したことで、Palantirが以前から重視していた、

Permission Layer
Auditability
Ontology
Human-in-the-loop

の価値が、より市場全体の標準に近づいている点です。

Google：Responsible AIから法的責任の段階へ

事実

Googleは2026年版Responsible AI Progress Reportを公開しています。
参照URL：
https://blog.google/innovation-and-ai/products/responsible-ai-2026-report-ongoing-work/

一方、2026年6月には、ドイツの裁判所がGoogleのAI Overviewsによる虚偽・名誉毀損的な表示について、Googleに責任があると判断したと報じられています。

分析

これはAI Governanceにとって非常に重要です。

AI生成物について、

「AIが誤っただけ」

という説明では免責されにくくなっています。

今後、検索、要約、推薦、エージェント回答を提供する企業は、

出力責任
誤情報対策
苦情処理
修正プロセス
証跡管理

を明確にする必要があります。

日本：AI促進法とデータ利活用の緊張

事実

日本では、AIの研究開発・利活用を促進する法律が2025年に成立し、2025年9月に全面施行されています。
参照URL：
https://www.gov-online.go.jp/hlj/en/november_2025/november_2025-08.html

また、2026年6月には、日本のデジタル担当大臣が、AI競争で遅れれば日本が「AI colony」になりかねないと述べ、個人情報保護法改正を含むデータ利活用の必要性を訴えたと報じられています。

分析

日本のAI Governanceは、EUのような禁止型・罰則型ではなく、依然として促進型です。

ただし今後は、

医療データ
個人情報
生成AI学習
安全保障
産業競争力

のバランスが争点になります。

日本企業にとっては、AI利用を止めるのではなく、利用根拠・リスク評価・説明責任を整えることが現実的な対応になります。

韓国：AI Basic Actが市場参入時のガバナンス要件へ

事実

韓国のAI Basic Actおよび施行令は、2026年1月22日に施行されました。
参照URL：
https://www.trade.gov/market-intelligence/south-korea-ai-basic-act

同法は、AI産業振興と、信頼性・安全性・透明性・利用者保護の基本義務を組み合わせた制度です。

分析

韓国は、EUほど厳格ではない一方、日本よりも明確に制度化されたAI Governanceへ進んでいます。

韓国市場にAIサービスを提供する企業は、今後、

高影響AI
透明性
安全性
国内代理人
利用者保護

を事前に整理する必要があります。

シンガポール／ASEAN：実装可能なAI Governanceを継続

事実

ASEANは「ASEAN Guide on AI Governance and Ethics」を公開しており、AIの設計・開発・導入に関する実務ガイドとして位置付けています。
参照URL：
https://asean.org/book/asean-guide-on-ai-governance-and-ethics/

また、シンガポールのIMDAはASEAN Working Group on AI Governanceを主導し、フレームワーク開発、評価、知識共有、能力構築を進めています。
参照URL：
https://www.imda.gov.sg/about-imda/international-relations/asean-working-group-on-ai-governance

分析

ASEANは、EU型の包括法よりも、企業が導入しやすい実務ガイドを重視しています。

このアプローチは、日系企業が東南アジアでAIサービスを展開する際にも参考になります。

英国・オーストラリア：AI Security Institute連携が進展

事実

日本のAISIがまとめた政策動向によると、2026年5月25日に英国AISIとオーストラリアAISIは、急速に変化するAIセキュリティリスクに対処するため連携を強化することで合意しています。
参照URL：
https://aisi.go.jp/activity/activity_information/260612/
参照URL：
https://www.gov.uk/government/news/uk-and-australia-pact-on-fast-moving-ai-security-risks