本記事で得られる3つのポイント
- AI Governanceは、AI Agentの「実行時制御」と「停止可能性」へ移行している
- Five Eyes、米国、日本、カナダで、AI Securityが国家安全保障・重要インフラ防衛と直結し始めている
- Google DeepMind、Microsoft、OpenAI、Anthropicの動きから、Frontier AIは通常のSaaSではなく「管理対象インフラ」になりつつある
なぜ重要か：
今後のAI活用では、「AIを使えること」よりも「AIを監査・制御・隔離・停止できること」が企業価値とリスク管理の中核になります。
前回からの主な変化
今回の主な更新は以下です。
- Five Eyesが、AIによる高度サイバー攻撃リスクを「数年後」ではなく「数か月以内」の脅威として警告
- OpenAIの新モデル提供が、米国政府のサイバーセキュリティ審査を受けた制限付きアクセスとして報道
- Anthropicが、Alibaba関連主体によるClaude能力抽出を主張
- Google DeepMindのAI Control Roadmapが、Agentを潜在的な内部脅威として扱う設計思想を明確化
- Microsoft AutoGen StudioのAutoJack脆弱性報道により、Agent制御プレーンの分離・認証・認可が実務課題化
- カナダはAI for All戦略でAI Safety InstituteとソブリンAIを強化
- 日本では、日銀総裁発言として生成AI由来のサイバー攻撃リスク監視が報じられた
今週の重要アップデート
Five Eyes：AI Securityが経営リスクへ格上げ
事実
2026年6月22日、米国・英国・カナダ・オーストラリア・ニュージーランドのFive Eyesは、Frontier AIモデルが高度なサイバー攻撃能力を急速に高める可能性について警告しました。
分析
これは今週最大の差分です。AI Securityは、情報システム部門だけの課題ではなく、経営、BCP、重要インフラ、国家安全保障の論点になりました。
企業は今後、AI利用ポリシーだけでなく、AIを使った攻撃を前提にしたサイバー防衛計画を必要とします。
OECD：Hiroshima AI Process Reporting Framework 2.0
事実
OECDは2026年5月28日、Hiroshima AI Process voluntary reporting framework 2.0を発表しました。
参照URL：
https://www.oecd.org/en/about/news/press-releases/2026/05/oecd-launches-streamlined-hiroshima-ai-process-reporting-framework-to-help-small-and-medium-sized-enterprises-participate.html
https://oecd.ai/
分析
OECDは、原則提示から「報告可能なAI Governance」へ移行しています。特に中小企業も参加しやすい形へ整理された点は、AI透明性報告の裾野拡大として重要です。
UNESCO：2026年9月に第4回AI倫理グローバルフォーラム
事実
UNESCOは、2026年9月14日から17日にサウジアラビア・リヤドで第4回Global Forum on the Ethics of AIを開催予定です。
参照URL：
https://www.unesco.org/en/forum-ethics-ai
https://www.unesco.org/en/artificial-intelligence/recommendation-ethics
分析
UNESCOは、法規制ではなく倫理・人権・包摂性の国際基盤です。中東開催という点からも、AI Governanceが欧米中心から多極化していることが分かります。
EU AI Act：GPAI対応は実装フェーズへ
事実
EU AI Actは2024年8月1日に発効し、原則として2026年8月2日に全面適用されます。GPAI Code of Practiceは、Transparency、Copyright、Safety and Securityを中心に構成されています。
参照URL：
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai
分析
EU対応では、AIポリシーの作成だけでは不十分です。モデル文書、評価結果、著作権対応、安全性評価、監査ログ、インシデント対応記録を、実務証跡として残す必要があります。
NIST AI RMF：重要インフラ向けProfileが焦点
事実
NISTはAI RMF 1.0の改訂を進めており、2026年4月7日に重要インフラ向けAI RMF ProfileのConcept Noteを公開しています。
参照URL：
https://www.nist.gov/itl/ai-risk-management-framework
https://airc.nist.gov/airmf-resources/airmf/
分析
NIST AI RMFは、AI Governanceの実務OSとして引き続き重要です。特に重要インフラ向けProfileは、金融、通信、電力、医療、公共サービスのAI利用に直結します。
OWASP：Agentic AI Securityが実装標準へ
事実
OWASPはLLM Applications Top 10に加え、Agentic Applications Top 10 for 2026を公開しています。
参照URL：
https://owasp.org/www-project-top-10-for-large-language-model-applications/
https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/
https://owasp.org/www-project-agentic-skills-top-10/
分析
AI Agentでは、Prompt Injectionだけでなく、Tool Misuse、Agent Identity、Memory Poisoning、Unexpected Code Execution、Rogue Agentsが重要になります。
今後、Agentを本番導入する企業は、OWASP Agentic Applications Top 10をセキュリティレビューの標準チェックリストに入れるべきです。
ISO/IEC 42001：AIマネジメントシステムの基盤
事実
ISO/IEC 42001は、AIマネジメントシステムに関する国際規格です。
参照URL：
https://www.iso.org/home/insights-news/resources/iso-42001-explained-what-it-is.html
分析
ISO/IEC 42001は、EU AI Act、NIST AI RMF、各国AI規制を社内統制として運用するための土台です。AI利用企業では、AI責任者、AI台帳、リスク評価、監査、改善プロセスの整備が必要です。
地域別アップデート
米国：Frontier AIは政府審査対象へ
事実
2026年6月2日、米ホワイトハウスは「Promoting Advanced Artificial Intelligence Innovation and Security」を公表しました。また、OpenAIのGPT-5.6提供が制限付きアクセスで開始されたと報じられています。
参照URL：
https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security/
https://www.axios.com/2026/06/26/openai-gpt-sol-terra-luna-trump
分析
米国では、Frontier AIが通常のクラウドサービスではなく、サイバー能力・安全保障上の管理対象として扱われ始めています。企業は、モデルアクセス、利用者属性、国籍、用途制限を確認する必要があります。
英国：AI Security Instituteが評価基盤を形成
事実
英国AI Security Instituteは、Frontier AI Trends Reportを通じて、サイバー、化学・生物、 autonomy、safeguardsなどの能力進展を評価しています。
参照URL：
https://www.aisi.gov.uk/frontier-ai-trends-report
https://www.gov.uk/government/publications/ai-security-institute-frontier-ai-trends-report-factsheet/ai-security-institute-frontier-ai-trends-report-factsheet
分析
英国はAI SafetyからAI Securityへ軸足を移しています。特にFrontier AIの能力評価を政府主導で行う点は、今後の国際的なAI審査モデルになり得ます。
日本：AI促進と金融サイバーリスクが並行
事実
日本ではAI促進法によりAI研究開発・利活用を後押しする制度が進んでいます。一方、2026年6月24日には、日銀総裁がAIや非銀行金融活動が金融システムに与える影響を注視すべきと述べたと報じられました。
参照URL：
https://www.whitecase.com/insight-alert/japans-first-ai-legislation-becomes-law-focus-promoting-research-and-development-no
https://www.reuters.com/world/asia-pacific/boj-must-scrutinise-impact-financial-system-ai-non-bank-activities-ueda-says-2026-06-24/
分析
日本は促進型AI Governanceを維持しつつ、金融・重要インフラではAI Security対応が急務になっています。企業は、AI導入促進とサイバー防衛を同時に設計する必要があります。
韓国：AI Basic ActとAI産業投資
事実
韓国のAI Basic Actは2026年1月22日に施行されました。また、SamsungがAIデータセンター、半導体、ロボティクス等へ大規模投資を計画していると報じられています。
参照URL：
https://www.cooley.com/news/insight/2026/2026-01-27-south-koreas-ai-basic-act-overview-and-key-takeaways
https://www.reuters.com/world/asia-pacific/samsung-invest-1000-trillion-won-south-korea-media-report-says-2026-06-25/
分析
韓国は、制度化されたAI Governanceと産業政策を同時に進めています。AIサービス提供企業は、高影響AI、透明性、通知、利用者保護、国内代理人要件を確認する必要があります。
シンガポール／ASEAN：Agentic AI Governanceで先行
事実
シンガポールIMDAは2026年5月20日、Model AI Governance Framework for Agentic AIを更新しました。
参照URL：
https://www.imda.gov.sg/resources/press-releases-factsheets-and-speeches/updated-model-ai-governance-framework-for-agentic-ai
https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf
https://asean.org/book/expanded-asean-guide-on-ai-governance-and-ethics-generative-ai/
分析
シンガポールは、AI Agentの実務統制で先行しています。特に、完全な人間監視が現実的でない状況で、リスク評価、制御、監査、説明可能性をどう組み合わせるかが実務的です。
中国：AI消費統合とモデル能力抽出問題
事実
中国はAIを消費・サービス領域へ統合する17施策を発表しました。一方、AnthropicはAlibaba関連主体がClaudeの能力を不正に抽出したと主張しています。
参照URL：
https://www.reuters.com/business/media-telecom/china-announces-measures-promote-ai-integration-with-consumption-2026-06-18/
https://www.reuters.com/world/china/anthropic-says-alibaba-illicitly-extracted-claude-ai-model-capabilities-2026-06-24/
分析
中国はAIの社会実装を加速しつつ、米中間ではモデル能力・知的財産・サイバー能力をめぐる緊張が高まっています。AI Governanceは技術統制だけでなく、地政学リスク管理になっています。
UAE／サウジアラビア：AI倫理と国家戦略が接続
事実
UNESCOの第4回Global Forum on the Ethics of AIは、2026年9月にサウジアラビア・リヤドで開催予定です。
参照URL：
https://www.unesco.org/en/forum-ethics-ai
https://www.spa.gov.sa/en/N2608636
分析
中東地域では、AI Governanceが国家戦略、行政DX、スマートシティ、データ主権、国際会議誘致と一体化しています。AI倫理の議論も、欧米中心から中東・アジアを含む多極型へ移っています。
オーストラリア：Five Eyes警告と任意AI安全標準
事実
オーストラリアはFive Eyes警告の一角を担い、国内ではVoluntary AI Safety Standardを運用しています。
参照URL：
https://www.industry.gov.au/publications/voluntary-ai-safety-standard
https://www.reuters.com/world/asia-pacific/five-eyes-intelligence-alliance-warns-that-new-ai-models-pose-urgent-cyber-risk-2026-06-22/
分析
オーストラリアは、任意ガードレールとサイバー安全保障を組み合わせる実務型です。AIを導入する企業には、リスク評価、Human Oversight、記録管理、サプライチェーン情報共有が求められます。
カナダ：AI for AllとAI Safety Institute強化
事実
カナダ政府は2026年6月8日、「Canada’s National Artificial Intelligence Strategy: AI for All」を公表し、Canadian AI Safety Institute強化に5,000万カナダドルを投資するとしています。
参照URL：
https://ised-isde.canada.ca/site/ised/en/canadas-national-artificial-intelligence-strategy-ai-all
分析
カナダは、AIDA後の包括法不在を、AI Safety Institute、ソブリンAI、透明性、公共投資で補う方向です。AI依存リスクと国内AI能力の確保が主要テーマになっています。
主要企業アップデート
Google DeepMind：AI Control Roadmap
事実
Google DeepMindは2026年6月18日、「Securing the future of AI agents」を公開し、AI Control Roadmapを示しました。
参照URL：
https://deepmind.google/blog/securing-the-future-of-ai-agents/
分析
最も重要なのは、AI Agentを「完全に信頼できる存在」ではなく「潜在的にミスアラインした内部主体」として扱う点です。これは、AI Agent版ゼロトラストに近い設計思想です。
Microsoft：Agent Governance ToolkitとAutoJack
事実
MicrosoftはAgent Governance Toolkitを公開しています。また、AutoGen Studioに関連するAutoJack脆弱性が報じられ、制御プレーンの認証・認可・分離の重要性が示されました。
参照URL：
https://opensource.microsoft.com/blog/2026/04/02/introducing-the-agent-governance-toolkit-open-source-runtime-security-for-ai-agents/
https://github.com/microsoft/agent-governance-toolkit
https://www.techradar.com/pro/security/microsoft-warns-ai-agents-are-being-autojack-ed-to-deliver-rce-payloads-by-browsing-untrusted-websites
分析
Microsoftの事例は、Agent Governanceが理論ではなく実装課題であることを示しています。Agentがブラウザ、ローカルサービス、API、開発環境に接続する場合、制御プレーンを守れなければRCEリスクが発生します。
OpenAI：Frontier Governance Frameworkと制限付きモデル提供
事実
OpenAIは2026年5月28日にFrontier Governance Frameworkを公開し、6月3日にはFrontier AI governanceの青写真も公開しました。加えて、GPT-5.6の制限付き提供が報じられています。
参照URL：
https://openai.com/index/openai-frontier-governance-framework/
https://openai.com/index/frontier-safety-blueprint/
https://www.axios.com/2026/06/26/openai-gpt-sol-terra-luna-trump
分析
OpenAIは、自社の安全性実務を規制適合文書として見せる方向へ進んでいます。これはAI企業が、単なる製品提供者ではなく、規制対象インフラ事業者として扱われ始めていることを意味します。
Anthropic：RSPとモデル能力抽出問題
事実
AnthropicはResponsible Scaling Policyを公開しています。2026年6月24日には、Alibaba関連主体がClaudeの能力を大規模に抽出したとAnthropicが主張したことが報じられました。
参照URL：
https://www.anthropic.com/responsible-scaling-policy
https://www.anthropic.com/news/responsible-scaling-policy-v3
https://www.reuters.com/world/china/anthropic-says-alibaba-illicitly-extracted-claude-ai-model-capabilities-2026-06-24/
分析
AI Governanceは、モデルの有害利用だけでなく、モデル能力そのものの窃取・蒸留・再現リスクを扱う段階に入りました。これはAI企業の競争力、知的財産、安全保障に直結します。
Palantir：権限・監査・既存統制との統合
事実
Palantir AI FDEは、ユーザーの既存IDと権限のもとで動作し、手動操作と同じ権限チェック、ガバナンス制御、監査ログの対象になると説明されています。
参照URL：
https://palantir.com/docs/foundry/ai-fde/security-and-governance/
https://palantir.com/docs/foundry/aip/ethics-governance/
分析
Palantirの設計は、Agent Governanceの基本に近いものです。AI Agentを独立した万能Botとして扱わず、既存のID、権限、監査、Ontologyに紐づけることが重要です。
IBM：watsonx.governanceとAgentic AI Governance
事実
IBM watsonx.governanceは、AIの監視、説明可能性、リスク管理、規制対応を支援するプラットフォームです。
参照URL：
https://www.ibm.com/products/watsonx-governance
https://www.ibm.com/think/insights/agentic-ai-governance-playbook
分析
IBMは、AI GovernanceをGRC、モデル管理、Agent Catalog、ライフサイクル統制へ接続しています。大企業では、AI台帳とAgent台帳を分けずに一体管理する方向が現実的です。
xAI：Grok画像生成とプライバシー法違反
事実
2026年6月11日、カナダのプライバシー当局は、xAIのGrok画像生成機能が非同意の性的ディープフェイク生成を可能にしたとして、プライバシー法違反を認定したと報じられました。
参照URL：
https://www.reuters.com/business/media-telecom/groks-ai-image-generation-tool-violated-canadian-privacy-law-says-watchdog-2026-06-11/
https://x.ai/safety
分析
安全性ページやモデルカードは重要ですが、それだけでは不十分です。実際に問われるのは、事前リスク評価、有害生成の防止、インシデント後の是正、継続監視の運用証跡です。
OneTrust：AI GovernanceをGRC運用へ統合
事実
OneTrustはAI Governance、Privacy、Data Use Governance、Tech Risk & Complianceを統合するプラットフォームとして、AIライフサイクル全体の管理を打ち出しています。
参照URL：
https://www.onetrust.com/
https://www.onetrust.com/solutions/ai-governance/
分析
OneTrustの方向性は、AI Governanceを法務・リスク・セキュリティ・プライバシーの統合運用へ接続するものです。企業では、AI導入申請、リスク評価、承認、監査、是正措置をワークフロー化する必要があります。
今週の総括
2026年6月29日時点での結論は、AI Governanceが「AIを正しく使うための方針」から、「AI AgentとFrontier AIを制御するための運用基盤」へ移行しているということです。
特に今週は、以下の論点が明確になりました。
- Frontier AIは国家安全保障上の管理対象になりつつある
- AI Agentは内部脅威モデルで管理する必要がある
- Agentの制御プレーンはサイバー攻撃対象になる
- AI能力抽出・モデル蒸留は企業リスクであり安全保障リスクでもある
- AI GovernanceはGRC、サイバーセキュリティ、BCP、法務、データガバナンスの統合領域になった
実務担当者向けチェックポイント
- AI Agentが利用するAPI、ブラウザ、ローカルサービス、外部ツールを棚卸しする
- Agentに付与する権限を人間ユーザー単位、業務単位、データ分類単位で制限する
- Tool Call、判断理由、承認履歴、出力結果、例外処理をログ化する
- Agent制御プレーンに認証・認可・ネットワーク分離を適用する
- OWASP LLM Top 10とAgentic Applications Top 10をセキュリティレビューに組み込む
- NIST AI RMF、ISO/IEC 42001、EU AI Act、韓国AI Basic Actを横断的にマッピングする
- Frontier AI利用時は、提供国、利用制限、モデルアクセス条件、データ所在地を確認する
- 重要インフラ・金融・医療・公共領域では、AI SecurityをBCPと同じ経営課題として扱う
- モデル能力抽出、プロンプト漏洩、データ蒸留、シャドーAIを監視対象にする
- AIベンダーのSafety Framework、Incident Response、監査証跡、第三者評価を確認する