Kaichi Tsukai > AI > 週刊 AI Governance Watch｜2026年7月6日調査版

週刊 AI Governance Watch｜2026年7月6日調査版

by 塚井海地

週刊 AI Governance Watch：AI SecurityとAI Sovereigntyが企業実務に近づく

本記事で得られる3つのポイント

  1. AI Governanceは、倫理・原則から「実行時統制」「安全保障」「AI主権」へ広がっている。
  2. Frontier AIとAI Agentは、企業の便利ツールではなく、監査・権限管理・停止設計が必要な管理対象になっている。
  3. 中小企業・個人事業主でも、AI利用ルール、入力禁止情報、ログ、承認フロー、権限制限の整備が必要になっている。

なぜ重要か

AI活用は止めるものではありませんが、無管理で使うものでもありません。今後は「使えるAI」よりも「安全に使い続けられるAI」が企業価値になります。

導入

前回の2026年6月29日版では、Five EyesのAIサイバーリスク警告、OpenAI・AnthropicをめぐるFrontier AIのアクセス管理、Google DeepMindのAI Control Roadmap、Microsoft Agent Governance Toolkitを中心に整理しました。

今回の2026年7月6日版では、さらに以下の動きが確認されました。

  • UNの独立科学パネルがAIの利点とリスクに関する初回評価を公表
  • AnthropicのFable 5 / Mythos 5に対する米国輸出制限が解除
  • AlibabaがClaude Codeの社内利用禁止を進めたと報道
  • Microsoftが企業向けAI導入支援組織を新設
  • 韓国がAI・半導体・データセンター投資を国家戦略として加速
  • OECD、EU、NIST、IMDA、OWASPの既存フレームワークが、より実務証跡・運用管理へ接近

中小企業・個人事業主にとっても、これは遠い話ではありません。ChatGPT、Claude、Gemini、Copilot、業務SaaS内蔵AIを使う時点で、情報漏洩、著作権、個人情報、誤回答、権限管理、ログ不足の問題はすでに関係しています。

最新動向の概要

国際機関の動き

事実

OECDは2026年5月28日、Hiroshima AI Process voluntary reporting framework 2.0を発表しました。これは、先進AIシステムを開発する組織が、安全性・セキュリティ・信頼性に関する取り組みを報告しやすくする枠組みです。

UNESCOは、2026年9月14日から17日にサウジアラビア・リヤドで第4回Global Forum on the Ethics of AIを開催予定です。

また、2026年7月1日には、UNの独立科学パネルによるAIの利点とリスクに関する初回報告が報じられました。報告は、2026年7月6日から7日にジュネーブで開催されるGlobal Dialogue on AI governanceで各国政府に提示される予定です。

分析

国際機関の動きは、「AI倫理を語る段階」から「報告・評価・国際対話の仕組みを作る段階」へ移っています。特にOECDの報告フレームワークは、企業のAI透明性報告のひな型として参考になります。

EUの動き

事実

EU AI Actは、GPAIモデル提供者向けのCode of Practiceを通じて、透明性、著作権、安全性・セキュリティ対応を求めています。European Commissionは、GPAI Code of Practiceを、AI Act上の義務を満たすための任意ツールとして位置付けています。

2026年6月10日には、AI生成コンテンツのマーキング・ラベリングに関するCode of Practiceの情報も公開されています。

分析

EUでは、AI Governanceが「方針」ではなく「証跡」に寄っています。モデル文書、著作権対応、AI生成表示、安全性評価、インシデント対応、監査ログを残せるかが重要です。

米国の動き

事実

OpenAIは2026年6月3日、Frontier AI governanceに関する米国向け青写真を公開しました。さらに2026年6月23日には、Frontier Governance Frameworkを通じて、リスク評価、モデル報告、セキュリティ制御、インシデント対応、外部専門家の関与を運用実務へ落とし込む考えを示しています。

Anthropicは、2026年6月12日に米国政府の指令によりFable 5 / Mythos 5への外国人アクセスを停止したと発表しました。その後、2026年6月30日に輸出制限が解除されたと公表しています。

分析

米国では、Frontier AIが通常のSaaSではなく、安全保障・輸出管理・サイバー能力評価の対象になりつつあります。企業は、モデルの性能だけでなく、提供国、利用者制限、データ所在地、アクセス条件を確認する必要があります。

英国の動き

事実

英国AI Security Instituteは、Frontier AI Trends Reportを公開し、LLMの能力進展、サイバー、化学・生物、Autonomy、Safeguardsなどの領域を評価しています。

分析

英国は「AI Safety」から「AI Security」へ軸足を移しています。高性能AIが社会や企業に与えるリスクを、抽象論ではなく評価・テストの対象として扱っている点が重要です。

日本の動き

事実

日本では、AI研究開発・利活用を促進する法律が成立し、AI活用を後押しする制度設計が進んでいます。また、個人情報保護法の改正議論では、AI学習、個人情報、越境移転、行政上の制裁などが論点になっています。

分析

日本はEU型の強い規制よりも、促進型・協調型のAI Governanceを重視しています。ただし、金融、医療、行政、重要インフラでは、AI Securityと個人情報保護の実務対応がより重要になります。

主要AI企業の動き

事実

Google DeepMindは2026年6月18日、AI Agentを安全に管理するためのAI Control Roadmapを公開しました。

Microsoftは2026年4月2日、Agent Governance Toolkitを公開し、AI Agentに対する実行時ポリシー制御、監査ログ、権限管理を示しました。2026年7月2日には、企業のAI導入を支援する新組織を立ち上げたと報じられています。

AnthropicはFable 5 / Mythos 5をめぐる輸出制限と解除を経験し、Frontier AIが政府判断の対象になり得ることを示しました。

Alibabaは2026年7月3日、Claude Codeの社内利用を禁止する方針と報じられました。背景には、Anthropicによるモデル蒸留・不正利用対策と米中AI対立があります。

分析

AI企業の実装競争は、モデル性能だけでなく、Agent統制、アクセス管理、モデル保護、企業導入支援へ広がっています。企業側は、AIツールを「便利な外部サービス」と見るだけでは不十分です。

今回の重要ポイント

ポイント1：AI Governanceは「報告できる統制」へ進んでいる

OECDのHiroshima AI Process Reporting Framework 2.0やEUのGPAI Code of Practiceは、AIリスク管理を外部に説明できる形へ変えています。

実務上の意味

  • AI利用台帳を作る
  • どのAIを何に使っているか記録する
  • モデル・サービス提供元を把握する
  • リスク評価と承認履歴を残す
  • インシデント時の連絡先と対応手順を決める

ポイント2：Frontier AIは安全保障・輸出管理の対象になり始めた

AnthropicのFable 5 / Mythos 5に対する一時的な米国輸出制限と解除は、Frontier AIが政府判断の対象になり得ることを示しています。

実務上の意味

  • 利用しているAIモデルの提供国を確認する
  • 海外拠点・外部委託先で使えるか確認する
  • 突然の利用停止に備える
  • 代替AIサービスを検討する
  • 重要業務を単一AIベンダーに依存しすぎない

ポイント3：AI Agentは「権限を持つ実行主体」として管理する必要がある

Google DeepMindのAI Control Roadmap、Microsoft Agent Governance Toolkit、OWASP Agentic Applications Top 10は、AI Agentを監査・制御・停止できる設計の重要性を示しています。

実務上の意味

  • Agentに付与する権限を最小化する
  • API、ファイル、メール、DBへのアクセス範囲を限定する
  • Tool Callをログ化する
  • 承認が必要な処理を定義する
  • 緊急停止、隔離、権限剥奪の仕組みを持つ

実務への影響

企業が確認すべきこと

  • 自社で使っている生成AI、AI Agent、AI内蔵SaaSの棚卸し
  • 入力してよい情報と禁止情報の分類
  • 顧客情報、個人情報、契約情報、ソースコードの取り扱い
  • AIの出力を誰が確認するか
  • AI Agentが実行できる処理の範囲
  • ログ、承認履歴、修正履歴の保存
  • ベンダーのAI Safety / Security方針
  • 海外AIサービス利用時のデータ所在地と越境移転

個人事業主が確認すべきこと

  • 顧客情報をAIに入力していないか
  • 契約書、請求書、未公開原稿、写真データの扱い
  • 生成物の著作権・商用利用条件
  • AIで作った文章や画像をそのまま公開していないか
  • AIサービスの利用規約変更を確認しているか
  • 代替ツールを持っているか

AIを業務利用する現場が確認すべきこと

  • AI回答を最終判断にしていないか
  • AIに社内秘密を入れていないか
  • AI Agentに過剰な権限を与えていないか
  • 誰がAI出力を承認したか記録しているか
  • 誤回答が起きた時の訂正手順があるか
  • AI利用の相談窓口があるか

リスク整理

リスク内容実務上の注意点
情報漏洩個人情報、顧客情報、契約情報、ソースコードをAIへ入力してしまう入力禁止情報を明文化し、業務AIと個人AIを分ける
誤回答AIが事実と異なる内容を自然な文章で出力する公開前・納品前に人間が確認する
プロンプトインジェクション外部文書やWebページ経由でAIの指示が乗っ取られるRAG、ブラウザ操作、Agent利用時に特に注意する
権限管理不備AI Agentが本来不要なファイル、API、DBへアクセスできる最小権限、アクセス制御、承認制を導入する
ログ不足AIが何を参照し、何を実行したか追跡できないTool Call、入力、出力、承認、例外処理を記録する
著作権・個人情報生成物や学習データに第三者権利・個人情報が含まれる商用利用条件、引用、同意、匿名化を確認する

今日からできる対策

1. AI利用ルールを決める

まずは1枚で構いません。誰が、どのAIを、何の業務に使ってよいかを決めます。

2. 入力してよい情報・禁止情報を分ける

顧客情報、個人情報、契約書、未公開資料、ソースコード、認証情報は原則として禁止情報に分類します。

3. 承認フローを決める

AI出力をそのまま公開・送信・納品しないルールを作ります。重要な文章、契約、見積、顧客対応は人間の確認を必須にします。

4. ログを残す

最低限、どのAIを使ったか、何の目的で使ったか、誰が確認したかを記録します。

5. AIエージェントの権限を制限する

Agentにメール送信、ファイル削除、外部API操作、DB更新などを許可する場合は、必ず権限範囲と承認条件を決めます。

6. 定期的に見直す

AIサービスは更新が速いため、月1回でも利用状況、規約変更、社内ルールの見直しを行います。

今後の注目ポイント

今後30日以内に確認すべき動き

  • EU AI Act / GPAI Code of Practiceの署名・運用状況
  • Anthropic Fable 5 / Mythos 5の再展開とアクセス条件
  • AlibabaとAnthropicのモデル蒸留・Claude Code問題
  • Microsoftの企業AI導入支援組織の具体的サービス
  • UN Global Dialogue on AI governanceの議論内容

今後3か月で注視すべき規制・企業動向

  • UNESCO第4回Global Forum on the Ethics of AI
  • NIST AI RMF重要インフラProfileの進展
  • シンガポールAgentic AI Frameworkの企業採用
  • OECD Hiroshima AI Process Reporting Framework 2.0の利用拡大
  • OpenAI、Anthropic、Google DeepMindのFrontier AI安全性文書の更新
  • ISO/IEC 42001認証取得企業の増加

中小企業・個人事業主が準備しておくべきこと

  • AI利用台帳
  • 入力禁止情報リスト
  • 生成物確認ルール
  • AI利用時の顧客説明文
  • AI Agentの権限管理
  • 代替AIツールの候補
  • 月1回のAI利用見直し

まとめ

2026年7月6日時点で、AI Governanceは「大企業や政府だけの話」ではなくなっています。

国際機関は報告フレームワークを整備し、EUはGPAI対応を進め、米国ではFrontier AIが安全保障・輸出管理の対象になり、企業ではAI Agentの実行時統制が本格化しています。

中小企業・個人事業主が今すぐやるべきことは、難しい制度対応ではありません。

まずは、

  • 何のAIを使っているか
  • 何を入力してはいけないか
  • 誰が確認するか
  • ログをどう残すか
  • AI Agentにどこまで権限を与えるか

を決めることです。

AIは使わないリスクもあります。だからこそ、恐れすぎず、雑に使いすぎず、管理しながら活用する姿勢が重要です。

参照URL

https://www.oecd.org/en/about/news/press-releases/2026/05/oecd-launches-streamlined-hiroshima-ai-process-reporting-framework-to-help-small-and-medium-sized-enterprises-participate.html
https://oecd.ai/
https://www.unesco.org/en/forum-ethics-ai
https://www.unesco.org/en/artificial-intelligence/recommendation-ethics
https://www.reuters.com/legal/litigation/un-report-sees-enormous-potential-benefits-big-risks-ai-2026-07-01/
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai
https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content
https://www.nist.gov/itl/ai-risk-management-framework
https://airc.nist.gov/airmf-resources/airmf/
https://owasp.org/www-project-top-10-for-large-language-model-applications/
https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/
https://www.iso.org/home/insights-news/resources/iso-42001-explained-what-it-is.html
https://openai.com/index/frontier-safety-blueprint/
https://openai.com/index/helping-build-shared-standards-for-advanced-ai/
https://www.anthropic.com/news/fable-mythos-access
https://www.anthropic.com/news/redeploying-fable-5
https://www.anthropic.com/responsible-scaling-policy
https://deepmind.google/blog/securing-the-future-of-ai-agents/

Introducing the Agent Governance Toolkit: Open-source runtime security for AI agents

https://techcommunity.microsoft.com/blog/appsonazureblog/govern-ai-agents-on-app-service-with-the-microsoft-agent-governance-toolkit/4510962
https://www.reuters.com/business/retail-consumer/microsoft-launches-firm-help-companies-adopt-ai-with-25-billion-2026-07-02/
https://www.reuters.com/world/china/alibaba-ban-claude-code-workplace-over-alleged-backdoor-risks-source-says-2026-07-03/
https://www.reuters.com/world/asia-pacific/south-korean-president-unveil-massive-ai-chip-investment-drive-2026-06-29/
https://www.reuters.com/world/asia-pacific/south-korea-create-future-fund-chip-windfall-spur-growth-tackle-inequality-2026-07-05/
https://www.imda.gov.sg/resources/press-releases-factsheets-and-speeches/updated-model-ai-governance-framework-for-agentic-ai
https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf
https://asean.org/book/expanded-asean-guide-on-ai-governance-and-ethics-generative-ai/
https://www.aisi.gov.uk/frontier-ai-trends-report
https://www.industry.gov.au/publications/voluntary-ai-safety-standard
https://www.ai.gov.au/staying-safe-and-responsible/essential-ai-practices/guidance-ai-adoption-implementation-guidance
https://ised-isde.canada.ca/site/ised/en/canadas-national-artificial-intelligence-strategy-ai-all
https://www.pm.gc.ca/en/news/news-releases/2026/06/04/prime-minister-carney-launches-ai-all-canadas-new-national-artificial
https://www.reuters.com/business/media-telecom/china-announces-measures-promote-ai-integration-with-consumption-2026-06-18/
https://www.ibm.com/products/watsonx-governance
https://www.ibm.com/think/insights/agentic-ai-governance-playbook
https://palantir.com/docs/foundry/ai-fde/security-and-governance/
https://palantir.com/docs/foundry/aip/ethics-governance/
https://x.ai/safety
https://x.ai/legal/privacy-policy
https://www.onetrust.com/solutions/ai-governance/
https://www.onetrust.com/blog/responsible-ai-in-2026-a-3-step-guide-for-governance-that-scales/

NVIDIA-Verified Agent Skills Provide Capability Governance for AI Agents