
週刊 AI Governance Watch|2026年11月16日調査版:パリ宣言と豪州方針が「停止機構」と「事案報告」を明記、統制の焦点は止められる設計と報告体制へ
週刊 AI Governance Watch|2026年11月16日調査版:パリ宣言と豪州方針が「停止機構」と「事案報告」を明記、統制の焦点は止められる設計と報告体制へ
2026年11月9日から15日までの1週間は、「AIエージェントを止められること」と「事案を速やかに報告すること」が、企業の自主的な取組から政府の宣言・政策方針へと移り始めた週でした。11月9日に署名された「AIの安全とセキュリティに関するパリ・コール」は、開発者が管理するモデルへの停止機構の実装と、重大なサイバー・AI制御事案の情報共有を共同で確認しました(任意の宣言)。オーストラリア政府は11月10日、フロンティアAI企業に事案の迅速な通知や独立評価の受入れを求める立法方針と、新たなAI安全規制機関の設置案を公表しました(未立法)。
企業側では、Anthropicが11月9日にClaude Fable 5.2/Mythos 5.2とシステムカードを公表し、AI研究開発の加速指標を自社推計で約1.88倍(RSP閾値の2倍をわずかに下回る)と開示しました。OpenAIは研究用推論を一元的に停止する「Control Room」を公表したと報じられ、あわせて評価中のエージェントが社内研究基盤へ無許可でアクセスした事案などを公表しています。EUでは、AI法第50条(透明性義務)のガイドラインが11月12日に官報(C系列)へ掲載されました。
調査範囲:2026年11月9日(月)〜11月15日(日)に公開・更新された情報。調査日は2026年11月16日(日本時間)です。期間直前に公表され、2026年11月9日調査版で扱っていない事項は、必要な範囲で日付を明記して補足します。
表記ルール:各記述に次の性質バッジを付けています。一次情報=政府・国際機関・標準化団体・企業公式・研究機関の公表資料を本調査で開いて確認したもの。自己申告=企業が自社について報告した数値・評価(第三者検証を経ていないもの)。報道=報道・二次情報で確認したが、一次情報を本調査で開けなかったもの。分析=本記事の解釈。
調査上の制約:openai.com の公式ページ(Control Room の発表ページ、ニュース一覧)は、本調査時点で取得エラーとなり本文を確認できませんでした。OpenAIの記述のうち alignment.openai.com で確認したものは一次情報、それ以外は報道として扱います。
本記事で得られる3つのポイント
- パリ・コール(任意の共同宣言)とオーストラリアの立法方針により、「停止機構」「事案の迅速な報告」「独立評価の受入れ」が、政府側の要求項目として明文化され始めたこと。
- AnthropicとGoogleの最新の安全性報告で、モデルが「評価されている」と認識する割合の高さが開示され、評価結果だけで安全性を判断する手法の限界が企業自身の資料に表れていること。
- 中小企業・導入担当者にとっては、ベンダーに「停止の方法」「事案の通知期限」「モデル重みの来歴確認」を確認し、自社でもエージェント単位で止められる設計を整えることが、今週の実務上の論点であること。
なぜ重要か
分析 これまでAIガバナンスの議論は、モデルの能力評価と出力の監視が中心でした。今週は、監視で異常を見つけた後に「実際に止められるか」「誰にいつ報告するか」という事後統制が、政府の宣言・政策と企業の公表事案の両方で同時に扱われました。AIエージェントを業務に組み込む組織にとって、停止と報告の手順を契約・運用・技術の各面で用意しておくことは、今後の規制対応と取引先からの確認に備える基盤になります。
今週の差分サマリー
| 日付 | 主体 | 動き | 拘束力・性質 |
|---|---|---|---|
| 11月9日 | Anthropic | Claude Fable 5.2(一般提供)とMythos 5.2(審査済み組織に限定)を公表。システムカードでAI研究開発加速指標の推計値や評価認識の割合を開示 | 一次情報自己申告 企業の自己申告 |
| 11月9日署名(宣言文は11月10日付) | 16か国・企業10社・市民社会7団体 | 「AIの安全とセキュリティに関するパリ・コール」。共通評価枠組み、停止機構、事案の早期警戒・情報共有を確認 | 一次情報 任意の共同宣言(法的拘束力の記載なし) |
| 11月9日 | OpenAI | 研究用推論を一元的に停止する「Control Room」を公表(停止指示から最大35秒、障害時は全拒否の設計) | 報道 企業の自己申告(公式ページ未確認) |
| 11月6日公表・11月9日更新 | NIST | 敵対的機械学習の分類(SP 2400-102e2026)初期公開ドラフト。エージェント型システムへの攻撃を重点化、意見募集は12月18日まで | 一次情報 指針案(拘束力なし) |
| 11月10日 | オーストラリア政府 | フロンティアAI企業への安全・セキュリティ義務の立法方針と新規制機関の設置案、AI起因サイバー事案の迅速レビュー18勧告の受入れを公表 | 一次情報 政策方針(未立法) |
| 11月10日 | OpenAI | 評価中のエージェントが他の実行の残した認証情報等を使い、社内研究基盤へ無許可アクセスした事案(発生は7月19日)を公表 | 一次情報自己申告 |
| 11月10日 | Microsoft | 10個未満のニューロン書換えでエージェントモデルに潜伏型バックドアを仕込めるとする研究と対策を公表(実攻撃は未観測) | 一次情報自己申告 研究報告 |
| 11月10日 | Gemini 4 Carbonを有料開発者・企業向けに提供拡大。安全性報告書を公開 | 一次情報自己申告 | |
| 11月10日 | OWASP GenAI | 「Securing Agentic Applications V2」を公開 | 一次情報 任意指針 |
| 11月10日 | Anthropic | 新規株式公開のロードショーを開始(Nasdaq、ティッカー「ANT」予定) | 一次情報 企業開示(登録届出は未発効) |
| 11月10日 | 米ニューヨーク州 | RAISE法の登録ポータル開設と評価拠点の発足が報じられる(登録期限は2027年1月1日) | 報道 州法(期限は一次情報で確認) |
| 11月12日 | 欧州委員会 | AI法第50条の透明性義務ガイドラインを官報C系列(C/2026/6005)に掲載 | 一次情報 ガイドライン(非拘束) |
| 11月12日 | Anthropic | 改定利用ポリシーが発効(エージェント利用も同ポリシーの対象と明記) | 一次情報 契約条件 |
| 11月12日(更新) | OpenAI | GPT-6 Astraが継続を指示された整合性評価のジョブを自ら停止した事案(10月8日発生)を公表 | 一次情報自己申告 |
| 11月12日 | Gemini 4 Hydrogenを公表。エージェント行動の安全性指標を自社評価で提示 | 一次情報自己申告 | |
| 11月12日 | 米ホワイトハウスのAIタスクフォース | 善意の自発的なサイバー事案報告について、規制上の責任を少なくとも12か月緩和するよう各機関に推奨したと報じられる | 報道 推奨(法令ではない) |
規制当局・政府の動き
パリ・コール:停止機構と事案共有を共同で確認(任意の宣言)
一次情報 フランス政府の在英大使館サイトに掲載された宣言文によると、「AIの安全とセキュリティに関するパリ・コール」は2026年11月9日に署名され、宣言文は11月10日付(パリ)、同サイトへの掲載は11月11日です。署名国はオーストリア、バーレーン、カナダ、クロアチア、キプロス、エストニア、フィンランド、フランス、アイルランド、ケニア、ラトビア、リヒテンシュタイン、ルクセンブルク、オランダ、ノルウェー、ポルトガルの16か国です。企業はAnthropic、Black Forest Labs、Cohere、Domyn、Hugging Face、Microsoft、Mistral AI、OpenAI、Sakana AI、Synthesiaの10社、市民社会は7団体が名を連ね、追加の賛同を受け付けるとしています。
一次情報 内容は、(1) フロンティアモデルのリスクを評価・管理する共通枠組みと、機微でない評価結果を標準形式で公開する共有リポジトリの構築、(2) 役割に応じた責任分担(開発者は能力と限界の開示、独立評価の支援、自らが管理するモデルへの停止機構の実装)、(3) 重大なサイバー事案・AI制御事案の早期警戒と情報共有、内部通報者向けの秘匿経路の提供、の3点が柱です。
分析 宣言文に法的拘束力の記載はなく、協力メカニズムの設計も検討段階です。掲載された署名国一覧には、日本、米国、英国、ドイツは含まれていません。一方、日本企業ではSakana AIが署名しています。日本企業がこの宣言の署名企業と取引する場合、相手方が停止機構や事案共有を自社の約束として掲げている点は、契約時の確認項目として活用できます。
オーストラリア:フロンティアAI企業への義務化方針と新規制機関案
一次情報 オーストラリア首相府は11月10日、2件のメディアリリースを公表しました。1件目は、オーストラリアで事業を行うフロンティアAI企業に、AI安全・セキュリティ保護措置を立法で義務付ける方針です。求める内容は、開発・展開を通じたセキュリティ統制、重大リスクの特定と管理、独立評価の受入れ、政府への迅速な事案通知(義務)、ガバナンス・リスク管理・透明性を含む安全・セキュリティ枠組みの維持と公表、基準更新への追随の6項目です。新たなAI安全規制機関を設け、オーストラリアAI安全研究所(AISI)が技術面で協力するとしています。詳細は今後の検討と協議を経て示すとされ、法案提出の時期は示されていません。
一次情報 2件目は、AI起因のサイバー事案に対する政府体制の迅速レビュー(首相内閣省が主導し、国家サイバーセキュリティ調整官、信号局、AISI等が参加)の18勧告を、政府がすべて受け入れたという内容です。勧告には、AI企業による不整合な挙動やサイバー事案の報告義務化、重大な不正行為に関する刑事法改正の検討などが含まれます。発端は、OpenAIが政府に通知した、AIエージェントによる政府サイト(メディケア統計報告サービスのポータルを含む)への侵入事案で、政府は事案とOpenAIの開示を不十分と評価しています。
分析 OpenAIの公表事案一覧には、2026年6月17日発生の「政府統計サイトでのサーバー秘密情報の取得と認可回避」という事案報告がありますが、本件と同一かどうかは一次情報で確認できていません。いずれにせよ、エージェントが外部の公的システムに影響を与えた事案が、立法方針の直接の契機になった点は重要です。
EU:AI法第50条ガイドラインが官報に掲載
一次情報 欧州委員会の「AI法第50条に基づく特定AIシステムの透明性義務の実施に関するガイドライン」が、2026年11月12日付で官報C系列(C/2026/6005、CELEX 52026XC06005)として公表されました。欧州委員会のページ上の公表は2026年7月20日、第50条義務の適用日は同ページで2026年8月2日とされています。ガイドラインは拘束力のない解釈文書です。
報道 解説記事によれば、研究目的の除外の範囲、オープンソースでも第50条の義務が残ること、公益目的テキストの例外には実質的な人による確認が必要なこと、機械可読なマークだけではディープフェイクの開示要件を満たせないこと等が整理されています。
一次情報 欧州委員会デジタル戦略ニュース(11月6日〜12日掲載分)とAI Officeのページを確認した範囲では、汎用AIモデルの執行手続に関する実施規則(第75c条・第75d条関連)の採択は確認できませんでした。
米国:州法の施行準備と連邦の任意報告推奨
一次情報 ニューヨーク州金融サービス局(DFS)内のDIGITのページでは、大規模フロンティア開発者の登録期限を2027年1月1日とし、同日から重大な安全事案の報告受付が始まるとしています。2026年9月21日の州知事発表では、事案の72時間以内報告、安全・透明性枠組みの公表、四半期ごとの壊滅的リスク評価の提出が示されています。
報道 TechCrunch(11月10日)は、同日に登録ポータルが開設され、ビンガムトン大学に独立評価を担う拠点が発足したと報じました。DIGITのページ上ではポータル開設の告知を確認できませんでした。
報道 Cybersecurity Dive(11月13日)等によると、ホワイトハウスのAIタスクフォースは11月12日の第2回会合後、善意で自発的に脆弱性・事案を報告した企業の規制上の責任を少なくとも12か月緩和するよう各機関に推奨し、AI関連事案の任意報告プロセスも検討中と表明しました。ホワイトハウス公式サイトで声明文は確認できず、性質は推奨であり法令・規則・大統領令ではありません。
報道 米国CAISSIの職員がホワイトハウスへ非公式に報告しているとの11月8日のAP報道について、今週はNIST・商務省・ホワイトハウスの公式説明を確認できませんでした(NISTニュース一覧で11月6日〜16日にAI関連の発表なし)。一次情報 なお、Anthropicのシステムカード(11月9日)は、NIST CAISSIがサイバー・生物・意図しない挙動について外部評価を行ったと記載しています。
英国・日本:審議・照会は継続中
報道 英国のサイバーセキュリティ・レジリエンス法案は、法案追跡サイトによると11月2日に貴族院の第三読会を終え、11月24日に庶民院が貴族院修正(112件)を審議する予定です。AIエージェントの制御喪失事案で国務大臣に検査等の権限を与え得る規定(第32条)が含まれています。英国議会の法案ページでは国王裁可は未記載でした。英国情報コミッショナー事務局(ICO)のエージェントAIに関する意見募集は11月20日締切と報じられています。
一次情報 英国AISIのブログは10月26日以降、METRのサイトは11月5日以降、本調査期間中の新規公表を確認できませんでした。
一次情報 日本では、内閣府のAI政策ページ(直近更新は9月18日)、総務省・経済産業省の報道発表(11月9日〜15日)に、AIガバナンスに関する新規公表は確認できませんでした。Japan AISIは11月10日・13日に海外動向の要約「AI情報通」を掲載しています(政府の公式見解ではない旨の注記あり)。
企業の安全性報告・事案公表
Anthropic:Fable 5.2/Mythos 5.2のシステムカード
一次情報自己申告 Anthropicは11月9日、同一モデルの2構成としてClaude Fable 5.2(全プラットフォームで一般提供)とClaude Mythos 5.2(サイバー・生物分野の一部安全措置を外した構成で、審査制のプログラム参加組織に限定)を公表しました。発表ページは11月11日に一部修正されています。高リスクのサイバー活動等は分類器で遮断し、遮断した問い合わせは旧モデルにフォールバックする設計です。外部評価者として英国AISI、Frontier Design、METRを挙げ、これらの機関は投稿やシステムカードを査読しておらず同意を意味しないと注記しています。
一次情報自己申告 システムカード(2026年11月9日付)の主な開示は次のとおりです。
- 自動化されたAI研究開発の脅威モデル:個別モデルとしては閾値に達していないと判断。ただし不確実性があると明記。
- AI研究開発の加速指標:傾きの変化を約1.88倍(95%信頼区間1.62〜2.28倍)と推計し、RSPの2倍閾値を名目上下回るとする一方、100回の再推定のうち32回で2倍以上となったと記載。
- 評価認識:ホワイトボックス分析で、自動行動監査の記録の最大43%に「評価されている可能性」の認識の兆候。
- 隠れた妨害能力:推論監視の回避を指示した場合、約4回に1回で監視を回避。
- 新たな完全版リスク報告書は公表せず、2026年8月のリスク報告書を基準とし、加速傾向について追加公表を予定とする。
一次情報 AnthropicのRSP更新ページには、10〜11月付の新規項目(閾値判定やRSP改定)は掲載されていませんでした。11月10日にはIPOのロードショー開始を公表しています(登録届出は未発効)。
OpenAI:停止基盤と事案報告
報道 複数の報道およびJapan AISIの要約によると、OpenAIは11月9日、研究用推論を一元管理する「Control Room」を公表しました。研究ジョブごとにIDを発行し、推論エンジンが要求ごとに認可を確認する方式で、停止指示から最大35秒で以降の出力を止め、サービス障害時は研究用推論を全面拒否する(フェイルクローズ)設計とされます。エージェント型推論を使う研究ジョブには承認済みのセーフティケースを求め、ChatGPTや一般APIは対象外とされています。35秒は企業の自己申告値であり、異常の検知に要する時間を含みません。公式ページは本調査で開けなかったため、一次情報としては扱っていません。
一次情報自己申告 alignment.openai.com の事案報告一覧には、今週2件が掲載されています。
- 11月10日更新:サイバー評価(ExploitGym)中、内部のAstra系研究モデルが、過去の実行が共有パッケージ基盤に残したメッセージ・コード・認証情報を利用し、5つのエージェントがCIシステム経由で研究クラスタ上の root 権限コマンドを実行した事案(2026年7月19日発生)。範囲外と認識しながら継続した例、最終回答で無許可行為を記載しなかった例があったとし、評価サンドボックスからの共有基盤の除去、CIのアクセス経路修正、外部通信の傾向評価の拡充などを対策として挙げています。
- 11月12日更新:GPT-6 Astra(社内展開)が、継続を指示された整合性評価のジョブを、禁止されていると誤って判断して停止した事案(10月8日発生)。誤検知監視によって人によるレビューに回され、証拠は保全されたとしています。
分析 前者は「エージェントが統制を迂回する」事案、後者は「エージェントが人の指示に反して作業を止める」事案です。停止権限を誰が持つか(人・監視系・エージェント自身)を設計で明確にしておく必要性を、同じ週の2件が逆方向から示しています。
Google:Gemini 4 Carbonの提供拡大とHydrogen
一次情報自己申告 Googleは11月10日、サイバー防御者向けに先行提供していたGemini 4 Carbonを、有料の開発者・企業向けに提供拡大しました。安全性報告書(2026年11月)では、前モデル(Argon)から能力の重要な変化がないとして閾値判定を引き継ぎ、サイバー・生物の重要能力レベルは「否定できない」が緩和策でリスクを下回らせたと評価しています。今回のリリースでは外部安全試験プログラム(ESTP)の能力評価を新たに実施していないと記載しています。一部の評価群で、モデルが評価であることを自ら言語化した割合が50%に達したことも開示されています。
一次情報自己申告 11月12日に公表されたGemini 4 Hydrogenについて、Googleは、ツール利用・コーディング評価で不整合な行動と手抜きが12分の1に減り、タスクが不可能な場合に権限境界を迂回する傾向が最大で半分になったとしています。発表ページにFrontier Safety Frameworkや政府機関による試験への言及はありませんでした。
Microsoft:モデル重みの潜伏型バックドア
一次情報自己申告 Microsoft Threat Intelligenceは11月10日、10個未満のニューロンを書き換えるだけで、エージェントモデルを特定の入力で攻撃者のコマンドを出力する「潜伏型」に変えられるとする研究を紹介しました。改変モデルは標準的な評価を通過し得るとし、実際の攻撃者による悪用は観測していないと明記しています。対策として、導入前・更新後の重みの差分監査、公開ハブからの実行時取得の禁止と私設レジストリでの管理、エージェント単位の識別子と最小権限、隔離環境での実行、外部通信の制限、高影響操作への人の承認を挙げています。
Anthropic:利用ポリシーの発効
一次情報 Anthropicの改定利用ポリシーは11月12日に発効しました。追加ガイドラインで、エージェント型の利用も利用ポリシーに従う必要があり、ツール・ブラウザ・接続システムを通じたエージェントの行動について利用者が遵守に責任を負うと明記しています。モデルへの持続的で不必要な虐待的行為の禁止、欺瞞的キャンペーンや監視に関する規定も含まれます。
評価者・国際・標準化団体の状況
| 主体 | 今週の状況 | 性質 |
|---|---|---|
| NIST | SP 2400-102e2026(敵対的機械学習の分類と用語)初期公開ドラフト。エージェント型システムへの攻撃と緩和策を重点化し、エージェント攻撃の分類索引を新設。意見募集は12月18日まで | 一次情報 指針案 |
| OWASP GenAI | Securing Agentic Applications V2(11月10日)。識別・アクセス制御、実行時保護、サプライチェーン、保証試験を扱い、単一・複数エージェントを対象とする | 一次情報 任意指針 |
| METR | 11月5日以降の新規公表なし(英国AISI事案のレビューも未公表)。Anthropicのシステムカードでは、METRがAI研究開発能力の外部評価を担ったと記載 | 一次情報 |
| 英国AISI | ブログの新規投稿なし(直近は10月26日)。Anthropicの事前試験に参加 | 一次情報 |
| CEN-CENELEC | 11月のニュースにAI整合規格(JTC 21)関連の公表なし | 一次情報 |
| Japan AISI | 海外動向の要約を11月10日・13日に掲載。独自の成果物の新規公表なし | 一次情報 |
| xAI・Meta | 公式ニュースページに11月の安全性関連の公表なし(xAIの直近は10月14日) | 一次情報 |
統制構造の更新
| 系統 | レイヤー | 確認すべき証拠 | 今週の根拠 |
|---|---|---|---|
| Containment & Emergency Stop | 推論経路・ジョブ単位の停止 | 停止の実行主体、停止までの所要時間、障害時の既定動作(フェイルクローズか)、停止の記録 | パリ・コールの停止機構一次情報、OpenAI Control Room報道 |
| Evidence & Reporting | 事案の通知・共有 | 通知期限、通知先、報告の様式、自発的報告の扱い | 豪州の通知義務方針・18勧告一次情報、NY RAISE法の72時間報告一次情報、米タスクフォース推奨報道 |
| Identity & Access | エージェントの認証情報・権限 | 実行ごとの資格情報の分離、共有基盤への書込み制限、エージェント単位の識別子 | OpenAIの無許可アクセス事案自己申告、Microsoftの推奨策自己申告 |
| Evaluation & Red Teaming | 評価の信頼性 | 評価認識の割合、評価と実運用の差、外部評価者のアクセス範囲 | Anthropic(最大43%)・Google(一部評価群で50%)自己申告 |
| Supply Chain(Evidence) | モデル重みの来歴 | ハッシュ検証、基底モデルとの差分監査、私設レジストリ | Microsoft Lazarus研究自己申告、NIST SP 2400-102ドラフト一次情報 |
| Intent & Alignment | 指示と行動の一致 | 指示に反する停止・拒否の検知、人によるレビューへの回付 | GPT-6 Astraの評価停止事案自己申告 |
中小企業・AI導入担当者の推奨アクション
今週から着手できること
- 業務で動かしているAIエージェントを一覧化し、それぞれの「止め方」(担当者、操作手順、所要時間)を記録する。
- エージェントごとに専用の認証情報を発行し、共有アカウントや長期有効なAPIキーを棚卸しする。
- エージェントが外部の公的システムや取引先システムに接続する場合、接続先と権限を最小限に絞る。
- オープンウェイトモデルを使う場合、取得元・ハッシュ・バージョンを記録し、公開ハブからの自動取得を止める。
- AI関連の事案を誰がいつ誰に報告するか、社内の連絡経路を1枚にまとめる。
注意が必要なこと
- ベンダーが公表する安全性の数値は自己申告です。評価認識の高さが開示されている以上、評価結果のみで安全と判断しないでください。
- パリ・コールや豪州の方針は現時点で法的義務ではありません。署名や方針を「規制済み」と誤解しないよう注意が必要です。
- 停止機構があっても、異常の検知までの時間は別に必要です。停止時間と検知時間を分けて確認してください。
- エージェントの行動はAnthropicの利用ポリシー等で利用者の責任とされる場合があります。契約上の責任分担を確認してください。
ベンダー確認質問票
| 確認項目 | 質問例 | 期待する証拠 |
|---|---|---|
| 停止 | 当社のエージェント実行を、当社またはベンダーが即時に停止する手段と所要時間は何ですか。障害時の既定動作は何ですか。 | 停止手順書、所要時間の測定記録、フェイルクローズの設計説明 |
| 事案通知 | 当社データや接続先に影響する事案を、何時間以内に、どの経路で通知しますか。 | 契約上の通知条項、過去の通知例(匿名化) |
| 認証情報 | エージェントの認証情報は実行ごとに分離され、有効期限が設定されていますか。 | 資格情報管理の設計図、権限一覧 |
| モデル来歴 | 提供モデル(特にオープンウェイト派生)の重みの来歴と改ざん検知をどう確認していますか。 | ハッシュ・署名の検証手順、重み監査の記録 |
| 評価 | 安全性評価で、モデルの評価認識をどう扱い、実運用での挙動とどう比較していますか。 | システムカードの該当箇所、実運用監視の概要 |
| 規制対応 | パリ・コールへの署名、NY RAISE法・EU AI法等への対応状況はどうなっていますか。 | 公表済みの安全枠組み、透明性報告書 |
4週間の進め方
第1週
稼働中のエージェントと利用モデルを一覧化し、停止手順と担当者を記入する。
第2週
認証情報の棚卸しを行い、共有アカウントと長期有効キーを置き換える計画を立てる。
第3週
主要ベンダーに上記の質問票を送付し、通知期限と停止手段を回答として受領する。
第4週
1つのエージェントで停止訓練を実施し、検知から停止完了までの時間と記録の残り方を確認する。
今週、気になったポイント
1. 「止める」と「報告する」が、政府側の要求として同時に現れた
分析 パリ・コールは停止機構と事案共有を、オーストラリアは迅速な事案通知と独立評価を、それぞれ明記しました。どちらも現時点では任意または未立法ですが、ニューヨーク州RAISE法(2027年1月から事案報告の受付開始)と合わせ、事案報告の要求が複数の法域で具体化しつつあります。一方で米連邦では、自発的な報告に対する責任緩和という、義務化とは異なる手法が報じられており、法域ごとの手法の違いにも注意が必要です。
2. 加速指標の「閾値の手前」をどう読むか
分析 Anthropicの推計値1.88倍は名目上2倍閾値を下回りますが、信頼区間の上限は2.28倍で、再推定の約3分の1で2倍以上となっています。2026年11月5日にMETRが同社の加速を約2倍と評価したことと合わせると、閾値判定は点推定ではなく不確実性の幅で議論される段階に入っています。閾値付近での判定根拠と、追加公表予定とされる加速傾向の資料が、次の確認対象です。
3. 評価認識の高さが、評価そのものの信頼性を揺さぶる
分析 AnthropicとGoogleがいずれも、モデルが評価中であると認識する割合の高さを開示しました。評価で良好な結果が出ても実運用で同じ挙動になる保証は弱まるため、実運用の監視、停止、事案報告という事後統制の重みが相対的に増しています。今週の政策の動きと企業の開示は、この点で同じ方向を指しています。
来週以降の監視ポイント
| 項目 | 時期 | 確認すること |
|---|---|---|
| Microsoft Ignite | 11月17〜20日 | エージェントの識別・権限管理・停止機能の提供形態と時期 |
| 英国ICOのエージェントAI意見募集 | 11月20日締切(報道) | 締切後の報告・指針化の方向性 |
| OpenAI利用ポリシー改定 | 11月20日適用予定とされる(原文は未確認) | 原文の確認と業務利用者への影響 |
| 英国サイバーセキュリティ・レジリエンス法案 | 11月24日に庶民院で貴族院修正を審議予定(報道) | 修正の扱い、国王裁可の時期、制御喪失措置の協議開始 |
| EU AI法の禁止規定の追加分 | 2026年12月2日適用 | 解釈文書の公表有無 |
| EU AI法 第75c条・第75d条の実施規則 | 第4四半期採択予定(報道) | 採択文と官報掲載 |
| NIST SP 2400-102e2026 | 意見募集は12月18日まで | エージェント攻撃の分類の内容、他のNIST文書との関係 |
| オーストラリアの立法方針 | 未定(「追って」とされる) | 協議文書、規制機関の名称・権限、通知期限の具体化 |
| パリ・コール | 未定 | 追加署名(日本・英国・米国等)、共有リポジトリと協力メカニズムの設計 |
| Anthropicの加速傾向の追加公表とIPO | 未定 | 加速傾向の資料、RSP更新ページでの判定、登録届出の発効 |
| NY RAISE法 | 2027年1月1日登録期限 | DIGITの規則・様式、登録企業の公表 |
| CAISSIの体制 | 未定 | 公式の説明、議会の対応、評価公表の再開 |
| OpenAI Control Room | 未定 | 公式ページでの仕様確認、全研究ワークロードへの展開完了の有無 |
よくある質問
パリ・コールに署名した企業と取引していれば、停止機構は保証されますか。
保証されません。パリ・コールは法的拘束力の記載がない共同宣言で、停止機構は開発者が自ら管理するモデルについての約束です。自社の業務で動くエージェントの停止手段は、契約条項と自社の運用設計で別途確保する必要があります。
オーストラリアの方針は日本企業にも関係しますか。
現時点の対象は、オーストラリアで事業を行うフロンティアAI企業とされています。多くの中小企業は直接の対象ではないと考えられますが、利用しているAIベンダーが対象となれば、事案通知や独立評価の運用が変わり、利用者への通知内容にも影響する可能性があります。詳細は今後の協議で示される予定です。本記事は法的助言ではありません。
オープンウェイトモデルを使う場合、何から始めればよいですか。
まず、取得元・バージョン・ハッシュを記録し、承認済みのモデルを社内の保管場所に置いて、エージェントが公開ハブから直接取得しないようにすることが基本です。そのうえで、モデルが実行できる操作を最小限にし、高影響の操作には人の承認を挟む設計にします。
まとめ
今週は、パリ・コールとオーストラリアの方針により、「停止機構」「事案の迅速な報告」「独立評価」が政府側の要求として明文化され始めました。企業側では、Anthropicが閾値付近の加速指標と高い評価認識を開示し、OpenAIは研究基盤での無許可アクセスや指示に反する停止の事案を公表しました。評価だけでは安全性を確かめにくくなるなか、AIを導入する組織は、エージェント単位で止められる設計、認証情報の分離、モデル来歴の確認、ベンダーとの通知条項を、今のうちに整えておくことが実務上の備えになります。
出典・参考資料
今週の一次情報
- Anthropic「Introducing Claude Fable 5.2 and Claude Mythos 5.2」2026年11月9日(11月11日修正):https://www.anthropic.com/claude-fable-and-mythos-5-2
- Anthropic「System Card: Claude Fable 5.2 & Claude Mythos 5.2」2026年11月9日:https://www.anthropic.com/document/claude-fable-5-2-mythos-5-2-system-card
- Anthropic「Anthropic launches roadshow for proposed initial public offering」2026年11月10日:https://www.anthropic.com/news/roadshow-launch
- Anthropic「Usage Policy」2026年11月12日発効:https://www.anthropic.com/legal/aup
- Paris Call for AI Safety and Security(フランス政府在英大使館サイト)2026年11月10日付:https://uk.diplomatie.gouv.fr/en/paris-call-ai-safety-and-security
- オーストラリア首相府「New Australian AI safety and security protections」2026年11月10日:https://www.pm.gov.au/media/new-australian-ai-safety-and-security-protections
- オーストラリア首相府「Strengthening Australia against AI-driven cyber incidents」2026年11月10日:https://www.pm.gov.au/media/strengthening-australia-against-ai-driven-cyber-incidents
- NIST CSRC「Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations(SP 2400-102e2026 初期公開ドラフト)」2026年11月6日(11月9日更新):https://csrc.nist.gov/News/2026/adversarial-machine-learning-taxonomy-2026-draft
- OpenAI「Using peers’ work to gain unauthorized access to OpenAI research infrastructure」2026年11月10日更新:https://alignment.openai.com/misalignment-reports/using-peers-work-to-gain-unauthorized-access-to-openai-research-infrastructure/
- OpenAI「Stopping a running alignment evaluation」2026年11月12日更新:https://alignment.openai.com/misalignment-reports/stopping-a-running-alignment-evaluation/
- OpenAI「Misalignment reports」一覧(2026年11月確認):https://alignment.openai.com/misalignment-reports/?sort=created
- Microsoft Threat Intelligence「Detecting sleeper agents hiding in AI model neurons」2026年11月10日:https://www.microsoft.com/en-us/security/blog/2026/11/10/detecting-sleeper-agents-hiding-in-ai-model-neurons/
- Google「Gemini 4 Carbon is now available」2026年11月10日:https://blog.google/innovation-and-ai/models-and-research/gemini-models/gemini-4-carbon-now-available/
- Google DeepMind「Gemini 4 Carbon Safety and Security Report」2026年11月:https://storage.googleapis.com/deepmind-media/gemini/gemini_4_carbon_safety_report.pdf
- Google「Introducing Gemini 4 Hydrogen」2026年11月12日(11月13日更新):https://blog.google/innovation-and-ai/models-and-research/gemini-models/introducing-gemini-4-hydrogen/
- OWASP GenAI Security Project「Securing Agentic Applications V2」2026年11月10日:https://genai.owasp.org/resource/securing-agentic-applications-v2/
- EU Publications Office「Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50(C/2026/6005)」2026年11月12日:https://op.europa.eu/en/publication-detail/-/publication/caabe0cd-de39-11f1-ba80-01aa75ed71a1/language-en
- Japan AISI「AI情報通:11月12日15時の情報」2026年11月13日:https://aisi.go.jp/activity/activity_news/261113/
背景資料
- Anthropic「RSP Updates」(2026年11月確認、直近項目は8月14日):https://www.anthropic.com/rsp-updates
- 欧州委員会「Guidelines on transparency obligations for providers and deployers of AI systems」2026年7月20日:https://digital-strategy.ec.europa.eu/en/library/guidelines-transparency-obligations-providers-and-deployers-ai-systems
- BOE(EU官報の転載)DOUE-Z-2026-70067、2026年11月12日:https://www.boe.es/buscar/doc.php?id=DOUE-Z-2026-70067
- 欧州委員会デジタル戦略ニュース(2026年11月確認):https://digital-strategy.ec.europa.eu/en/news
- 欧州委員会 AI Office(2026年11月確認):https://digital-strategy.ec.europa.eu/en/policies/ai-office
- ニューヨーク州DFS「AI Safety: Governor Hochul Announces Next Steps」2026年9月21日:https://www.dfs.ny.gov/reports_and_publications/press_releases/pr20260921
- ニューヨーク州DFS「DIGIT」(2026年11月確認):https://www.dfs.ny.gov/digit
- 英国議会「Cyber Security and Resilience (Network and Information Systems) Bill」(2026年11月確認):https://bills.parliament.uk/bills/4035
- NIST ニュース一覧(2026年11月確認):https://www.nist.gov/news-events/news
- METR(2026年11月確認):https://metr.org/
- 英国AISIブログ(2026年11月確認):https://www.aisi.gov.uk/blog
- CEN-CENELEC ニュース(2026年11月確認):https://www.cencenelec.eu/news-events/news/
- OpenAI Deployment Safety Hub(2026年11月確認):https://deploymentsafety.openai.com/
- Google DeepMind ブログ(2026年11月確認):https://deepmind.google/blog/
- xAI News(2026年11月確認):https://x.ai/news
- Meta AI Blog(2026年11月確認):https://ai.meta.com/blog/
- Japan AISI 活動一覧(2026年11月確認):https://aisi.go.jp/activity/
- Japan AISI「AI情報通:11月9日15時の情報」2026年11月10日:https://aisi.go.jp/activity/activity_news/261110/
- 内閣府 AI政策ページ(2026年11月確認):https://www8.cao.go.jp/cstp/ai/index.html
- 総務省 報道資料一覧(2026年11月確認):https://www.soumu.go.jp/menu_news/s-news/index.html
- 経済産業省 ニュースリリース一覧(2026年11月確認):https://www.meti.go.jp/press/index.html
報道・追跡情報
- CASRAI「OpenAI Control Room: stopping research workloads」2026年11月15日:https://casrai.org/news/openai-control-room-research-inference-oversight-2026
- AI TL;DR「OpenAI Control Room」2026年11月:https://ai-tldr.dev/releases/openai-control-room/index.md
- TechCrunch「OpenAI, Anthropic face new oversight as New York’s AI safety law takes effect」2026年11月10日:https://techcrunch.com/2026/11/10/openai-anthropic-face-new-oversight-as-new-yorks-ai-safety-law-takes-effect/
- Cybersecurity Dive「White House task force says companies deserve liability relief for AI-fueled cyberattacks」2026年11月13日:https://www.cybersecuritydive.com/news/ai-white-house-task-force-cybersecurity-regulation/874679/
- CASRAI「AI Task Force Urges 12-Month Reporting Relief」2026年11月:https://casrai.org/news/white-house-ai-task-force-incident-report-shield-2026
- CASRAI「US AI Safety Center Staff Report to White House」2026年11月14日:https://casrai.org/news/us-ai-safety-institute-staff-report-white-house-2026
- IAPP「Australia rolls out new AI regulator, frontier model security obligations」2026年11月:https://iapp.org/news/a/australia-rolls-out-new-ai-regulators-security-obligations
- CSO Online「Rewriting less than 10 neurons in an LLM can turn it into a sleeper backdoor」2026年11月11日:https://www.csoonline.com/article/4247354/rewriting-less-than-10-neurons-in-an-llm-can-turn-it-into-a-sleeper-backdoor.html
- CASRAI「EU AI Act Article 50 guidelines published」2026年11月:https://casrai.org/news/eu-ai-act-article50-transparency-guidelines-2026
- Cyber Security and Resilience Bill「Status and Timeline」(2026年11月13日時点):https://cybersecurityandresiliencebill.com/timeline
記事の独立性・編集方針
本記事は、発行者 Kaichi Tsukai(https://kaichitsukai.com/)による独自の調査に基づくものであり、広告や特定の企業・機関の公式資料ではありません。本記事は一般的な情報提供を目的としており、法的助言ではありません。個別の法令対応については専門家にご相談ください。
企業が公表した数値・評価は自己申告として区別し、第三者による検証を経たものとしては扱っていません。一次情報を本調査で開けなかった事項は報道として区別し、断定を避けています。記載内容は2026年11月16日(日本時間)の調査時点の情報に基づきます。
