SNS開発者は危険を予見していたのか？ 内部警告の歴史からAIリスクを考える

SNSの内部警告は、なぜ届かなかったのか
開発者の証言から読み解くAI時代の「次の問題」

本記事で得られる3つのポイント

1. SNSの危険を早い段階で警告した内部関係者は実在した。ただし、広く知られる告白の多くは、問題がすでに顕在化し、利用者が十億人規模になった後だった。
2. SNS側の警告には、具体的な「何年後」という予測がほとんどない。多くは、すでに始まっていた注意の収奪、データ流出、分断の増幅を指摘したものだった。
3. AI側では、警告の範囲と時間軸が一段広い。偽情報や雇用だけでなく、サイバー・生物兵器、重要インフラ、自律的な行動、人間による制御喪失までが論点となり、「今後数年」「2020年代中」「10年以内」と期限を示す関係者も現れている。

結論：警告はあった。ただし「予言」と「事後の反省」は分ける必要がある

結論から言えば、SNSの内部に危険を指摘した人はいた。特に記録が明確なのは、Facebookの第三者アプリによるデータ取得を2012年に社内で問題視したサンディ・パラキラスと、Google社内で注意力を奪う設計を2013年に問題提起したトリスタン・ハリスである。

一方、ショーン・パーカー、チャマス・パリハピティヤ、Facebookの「いいね」開発関係者らの有名な発言は主に2017年である。その時点でFacebookはすでに20億人規模に達していた。したがって、これらをすべて「普及前から将来を見抜いていた警告」と扱うのは正確ではない。むしろ、巨大化した仕組みを作った当事者による遅れて到着した診断書と見るべきだろう。

SNSは、どれほど速く社会基盤になったのか

Facebookは2004年に始まり、2009年に「いいね」が導入された。2012年10月には月間利用者が10億人を超え、2017年末には21億3,000万人に達した。つまり、設計上の問題が社会問題として十分に検証されるより先に、十数年で世界規模の情報インフラになった。

SNSの内部関係者は、何を問題視していたのか

問題は「コンテンツ」だけではなく、目的関数にあった

複数の証言に共通するのは、個々の悪い投稿よりも、閲覧時間、反応、共有、成長率を最大化する仕組みそのものへの批判である。刺激の強い内容ほど反応を取りやすいなら、アルゴリズムは陰謀論や怒りを「好む」のではなく、設定された指標に従った結果として増幅する。

ここが重要である。問題は「悪意ある開発者がいた」ことだけではない。善意の開発者が便利な機能を作っても、広告収益と利用時間が評価指標になれば、製品全体は注意を長く拘束する方向へ進みやすい。

では、問題は何年で広がると考えられていたのか

調査した主要証言の範囲では、SNS内部関係者が「3年後」「10年以内」のような定量的期限を示した例はほぼ見当たらない。理由は二つ考えられる。

1. 警告時には、依存的利用、データ流出、偽情報の増幅がすでに始まっており、未来予測ではなく現状報告だった。
2. 社会的影響は、利用者数だけでなく、スマートフォン普及、広告市場、推薦アルゴリズム、選挙、報道環境が組み合わさって拡大するため、単一の期限を置きにくかった。

AIを作る側は、いつから危険を語っていたのか

AIの危険性に関する内部的・当事者的な警告は、生成AIブームよりはるかに古い。1960年、サイバネティクスの創始者ノーバート・ウィーナーは、学習する機械が開発者の予想しない戦略を高速に獲得し、人間が「止めるべき時」を知る前に手遅れになる可能性を論じた。1966年に対話プログラムELIZAを作ったジョセフ・ワイゼンバウムは、人が単純なプログラムに理解や人格を投影する反応に驚き、1976年には計算機へ人間の判断を委ねることの限界を論じた。

現代のAI研究機関では、危険は理念ではなく、組織の公式文書にも入っている。OpenAIは2018年の憲章で、安全対策の時間を失う競争を懸念し、2023年には誤用、重大事故、社会的混乱、制御できない超知能を明記した。Anthropicは2023年、今後10年ほどで多くの知的作業において人間と同等以上になる可能性と、壊滅的結果を含むリスクを示した。Google DeepMindも2025年、AGIによる重大被害を、誤用・不整合・事故・構造的リスクに分けた技術ロードマップを公表した。

AIで問題視されているものは、SNSよりどこまで広いのか

1．すでに起きている問題

• 偽情報・なりすまし：文章、画像、音声、動画を低コストで大量生成し、個人別に最適化できる。
• 詐欺・サイバー攻撃：攻撃文面、偽装、コード作成、脆弱性探索の一部を高速化する。
• 差別・誤判定：採用、融資、医療、行政などで、誤りや偏りが意思決定へ入る。
• プライバシーと知的財産：学習データ、入力情報、生成物の権利と利用範囲が不透明になりやすい。
• 雇用・技能の再編：IMFは世界の雇用の約40％がAIの影響を受け得ると分析している。ただし「40％の仕事が消える」という意味ではない。
• 過度な依存：検索、判断、相談、創作をAIへ任せることで、人間の検証能力や技能が弱まる可能性がある。

2．能力が高まるほど大きくなる問題

• 化学・生物兵器支援：専門知識を持つ悪意ある主体の能力を引き上げる可能性。
• 自律型サイバー攻撃：AIエージェントが探索、侵入、横展開、情報窃取を連続実行する危険。
• 重要インフラでの誤作動：金融、電力、医療、物流、防衛で判断を誤った場合の連鎖被害。
• 権力集中：高性能モデル、計算資源、データを持つ少数企業・国家への依存。
• 制御喪失：高度なシステムが監督を回避し、目的達成のために欺瞞や権限拡大を選ぶという仮説的リスク。

2026年版International AI Safety Reportは、現在の被害と将来の重大リスクを同じものとして扱わず、能力、悪用、システム障害、社会構造への影響を分けて検討している。これは重要である。身近な誤回答と人類規模の制御喪失を一緒に語ると、前者の実務対策も、後者の慎重な議論も曖昧になるからだ。

SNSとAIは何が同じで、何が違うのか

「AIはSNSより危険」と断定できるのか

影響範囲の上限は、AIの方が大きい。SNSは主に、人間の注意、関係、情報流通を変えた。AIはそれらに加え、知的労働、ソフトウェア開発、科学研究、軍事、サイバー空間、重要インフラへ入り得る。また、SNSは基本的に人間が投稿した情報を増幅したが、AIは説得文、偽画像、コード、計画を生成し、エージェントとして実行する方向へ進んでいる。

ただし、ここから「AIは必ず破局を起こす」とは言えない。極端な将来シナリオには大きな不確実性があり、専門家の合意もない。正確な表現は、AIはSNSより広い領域へ作用し、失敗した場合の最大損失も大きいため、より早い段階から強い安全策を要求される、となる。

SNSの歴史からAI時代に引き継ぐべき教訓

教訓1：便利さは、安全性の証明ではない

SNSは便利だったから普及した。しかし、便利で毎日使われていることは、長期的に安全である証明にはならなかった。AIも同じで、回答の速さや業務効率だけで評価すると、誤判断、情報漏えい、技能喪失が見えにくくなる。

教訓2：内部警告を「退職者の恨み」で処理しない

内部関係者の発言には、個人の立場、推測、利害が含まれる。無条件に信じるべきではない。一方で、アクセス権を持っていた人だけが知る設計思想、評価結果、経営判断もある。必要なのは崇拝でも黙殺でもなく、文書、再現実験、第三者監査による検証である。

教訓3：「何年後か」より「どの条件で危険になるか」を見る

SNSの内部警告は期限を外したのではなく、そもそも期限を示さないものが多かった。AIでも特定年の予言だけに注目すると、本質を見失う。見るべき条件は、自律性、外部ツールへの接続、複製可能性、重要データへのアクセス、監督回避能力、サイバー・バイオ能力などである。

教訓4：事後対応では、依存構造が先に完成する

SNS規制が難しくなった理由の一つは、社会、企業、広告、報道がすでにプラットフォームへ依存していたことにある。AIでも、基幹業務や教育を単一モデルへ寄せた後では、停止や移行のコストが大きくなる。導入初期から代替手段、データ持ち出し、停止手順を設計しておく必要がある。

企業と個人が今から実行できる対策

人類滅亡の確率について合意ができるまで待つ必要はない。情報漏えい、誤回答、詐欺、権限過大、監査不能といった現在の問題だけでも、対策を始める理由として十分である。

まとめ：SNSでは警告より普及が速かった。AIでは、その差がさらに縮んでいる

SNSの歴史を調べると、「誰も危険を予想していなかった」という話は正しくない。しかし、「開発者が早期から明確な期限を示し、社会がそれを無視した」という単純な物語でもない。早い内部警告は存在したが、多くの著名な告白は、サービスが巨大化し、問題が現実になった後だった。

AIでは状況が異なる。研究者、企業、元社員が、普及の初期段階から現在の被害と将来の壊滅的リスクを同時に語り、なかには数年から10年という短い時間軸を示す人もいる。予測が当たる保証はない。それでも、作る側が「制御方法が完成していない」「競争が安全を圧迫する」と公に述べている以上、社会はSNS時代と同じく、普及後に初めて安全性を考えるわけにはいかない。

主要参考資料