🧠 「AIを止めろ」ではない、必要なときに減速できる仕組みを求める声明
OpenAI、Anthropic、Google DeepMind、Meta、Thinking Machinesなど最先端AI企業の研究者・従業員が2026年7月、「Pacing the Frontier」と題した共同声明を発表し、米政府に対してAI研究そのものがAIによって自動化された場合に、開発速度を意図的に調整できる技術・ガバナンス手段を国際的に整備するよう支援を求めました。発表時には1171人だった署名者はその後も増加し、8月中旬時点で1378人に達しています。署名者にはAnthropicのダリオ・アモデイ氏、OpenAIのヤコブ・パチョッキ氏をはじめ、競合する複数のフロンティアAI企業で実際にモデル開発へ携わる研究者らが含まれます。ただし声明は「AI開発を今すぐ停止する」という要求ではありません。将来、能力向上の速度が人間の安全評価や制度設計を追い越したときに、数週間・数カ月の時間を買える“ブレーキ”を事前に作っておくべきだという主張です。
声明が警戒しているのが「AIによるAI研究の自動化」です。現在でもAIエージェントはコード作成、テスト、実験、論文調査、データ解析など研究工程の一部を担っていますが、さらに能力が向上すると、モデル自身が新しい学習手法を考え、実験を実行し、結果を分析して次の改良案を作るという循環を人間より高速に回せる可能性があります。Anthropicは2026年、AIエージェントに研究テーマの仮説生成・実験・反復まで自律的に行わせる実験で、一部の研究課題では人間の研究者を上回る結果を報告しています。同社の研究部門も、AIが将来自らの後継システムの設計・開発まで自律化する「recursive self-improvement（再帰的自己改善）」を重要な政策課題として扱っています。問題は、AI研究の自動化によって研究速度が1.5倍になるのか、10倍、100倍になるのかを事前に正確に予測できない点です。急激な能力向上が起きれば、モデルを評価する人間側の研究速度が追いつかなくなる可能性があります。
⚙️ なぜ各AI企業が自主的に減速するだけでは解決しないのか？
ここには典型的な「囚人のジレンマ」があります。仮にOpenAI、Anthropic、Google、Metaの研究者全員が「安全確認のため一時的に開発速度を落とした方がよい」と考えていたとしても、1社だけが半年止まれば、その間に競合企業がより強力なモデルを完成させ、市場・人材・資金・国家安全保障上の優位を奪う可能性があります。国家間でも同じ問題があり、米国だけが減速して中国などが開発を続けるという懸念が生じます。そのため「Pacing the Frontier」は企業ごとの善意ではなく、複数企業・複数国が同時に守れる検証可能な仕組みが必要だと主張しています。具体的な制度案は声明ではあえて固定されていませんが、考えられる技術には大規模学習の計算資源監視、モデル能力評価、開発状況の第三者検証、重大な能力上昇時の共通安全基準、一定条件での学習中断手順などがあります。署名者のジョン・シュルマン氏も、政府介入を待つだけではなく、AI研究所自身が事前にこうした協調メカニズムを設計することを期待すると説明しています。
今回の要求を2023年の「GPT-4より強力なAIの学習を6カ月停止せよ」という公開書簡と比較すると違いが分かりやすくなります。当時の書簡は、GPT-4を上回るシステムの学習を少なくとも6カ月間、一斉かつ検証可能な形で停止することを直接求め、実現しなければ政府によるモラトリアムも検討すべきだとしていました。一方、2026年のPacing the Frontierは現在のモデル開発の即時停止を要求していません。「将来必要になったときに止められない」という状況を避けるため、今のうちに計器とブレーキを開発しようという立場です。この違いは大きく、AI安全論が「開発するか・止めるか」という二択から、「どの能力上昇を検知し、どの条件ならどれだけ速度を調整するのか」という工学・政策設計へ移り始めたことを示しています。
🛑 「Pacing」で想定される仕組み
- 能力評価：AIがサイバー攻撃、AI研究、化学・生物学などで危険な能力水準へ達したか継続評価
- 計算資源の把握：極めて大規模な学習がどこで行われているかを検証可能にする
- 共通トリガー：一定の能力や事故が確認された場合、複数社が同時に安全確認期間へ移れるルール
- 第三者検証：企業の自己申告だけでなく、政府や独立機関がモデル評価を確認
- 国際協調：1社・1カ国だけが停止して競争上の不利益を負わない仕組み
声明が求めているのは、このうち特定の一制度を即座に法律化することではなく、必要になったとき本当に使える選択肢を研究・構築することです。
🇺🇸 米政府はむしろ「AI加速」を掲げる、声明との微妙な緊張関係
この要請が興味深いのは、現在の米政府の基本方針がAI開発の減速ではなく、むしろ米国のAI優位を維持するための加速だからです。2025年の「America’s AI Action Plan」はイノベーション加速、AIインフラ建設、国際的な米国技術の優位を柱とし、トランプ政権は州ごとに異なる規制によってAI開発が妨げられることにも否定的な姿勢を示してきました。一方、2026年6月の大統領令ではフロンティアAIの国家安全保障リスク評価や高度AIを使ったサイバー防御なども強化しており、「規制を増やして競争力を落とす」ことには慎重でありながら、危険能力の監視は必要という二つの政策目標が同時に存在します。したがってPacing the Frontierが政治的に受け入れられるには、「AI競争から降りる仕組み」ではなく、制御不能な事故によって米国のAI産業そのものが損害を受けるのを防ぐ安全装置として提示できるかが重要になりそうです。
米国とは対照的に、EUではすでにAI Actによるフロンティア級モデルへの法的枠組みが動き始めています。汎用AI（GPAI）の提供者には2025年8月から一定の義務が適用され、特に「systemic risk（システミックリスク）」を持つ最先端モデルにはモデル評価、リスク低減、重大事故報告、サイバーセキュリティなど追加措置が求められます。2026年8月からは欧州委員会の執行権限も本格化しました。ただしEU AI Actも「AI研究の速度そのものを国際的に調整する制度」ではありません。つまり、モデルの安全管理制度は形成されつつある一方、「AIがAI研究を高速化した場合に世界全体の開発速度をどう調整するか」という問題にはまだ完成した制度が存在しないというのが、Pacing the Frontierが指摘している空白です。
⚖️ 「自分たちは開発を続けながら他社を止めるのでは？」という批判
一方、この動きには当然ながら批判もあります。AI企業が莫大な資金を投じて次世代モデルを開発しながら政府へ規制や協調を求めれば、「先行企業が自らの優位を固定するため参入障壁を作ろうとしているのではないか」という疑念が生まれます。2023年のAI停止書簡でも、イーロン・マスク氏が署名後に独自AI企業xAIを設立したことなどから、AI開発競争における「他社には減速を求め、自分は走り続ける」というインセンティブが議論になりました。今回もthe tiny corpなどから同様の批判が出ています。この問題を避けるには、規則が特定企業の裁量ではなく、誰に対しても同じ条件で発動し、第三者が検証でき、解除条件まで明確になっていることが重要です。そうでなければ「安全規制」が既存大企業の競争力を守るための制度へ変質する危険があります。
🔍 まとめ：求められているのは「AIを止めること」ではなく「止められる状態」
Pacing the Frontierの核心は、AIの進歩を今すぐ止めることではありません。AIが医療、科学、教育、生産性を大きく改善する可能性を認めたうえで、もしAI自身がAI研究を自動化し、能力向上速度が人間の理解・評価・制度設計を上回った場合に、世界には現在それを意図的に減速させる仕組みがほぼないという問題提起です。発表時1171人だった署名者が現在1378人まで増えていることは、少なくともフロンティアAI企業内部でこの問題への関心が広がっていることを示します。ただし「どういう能力を危険と判断するか」「米中など競合国を含む国際合意が可能か」「安全を名目に市場競争を阻害しないか」という難題は残ります。AI研究の自動化が本当に急加速を引き起こすのかもまだ確定していません。だからこそ今回の声明は、事故が起きてから慌てて停止方法を考えるのではなく、アクセルを踏み続けながら、同時にブレーキも作っておこうという提案だと理解するのが最も正確でしょう。
📚 参考・出典
- Pacing the Frontier — 2026年7月公開の共同声明。発表時1171人、その後署名者は1378人へ増加。声明本文、署名者、コメントを掲載。
- Reuters「Tech employees call for US-backed global effort to manage risks from advanced AI」 — 発表時の署名状況、参加企業、声明の背景。
- Anthropic Institute「When AI builds itself」 — AI研究自動化と再帰的自己改善がもたらす技術・政策上の論点。
- Anthropic「Automated Weak-to-Strong Researcher」 — AIエージェントが仮説生成、実験、反復を自律実行した研究。
- The White House「America’s AI Action Plan」 — 米国のAIイノベーション加速・インフラ・国際戦略。
- The White House「Promoting Advanced Artificial Intelligence Innovation and Security」 — 2026年6月のフロンティアAI・サイバーセキュリティ政策。
- European Commission「AI Act / General-Purpose AI Models」 — GPAIおよびシステミックリスクを持つ最先端モデルへの義務。
- Future of Life Institute「Pause Giant AI Experiments」 — 2023年にGPT-4より強力なAIの学習を6カ月停止するよう求めた公開書簡。
