「AI 2040」が描く超知能への道――AI 2027の破局を回避するPlan Aとは

　2025年に公開され、大きな反響を呼んだ「AI 2027」は、AIによる研究開発の自動化が急速な知能爆発につながり、人類がAIを制御できなくなる可能性を描いたシナリオでした。

　その「AI 2027」を制作したAI Futures Projectが、2026年7月、新たに「AI 2040: Plan A」を公開しました。

　タイトルだけを見ると、AI Futures Projectが超知能の到来予測を2027年から2040年へ後退させたようにも見えます。しかし、実際の内容はそうではありません。

　AI 2040が描いているのは、現在の開発競争をそのまま続けた未来ではなく、米国と中国が協力し、超知能の誕生を意図的に2040年まで遅らせる未来です。

　AI 2027が「このまま進んだら何が起こるか」を描いた警告編だとすれば、AI 2040は「破局を避けるために何をすべきか」を具体化した回避計画編だといえるでしょう。

AI 2040は未来予測ではなく政策提案

　最初に押さえておきたいのは、AI 2040が「2040年に超知能が誕生する」という単純な予測ではないことです。

　著者たちは、Plan Aを自分たちが最も起こりそうだと考えている未来ではなく、望ましい政策を説明し、検証するためのシナリオだと位置づけています。

　その前提となっているのは、AI企業が今後1年から10年ほどの間に、あらゆる分野で人間を上回るAIの開発に成功する可能性があるという強い危機感です。

　AIがAI研究そのものを自動化できるようになれば、より優秀なAIが次のAIを開発し、そのAIがさらに優れたAIを生み出す循環が始まります。これがAI 2027でも中心的な問題となっていた「知能爆発」です。

　AI 2040のシナリオでは、何の対策も取らなければ、2030年にはAI研究が完全に自動化され、その年のうちに超知能へ到達する可能性があると想定されています。

　そこで米国と中国が2029年に合意し、AIの研究速度を意図的に落とします。人類が超知能を制御する方法を確立し、政治や経済、社会制度を整えるための時間を確保するのです。

AI 2027から何が変わったのか

　AI 2027では、2027年にAIがAI研究を全面的に自動化し、同じ年のうちに知能爆発が起こるという急速な展開が描かれていました。

　これに対してAI 2040では、対策を取らなかった場合の基準年が2030年に設定されています。

　これは、AI Futures Projectが「2027年という予測は間違いだった」と認めたという意味ではありません。

　著者たちは、複数のシナリオによってAIの到来時期に関する不確実性を表現しようとしています。AI 2027の執筆時には、ダニエル・ココタジロ氏が「それほど早く進む確率が約50％になる時期」として2027年を置きました。一方、AI 2040では、トーマス・ラーセン氏の見方に基づいて2030年が採用されています。

　つまり、予測が2040年へ後退したのではありません。放置した場合には2030年ごろに超知能が生まれかねないという前提を置き、それを人為的に2040年まで遅らせるのがPlan Aです。

AI 2040が描く2027年から2040年

　シナリオは、現在から2040年までの政治、経済、AI開発の変化を時系列で描いています。

2027年――AI労働力が急拡大する

　2027年の米国には、人間とAIという二つの労働力が存在しています。

　1億6500万人の人間に加え、何百万ものAIエージェントが作られては停止され、24時間休まずに働いています。その成果の多くはまだ低品質ですが、十分に実用的な部分もあり、企業はAIに毎月100億ドル規模の料金を支払うようになります。

　AI企業が最も自動化したい仕事は、自分たちが行っているAI研究です。AIによる再帰的な自己改善はまだ実現していませんが、強力なコーディングAIが研究開発に使われ、完全自動化が現実的な問題として意識され始めます。

　米国議会もAI企業に対する監視を強め、AI Transparency Act、すなわちAI透明性法を成立させます。しかし、この法律は一定の改善をもたらすものの、開発競争そのものを止めるほどの効果はありません。

2028年――AIが大統領選挙の争点になる

　2028年になると、AIは米国大統領選挙の最大の争点になります。

　ソフトウェア開発だけでなく、多くのホワイトカラー職がAIエージェントを管理する仕事へ変わります。AI企業は、ある職業を自動化すると決めると、専門家への聞き取り、データ購入、訓練環境の構築を組織的に行い、その分野へ急速に進出します。

　一方、建設中のAIデータセンターに投じられる費用は米国の軍事予算を大きく上回る規模となり、AIを所有する少数の企業と米国政府へ力が集中していきます。

　議会や国民が抱く最大の疑問は、AIがどこまで賢くなるかだけではありません。

　最終的に、誰がAIを支配するのか。

　この問題が政治の中心に浮上します。

2029年――米国と中国がPlan Aを選ぶ

　AI 2040は、米国が選べる道として複数の計画を示しています。

• Plan D：安全対策を最小限にして超知能開発競争を続ける
• Plan C：米国側が持つ技術的なリードの一部を安全研究に使う
• Plan B：中国のAI開発をサイバー攻撃や物理的攻撃で妨害する
• Plan A：米中が検証可能な開発減速に合意する
• Plan S：最先端AIの開発を無期限に停止する

　シナリオの米国は、最終的にPlan Aを選択します。

　米国と中国は、超知能を先に完成させた側が世界の主導権を握る「勝者総取り」の競争をやめ、AI開発を共同で減速させる協定を結びます。

　どちらかを信用することが前提ではありません。相手が約束を破っていないことを、半導体、データセンター、電力使用量、研究記録などから検証できる仕組みを構築します。

Plan Aを支える三つの仕組み

計算資源を監視する

　現在の最先端AIを開発するには、大量の高性能半導体と巨大なデータセンターが必要です。このため核兵器とは異なり、国家が地下の小さな研究室だけで最先端AIを完成させることは容易ではありません。

　Plan Aは、この物理的な制約を利用します。

• AI向け半導体の生産量を把握する
• 半導体の販売先と設置場所を追跡する
• 大規模データセンターの活動を監視する
• AIの訓練に使われる計算量を制限する
• 秘密のAI開発計画を航空写真や内部告発制度などで発見する

　ただし、現時点でこの検証技術は十分に成熟していません。AI 2040の検証計画も、極めて高い確実性を求めるなら、現在はデータセンターの電源を落とす以外に確実な方法はないと認めています。

　そこで2026年から2028年にかけて、半導体追跡技術やAI訓練の検証技術へ大規模な投資を行うことが提案されています。

AI研究を透明化する

　Plan Aでは、最先端AIの研究内容を、企業秘密や国家機密として閉じ込めることを認めません。

　AIがどのような目的や価値観を持つように訓練されたのか、訓練中にどのような問題が起きたのか、企業内部でどの程度AIが利用されているのかといった情報を公開します。

　これには二つの目的があります。

　一つは、AI企業の経営者や政府が、AIへ密かに自分たちの政治的意図を組み込むことを防ぐことです。

　もう一つは、最先端企業の外にいる研究者も高度なAIを検証できるようにし、安全性研究へ参加する人数を増やすことです。

　現在は、一部のAI企業だけが最新モデルと内部情報へアクセスできます。Plan Aは、この情報格差そのものを危険と考えています。

「相互確証計算資源破壊」を用意する

　AI 2040でもっとも刺激的なのが、「Mutually Assured Compute Destruction」という考え方です。日本語にすれば「相互確証計算資源破壊」となります。

　これは核抑止における相互確証破壊を、AIの計算資源に置き換えたものです。

　米中協定が崩壊した場合、一方だけが大量の半導体とデータセンターを保持していれば、その国が一気に超知能開発へ進む可能性があります。

　そこで協定が破綻した場合には、双方が保有するAI向け計算資源の大部分を破壊し、一方だけが決定的な優位を得られない仕組みを準備します。必要なら半導体工場やロボット生産能力まで破壊対象に含めるという、非常に強硬な構想です。

　目的は実際に破壊することではありません。協定を破れば、自国もAI開発能力を失うと分からせることで、秘密開発や一方的な離脱を抑止することにあります。

2030年から2035年――人間の範囲内でAIを成長させる

　Plan Aは、AI開発を完全に停止する計画ではありません。

　2030年から2035年にかけて、AIを人間の能力範囲内で段階的に成長させます。最終的には、ほぼあらゆる分野で世界最高水準の専門家に匹敵するAIへ到達します。

　ただし、人間を大きく超える能力には進ませません。

　高度なAIは、AIを安全に制御するアラインメント研究、検証技術、医療、科学、行政などに活用されます。AIに安全なAIの作り方を研究させながら、AI自身が人類の管理能力を超えないようにするわけです。

　2035年になると、AIはトップクラスの人間専門家と同等の水準で一旦停止されます。その後の5年間を使って、人類は超知能へ進んでも制御を失わないかを検証します。

AIとロボットがもたらす急激な経済成長

　AI 2040は安全保障だけでなく、AIとロボットが経済をどう変えるかについても、かなり大胆な予測を示しています。

　AIが知的労働を担い、ロボットが工場、輸送、採掘、建設などの肉体労働を担えば、経済成長は人間の人口に制約されなくなります。

　AI 2040の経済モデルでは、2032年から2037年にかけて実質的な生産量が年平均約90％増加し、2040年の世界経済は2025年の約200倍になるという極端な成長が想定されています。

　もちろん、著者たち自身も、この経済モデルには大きな不確実性があり、正確な予測として信頼しているわけではないと注意しています。

　それでも重要なのは、AIによって仕事が失われる一方で、生産量だけは飛躍的に増加する可能性があるという点です。

仕事を失った人々へ「市民配当」を支給する

　AIによる大量失業に対して、Plan Aは「Citizen’s Dividend」、市民配当という制度を提案しています。

　政府はAI向け計算資源やロボットの増設を許可制にし、その許可証を企業へ販売します。AIとロボットが経済成長の主要な制約になるなら、許可証には巨大な価値が生まれます。

　その収入の大部分を、全国民へ平等に配分します。

　AI 2040のシナリオでは、米国民一人当たりの市民配当が2035年には年間約100万ドル、2040年には年間約1000万ドルに達するという驚くべき数字まで示されています。

　この数字をそのまま現実的な予測として受け取る必要はありません。重要なのは、AIが生み出す富を企業の株主だけに帰属させるのではなく、計算資源やロボットの利用許可を通じて社会全体へ還元するという発想です。

　著者たちは、仕事が人間に与えてきたものを、収入、社会的な力、生きる意味の三つに分けています。

　市民配当で解決できるのは主に収入です。人間が経済的に必要とされなくなった社会で、政治的な発言力や人生の意味をどう維持するかについては、AI 2040も完全な答えを示せていません。

2040年――超知能への移行

　2035年から5年間の準備期間を経て、2040年に開発制限が解除されます。

　複数の国と企業が同程度のAI能力を持ち、研究内容を共有しながら、段階的に超知能へ移行します。

　一社だけが世界初の超知能を独占するのではありません。複数の組織が同時に進み、互いを監視することで、特定の企業経営者や国家指導者へ権力が集中するのを防ぎます。

　ここに、AI 2040の根本的な思想があります。

　著者たちが恐れているのは、制御不能なAIだけではありません。たとえAIが人間の命令へ完全に従ったとしても、最初の超知能を所有した人物が世界を支配できてしまうことも、同じくらい危険だと考えているのです。

Plan Aが解決しようとする五つの問題

　AI Futures Projectは、Plan Aによって対処すべき問題を五つに整理しています。

• 超知能に対する人間の制御喪失
• 最初の超知能を持つ企業や国家への権力集中
• AI開発競争による第三次世界大戦
• AIとロボットによる大量失業
• テロリストや小国によるAIの危険な悪用

　開発を遅らせることで安全研究の時間を確保し、研究を透明化することで権力集中を防ぎ、米中協定によって軍事衝突を回避します。失業には市民配当で対応し、生物兵器などの悪用にはAIの利用制限と防御技術への投資で備えます。

　この五つを同時に扱おうとしていることが、AI 2040の大きな特徴です。

最大の問題は米中が本当に協力できるのか

　Plan Aは緻密に設計されていますが、実現には非常に高い壁があります。

　最大の問題は、米国と中国が最先端AIの研究内容を互いに公開し、相手国の監視担当者をデータセンターへ受け入れられるのかという点です。

　AIは軍事、サイバー攻撃、諜報活動、産業競争のすべてに関係します。国家安全保障上もっとも重要な技術を、競争相手へ全面的に公開することは容易ではありません。

　また、AI企業も透明化には抵抗するでしょう。現在のAI企業にとって、アルゴリズムや訓練方法は競争力の源泉です。それを公開すれば、後発企業が追いつきやすくなり、先行企業が積み上げた優位性は失われます。

　さらに、計算資源の監視にも限界があります。大量の半導体を必要とする現在のAIなら追跡できても、アルゴリズムの進歩によって、将来は少ない計算資源で強力なAIを開発できる可能性があります。

　秘密のデータセンター、密輸された半導体、軍事施設内の計算資源、監視記録の改ざんなど、協定をすり抜ける方法も考えられます。

　実際、AI 2040の著者たち自身も、Plan Aが現実に採用される確率を高く見積もっていません。補足資料では、各著者によるPlan Aの実現確率はおおむね3％から15％にとどまっています。

　彼らにとっても、これは自然に実現する未来ではなく、極めて困難ではあるが目指す価値のある未来なのです。

「止めるか、進めるか」ではない第三の選択肢

　AIをめぐる議論は、しばしば二つの極端な立場に分かれます。

　一方は、技術開発を止めれば他国に負けるため、可能な限り速く進むべきだという立場です。もう一方は、超知能は危険すぎるため、開発を全面的に停止すべきだという立場です。

　Plan Aは、その中間を狙っています。

　AI開発を永久に止めるのではなく、人間が制御できる範囲でAIを育て、その能力を安全研究と社会制度の整備に使います。そして準備が整った段階で、複数の国と企業が透明性を保ちながら超知能へ進むという考え方です。

　もっとも、これは単純な中間案ではありません。世界でもっとも激しく競争している国家と企業に、自らの技術的優位を手放させる計画です。その実現には、現在の国際政治を根本から変えるほどの危機認識が必要になります。

AI 2040が私たちに問いかけるもの

　AI 2040の年表や経済予測が、そのまま現実になる可能性は高くないでしょう。

　AI研究の完全自動化が2030年に実現するとは限りません。米中が2029年に協定を結ぶ保証もありません。2040年の世界経済が現在の200倍になり、全国民が巨額の市民配当を受け取るという予測も、極めて不確実です。

　しかし、AI 2040の価値は、未来を正確に言い当てることだけにあるのではありません。

　現在のAI政策には、超知能が本当に実現した場合、その後をどうするのかという具体的な設計図がほとんどありません。

　どの時点で開発を遅らせるのか。誰がAI企業を監視するのか。国家間で何を検証するのか。仕事を失った人々へAIの富をどう分配するのか。最初の超知能を誰が所有するのか。

　AI 2040は、これらの問いに対して、実現性に疑問が残ることを承知のうえで、一つの具体的な答えを提示しました。

　AI 2027が突きつけたのは、「このまま競争を続けてよいのか」という問いでした。

　AI 2040がさらに突きつけているのは、「止めるべきだと言うだけでなく、実際に止める仕組みを設計できるのか」という、より難しい問いなのです。

参考資料

• AI 2040: Plan A
• How Plan A Solves Our 5 Biggest Problems
• Verification Plan
• Transparency Plan
• Comparing Possible Plans
• Economics of Plan A
• AI 2027