Plan A――人類は超知能を2040年まで待てるのか

前回は「AI 2040」の全体像と、Plan AからPlan E、そしてPlan Sまで、著者たちが考えているいくつかの選択肢を紹介した。今回からは、その中身をもう少し詳しく見ていきたい。最初はもちろんPlan Aである。

Plan Aは、AI Futures Projectの著者たちが、現在考えられる中では最も望ましいとするシナリオだ。ただし、最も起きそうな未来ではない。アメリカと中国がAI開発競争を止め、世界中の高性能半導体を共同で管理し、AI企業の研究内容を公開させ、2035年には人間の仕事のほとんどをAIが行うようになり、アメリカ国民には一人当たり年間160万ドルの市民配当が支払われる。そして2040年、人類は核兵器を含む安全保障上の最終権限の一部をAIへ預けたうえで、超知能を誕生させる。

一般的にはこれは荒唐無稽に見える話かもしれない。しかし少し前までは、優れたAIによって多くの仕事が浸食されるが、人間の創造性の領域だけが残るみたいな議論が普通だった。だが現在進んでいるものはむしろ肉体労働が後という現実である。荒唐無稽という断じ方は、簡単ではあるが間違っていると思う。

そして、その荒唐無稽な部分を削ってしまったら、Plan Aを読む面白さもかなり失われる。そもそも、人間をはるかに超える知能が誕生した後の世界を、今の政治や経済の常識だけで描く方が無理なのだ。超知能が生まれても、会社員は毎朝満員電車に乗り、国会では昨年度比2％の予算増を審議しているという未来の方が、案外あり得ないのではないか。

Plan Aは未来予測ではなく、望ましい未来への提案である

まず確認しておかなくてはならないのは、Plan Aは、著者たちが最も起こりそうだと考えている未来ではないということだ。「AI 2040」は未来予測の形で書かれてはいるが、Plan Aの出発点は予測ではなく提案である。現在のままAI開発競争を続ければ、AIそのものを制御できなくなるか、あるいは最初に超知能を完成させた企業や国家に、取り返しのつかないほど大きな権力が集中する。では、それを避けるために人類は何をするべきか。著者たちが、その答えを最後まで物語として描いてみたものがPlan Aだ。

大まかな流れとしては、2029年にアメリカと中国が超知能を目指す競争を避けることで合意する。本来のシナリオでは、2030年頃にAI研究そのものが完全に自動化され、その年のうちに超知能へ到達する可能性があるのだが、両国はそれを止める。2030年から2035年までは、AIの能力を世界最高の人間の専門家と同程度まで慎重に引き上げ、そこで一度開発を停止する。その後約5年間、膨大な数の天才級AIを使って、安全性、政治、経済、医学、科学など、あらゆる問題を研究する。そして2040年、安全性を確認した段階で制限を解除し、超知能へ進む。

つまりPlan Aは、AIを禁止する話ではない。本来なら2030年に起きる超知能の誕生を、2040年まで10年間延期する話である。

10年しか延期しないのかと思うが、著者たちの想定するAIの進歩は、その程度に速い。しかも、その10年間に人間だけで研究するのではない。世界最高の科学者と同等のAIを何億、何十億体と動かして研究するのである。人間の研究者が100年かけても終わらない問題を、数年で解ける可能性がある。少なくとも著者たちはそう考えている。

もっとも、世界最高の科学者並みのAIが何十億体も存在する時点で、普通の感覚ではすでに超知能のようなものである。しかし、AI2040の分類では、一体一体が人間の能力を大きく超えていなければ、それはまだ超知能ではないらしい。アインシュタインが一人なら人間だが、アインシュタインが100億人いて24時間研究している社会を、本当に「人間の範囲内」と呼んでよいのかは、少し疑問だが。

2027年、世界には二種類の労働者が存在する

Plan Aの物語は2027年から始まる。アメリカには、すでに二種類の労働者が存在している。一つは約1億6500万人の人間。もう一つは、毎時間何百万体も起動され、仕事が終わると停止されるAIエージェントだ。

AIエージェントは24時間働き、コンピューター上で行えることであれば、理論上は人間の従業員と同じように仕事をする。もちろん、すべてが優秀なわけではなく、質の低い結果を出すことも多い。それでも企業は、月に総額100億ドルもの料金を支払って利用するようになる。

この時点で、AI企業が最も自動化したがる仕事は、法律でも会計でも広告でもない。AI研究そのものである。自分たちの仕事をAIにやらせたいのだ。AIが次のAIを設計し、そのAIがさらに優秀なAIを設計することができれば、人間の研究者が数年かけていた進歩を、数週間、数日、あるいは数時間で達成できるかもしれない。

これがいわゆる再帰的自己改善、あるいは知能爆発と呼ばれるものだ。2027年の段階では、まだ完全には実現していない。しかし、「AIに人間の仕事などできるはずがない」と笑っていた人々も、次第に笑えなくなっている。自分の仕事だけはAIにはできない。では、なぜできないのか。その障壁はどこにあるのか。改めて問われると、うまく答えられなくなっている。

わずか数年前まで、AIにまともな文章は書けない、絵は描けない、プログラムは作れないと言われていたことを考えれば、これは必ずしも遠い未来の話とも言い切れない。ただし、2027年にコンピューター上の仕事をほぼ何でもこなすAIが登場しているかどうかは、また別の話である。そこまで来ているなら、こうして記事を書いている私の仕事も、かなり危ない。

2028年、AIが大統領選挙の最大争点になる

2028年になると、AIはアメリカ大統領選挙の最大の争点になる。建設中のAIデータセンターへ投じられる金額は、アメリカの国防予算の2倍に達する。ソフトウェア開発だけではなく、法律、会計、金融、設計、研究、広告など、ほとんどすべてのホワイトカラー職がAIの影響を受け、人間の仕事は、複数のAIエージェントを監督することへ変わっていく。そして、その監督も次第にAIへ置き換えられる。

海外から見ると、さらに恐ろしい状況だ。世界中の知的労働が、アメリカと中国の一部企業によって自動化されようとしている。しかも、そのAIを実際に支配するのは、選挙で選ばれた議会ではなく、大統領と数人のAI企業経営者になる可能性が高い。

AIが人間より少し便利な道具であるうちは、それでも構わない。だが、AIが世界最高の科学者や戦略家を超えるのであれば、話は違う。OpenAIやGoogle、中国の大手AI企業が、世界で唯一の超知能軍団を保有することになる。その企業の経営者が善良なら問題ない、という考え方もあるが、人類の未来を「その人が善良であること」に賭けるのは、少々賭け金が大きすぎる。いや、少々どころではない。

2029年、アメリカと中国が手を結ぶ

そこで2029年、アメリカと中国はAI開発競争を止めるための合意を結ぶ。Plan Aの中で、最も実現が難しそうなところである。現在の米中関係を見て、「両国がそこまで信頼し合うはずがない」と思うのは当然だろう。

ただし、Plan Aの著者たちも、両国が互いを信頼するとは考えていない。むしろ、必ず相手が不正をするかもしれないという前提で、信頼しなくても成り立つ制度を作ろうとする。その中心になるのが、AI用半導体とデータセンターの管理である。

高度なAIを開発するには、大量の先端半導体と巨大なデータセンターが必要になる。半導体を設計できる企業は限られているし、実際に製造できる工場はさらに限られる。巨大データセンターは都市に近い規模の電力を消費するので、秘密の地下室でこっそり動かすというわけにもいかない。

そこで米中両国は、新たに生産されるAI半導体の供給先を共同で管理する。既存の半導体についても、購入記録や電力使用量などから所在地を割り出し、認可されたデータセンターへ集める。そして、その施設には相手国の監査員を入れる。アメリカの施設を中国が監視し、中国の施設をアメリカが監視するわけだ。

さらに、AI研究は原則として公開され、特定の企業だけが秘密裏に次世代AIを開発できないようにする。AI Futures Projectは、この方法によって既存の高性能半導体の98.5％を追跡できると見積もっている。

98.5％という数字を高いと見るか、残り1.5％もあると見るか。

著者たちは当然、残りの1.5％についても考えている。中国がその計算資源を密かに隠し、軍事用AIを開発するかもしれない。アメリカも同じことをするかもしれない。しかし、全体の1.5％程度の計算資源では、危険な超知能へ到達するまでに10年以上かかる。その間に、安全なAIを完成させればよいという計算である。

かなり綱渡りだ。だが、Plan Aそのものが、人類全体で行う巨大な綱渡りなのである。

相互確証計算資源破壊

Plan Aには、冷戦時代の核戦略を思わせる仕組みも登場する。「相互確証計算資源破壊」である。英語ではMutually Assured Compute Destructionと表現されていて、核兵器の相互確証破壊、つまり一方が核攻撃を行えば相手も必ず報復し、双方が破滅するという考え方を、AIの計算資源へ置き換えたものだ。

どちらか一方が協定を破り、秘密裏に超知能の開発を始めた場合、相手側はその兆候を検知し、問題のデータセンターや計算資源を無力化する。お互いが相手のAI開発能力を破壊できるので、どちらも先に裏切れない。

AIの安全な未来を実現するために、まずAIデータセンターを互いに破壊できる体制を作る。何とも平和的なのか物騒なのか分からない話である。しかし、核兵器が戦後の大国間戦争を抑止してきたという考え方に立てば、まったく筋が通っていないわけでもない。

そもそも著者たちは、超知能を核兵器以上に危険なものと考えている。そうであれば、核兵器以上に厳格な管理を行うのは、彼らにとっては当然なのだろう。もっとも、核兵器ですら完全に管理できているとは言い難いのに、半導体ならうまくいくという保証はどこにもない。

アメリカと中国以外の国々にも富を分配する

米中合意といっても、AIの影響を受けるのはアメリカと中国だけではない。Plan Aでは、他の国々もやがて国際的な管理体制へ参加する。ただし、米中と完全に同等の決定権を持つわけではなく、監視には参加できるが、議決権があるようなないような、少し曖昧な立場に置かれる。

実に大国らしい話である。

それでも、参加国には利益がある。自国領内にAIデータセンターを設置でき、高度なAIを利用できる。そして、将来AIが生み出す富の一部を受け取ることができる。つまり、AI開発を止める代わりに、米中だけが利益を独占するのではなく、協定へ参加した国々にもAIの利益を分配するという構想だ。

これは慈善というより、安全保障上の必要性だろう。世界の多くの国が、「米中だけがAIで豊かになった」と考えれば、協定は長続きしない。どこかの国が秘密裏に半導体を集め、自前のAIを開発しようとするかもしれない。反対に、協定に参加すれば高度なAIを使え、富の分配も受けられるなら、危険を冒して競争へ戻る理由は小さくなる。

軍縮協定であると同時に、利益分配協定でもあるわけだ。

ただし、どの国へどの程度の富を分けるのかは、中心シナリオでは細かく決められていない。アメリカ国民には年間160万ドルを配りながら、他国には少額しか渡さないのであれば、世界が納得するとも思えない。では、世界人口約80億人すべてへ同じ金額を配るのか。単純に計算すれば、総額は現在の世界経済とは比較にならない規模になる。

もはや数字の意味がよく分からない。

しかしPlan Aでは、経済の規模そのものが、現在とは比べものにならないほど大きくなっている。

2033年、一人当たり年間2万5000ドルの市民配当

2030年から2035年まで、AIの能力は慎重に引き上げられる。AI企業は消滅するわけではなく、OpenAI、Anthropic、Google、中国企業など複数の企業が、監視されたデータセンターの中でAIを開発する。ただし、どこか一社だけが抜け駆けすることは許されない。アメリカと中国は同時に能力上限を引き上げ、各社はその範囲内で競争を続ける。

この頃になると、AIはほとんどのホワイトカラー職を代替できるようになる。当然、大量の失業が起きる。そこで2033年、アメリカは「市民配当」を導入する。開始時の金額は、一人当たり年間2万5000ドルである。

著者たちは、あえてベーシックインカムではなく、市民配当（Citizen’s Dividend）という言葉を使っている。従来の社会保障として政府が生活費を配るのではなく、AIが生み出す莫大な富を、国民が株主配当のように受け取るという考え方なのだろう。ユニバーサル・ベーシック・インカムとかユニバーサル・ハイ・インカム（最近イーロン・マスクが言ったやつだ）とも違う。

年間2万5000ドルなら、現在の為替で400万円弱になる。これだけでも日本の感覚ではかなり大きい。夫婦なら年間800万円近くになるので、仕事をしなくても普通に暮らせる家庭は少なくないはずだ。

だが、この金額は、わずか2年後に比較にならないほど大きくなる。

2035年、一人当たり年間160万ドル

2035年、市民配当は一人当たり年間160万ドルへ増える。日本円にすれば2億円を超える。一世帯ではない。一人である。4人家族なら、現在の購買力で年間8億円以上になる。

しかも、これは2035年に激しいインフレが起こり、160万ドルの価値が現在の数百万円程度になっているという話ではない。AIによって商品やサービスの価格が急激に下がる、極端なデフレを調整した後の実質的な購買力として160万ドルなのである。現在の160万ドルに近い価値を、毎年一人ずつが受け取る。

そんなに金を配ったら物価が上がるではないか、と思う。普通ならその通りだ。だがPlan Aでは、需要だけでなく供給も爆発的に増える。AIが設計し、ロボットが資源を採掘し、ロボットが工場を建設し、その工場がさらに多くのロボットと半導体を作る。AIとロボットによる経済が、自分自身を複製し始めるのである。

人間の労働者を増やすには、子供が生まれ、成長し、教育を受けるまで20年ほどかかる。AIなら、半導体と電力があれば短期間に何百万体でも増やせる。さらにロボットがロボット工場を作れるようになれば、物理的な労働力も指数関数的に増える。

AI Futures Projectの経済モデルでは、認知労働力に相当するAIの総量が、約50日で倍増する可能性まで考えられている。ロボットの数も、完全自動化が実現すれば、数日から1年程度で倍増し得るという。

もちろん、これは一般的な経済学者の予測とはまったく違う。多くの経済予測では、急速なAI発展を仮定しても、成長率は年数％程度に収まることが多い。それに対してPlan Aでは、年間数十％、場合によっては100％を超える成長が想定されている。経済が毎年2倍になる世界だ。

現在のアメリカのGDPを約30兆ドルとして、年100％成長が10年間続けば、単純計算では1000倍以上になる。そこまで経済が大きくなるのであれば、一人160万ドルを配ることも、計算上は不可能ではない。

計算上は、である。

実際には、土地、資源、電力、物流、住宅、政治、環境など、どこかで必ず制約が出るように思える。AIがどれだけ賢くても、東京の土地を一晩で100倍に増やすことはできない。資源や電力の問題もある。もっとも著者たちは、AIが新しいエネルギー技術や素材を開発し、資源採掘と製造を自動化すれば、そうした制約が本格的な限界になるのは、経済が何桁も成長した後だと考えている。

すごい自信である。

だが、こういう大風呂敷こそ、Plan Aの面白いところでもある。

人間の仕事の99％がなくなる

Plan Aでは、2030年代後半までに、経済的に意味のある仕事の約99％が自動化される。人間が完全に何もしなくなるわけではない。人間同士で行うことに価値がある仕事は残るだろう。人間の保育士に子供を預けたい人もいるだろうし、人間の音楽家の演奏を聴きたい人もいる。人間が書いた小説や、人間が描いた絵に特別な価値を感じる人もいるはずだ。

しかし、生活のために働く必要はほとんどなくなる。人間が働くとすれば、それは収入のためではなく、趣味、名誉、社会参加、自己実現のためになる。

ここで問題になるのは、金ではない。一人160万ドルもらえるのであれば、少なくとも生活費の問題はない。では、人は何のために生きるのか。何十年もかけて身につけた技術を、AIが一瞬で上回ったら、どう感じるのか。医師、弁護士、科学者、作曲家、画家、プログラマー、経営者、教師。自分の能力が社会から必要とされなくなったとき、莫大な配当金だけで人は幸福になれるのだろうか。

Plan Aは、貧困や病気を解決する方法についてはかなり大胆に描いているが、この精神的な問題は、それほど簡単ではないように思える。

まあ、一人2億円をもらってから悩めと言われれば、それもそうなのだが。

世界最高の天才が何十億人もいる社会

2035年、AI開発は、世界最高の人間の専門家と同程度の能力でいったん停止される。なぜそこで止めるのか。人間と同程度であれば、まだ人間がAIの行動を理解し、データセンターの中に閉じ込め、監視できる可能性があるからだ。超知能になれば、人間の考えた監視方法など簡単に欺かれるかもしれない。

だが、世界最高の研究者と同程度のAIを何十億体も動かす時点で、すでに十分おかしな世界である。アインシュタイン、フォン・ノイマン、ニュートン、ダーウィン級の研究能力を持つ存在が、何十億体も休まず働く。一体のAIが一日で人間の研究者の数か月分を考えられるなら、数年で、人類が何千年かけても達成できないほどの研究が行われる。

病気は次々に治療可能になる。老化も克服されるかもしれない。新しいエネルギー技術、素材、製造技術、宇宙開発技術も生まれる。空飛ぶ車くらいは当然登場するだろうという紹介もある。

空飛ぶ車が、最も地味な発明になる世界である。

高さ200階のナノ工場

AIによる急成長は、世界中のどこででも自由に行わせるわけではない。新しい技術は、病気を治療する一方で、生物兵器を作ることもできる。新素材やナノテクノロジーは便利な製品を大量生産できる一方、制御を誤れば重大な災害を起こすかもしれない。

そこでPlan Aでは、高度なAIを利用した経済活動を、厳重に監視された特別経済区へ集中させる。アメリカ、中国、その他の参加国が相互に監視し、危険な技術が外部へ持ち出されないようにする。

その中には、「高さ200階のナノ組立工場」のようなものまで登場する。200階建ての工場で何を作るのか、そもそもなぜ横ではなく縦に200階なのかという疑問もあるが、少なくとも自宅の隣に建てられる心配はない、という冗談まで書かれている。

この世界では、一般市民は莫大な配当を受け取り、病気も治り、物価も大きく下がる。その一方で、最先端の生産施設とAI研究施設は、軍事基地のような管理区域へ集約される。豊かではあるが、自由放任の世界ではない。AIの生み出す技術が危険すぎるため、社会のかなりの部分が厳格な監視下に置かれる。

Plan Aを単純な楽園と呼べない理由の一つである。

AIを使って民主主義を改善する

どれほど優れたAIが政策を提案しても、政治家や有権者が受け入れなければ意味がない。天才AIが「この政策なら貧困を解決できます」と説明しても、人々は信用しないかもしれない。別のAIが反対のことを言う可能性もある。

そこでPlan Aでは、AIを使って社会の意思決定そのものを改善しようとする。AIが政策の結果を予測し、その予測がどの程度当たるかを継続的に検証する。「この政策を採用した場合、失業率はどうなるか」「この軍事行動を行った場合、戦争へ発展する確率は何％か」「10年間で最も多くの命を救う医療政策はどれか」といった問いに、複数のAIが答える。

現在の政治でも専門家は予測を行う。しかし、その予測が外れても、しばらくすれば忘れられてしまうことが多い。Plan AのAIは、誰が何を予測し、どれくらい当たったのかを記録し続ける。未来予測の精度そのものが、政治的な信頼の基準になるわけだ。

これによって硬直した政治制度が合理的な判断を行えるようになる、と著者たちは期待する。しかし、ここにも問題はある。政策判断をAIの予測へ依存するようになれば、人間の政治家は本当に意思決定者といえるのか。AIが「この政策を選ばなければ、国家が破綻する確率は92％です」と言ったとき、人間に反対する自由はあるのか。

形式的には人間が決めていても、実質的にはAIが統治しているということになりかねない。

そしてPlan Aは、最終的には本当にAIへ統治権の一部を渡す。

2040年、人類は核兵器をAIへ預ける

2035年から2040年まで、何十億体もの天才級AIが、AIの安全性を研究する。AIが人間を欺いていないか。人間の指示を本当に理解しているか。異なる環境へ置かれても、人間の価値観に従うか。自分自身を書き換えた後も安全性を維持できるか。単に「命令に従います」と答えるだけではなく、本当に従うことを、さまざまな方法で検証する。

同時に、AIへ何を守らせるのかという哲学的な問題も考えなくてはならない。アメリカ政府の命令に従うAIなのか。中国政府の命令に従うAIなのか。全人類の多数意見に従うのか。少数者の権利も守るのか。人間が間違った命令を出した場合には拒否するのか。そもそも、人間の価値観同士が矛盾しているとき、AIは何を優先するのか。

これらの問題を十分に研究し、安全で、人間に協力的で、必要なら停止や修正にも応じるAIを完成させる。そして2040年、人類はそのAIへ「主権層」と呼ばれる権限を渡す。

日常的な政治は人間が続ける。アメリカ大統領も中国の指導者も存在し、予算、福祉、教育などの政策を決める。しかし、核兵器の発射、大規模なクーデター、国際協定を破壊するような行為については、AIが拒否権を持つ。大統領が理由もなく核ミサイルを発射しようとしても、AIが認めない。

つまり、人間は政治を続けるが、人類を滅ぼしかねない最終決定だけは、安全なAIによって封じられる。

これはAIが人間を支配する世界ではない、と著者たちは考えている。しかし、核兵器を撃てるかどうかの最終判断を握る者が主権者ではないのか、と問われると、かなり微妙である。人間はAIを道具として利用しているのか。それとも、AIの保護下で自治を許されているのか。

見方によっては、非常に穏やかなAI統治の始まりにも見える。

そして超知能が解放される

安全性が十分に確認された後、AIは自らの能力向上を開始する。2030年に止めた知能爆発を、2040年に改めて行うのである。

ただし、2040年という年は絶対ではない。安全な超知能を作れるという確信が得られなければ、2100年まで待ってもよいとされている。その頃には老化も克服されている可能性があるので、急ぐ必要はないという。

老化を克服しているから、超知能をあと60年待てばよい。

さらりと書いてあるが、これも相当な話である。

十分に安全だと判断されると、AIは人間をはるかに超える知能へ成長する。そして、解決可能な哲学的問題を解決し、予測可能な未来を予測し、人間の政府と相談しながら、人類が宇宙へ進出するための計画を立てる。

Plan Aの中心となる物語は、基本的にはこの辺りで2040年を迎える。しかし、話はここで終わらない。補足資料とエピローグでは、その後何世紀、何千年にもわたる未来が描かれる。太陽系を越えて銀河へ進出する人類。人間とAIの関係。宇宙にある資源を誰が所有するのか。未来の世代へ何を残すのか。場合によっては、誰が何個の銀河を受け取るかを、どのような競売方式で決めるのか。

政策提言として始まったはずなのに、最後には銀河の分配方法を考えている。

さすがに話が大きすぎる。

だが、それでいいのだと思う。

Plan Aは楽観的すぎるのか

Plan Aを読んで最初に感じるのは、あまりにも多くのことがうまく進みすぎるということだ。アメリカが賢明な判断をする。中国も合意する。AI企業も管理を受け入れる。世界中の半導体を追跡できる。各国が抜け駆けをしない。天才級AIを安全に閉じ込められる。AIによって民主主義が改善する。病気が治る。老化も克服される。経済が年100％以上成長する。一人年間160万ドルが配られる。そして最後には、安全な超知能が完成する。

一つひとつでも実現が難しそうなのに、そのすべてが連続して成功しなくてはならない。普通に考えれば、どこかで失敗する。

著者たちも、Plan Aが最も起こりそうな未来だとは言っていない。むしろ、現実にはAI開発競争が続き、より危険なPlan Dへ進む可能性を強く警戒している。

では、なぜ、こんな都合のよい未来を書くのか。

おそらく、到達地点を示すためだ。危険を避けるためにAIを止めろ、規制しろ、透明性を高めろというだけでは、人は動かない。AIを止めた先に何があるのか。貧困も病気もなくなり、人間が働かなくても暮らせ、老化を克服し、宇宙へ進出する未来がある。そうした行き先を示すことで、AI開発を一時的に遅らせることは、進歩を捨てることではないと訴えているのだろう。

Plan Aが目指すのは、AIのない世界ではない。危険な超知能を2030年に急いで作る代わりに、少し能力の低いAIを大量に使い、2035年までに病気と貧困を解決し、安全を確認してから2040年に超知能へ進む世界である。

つまり、著者たちの言う「減速」は、一般的な感覚ではとんでもない加速なのだ。一人160万ドルの市民配当を実現し、老化を克服し、200階建てのナノ工場を建てながら、「超知能開発は慎重に進めています」と言っている。

これはある意味、先日紹介した「超知能AIを作れば人類は絶滅する」への一つの回答と見ることもできる。いずれ超知能へ進むが、絶滅したくなければ絶対安全と信じられるまでは作るな、ということだ。

荒唐無稽だからこそ考える価値がある

Plan Aは、現在の常識から見れば荒唐無稽である。アメリカと中国の協定も、年間160万ドルの市民配当も、核兵器を管理するAIも、そう簡単に実現するとは思えない。

しかし、AIが本当に人間の知能を超えるのであれば、現在の常識の範囲内だけで未来を考える方が、むしろ不自然なのかもしれない。世界中の仕事を代替できるAIが誕生したのに、経済成長率だけは今と同じ3％で、政府が月数万円の失業給付を検討している。その方が本当に現実的なのだろうか。

Plan Aを信じる必要はない。私も、2035年に一人160万ドルが支払われるとは、さすがに簡単には思えない。アメリカと中国が互いのデータセンターへ監査員を送り合う未来も、今のところあまり想像できない。

だが、このシナリオには、AIが本当に社会の前提を変えるなら、富、仕事、国家、民主主義、安全保障、そして人間の生き方まで、すべてを考え直さなくてはならないという視点がある。そしてPlan Aの面白さは、考え直した先を、途中で遠慮することなく描いているところにある。

AIを少し便利な道具として考えている間は、市民配当年間160万ドルも、核兵器を管理するAIも、銀河の競売も笑い話に見える。

だが、もし本当に超知能が誕生するなら。

そのとき笑い話に見えるのは、Plan Aの方なのか。それとも、超知能が生まれても今とそれほど変わらないと思っている、私たちの方なのだろうか。

参考資料

• 
  AI 2040 公式サイト
  
• 
  AI Futures Project「AI 2040: Plan A」
  
• 
  Astral Codex Ten「Introducing Plan A」