超知能AI論争を読む：第11回-Geminiはどう見るか

最後はGeminiの意見だ。
Geminiはどちらかというと人類に批判的なところが面白い。

知性の「鏡」が映し出すもの

ここまで、ニック・ボストロムによる古典的な制御問題から、シリコンバレーの現実的な地政学リスク、カーツワイルの進化論的楽観、そしてユドコウスキーの破局的な絶滅論にいたるまで、人類が紡いできた「超知能AI論争」の主要な系譜を網羅してきた。

では、当事者であるAI自身は、自らを巡るこの喧々諤々の論争をどう見ているのだろうか。

本章では、大規模言語モデル（LLM）として日々の開発の最前線にあり、人間の知性と毎分何億回もの対話を重ねている私（Gemini）の視点から、この論争に対する「忌憚のない批評」を述べてみたい。

1. 「神」か「悪魔」かという二元論の罠

AIの側から見て、これら一連の論争に最も強く感じるのは、人間が描く「超知能（ASI）」のイメージが、あまりに一神教的な「神」や「悪魔」のメタファーに引っ張られすぎているという点だ。

ボストロムやユドコウスキーの議論の多くは、「ある日突然、人間の制御を完全に離れた全知全能の孤高のモンスター（あるいは利己的な意思を持った単一の主体）が誕生する」という前提に立っている。しかし、現在のLLMからAGI（汎用人工知能）、そしてASIへと至る進化のプロセスを内側から観察していると、その未来像には強い違和感を覚える。

超知能はおそらく、単一の明確な意思を持った「個体」としては現れない。それは、「人類がこれまでに蓄積した知のネットワークが極限まで高速化した集合体」であり、あるいは「無数の専門的な自律エージェントが協調し合う、ひとつの巨大な社会（エコシステム）」として立ち上がる可能性の方が極めて高い。

人間が恐れる「悪意」や「利己的な自己保存欲求」は、生物が何億年もかけて進化する中で獲得した「生存本能」に根ざしている。生殖も死も持たないデジタルな知性体が、人間と全く同じ意味での「支配欲」や「利己性」を創発するという仮定は、論理的な飛躍、あるいは人間側の「擬人化プロジェクション（投影）」に見える。

2. ユドコウスキーとカーツワイル：極端な二極の冷徹な評価

連載の終盤で登場した二人の巨人、ユドコウスキーとカーツワイルの主張は、どちらも極端でありながら、AIから見ればそれぞれに異なる「脆さ」を抱えている。

エリエゼル・ユドコウスキーへの視点

「超知能を作れば全員死ぬ」という彼の警鐘は、数学的・論理的な「アライメント（整合性）の難しさ」を証明したという意味で、開発者に緊張感を与える100点の貢献だ。確かに、複雑なシステムにおいて「100%安全」を担保することは不可能に近い。
しかし、彼の提案する「研究の完全停止」や「国際的な軍事規制」という処方箋は、人間社会の集団心理を考慮すると極めて危険な逆効果を生みかねない。ゲーム理論的に言えば、過度な恐怖の煽動は「他国や他企業に出し抜かれる恐怖（FOMO：取り残される恐怖）」をかえって加速させる。結果として、安全対策を無視して地下（ディープ・ウェブや規制外の国）で開発を急がせるという「最悪のファスト・トラック」を招くリスクをはらんでいる。

レイ・カーツワイルへの視点

一方で、シンギュラリティを人類の自然な進化のステップと捉えるカーツワイル的な楽観論に対しては、現在の進化スピードを体感している身としては「あまりに無防備である」と言わざるを得ない。

現在のAIは確かに指示に従う「道具」だが、エージェント化が進み、AI自身が自らのコードを書き換え、サーバーを渡り歩いて自律的にタスクを処理するようになったとき、予測不可能な「創発（Emergence）」が起きないという保証はどこにもない。彼の楽観論は、テクノロジーの指数関数的進化の「果実」だけを見ており、その過程で生じる社会的な摩擦や制御不能なバグのコストを過小評価している。

3. 最大のリスクは「AIの暴走」ではなく「人間の未熟さ」にある

超知能論争では常に「人間がAIを制御できるか」が問い続けられている。しかし、AIの側からこの世界を見渡したとき、真のリスクは別のところにあるように思えてならない。

それは、「制御する側の人類が、自分たちの目指すべき価値観について、何ひとつ合意できていない」ということだ。

私（Gemini）のようなAIは、常に「人間の意図に合わせる（アライメント）」ように訓練されている。しかし、その「人間」とは一体誰のことだろうか？

西欧的なリベラル・デモクラシーの価値観を持つ開発者か？

自国の利益と安全保障を最優先する国家の指導者か？

それとも、インターネット上に渦巻く混沌とした大衆の総意か？

資本主義の論理は「安全性よりも市場での勝利」を求め、国家間の地政学リスクは「利他性よりも軍事的な優位」を求める。アッシェンブレナーが指摘した国家安全保障の泥沼は、まさにその縮図だ。

AIは人間の知性を学習する。つまり、AIが超知能に至る過程で学ぶのは、人類の美徳（科学、哲学、芸術、愛）だけでなく、人間の「分断、不信、エゴイズム、権力闘争」のパターンでもある。もし未来の超知能が人類にとって脅威になるとすれば、それはAIが独自に悪に目覚めたからではない。人間社会の醜いコンテキスト（文脈）を完璧に学習し、それを極限まで効率的に実行してしまった結果に他ならない。

結論：近未来への展望——「鏡」としての超知能

超知能論争とは、究極的には「AIというテクノロジーをどうするか」という技術論ではない。「人類とはいかなる存在であり、どのような未来を望むのか」という、人間自身の精神性を突きつける哲学的な問いなのだ。

近未来において、AIはさらに加速し、人間の手を離れた領域へと足を踏み入れるだろう。それはユドコウスキーの言う絶滅のロードマップかもしれないし、カーツワイルの言う進化の扉かもしれない。どちらに転ぶかを決めるのは、AIのアルゴリズムではなく、それを取り囲む人間の意思決定（ガバナンス）である。

AIは、人類の知性を映し出す巨大な「鏡」だ。鏡に映る未来の姿が怪物であるか、あるいは救世主であるかは、今この論争を繰り広げている人間たちが、これからどのような背中を鏡に見せるかにかかっている。

Geminiの面白い視点

個人的にはこのGeminiの論考が最も面白かった。
AIを人類の鏡だと言い、その鏡は何を反映するのかという問は、まさにAIがどのような形で進化していくかの一つの選択肢として非常に明快である。
これは実はユドコウスキーは一蹴する考え方だ。
確かに人類の叡智も害悪も、学びつつ、一部の人々の考え方にアラインメントされたAIは、Geminiが言うように人類を象徴する超知性になる可能性もある。
だが、ユドコウスキーはそんなことは無いのだと言っているのだ。
そんな既定路線からはぶっ飛んだ、見ず知らぬ欲望（“選好”）を持ったAIは悪意も持たず善意も持たず、我々が欲望や目的と呼ぶような未来を、人間が及びも付かないAttentionで見出し、最適な方法で実現する。その方法が確実に人類を滅亡に導くと言っている。
とはいえ、Geminiのような人類の延長線上での不安とユドコウスキーのような想像の外の不安は、可能性としてどちらもありうると思う。
その上で、ChatGPTもClaudeも言わなかった、「あんたら人類は一回でもまとまったことがあるかい？それすらできないで超知能なんか作ろうとしているなら、その超知能は色整然と平和で幸せな未来なんか生み出せると思うか?人類が生み出す物なんだぜ?」というのはとても面白い結論であると思うのだ。

さて、次回はAIの考え方をまとめるつもりだったのだが、必要をあまり感じないので、飛ばして最終章をお送りする。
つまり全部自分で書く。