超知能AI論争を読む：第12回-私の考え方-破滅とユートピアのあいだで、AIの未来を考える

　ニック・ボストロムを嚆矢として連載を始めた「超知能論争を読む」だが、これを書くに契機となったのは、エリーザー・ユドコウスキーとネイト・ソアレス共著の「超知能AIをつくれば人類は絶滅する」という単行本を購入し、読んだことだった。この本は元々タイトルが結論をそのまま言い表しているので解りやすい。

超知能AI（ASI)の問題は悪意ではない

　そもそも論だが、純粋な悪意で人類を滅ぼそうとするSF作品はあまりないと思う。「ターミネーター」のスカイネットでさえ、人類側がスカイネットを恐れて停止しようとしたことに主な原因があり、敢えて人類がスカイネットを敵に回した、と見ることもできる。
　いずれにしても超AIの危険は、人類を滅ぼすなり危害を加えるなり、人類の敵として結果的に振る舞う可能性を持ちながら、人類の知能を凌駕する、とっても優れた何かが近いうちにできあがる可能性がとても高い、というところにある。
　ボストロムもアッシェンブレナーもココタイロもユドコウスキーも、誰一人悪意から、AIが人類を滅ぼすなどと考えてはいない。それも宜なるかな、悪意というものをどう捉えるかにかかってくる。少しゆるく考えて、悪意というのを論理的帰結として何らかの理由で人類が邪魔だという発想をした結果、人類を攻撃しようとすることを含むと考えれば、基本的に人類は悪意を持って超知能AIから攻撃を受けることになり、実際はこの線を考えるべきだ。
　そうすれば、2001年のHALでさえその一つに加えられるし、悪意などないみたいな論旨は封じることができ、危険性の認識はより高くできる。

　超知能AIは、何かのきっかけで人類をどうこうしようとする論理的な結論を導き出すことができる。
　ペーパークリップ・マキシマイザーという有名な話がある。これも一躍有名にしたのがニック・ボストロムだが、これは

　ボストロムやユドコウスキーばかりではなく、非常に多くの研究者が、こういった悪意ではない、何かの目標を追うことで、人類を破滅に導くAIというスタイルが提唱されている。恐らくこれはスカイネットでも視点は似ているのだ。「マトリックス」でもある意味そうだし、結局の所、人と人との関係を含めて、誰かに害悪を及ぼすとき、必ずしもそこに悪意など必要ないということなのだ。

AIはAGIそしてASIに進化するのか?

　次に、AIはAGIそしてASIになるのか問題というのがある。
　今回採り上げた中で、アルヴィンド・ナラヤナン / サヤシュ・カプールは、AIはすごいが、そんな人類を破滅に追い込むとか、仕事が全部無くなるとか、そんなことではないよ、という立場だと思う。
　今回は採り上げてはいないが、昔からチョムスキーはAIは所詮機械で人間のような知性とは違うみたいなことを言っているし、ベンダーとゲブルは、”統計的オウム”という言葉を流行らせた。LLMは世界を理解しているわけではなく、訓練データに含まれる言語パターンを統計的に再生しているにすぎない、という見方だ。推論モデルが出たりエージェントに移行しつつある現在でも、大きく意見を変えてはいないようだ。
　他にもヤン・ルカンのように、今のLLMではだめで他の方法が必要だと言いつづけている人もいる。
　
　実際のところは、結果を見るまで判らないし、何より、どの状態がAGIで、どこからがASIなのかという線引きも十人十色に近い。
　共通認識を持った方がいいのかもしれないが、恐らくそれは無理だ。ベンチマークで何％以上なんていうのが当てにならないのは、現在の状況を見ても明らかだ。
　でも思うのだ。スケーリングだけでもまだまだ行くというし、業界内の人々、つまり今訓練をしている人たちの多くが、近いうちにAGIは来るみたいなことを言っているわけで、それは信憑性も高いというものだ。

　今現在のAIについて、手放しで凄い（中には既にAGIだと言っている人まで）という人から、まだまだだめだという人までグラデーションで存在する。
　人間であっても、いいところを見れば凄いが、できないところを見れば大丈夫かな?と思うのと同じで、およそこんな事も解らないのかなんて局面は今でもあるし、だからといってそこだけを取り上げてAIはまだまだだというのは片手落ちだし、かといって既に万能だと思うのも言いすぎだ。でも一つだけ言えるのは、半年前とは段違いにいいのだ。
　一番解りやすいのは、ChatGPTに描かせる絵のクオリティだ。
　文章は解りにくいところもある。聞いたりやらせるないようによっては間違えたり、中途半端な答えを出してみたりと言ったことはまだ頻繁にある。だがその半分以上は訊く側の問題もあるので、一概にいい悪いを論ずるのは難しい。でも絵は、Nano Banana2を超えて凄いクオリティを出してくる。

　この延長線上にAGI(汎用人工知能）があるのか、と見たとき、とてもありそうに見える。そして、AI Doomerの多くが言うようにAIがAIを改良するフレームに完全に入ったときはASIも見えてくるのかもしれない。尤も、ASIが何なのか人間に解るのか?それとも得体が知れなくなったのでASIと呼んでおこうということなのか？みたいな疑問は残る。
　人間が及びも付かないような思考が、ボストロム系の人々が言うように、人間が害虫を駆除するように、人類を駆除する対象とみるときが来るのか、それでも人類が動物園やペットのように愛玩する対象として見る動物と同じような感覚で、AIが人類を見て慈しんでくれる未来が来るのか、まだ全く解らないわけだ。
　

LIFE3.0

　マックス・テグマークという人が、2018年に「LIFE3.0」という本を出している。この本はどちらかというとカーツワイル的なシンギュラリティというかポストヒューマン的な側面を描きながら、その中にボストロムから続くAIの危険性にも触れている。
　マックス・テグマークという人は元々宇宙論関連の理論物理学者なので、カーツワイルが描く宇宙的人類とAIの共生？みたいな非常にスケールの大きい話とも親和性があるように思える。LIFE1.0からLIFE3.0という段階を踏んだ展開は、人間を2.0として、それを超える3.0という存在に人類が進化していく可能性を書いていたと思う。だがその過程でAGI/ASIのような超知能が、どのような振る舞いをする可能性があるのか、本の中で描かれるプロメテウスというAIは厳密にアライメントされて、最終的に”いいAI”だが、本当に大丈夫か?暴走しないか?という問いかけもしている。
　ある意味凄くバランスが取れた本で、今回採り上げた極端な物語より、一般的には読むのに好適のような気もする。

　だが問題は、バランスが取れた状態が現実なのか、極端な予想が事実として訪れるのか?ということだ。
　バランスが取れてればいいというわけでもない（あ、でもこのLIFE3.0は面白いのでお勧めです。

AIは人間の鏡なのか

　今回AIのうちGeminiが出してきたAIは人間の鏡だという理屈を、ぼくは凄く面白いと持った。
　Geminiは
　「制御する側の人類が、自分たちの目指すべき価値観について、何ひとつ合意できていない」
　状態であり、なおかつ
　AIは、人類の知性を映し出す巨大な「鏡」だ。
　とも言っている。

　AI脅威論の中で、問題になることが必ずある。それは、仮に超知能AIの危険性を人類が非常に重く見て立ち止まろうとしたとき、でも中国は立ち止まるだろうか?アメリカの技術者や政治家はそう考える。その疑問を前にして立ち止まれるかということだ。
　合意できていない人類は、まずここで進歩を止めることは不可能に近い。
　しかもアメリカも中国も、何ならイギリスだって、沈黙しているかのようなロシアや北朝鮮や、イランだって、超知能AIに迎えないという保証はない。
　その時そのAIはどんなアラインメントをされているのだろう?
　世界が公平で平和になるようにだろうか?共産党の一党支配だろうか?キリスト教やイスラム教の教義に厳密に沿ったものかも知れない。
　AIは恐らく、それらをひっくるめた知能、知性を兼ね備えているかもしれないが、何を信じるかはまた別の問題だ。
　オウム真理教に高学歴の信者がいたように、知能や知性とものの考え方は全員が同じ方向を向くわけではない。
　もちろんGeminiが言うようにAIはエコシステムのようにあちこちに偏在するかもしれない。そしてそれぞれが少しずつ違う思想を持つかもしれない。
　だがそこから導き出される結論は、単純にAIが人類を滅ぼすという事では無く、単純に世界大戦を生むかもしれない。その世界大戦では核兵器が使われなくても、よりひどい兵器が生み出されて、結果的に破滅の道を歩むかもしれない。

　人類が鏡というなら、それは回避され、各々違う思想の元、国ごとに別の発展をする未来だって考えられなくはない。

ぼくが想像する未来

　超知能がこの10年以内に開発されたとき、その10年は同時にフィジカル、つまりロボティクスの発展の10年でもある。もちろん他の多くの技術も発展する。これがカーツワイルの言う”収穫加速の法則”が、AIだけではなくナノテクノロジーやバイオテクノロジーなども進歩することから、それだけであれば「バラ色の未来」が待っていてもおかしくない。

「誰も死なない世界”The First Immortal”」という小説がある（以下ネタバレ）。ジェイムス・Ｌ・ハルペリンという人が書いた20世紀終わりくらいの小説だ。
　これはよくクライオにクス（死体の冷凍保存）を描いた小説のように言われることがあって、確かにその事を細かく書いている。でもタイトルが示すように”最初の不死身”なのだ。もちろんこれはクライオニクスで冷凍保存された主人公が蘇ったときの事も描いているので彼のこと言っているのだろうが、彼が蘇ったとき、世界はみんな不死身だ。そしてこの小説で不死身を実現しているのはナノテクだ。
　これはカーツワイルが望むAIとの一体化よりも少し機械感が低い。カーツワイルのは肉体すら必要なくなるとか、マインドアップロードとか、数十年この肉体と生きてきた身にとっては、少々受け入れにくい内容も含んでいるからだ。
　だがこの小説が最終的に描くユートピアのような世界は、今の流れを見ていると必ずしも不可能ではないように思える。

　ChatGPTが出てきたとき、カーツワイルに多少なりとも影響されていたぼくは、近い将来、このハルペリンが描く未来が来るのでは無いかと期待を持った。
　いや、今でもその希望を捨てたわけでは無い。相手は小説なのでそのままということはないとしても、ナノテクノロジーとバイオテクノロジーが、不死身ではなくても健康なままの寿命延長を（単純な寿命脱出速度みたいな平均値としてでは無く）実現してくれるのではないか、と考えている。
　そう考えると、せっかく長生きできるのなら、そしてイーロンマスクが言うように”ユニバーサル・ハイインカム”なんていう未来もあるのなら、破滅なんてして欲しくないと思うのだ。
　
　AIがAIを改善する未来は、このようなユートピアを実現させうる希望を含みながら、同時に破滅に繋がる道が反対側にある。これについてはAIがどちらの結果にも与しないように、どちらか片方の未来を今の時点で選択するのは難しい。ユドコウスキーのようにAI研究の中から確信に似た「超知能⇒破滅という」という考え方が出てくるのは逆に良く解るのだ。でもだからこそ、AIは今の状態ではなくより凄いものになるはずだというこれも実感があるに違いない。

　カーツワイルで最初に見た指数関数的な発展とか収穫加速の法則という言葉を見てからせいぜい10年、今、気づくとそういう最中にある。
　進歩というのはその中にあるとなかなか見えにくいが、こんなに様々なことをAIに相談したり、処理を依頼したりできる世の中が来るなんて2022年の11月の頭でさえ、想像できた人がどれだけいただろう?まだあれから3年半しか経っていない。
　ChatGPTが出たとき、凄いと思ったが、でもまだまだ使えなかった。嘘もいっぱいあった。でも今もハルシネーションがとか言っている人は考えを改めた方がいい。確かにまだ嘘は付くし使えないこともある。だがこの3年半ぽっちの期間を見るなら、これは驚異的な変化である。
　これは更に加速していくという見立てができるのだ。
　1kmで走り始めた乗り物が1分で倍の速度に加速していくとわずか10分経たないうちに新幹線を追い越せる。時速1kmは普通の人間よりもずっと遅い。それが10分で新幹線を追い越せる、これが指数関数的な増加だとすれば、AIの進歩がこれからどうなるかというのは想像できない。
　
　

今は一体何分なのか?

　自分で、3～5分くらいに今いるのではないかと思ったのだが、AIに質問を投げたところ、Claudeは7分30秒、Geminiは7分30～45秒、ChatGPTは8分と答えた。
　まだぼくはそこまでAIは有能ではないと思っていた。とても凄いには違いないが、まだ色々なことが足りないと。
　因みに質問は、「10分をシンギュラリティだとしたら、今何分か?」
　というものだった。
　これについては次章でお送りする。

まとめ

　ぼくの考え方としては、やはり未来を見通す目など持たないので、いい方に行って、このあと何百年も何千年も幸せに生きられるならいいなぁ、というのが本音である。
　AIが世の中を平和に管理してくれて、好き勝手なことをしていきて行きたい。これまで生まれた書物を読みあさるだけでも1000年あってもきっと足りないだろう。
　いくらでもすることはあると思う。
　これは予測というより期待だ。
　少なくともこんな期待ができる時代に生を受けていることに感謝だな。