AIは自分を改良して超知能になるのか？ 研究者3人の討論から考える条件と課題
AIがAIを改良すると、進歩はどこまで速くなるのか
AIが次のAIを開発し、そのAIがさらに優れたAIを生み出す。こうした連鎖が続けば、技術の進歩は今とは比較にならないほど速くなるかもしれません。「再帰的自己改善」と呼ばれる考え方です。ただ、AIが開発作業の一部を手伝うことから、改良が自律的に続き、さらに加速することまでには、いくつもの段階があります。
2026年9月11日公開のDwarkesh Podcastでは、ジョン・シュルマン氏、ベレン・ミリッジ氏、チャーリー・オニール氏が、この問題を討論しました。司会はドワーケシュ・パテル氏です。この記事では討論の論点を入口に、公開されている研究事例と、仕組みを理解するための具体例を交えて考えます。
「AIが作るAI」にも、異なる段階がある
まず、AIが研究用のコードを書くことと、AI自身の研究能力が向上することを分けて考える必要があります。実験プログラムを早く作れれば、研究者の仕事は助かります。しかし、そのコードによって次のAIが賢くなったか、さらにそのAIがより良い研究を行えるようになったかは、それぞれ別に確かめる必要があります。
理解のために、三つの段階を想定してみましょう。第一は、人間が決めた研究をAIが手伝う段階。第二は、AIが提案と実験を繰り返し、一定の目標に向けて改良する段階。第三は、その改良によって研究能力まで高まり、次の改良がさらに進む段階です。これは厳密な学術分類ではありませんが、「自己改善」という言葉が指す範囲を見分ける助けになります。
研究者3人が指摘する課題
シュルマン氏は、コードを書く能力が高まっても、判断や自己点検などの弱点が研究全体の進歩を制約すると指摘します。オニール氏は、既に定まった目標を効率よく達成することと、次に追求すべき目標を見つけることの違いを強調しました。ミリッジ氏は、目標の提案と最適化を長く破綻なく繰り返せるかを、急速な自己改善の重要な条件として挙げています。
この違いは、日常の仕事にも置き換えられます。例えば「このページの表示を速くする」という依頼なら、処理時間を測りながら改善案を試せます。一方で「この事業で、次に何を開発すべきか」という問いには、処理時間のような一つの正解指標がありません。どちらも考える仕事ですが、必要になる判断はかなり異なります。
AIによる開発の改良は、実際に起きている
関連事例として、Google DeepMindのAlphaEvolveがあります。2025年の発表では、言語モデルがプログラムの改良案を作り、自動評価で有望な案を選び、さらに改良する仕組みが紹介されました。モデルの提案をそのまま信用するのではなく、実行して確かめる工程が組み込まれています。
研究チームの論文は、AlphaEvolveが、その仕組みを支える言語モデルの学習を高速化したことも報告しています。AIがAI開発の効率を高める具体例です。ただし、これによって研究能力が世代ごとに上がり続け、改良速度まで増していくことが示されたわけではありません。確認できる成果と、そこから期待される将来像には距離があります。
強化学習とデータ改善は、なぜ重要なのか
強化学習は、行動の結果に応じた評価を使って、より良い行動を学ぶ方法です。研究の自動化に当てはめるなら、改良案を出す、試す、結果を評価する、次の案を出すという工程が考えられます。ここで必要なのは、AIが練習できる環境と、何を成功とみなすかを判定する仕組みです。なお、AlphaEvolveの進化的なプログラム探索と、モデル自体を強化学習で訓練することは、同じ工程ではありません。
例えば学習用データの選び方を改良する場合、ある試験で高得点になっただけでは、実際に役立つ能力が増えたとは限りません。試験でよく出る問題ばかりを集めれば、点数は上がっても、初めて見る問題への対応は弱いままかもしれません。これは仕組みを説明するための例ですが、改良の評価には、学習に使っていない課題でも効果が続くかという確認が必要になります。
作業量が増えても、研究速度が同じ割合で上がるとは限らない
検証にかかる時間も見逃せません。AIが一日に大量の案を出せても、一つの実験に何日もかかるなら、すべてをすぐには試せません。小さなモデルではうまくいった変更が、大きなモデルでも有効かを確かめる工程もあります。研究が加速するには、案を作る速さだけでなく、実験の選び方や検証の効率も改善する必要があります。
参考になるのが、METRによる2025年の開発者調査です。経験豊富な16人が、自分のよく知るオープンソースのプロジェクトで246件の作業に取り組んだ実験では、当時のAIツールを利用できる条件で、完了までの時間が平均19％長くなりました。特定の時期・ツール・作業を対象にした結果なので、現在のAI全般には一般化できません。それでも、AIの出力や利用者の手応えだけでは、仕事全体の効率を判断できないことを示す事例です。
次に見るべきなのは、改良が次の改良につながるか
今後の成果を見るときには、AIがどこまで研究を担当したか、効果をどう検証したか、改良されたAIが次の研究をさらに進めたか、という三点が役立ちます。人間が目標を決めたのか、結果を確認したのかも合わせて見ると、どこまで自動化された成果なのかが分かりやすくなります。
AIがAI開発に貢献することには、既に具体例があります。しかし、その貢献が積み重なる速度や、研究能力に戻ってくる効果は、実際の検証で確かめる必要があります。私たちが注目したいのは、「AIが自分を改良した」という見出しの先にある、何を変え、その変更が次の研究をどれだけ進めたかという中身です。