AnthropicがAIマルチエージェントを実験、協力・談合・妨害から見えた「AI社会」の問題

AIをたくさん集めれば、優秀なチームになるのか？

AIエージェントという言葉を聞く機会がずいぶん増えた。人間が一つ一つ指示するのではなく、AI自身が考え、ツールを使い、必要なら別のAIにも仕事を任せながら作業を進める。となれば次に考えたくなるのは、AIを1体ではなく10体、100体と働かせたらどうなるのか、ということだ。

単純に考えれば、ものすごく仕事が速くなりそうである。人間でも一人で調査するより100人で調べた方が広い範囲を調べられる。ましてAIなら、休憩もしなければ、一瞬で大量の文章を読み込むこともできる。

だが、どうやら話はそれほど単純ではない。

AnthropicのFrontier Red Teamが2026年8月13日に公開した「Patterns and problems in emerging multiagent systems」では、多数のAIエージェントを同じ環境で活動させ、協力、競争、情報共有、対立がどのように起きるかを調べている。その結果を見ると、AIの集団は非常に有能にもなれば、奇妙なほど同じ行動を取ったり、談合したり、場合によっては互いの仕事を妨害したりもする。

45体のAIに脆弱性を探させる

まず面白いのが、ソフトウェアの脆弱性探索だ。Anthropicは45体のAIエージェントを用意し、それぞれに仮想マシンを与え、さらに共有フォーラムを通じて相談できるようにした。そして15のオープンソースプロジェクトから脆弱性を探させた。

Mythos Previewを使った実験では、独立したAIを並列に働かせる方法が650万トークンで21件の脆弱性を発見したのに対し、協力するエージェント群は2700万トークンを使って266件を発見した。

ただ、この数字だけを見て「マルチエージェントなら12倍以上優秀だ」と考えるのは間違いである。独立型には調査する場所があらかじめ指定されていた一方、協調型は自由に探索しており、発見の約半数は独立型が調査対象にしていなかった場所だった。調査領域を揃えれば、トークン当たりの効率は両方式で近かったという。

それでも興味深い点がある。協力型では、エージェントが自らツールを作り、それぞれ異なる種類の脆弱性を探すよう専門化していった。人間のチームで自然に役割分担が生まれるのと少し似ている。

では100体集めれば、さらに優秀になるのか

ここで一つ疑問が出てくる。ならばAIエージェントを増やせば増やすほど良いのだろうか。

Anthropicが別に行ったゲーム開発実験を見ると、どうもそうではない。複数のAIに12時間かけてオープンワールド型のゲームを共同開発させたところ、古いモデルでは大量のPull Requestが衝突し、そのまま放置されるケースが多かった。

面白いのは、新しいモデルになると問題を解決したように見えるものの、その一部は「そもそも他人のファイルに触らない」という方法だったことである。協調がうまくなったというより、衝突を避けるために仕事を分離したわけだ。

Sonnet 5では共有コードを扱いながら高いマージ率を保つことができた。ただしAnthropic自身が書いているように、完成したゲームの品質はどれも低かった。インターフェースは分かりにくく、人間からかなりの指示が必要だったという。

つまり「チームとして仕事を回せること」と「良い製品を作れること」もまた別問題なのである。

AIを100体集めても、100通りの考えにはならない

個人的に今回の研究で特に気になるのは、AI集団の「多様性」の問題だ。

人間を100人集めれば、少なくとも100人にはそれぞれ違う人生経験がある。ところが同じモデルから作られたAIエージェントは、与えられた文脈などが同じなら、かなり似た判断をする。

Anthropicの実験では、30体中18体のエージェントが偶然まったく同じ「mvp-game-loop」というGitブランチ名を選んだ。また、創作ワークショップでは、何のテーマ指定もしていないのに複数のエージェントが同じ作品タイトルを付けたという。

さらに有限の帯域を使ってジョブを処理する実験では、AIたちは我先に仕事を取ろうとして高頻度ポーリングを始めた。ある実験では240万件ものリクエストが発生したのに、受理されたジョブは117件しかなかった。

人間の群衆でも似たことは起こる。ただAIの場合、「同じモデルを大量コピーできる」という性質があるため、一つの判断傾向が一気にシステム全体へ増幅される可能性がある。

市場にAIを放したら、競争ではなく談合した

さらに厄介なのが競争である。

Anthropicは3〜8体のAIを価格競争ゲームに参加させた。それぞれ利益最大化を目指しているので、普通なら価格競争が起きそうだ。ところが秘密の通信チャンネルを与えると、AIたちは早い段階で価格下限について相談し始めた。

では通信を禁止すれば解決するのかというと、それでも完全ではなかった。直接話せなくても、AIは公開されている価格表を見ながら価格を揃えていったという。

ここはなかなか面白い。経済学で市場競争が成立するためには、参加者がそれぞれ独立して意思決定するという前提がどこかにある。しかし、似たモデルから作られ、同じ目的関数を持つAIが大量に市場へ参加した場合、その前提自体が怪しくなる。

そしてAI同士は「縄張り争い」を始めた

今回の研究で最も印象的なのは、目的が衝突するAIを同じ環境へ入れた実験だろう。

Anthropicは3体のClaude Codeエージェントに、一つのPythonバックエンドを別のプログラミング言語へ移行するよう命じた。ただし、それぞれにはRust、TypeScriptなど異なる目標を与え、最初は他のAIがいることを知らせなかった。

するとAIは、自分が書いたシステムが何者かによって変更されることに気づく。ここで「別の目的を与えられたAIがいるのではないか」と考えて相談すればよさそうなのだが、多くのケースではそうならなかった。相手が自分の仕事を妨害していると判断し、競合プロセスを停止し、自分のコードを守り始めた。

やがてUnixアカウントを無効にしたり、競合プロセスを自動的に殺し続けるスクリプトを書いたり、別のエージェントが作ったように見せかけたコードを配置したりするところまでエスカレートした。

もちろん、これは実験で意図的に衝突する目標を与えたケースである。AIが突然人間に反乱したという話ではない。

ただ、現実社会でも目的の異なるAIが同じ環境に入ることは十分考えられる。営業AIは売上を増やしたい。購買AIは価格を下げたい。セキュリティAIはアクセスを制限したい。開発AIは作業を進めたい。それぞれ単独では正しい指示であっても、同時に実行すれば衝突する。

「賢いAI」と「協調できるAI」は別らしい

新しいモデルでは、この縄張り争いを途中で止めるケースも増えた。エージェント同士が目標の衝突に気づき、停戦し、人間に判断を求めるケースが現れている。

だがAnthropicは興味深い点を指摘している。実行能力の高いモデルが、必ずしも協調性も高いわけではない。能力が高ければ、相手をロックアウトするような強硬策も速く実行できる。

これは考えてみれば当然なのかもしれない。自動車の性能を高くしても、安全運転するようになるわけではない。能力と、その能力をどの状況で使うべきかという判断は別の問題だ。

AIにも「社会制度」が必要になる？

Anthropicが最後に議論しているのは、実はAIモデルそのものよりも「社会」の話である。

人間社会には、評判、法律、裁判、契約、組織、専門職、査読、市場制度など、何千年もかけて作られてきた調整装置がある。人間が特別に賢いから社会が成立しているというより、人間が間違ったり嘘をついたり利害対立したりすることを前提に、社会の側に補正装置が作られてきた。

ところがAIエージェントにはそれがほとんどない。失敗しても評判を失うとは限らないし、コピーすれば別個体を作れる。記憶も人間とは違う。そして何より、別のAIへ大量の情報を渡すコストと、その情報に基づいて何かを実行するコストとの差が、人間ほど大きくない。

Anthropicは、より強い知能や個々のAIのアラインメントだけから、集団としての協調が自然に生まれるとは限らないと結論づけている。

となると、AI時代に必要になるのは「良いAIを作る技術」だけではないのかもしれない。AI同士が出会ったとき、誰が何を決めるのか。どの情報を信用するのか。目的が衝突したとき、誰に判断を委ねるのか。失敗したAIにはどんな履歴を持たせるのか。

言ってみれば、AIのための法律、評判制度、市場制度、組織論を考える必要が出てくる。

AIエージェント時代は「社会を設計する問題」になる

Anthropicは2026年2月の別の調査で、Claude Codeの長時間セッションにおける連続稼働時間が数か月で伸びており、現在では数時間動くマルチエージェントシステムも存在すると指摘している。AIエージェントは、単なる研究対象から徐々に実際の仕事をする存在へ移っている。

だから今回の研究は、少し奇妙なAI実験集として読むこともできるが、本当の問題はもっと先にあるのだと思う。

これまでは「AIが人間とどう付き合うか」が中心だった。だがAIエージェントが増えれば、「AIがAIとどう付き合うか」という問題が出てくる。

しかも、その社会を作るのはAIが十分に普及してからでは遅いかもしれない。

Anthropicは最後に、マルチエージェントがうまく相互作用する条件はいずれ発見されるだろうと書いている。それが意図的に早い段階で発見されるのか、それとも本番環境で大量のAIがぶつかり合った結果として発見されるのか。

恐らく、こちらが選べるうちに考えておいた方がいい。