コンテキストウィンドウとは何か――AIが一度に見られる「作業机の広さ」をやさしく理解する

前回は、「トークンとは何か」について説明しました。

トークンとは、AIが文章を処理するために使う細かい単位です。人間が文章を文字や単語として読むのに対して、AIは文章をトークンという部品に分けて扱います。

では、AIはどれくらいの量のトークンを一度に見ることができるのでしょうか。

たとえば、長い会話を続けていると、AIが最初に話した内容を忘れたように見えることがあります。

また、長い資料を丸ごと読ませようとすると、「長すぎる」と言われたり、途中の内容がうまく反映されなかったりすることもあります。

こうした問題に関係しているのが、コンテキストウィンドウです。

一言でいうと、コンテキストウィンドウとは、AIが一度に見て考えられる情報の範囲です。

コンテキストウィンドウとは何か

コンテキストウィンドウとは、AIが回答を作るときに参照できる文章や情報の範囲のことです。

英語では context window と呼ばれます。

context は「文脈」や「前後関係」という意味です。window は「窓」という意味です。

つまり、コンテキストウィンドウとは、AIが文脈を見るための窓のようなものです。

AIは、質問に答えるとき、今入力された文章だけを見ているわけではありません。会話の履歴、こちらが渡した資料、直前の指示なども含めて、文脈として扱います。

しかし、その文脈を無限に見られるわけではありません。

一度に見られる量には限界があります。

その限界の範囲が、コンテキストウィンドウです。

コンテキストウィンドウは「作業机の広さ」に似ている

コンテキストウィンドウは、作業机の広さにたとえるとわかりやすいです。

勉強するとき、机の上に教科書、ノート、プリント、参考書を広げるとします。

机が広ければ、たくさんの資料を同時に見ながら考えることができます。

反対に、机が狭ければ、一度に広げられる資料は限られます。机に置ききれない資料は、いったん片づける必要があります。

AIのコンテキストウィンドウも、これに似ています。

コンテキストウィンドウが広ければ、長い文章や長い会話を一度に扱いやすくなります。

コンテキストウィンドウが狭ければ、扱える情報量が少なくなり、長い文章の一部しか見られないことがあります。

つまり、トークンが机の上に置く資料だとすると、コンテキストウィンドウはその机の広さだと考えるとよいでしょう。

トークンとコンテキストウィンドウの関係

前回説明したように、AIは文章をトークンという単位に分けて処理します。

コンテキストウィンドウは、このトークンをどれくらい一度に扱えるかを表します。

たとえば、会話の履歴、こちらが入力した文章、AIがこれから出す回答などは、すべてトークンとして扱われます。

つまり、コンテキストウィンドウは、単に「入力できる文字数」だけではありません。

AIに渡す情報と、AIが返す回答の両方に関係します。

長い資料を貼り付けると、それだけでコンテキストウィンドウの多くを使います。

そこにさらに長い指示や会話履歴が加わると、AIが一度に扱う情報量はさらに増えます。

そのため、長文を扱うときには、ただ文章をたくさん入れればよいわけではありません。

どの情報を見せるか、何を重視してほしいかを整理して渡すことが大切です。

AIが「忘れた」ように見える理由

AIと長く会話していると、前に話した内容を忘れたように見えることがあります。

たとえば、最初に「この記事は中学生向けにしてください」と伝えたのに、長くやり取りしているうちに、だんだん難しい説明になってしまうことがあります。

これは、AIが人間のように本当に忘れているというより、会話が長くなって、最初の情報が参照されにくくなっている場合があります。

AIは、現在のコンテキストウィンドウに入っている情報をもとに回答します。

会話が長くなりすぎると、最初の方のやり取りがウィンドウの外に出たり、重要度が下がったりすることがあります。

その結果、AIが以前の条件を十分に反映できなくなることがあります。

ただし、AIサービスによっては、会話履歴を要約したり、別の記憶機能を使ったりする場合もあります。

そのため、実際の動きはサービスによって違います。

それでも基本としては、AIがその場で答えるときに直接見ている範囲には限界があると考えると理解しやすいです。

コンテキストウィンドウが広いと何ができるのか

コンテキストウィンドウが広いAIは、より多くの情報を一度に扱うことができます。

たとえば、長い資料を読ませたり、複数の文章を比較したり、長い会話の流れを保ったりしやすくなります。

• 長い資料をまとめる
• 複数の文書を比較する
• 長い会話の流れを保つ
• 小説や脚本の設定を参照しながら書く
• 長いプログラムコードを確認する
• 会議録から重要なポイントを抜き出す

たとえば、小説の設定資料、登場人物表、前回までのあらすじをAIに渡して続きを書かせる場合、コンテキストウィンドウが広い方が有利です。

また、プログラムの相談でも、関連するコードを多く見せられる方が、AIは全体のつながりを理解しやすくなります。

ただし、コンテキストウィンドウが広ければ、いつでも完璧な答えになるわけではありません。

大量の情報を渡すと、かえって重要な部分が埋もれてしまうこともあります。

広い机でも、資料をぐちゃぐちゃに積み上げると、必要な紙を探しにくくなるのと同じです。

コンテキストウィンドウが広くても注意が必要な理由

コンテキストウィンドウが広いと、たくさんの情報を一度に入れられます。

しかし、情報をたくさん入れれば入れるほど、AIが重要な部分を見落とす可能性もあります。

たとえば、100ページ分の資料を渡して、「大事なところを教えて」とだけ頼むとします。

AIは全体を見ようとしますが、こちらが何を大事だと考えているのかがわからないため、求めていた答えとずれることがあります。

一方で、「この資料から、初心者向けブログ記事に使えるポイントを5つ抜き出してください」「数字よりも考え方を重視してください」のように伝えると、AIは目的に合わせて情報を読みやすくなります。

つまり、コンテキストウィンドウが広くても、目的をはっきり伝えることが重要です。

長い文章をAIに読ませるときのコツ

長い文章や資料をAIに読ませるときは、いくつかの工夫をすると精度が上がりやすくなります。

• 最初に目的を伝える
• 何を重視するかを指定する
• 長すぎる資料は分割する
• 必要な部分だけを抜き出して渡す
• 途中で要約を作らせる
• 重要な条件を最後にもう一度書く

たとえば、次のような頼み方ができます。

「これから長い資料を渡します。目的は、初心者向けブログ記事の材料を抜き出すことです。専門用語はできるだけやさしく言い換えてください。」

このように、先に目的を伝えておくと、AIは資料を読む方向を決めやすくなります。

また、長い会話を続けている場合は、途中で次のように頼むのも有効です。

「ここまでの方針を短く整理してください。今後もこの方針を前提に続けます。」

このように要約を作ることで、会話の重要な条件をコンパクトに残しやすくなります。

会話が長くなったときの対策

AIとの会話が長くなると、最初の条件が薄れてしまうことがあります。

その場合は、重要な条件をあらためて伝えるとよいです。

たとえば、次のような形です。

• この記事は中学生向けです
• 専門用語は使ってもよいが、必ず説明を入れてください
• ブログ用なので、見出しは<h2>で書いてください
• 文章はやさしいが、子どもっぽくしないでください
• 前回の記事とシリーズ感を合わせてください

AIにとって、重要な条件がはっきり書かれているほど、目的に合った回答を作りやすくなります。

人間同士の仕事でも、途中で「今回の条件を整理しましょう」と確認することがあります。

AIを使うときも、それと同じです。

長い会話では、重要な条件をときどき整理し直すことが大切です。

コンテキストウィンドウとRAGの関係

コンテキストウィンドウの話は、今後説明するRAGという技術にも関係します。

RAGとは、AIに外部の資料を検索させ、その情報をもとに回答させる仕組みです。

たとえば、会社のマニュアル、FAQ、商品資料、過去の議事録などをAIに参照させたい場合があります。

しかし、すべての資料を毎回AIに丸ごと渡すのは現実的ではありません。

そこで、必要な部分だけを検索して取り出し、AIに渡す仕組みが使われます。

これがRAGの基本的な考え方です。

つまり、RAGは、限られたコンテキストウィンドウをうまく使うための工夫とも言えます。

この話は少し高度なので、後の回であらためて詳しく説明します。

コンテキストウィンドウを理解すると何が変わるのか

コンテキストウィンドウを理解すると、AIの使い方がかなり変わります。

AIが前の内容を忘れたように見えたとき、「AIはだめだ」と思うのではなく、「情報量が多すぎたのかもしれない」「重要な条件をもう一度伝えた方がよいかもしれない」と考えられるようになります。

また、長い資料を扱うときにも、ただ全部貼り付けるのではなく、目的に合わせて分けたり、要約したり、必要な部分だけを渡したりする発想が持てます。

これは、AIを仕事で使うときにとても重要です。

AIは大量の情報を扱えますが、情報を整理する力は人間側にも必要です。

AIに何を見せるか、何を重視させるか、どの順番で考えさせるか。

そこを設計することで、AIの答えは大きく変わります。

まとめ

コンテキストウィンドウとは、AIが一度に見て考えられる情報の範囲です。

トークンがAIにとっての「言葉の部品」だとすると、コンテキストウィンドウは、その部品をどれくらい一度に並べられるかを決める「作業机の広さ」のようなものです。

コンテキストウィンドウが広いほど、長い文章や長い会話を扱いやすくなります。

ただし、広ければ何でも解決するわけではありません。大量の情報を渡すと、重要な部分が埋もれてしまうこともあります。

AIをうまく使うには、目的をはっきり伝え、必要な情報を整理して渡すことが大切です。

長い会話では、途中で条件を整理し直したり、要約を作らせたりすると、AIの回答が安定しやすくなります。

コンテキストウィンドウを理解すると、AIがなぜ前の内容を忘れたように見えるのか、長い資料を扱うときにどんな工夫が必要なのかが見えてきます。

次回は、「プロンプトとは何か」について説明します。

プロンプトとは、AIに対する指示や質問のことです。AIは、こちらの頼み方によって答え方が大きく変わります。プロンプトを理解すると、AIをより実用的に使えるようになります。