埋め込みとは何か――AIが「意味」を数字に変える仕組みをやさしく理解する

#

スラッグ：

前回は、「ベクトル検索とは何か」について説明しました。ベクトル検索とは、文字が同じかどうかではなく、意味がどれくらい近いかをもとに情報を探す検索方法です。たとえば、「商品を返したい」という質問から、「返品」「返金」「キャンセル」について書かれた資料を探すことができます。

でも、ここで一つ疑問があります。

コンピューターは、どうやって「この文章とこの文章は意味が近い」と判断しているのでしょうか。人間なら、「犬を飼っています」と「ペットのワンちゃんがいます」は似た意味だとすぐわかります。しかし、コンピューターはそのままでは言葉の意味を人間のように理解できません。

そこで使われるのが、埋め込みです。英語では Embedding と呼ばれます。一言でいうと、埋め込みとは、文章や単語、画像などの意味や特徴を、コンピューターが扱いやすい数字の並びに変える仕組みです。

埋め込みとは何か

埋め込みとは、文章や単語、画像などを「ベクトル」と呼ばれる数値の並びに変換することです。このベクトルには、その文章や画像の意味や特徴がある程度反映されます。

たとえば、次の3つの文章を考えてみましょう。

• 犬を飼っています
• ペットのワンちゃんがいます
• 株式市場が上昇しました

最初の2つは、使っている言葉はかなり違います。しかし意味としては近いです。3つ目は、まったく別の話です。

埋め込みを使うと、最初の2つは近い数字の並びになり、3つ目は離れた数字の並びになるように表現できます。この「意味が近いほど数字としても近くなる」という性質が、ベクトル検索で重要になります。

なぜ言葉を数字に変える必要があるのか

コンピューターが得意なのは、数字を計算することです。一方、人間の言葉はそのままでは計算しにくいです。たとえば、「猫」と「犬はどれくらい似ているか」と聞かれても、文字だけを見ていてはうまく計算できません。そこで、言葉や文章を数値に変えます。数値に変えることで、コンピューターは「この文章とこの文章は近い」「この画像とこの画像は似ている」といった計算ができるようになります。つまり、埋め込みは、人間が使う言葉や画像を、コンピューターが比較しやすい形に翻訳する技術だと考えるとわかりやすいです。

埋め込みは「意味の地図」を作るようなもの

埋め込みは、意味の地図を作るようなものだと考えると理解しやすいです。

たとえば、言葉を意味に応じて地図の上に置いてみます。「犬」「猫」「うさぎ」は、どれも動物なので近い場所に置かれそうです。「自動車」「バイク」「トラック」も、乗り物なので近くに集まりそうです。一方、「猫」と「所得税」は意味がかなり違うため、遠い場所に置かれます。

実際の埋め込みでは、2次元の地図ではなく、何百、何千といった非常に多くの数字を使って表現されることがあります。私たちにはその全体を目で見ることは難しいですが、考え方としては、意味が近いものを近くに配置する巨大な地図のようなものです。

埋め込みとベクトルの違い

「埋め込み」と「ベクトル」は一緒に出てくるため、混同しやすい言葉です。

簡単に整理すると、埋め込みは変換の仕組みや結果を指し、ベクトルはその結果として得られる数字の並びです。

たとえば、文章を埋め込みモデルに入力すると、その文章に対応するベクトルが出てきます。そして、そのベクトル同士を比べることで、意味がどれくらい近いかを判断できます。

「返品したい」と「商品を返したい」は近くなる

具体的な例を見てみましょう。

次の3つの文章があります。

• 返品したい
• 買った商品を返したい
• 商品の色を変更したい

人間なら、最初の2つはほぼ同じ意味だとわかります。3つ目も商品に関する話ではありますが、内容は少し違います。

埋め込みを使うと、このような意味の差を数字として表現できます。その結果、ベクトル検索では「返品したい」という質問から「買った商品を返したい」という文章を見つけやすくなります。つまり、埋め込みは、ベクトル検索が「意味」で探せるようになるための土台です。

埋め込みの基本的な流れ

文章の埋め込みは、簡単にすると次のような流れです。

• 文章を用意する
• 埋め込みモデルに文章を入力する
• 文章の特徴を表すベクトルが作られる
• ベクトルを保存する
• 別の文章も同じ方法でベクトルにする
• ベクトル同士の近さを比較する

たとえば、次の文章を埋め込みモデルに入れます。

「商品は購入から7日以内であれば返品できます。」

すると、この文章の意味や特徴を表す数字の並びが作られます。次に、ユーザーが「買ったものを返せますか」と質問します。この質問も同じ埋め込みモデルで数字の並びに変換します。そして、2つのベクトルを比べます。意味が近ければ、数字としても近いと判断されます。

埋め込みモデルとは何か

文章や画像をベクトルに変えるためには、専用のAIモデルを使います。これを埋め込みモデルと呼びます。埋め込みモデルは、文章の意味や画像の特徴を、比較しやすい数値に変換することを得意としています。

大規模言語モデルが文章を生成するのに対して、埋め込みモデルは「意味を数字に変える」役割を持ちます。

この2つは役割が違います。RAGでは、埋め込みモデルで資料をベクトル化し、ベクトル検索で関連資料を探し、最後に大規模言語モデルが回答を作る、という組み合わせがよく使われます。

RAGでは埋め込みがどう使われるのか

ここまでのRAG、ベクトル検索、埋め込みをつなげて考えてみましょう。

会社のマニュアルを使ったRAGを作るとします。まず、マニュアルを小さな文章のまとまりに分けます。前回説明したように、このまとまりをチャンクと呼ぶことがあります。次に、それぞれのチャンクを埋め込みモデルでベクトルに変換します。そして、そのベクトルを保存しておきます。ユーザーが質問したら、質問もベクトルに変換します。その質問ベクトルに近い資料ベクトルを探します。見つかった資料を大規模言語モデルに渡し、その資料をもとに回答を作らせます。

• 資料をチャンクに分ける
• 各チャンクを埋め込みに変換する
• ベクトルを保存する
• 質問も埋め込みに変換する
• 質問に近い資料をベクトル検索する
• 見つかった資料をAIに渡す
• AIが回答を生成する

つまり、埋め込みはRAGの検索部分を支える重要な技術です。

埋め込みは文章だけではない

埋め込みは、文章だけに使われるわけではありません。画像、音声、商品情報など、さまざまなデータをベクトルとして表現できます。

たとえば、画像の埋め込みを使えば、見た目が似ている画像を探すことができます。商品情報を埋め込みにすれば、似た特徴の商品をおすすめすることもできます。

• 文章の意味を表す
• 画像の特徴を表す
• 商品の特徴を表す
• 音声の特徴を表す
• ユーザーの好みを表す

このように、埋め込みは「複雑な情報を数字に変えて比較する」ための幅広い技術です。

似た文章を探す以外にも使える

埋め込みは、ベクトル検索以外にもさまざまな用途があります。

• 似た文章を探す
• 文章をテーマごとにまとめる
• 重複した文章を見つける
• 似た商品をおすすめする
• 似た画像を探す
• 問い合わせ内容を分類する
• 文章同士の意味の近さを測る

たとえば、何千件もの問い合わせメールがあるとします。それぞれを埋め込みに変換すると、「返品関係」「ログイントラブル」「配送について」といった、意味の近い問い合わせ同士をまとめやすくなります。つまり、埋め込みは検索だけでなく、分類や整理にも役立ちます。

埋め込みの数字一つひとつには意味があるのか

埋め込みで作られるベクトルは、たくさんの数字からできています。

では、その数字の一つひとつが、「動物らしさ」「明るさ」「返品らしさ」のような意味を持っているのでしょうか。実際には、そう単純ではありません。一つの数字だけを見ても、人間にとってわかりやすい意味があるとは限りません。たくさんの数字の組み合わせ全体として、その文章や画像の特徴が表現されています。つまり、埋め込みは「この数字は犬、この数字は猫」という単純な表ではありません。ニューラルネットワークが学習した複雑な数値表現です。

埋め込みモデルが違うと結果も変わる

埋め込みモデルは一種類ではありません。モデルによって、文章をどのようにベクトル化するかが違います。そのため、同じ文章でも、使う埋め込みモデルが違えば、作られるベクトルも変わります。また、日本語が得意なモデル、英語が得意なモデル、文章検索向けのモデル、画像も扱えるモデルなど、それぞれ特徴があります。RAGを作るときには、どの埋め込みモデルを使うかも検索性能に影響します。

• 言語への対応
• 検索精度
• 処理速度
• ベクトルの大きさ
• 費用
• 文章向けか画像向けか

つまり、埋め込みは単なる前処理ではなく、検索品質を左右する重要な部分です。

埋め込みの弱点

埋め込みは便利ですが、万能ではありません。意味が近い文章を探すのは得意ですが、細かい数字や固有名詞の違いを重視しにくい場合があります。

たとえば、次の2つの文章があります。

• 2025年度の利用料金は月額5,000円です
• 2026年度の利用料金は月額6,000円です

文章全体の意味は非常に似ています。そのため、埋め込みでも近い位置になる可能性があります。しかし、実際には「2025年」と「2026年」、「5,000円」と「6,000円」の違いは重要です。このような場合、意味の近さだけでは不十分です。日付や金額などの条件を別に確認したり、キーワード検索と組み合わせたりする必要があります。

• 数字の細かな違いに弱いことがある
• 固有名詞や型番の違いを重視しにくい場合がある
• 意味が似ているだけの不要な情報も近くなることがある
• 埋め込みモデルによって性能が変わる
• 元の資料の質にも影響される

埋め込みとキーワードは両方大切

埋め込みを使えば、キーワード検索が不要になるわけではありません。意味の近さが重要な場合には埋め込みが強いです。一方、商品番号、人名、年月日、型番などを正確に探す場合は、キーワード検索や完全一致検索が強いです。そのため、実際のシステムでは両方を組み合わせることがあります。

AI検索では、「意味」と「正確な文字情報」の両方を使い分けることが大切です。

埋め込みと大規模言語モデルは何が違うのか

埋め込みモデルと大規模言語モデルも、役割が違います。大規模言語モデルは、文章を読んで、質問に答えたり、新しい文章を作ったりします。埋め込みモデルは、文章を比較しやすい数字に変換します。たとえるなら、大規模言語モデルは「文章を読んで説明してくれる人」です。埋め込みモデルは「大量の資料を意味ごとに整理して棚に並べる人」のような役割です。

RAGでは、この二つを組み合わせることで、必要な資料を探し、それをもとに自然な回答を作ることができます。

RAG・ベクトル検索・埋め込みの関係

ここまでの3つを整理してみましょう。

この3つは、それぞれ別の技術ですが、組み合わせて使われることが多いです。埋め込みがなければ、意味の近さを数値として比較しにくくなります。ベクトル検索がなければ、大量の資料から質問に近いものを効率よく探しにくくなります。そしてRAGは、それらを使って見つけた情報を、生成AIの回答につなげます。

埋め込みを理解するとAI検索の仕組みが見えてくる

埋め込みを理解すると、AIが「意味の近い情報を探す」ということが、少し具体的に見えてきます。AIが人間と同じように文章を読んで、「これは似ている」と感覚で判断しているわけではありません。文章や画像を数値の並びに変え、その数字同士の近さを計算しています。その結果として、「返品したい」と「商品を返したい」は意味が近い、「返品したい」と「明日の天気」は遠い、といった判断ができます。

この考え方は、RAG、検索、レコメンド、画像検索、分類など、さまざまなAI技術の土台になっています。

埋め込みは、利用者から直接見えることは少ない技術です。しかし、生成AIを実際の仕事やサービスに組み込むうえで、とても重要な役割を持っています。

まとめ

埋め込みとは、文章、単語、画像などの意味や特徴を、コンピューターが比較しやすい数字の並びに変える仕組みです。英語では Embedding と呼ばれます。埋め込みによって作られた数字の並びを、ベクトルと呼びます。意味が近い文章は近いベクトルになり、意味が違う文章は離れたベクトルになるように表現できます。この性質を使うことで、ベクトル検索では、言葉が完全に一致していなくても意味の近い情報を探せます。

RAGでは、資料を埋め込みに変換し、質問と意味が近い資料をベクトル検索し、その資料を大規模言語モデルに渡して回答させる方法がよく使われます。

ただし、埋め込みも万能ではありません。

数字、日付、固有名詞などの細かい違いが重要な場合は、キーワード検索など別の方法も必要になります。埋め込みを理解すると、「AIが意味で検索する」とはどういうことなのかが見えやすくなります。

次回は、「マルチモーダルAIとは何か」について説明します。

これまでは主に文章を扱うAIを見てきましたが、現在のAIは文章だけではありません。画像、音声、動画など、複数の種類の情報をまとめて扱うAIが増えています。その仕組みを、やさしく整理していきます。