前回は、「Attentionとは何か」について説明しました。 Attentionとは、AIが文章を読むときに、どの言葉にどれくらい注目するかを決める仕組みです。Transformerの中心にある技術で、AIが文章の中の言 […]
続きを読む2026年7月25日 2:00 AM カテゴリー： AI
Blog ～ f-mignon代表による、できれば役立って欲しい情報ブログ
事前学習とは何か――AIが大量のデータから「基礎力」を身につける仕組み
Attentionとは何か――AIが文章の中で「どこに注目するか」を決める仕組み
前回は、「Transformerとは何か」について説明しました。 Transformerとは、文章の中にある言葉同士の関係を見ながら、文脈を扱いやすくするAIの仕組みです。現在の大規模言語モデルの多くは、このTransf […]
続きを読む2026年7月19日 9:48 PM カテゴリー： AI
