Transformer（トランスフォーマー）
文章中の単語同士の関係性を効率よく学習できるAIモデルの構造です。現在の多くのLLMの基盤技術となっています。
Transformer（トランスフォーマー）とは、文章の中に含まれる単語同士の関係性を効率よく学習できる、AIモデルの構造（アーキテクチャ）のことです。
2017年に発表されたこの構造は、文中の離れた単語同士の関連も同時に把握できる「アテンション（注意機構）」という仕組みを取り入れている点が特徴です。
このアテンションの仕組みにより、長い文章の中でも文脈を踏まえた自然な文章の理解や生成が可能になりました。
現在広く使われているLLM（大規模言語モデル）の多くは、このTransformerを基盤の構造として採用しています。
Transformerが登場する以前は、文章を先頭から順番に処理する構造が主流でしたが、Transformerは並列処理がしやすく、大規模な学習に適していたことも普及の要因とされています。
文章だけでなく、画像や音声を扱うAIモデルにも、この構造を応用した技術が使われるようになっています。