コンテキストウィンドウ
AIが一度の会話や処理で同時に記憶・参照できる文章量の上限のことです。トークン数で表され、モデルごとに異なります。
コンテキストウィンドウとは、AIが一度の会話や処理の中で、同時に読み込んで参照できる文章量の上限のことです。
この上限はトークンという単位の数で表され、モデルの種類によって大きさが異なります。
コンテキストウィンドウが大きいほど、長い文書やこれまでの会話の履歴を丸ごとAIに渡すことができ、文脈を踏まえた回答が得やすくなります。
一方で、上限を超える量の文章を渡すと、古いやり取りの内容が処理対象から外れてしまい、AIがそれを踏まえた回答をできなくなります。
近年は、AIに渡す情報の量や配置を工夫して、限られたコンテキストウィンドウを効率よく使うコンテキストエンジニアリングという考え方も広がっています。
長文の資料を扱う業務では、コンテキストウィンドウの大きさがAI選定の重要な判断材料になります。