コンテキストウィンドウとは？AIが長い会話を忘れる理由と、伝え直し方

コンテキストは「今回の返答で使う材料」

コンテキストには、質問だけでなく、指示、会話の履歴、添付資料、道具が返した結果などが含まれます。その情報を一度に扱える大きさがコンテキストウィンドウです。大きさはトークンという文章の処理単位で示されることが多く、単純な文字数ではありません。

ただし、画面に見える過去の会話すべてが、毎回そのまま渡されるとは限りません。サービスが古い内容を要約したり、一部を検索して取り出したりする場合があります。製品の仕様と、使っているモデルの上限を分けて確認する必要があります。

• 出典：Anthropic / context engineering（新しいタブ）
• 出典：OpenAI / Memory FAQ（新しいタブ）

話が通じなくなる原因は、枠の不足だけではない

第一に、資料や会話が長くなり、必要な内容が入力から落ちる場合があります。第二に、情報は入っていても、大量の文章の中で必要な箇所をうまく拾えない場合があります。第三に、古い指示と新しい指示が矛盾して、どちらを使うべきか不明確な場合があります。

「大きな枠のモデルにすれば解決する」とは限りません。たとえば旧規程と改訂規程が両方ある状態では、読む量が増えても正本の指定がなければ迷う材料が増えます。先に、何を現在の条件として扱うのかをそろえましょう。

出張規程で比べる、短い入力・長い入力・整理した入力

架空の会社で、宿泊費の上限が通常12,000円、指定地域は15,000円へ改訂されたとします。質問は「指定地域へ出張する場合の上限はいくらか」です。以下は説明用に作った入力例で、AIの正答率を測った試験ではありません。

短い入力を「上限はいくら？」だけにすると、対象や根拠が不足します。長い入力に旧規程、全員の雑談、交通費のルール、今回の改訂を全部足すと、材料は増えても使う版が不明確です。整理した入力は、対象地域、適用日、正本の二行を先に指定します。

この例で確認したい回答は「15,000円。改訂版第2条の指定地域に該当するため」です。単に金額が合っただけでなく、通常地域の12,000円と区別できたか、どの版を使ったかまで確かめます。

長い会話は、引き継ぎメモを作って切り替える

新しい会話へ移る場合、過去を全部コピーする必要はありません。「目的」「現在の決定」「使う資料」「まだ決めていないこと」「次の一手」を残します。引き継ぎ自体もAIへ頼めますが、間違った前提が圧縮されて残ると修正しにくいため、保存前に人が読みます。

特に、採用をやめた案を現在の方針へ混ぜないことが大切です。「当初は電話受付を想定したが、現在はフォームだけ」と決まったなら、現在の運用と変更履歴を別の行にします。残す量より、再開時に誤解しないことを優先してください。

メモリやプロジェクトは、同じ「記憶」ではない

コンテキストは、その返答で扱う材料です。一方、メモリは会話をまたいで参照される情報を管理する機能、プロジェクトは資料や会話を仕事ごとにまとめる機能です。実際の挙動はサービスや設定により変わります。

「長文を読んでほしい」なら資料の整理、「別の会話でも前提を使いたい」ならメモリやプロジェクト、「覚えている情報を消したい」なら削除設定というように、やりたいことから機能を選びます。記憶の名称だけで、全部同じものと考えないようにしましょう。

資料を増やす前に、答え合わせを一度する

上の例を自分の仕事へ置き換えるなら、まずは短い資料と答えを知っている質問を一つ用意します。回答に根拠の箇所が付くか、資料にない質問には「分からない」と区別できるかを確認してから、扱う資料を増やしてください。

費用や単位が気になる方は日本語のトークン数の実測へ。毎月同じ資料を使う仕事ならChatGPTプロジェクトの作り方へ進むと、置き場所と更新の手順を整理できます。