LLMの仕組みを図解｜なぜ会話できる？できること・苦手なことを身近な例で

LLMは、大量の文章から言葉の関係を学んだモデル

LLMはLarge Language Modelの略で、日本語では大規模言語モデルと呼びます。文章を小さな単位に分け、前後の関係を学習した仕組みです。その単位がトークンです。一文字ずつの場合も、複数の文字がまとまる場合もあり、単語数とは一致しません。

たとえば「会議の開始は午後」に続く候補には、時刻や予定の説明が考えられます。モデルは入力された内容を手掛かりに、続きとして出しやすい候補を計算します。これを繰り返して長い返答を作ります。単純な定型文の検索ではなく、入力に応じた文章を組み立てる点が特徴です。

ただし、人間と同じ意味で理解や経験をしているとまでは言えません。「丁寧に答えてくれた」「自信がありそうだった」という印象だけでは、内容が正しいかは判断できないのです。

• 出典：AWS / LLM（新しいタブ）
• 出典：Google / LLM course（新しいタブ）

入力から返答までを、4段階で見る

学習は、言葉の関係をモデル内部の数値へ反映する工程です。利用時に返答を作る工程は推論と呼びます。チャットで資料を渡すたびにモデル全体を学習し直している、という意味ではありません。

多くのLLMで使われるTransformerは、文章の中のどの部分に注目するかを計算する仕組みを持ちます。たとえば「田中さんが佐藤さんへ資料を送り、受け取った側が確認した」という文では、人物や動作の関係が重要です。ただし、注目を計算できることと、常に関係を読み間違えないことは別です。

同じ「メールを書いて」でも、材料を渡すと確かめやすい

「取引先へ丁寧なメールを書いて」だけでは、日時も相手の立場も分かりません。AIはもっともらしい設定を補うか、質問を返すことになります。そこで、架空の打ち合わせを材料として渡してみます。以下は実測した応答ではなく、入力と完成形の編集例です。

入力を「10月8日14時の打ち合わせを、同日16時へ変更したい。場所は変えない。相手の都合を確認する」と具体化します。完成形の例は「10月8日の打ち合わせについて、開始を14時から16時へ変更いただくことは可能でしょうか。場所は従来どおりです。ご都合をお知らせいただけますと幸いです」。

確認するのは、敬語のきれいさだけではありません。日付、変更前後の時刻、変更しない場所、相手に確認する姿勢が残っているかです。この4点がそろえば、何をもって完成とするかを自分で判断できます。

「自然な文章」と「正しい情報」は、別々に確認する

LLMは、実在しない資料名や間違った数字を自然な文章で出すことがあります。一般にハルシネーションと呼ばれます。質問へ答えるように文章を作れても、その事実が外部の資料に存在するかを自動で保証する仕組みではないからです。

「この会社の最新料金を教えて」と聞く場合は、学習した情報だけでは古い可能性があります。検索機能が使えるサービスでも、実際に検索したか、引用先が公式か、表示される料金が対象プランと同じかを確認します。検索の付いていない返答を、検索済みだと思わないことが大切です。

一方、正しい材料を渡したから必ず正解になるとも限りません。長い資料の見落としや表の読み違いもあります。金額の集計は表計算、最新仕様は公式ページ、契約の最終判断は担当者というように、確かめる場所を先に決めておきましょう。

初めてなら「材料があり、やり直せる仕事」から

最初の一件には、公開前の案内文、会議メモの整理、既存文章の言い換えが向いています。元の材料と出力を横に並べれば、抜けや付け足しに気づきやすいからです。いきなり請求や公開まで一続きで任せる必要はありません。

反対に、知らない分野の正解をゼロから尋ね、自分では確認できないまま使う仕事は難しくなります。専門家の代わりになると考えるより、確認できる範囲を広げる補助として使う方が、失敗を減らせます。

一つの仕事で「使えた条件」を残しておく

うまくいったら、モデル名よりも、渡した材料と確認項目を残しておくと再利用できます。返答が崩れた場合も「AIがだめだった」で終えず、情報が足りないのか、条件が矛盾したのか、資料を読み落としたのかに分けてみてください。

長い文章で話がかみ合わないならコンテキストウィンドウの整理方法へ。実際の業務へ落とし込むならChatGPTへ仕事を頼むテンプレートで、入力と完成条件を用意できます。