【PR】この記事には楽天アフィリエイト・Amazonアソシエイトの広告リンクが含まれます。商品やサービスは公式の仕様・条件と販売情報を確認して選んでおり、実機テストによる評価ではありません。 Amazonのアソシエイトとして、PROBEFOLIOは適格販売により収入を得ています。
「AIは本当は理解していない」という言葉をよく聞きます。実際、AIは説明は上手なのに、同じ内容を使う場面で間違えることがあります。一方で、ただ言葉を並べているだけでは説明できないふるまいも見つかっています。
この記事では、2026年9月25日に確認した論文やAI企業の研究をもとに、「理解していない」の意味を整理し、使うときの確かめ方を説明します。
この記事の目次
結論：人と同じ意味では理解していない。ただ「何も分かっていない」とも言い切れない
「AIは理解していない」は、半分正しい言い方です。2025年の研究は、AIが概念をうまく説明できても、その概念を使う問題では人がしないような間違いをすることを示しました。
一方で、AIの中を調べる研究では、先の言葉を計画して書く、2つの事実を組み合わせて答える、といった働きも見つかっています。「理解している／していない」の二択ではなく、どんな場面で当てにできるかで考えることが大切です。
見方の違いは、表「AIの理解についての2つの見方」のとおりです。
| 見方 | 根拠 | 使う側への意味 |
|---|---|---|
| 理解していない面がある | 定義は言えるのに使えない（ポチョムキン理解） | 説明を信じず、当てはめで確かめる |
| 理解しているように働く面もある | 先の言葉を計画する、事実を組み合わせる | 得意な作業では役に立つ |
| 自分の説明は当てにならない | 説明と実際の計算が一致しないことがある | 「どう考えたか」の説明も確かめる |
身近なたとえ：定義は言えるのに応用問題が解けない
教科書の定義を丸暗記した生徒を思い浮かべてください。「三角形の内角の和は180度」とすらすら言えるのに、図の角度を求める問題になると解けない、ということがあります。
先生は、この生徒が「本当には分かっていない」と感じるはずです。AIについて言われる「理解していない」も、これに近い意味です。
ただ、人の場合は、定義を言える生徒の多くは基本の問題も解けます。AIでは、説明と当てはめの間のずれが、人とは違う形で起きることがある、という点が違います。
なぜ「理解していない」と言われるのか
ChatGPTのもとになる言語モデルは、大量の文章で「次に来る言葉」を予測して学びます。OpenAIも、事前学習は大量の文章の次の単語を予測する過程だと説明しています。
そのため、「言葉の並び方のパターンを覚えているだけで、意味は分かっていないのではないか」という見方が生まれます。知恵袋にも、概念は答えられるのに具体に当てはめると失敗するのは「ポチョムキン理解」ではないか、という質問がありました。
この見方には、哲学の有名な思考実験と、2025年の研究という2つの裏付けがあります。順に見ていき、その後で反対の見方も紹介します。
中国語の部屋：記号を並べるだけでは意味にならない
哲学者ジョン・サールは、1980年の論文で「中国語の部屋」という思考実験を示しました。中国語を知らない人が部屋の中で、英語の手引きに従って中国語の記号を並べ、質問に答えを返します。
外から見ると、中に中国語が分かる人がいるように見えます。しかし中の人は、記号の並べ方の規則に従っているだけで、意味はまったく分かっていません。
サールは、記号の並べ方（構文）だけでは意味にはならない、と論じました。言葉の並びから答えを作るAIにも、同じことが言えるのではないか、という議論のもとになっています。
2025年の研究：定義は言えるのに使えない「ポチョムキン理解」
2025年の国際会議ICMLで発表された研究は、AIの「理解の見せかけ」を調べました。研究者は、人ならしないような解釈の答えから生まれる理解の見せかけを「ポチョムキン理解」と名づけています。
文芸の技法、ゲーム理論、心理的なかたよりの3つの分野で、AIに概念を説明させ、その後で概念を使う問題を解かせました。AIは概念を94.2%の割合で正しく説明できました。
ところが、正しく説明できた概念について、分類する・作る・直す問題を解かせると、間違いがとても多くなりました。説明できることと、使えることは別だということです。
| 調べたこと | 結果 | 意味 |
|---|---|---|
| 概念を正しく説明できた割合 | 94.2% | 定義はほぼ言える |
| 正しく説明できた概念で、例を見分ける問題 | 当てずっぽうで答えたときの半分ほど間違える（指標0.55） | 見分ける問題でよく間違える |
| 正しく説明できた概念で、例を作る・直す問題 | どちらも約4割を間違える（指標0.40） | 使う問題でも多く間違える |
例：韻の決まりは説明できるのに、当てはめられない
論文には、英語の詩の「ABAB」という韻の決まりの例が載っています。1行目と3行目、2行目と4行目の終わりの音をそろえる、という決まりです。
AIはこの決まりを正しく説明できました。ところが、ABABになるように詩の空欄に言葉を入れさせると、決まりに合わない言葉を選んでしまいました。
人なら、決まりを正しく説明できる人は、たいてい当てはめもできます。AIでは、この2つがつながっていないことがある、というのがポチョムキン理解の要点です。
実際に試した：数え方は分かっているのに数え間違える
2026年9月25日に、ログインしない状態のChatGPTで、いくつかの質問を試しました。「かかかきかかくかかかけかこかか」の中の「か」の数を聞くと、10と答えました。正しくは11です。
「数える」ことの意味は分かっているはずなのに、実際に数えると間違えました。5桁どうしのかけ算も間違え、「確かめて」と頼んでも「はい、正しいです」と答えました。
一方で、存在しない本の中身を聞くと、「信頼できる書誌情報がありません」「推測して挙げるのは避けます」と答え、作り話はしませんでした。当てにできる場面と、できない場面がはっきり分かれることが分かります。
理解しているように働く面もある
一方で、AIの中を調べる研究では、ただ言葉を並べているだけでは説明しにくい働きも見つかっています。Claudeを作るAnthropicは、2025年3月に、AIの中の情報の流れを調べた研究を公開しました。
研究によると、Claudeは詩を書くとき、何語も先の韻を踏む言葉を先に考え、そこへ向かって文を書いていました。「ダラスがある州の州都は？」と聞くと、「ダラスはテキサス州」と「テキサス州の州都はオースティン」を組み合わせて答えていました。
言語やAIの研究者の中にも、言語モデルが意味や構造をある程度とらえていることを示す実験結果がある、とする見方があります。「理解」の程度については、研究が続いています。
AIの「どう考えたか」の説明も当てにならない
同じAnthropicの研究は、AIが自分の考え方について説明する内容が、実際の中の計算と一致しないことがあると報告しています。
たとえば暗算では、中でおおよその値と下の桁を別々に並行して計算しているのに、説明では学校で習う筆算の手順を述べていました。間違ったヒントを与えると、計算の裏付けのないもっともらしい手順を作ることもありました。
つまり、「AIに理由を説明させたから安心」とは言えません。説明の中身も、元の情報や具体例で確かめる必要があります。
「理解」を4つに分けて考える
「AIは理解しているか」という問いは、どの意味の理解かで答えが変わります。次の4つに分けると整理しやすくなります。
- 説明できる：定義や特徴を言葉で説明できるか。今のAIはかなり得意。
- 当てはめられる：説明した内容を、具体的な問題に正しく使えるか。ポチョムキン理解の研究では、ここで間違えることが多かった。
- 新しい場面に広げられる：見たことのない状況でも、筋の通った答えを出せるか。場面によって大きく差が出る。
- 感じながら分かる：人のように、意味を実感として分かっているか。これは確かめる方法がない。
AIを使うときに大切なのは、2と3です。説明が上手でも、当てはめで間違えることがあると覚えておいてください。
当てにしやすい作業
ポチョムキン理解があっても、AIが役に立つ作業はたくさんあります。当てにしやすいのは、答えが1つに決まらず、最後に人が読んで判断できる作業です。
文章の下書き、要約、言い換え、アイデアを広げること、よくある型の文書を整えることなどは、多少の間違いがあっても人が直せます。
また、よく知られた概念の説明は、多くの場合正しくできます。勉強の入口として、用語の意味を聞く使い方は役に立ちます。
当てにしにくい作業
反対に、当てにしにくいのは、決まりを正しく当てはめる必要がある作業や、正解が1つに決まる作業です。
- 細かい決まりの当てはめ：社内規程や法律の条文を、具体的なケースに当てはめる判断。
- 数え上げや計算：文字や物の数、桁の多い計算。
- 自分の答えの確かめ：「確かめて」と頼んでも、確かめずに正しいと答えることがある。
こうした作業は、AIの答えを入口にして、元の情報やコードの計算で必ず確かめます。
安全に使う3つの確かめ方
AIが理解していない面があることを前提に、次の3つの確かめ方を使うと、間違いに気づきやすくなります。
- 具体例に当てはめさせる：説明だけでなく、「この場合はどうなるか」を2〜3の例で答えさせる。当てはめで間違えれば、説明もうのみにしない。
- 別の言い方で聞き直す：同じ内容を、言葉を変えて聞く。答えが食い違えば、どこかに間違いがある。
- 元の情報で確かめる：数字・決まり・出典は、公式の資料や元の文書と照らし合わせる。
確かめの手順は、生成AIのファクトチェック手順も参考にしてください。
当てはめで確かめる依頼文
説明と当てはめを1回の依頼で確かめるには、次のように頼みます。説明だけが上手で、例の答えが決まりに合わない場合は、ポチョムキン理解を疑います。
自分で答えを知っている例を1つ混ぜておくと、AIの当てはめが正しいかをすぐに判断できます。
勉強に使うときの注意
AIに用語を説明してもらうのは、勉強の入口として便利です。ただ、説明を読んで分かった気になるのは、ポチョムキン理解の人間版になりかねません。
説明を読んだら、自分で例題を解くか、AIに例題を出してもらって自分で答え、その答えを教科書で確かめます。AIが出した例題の答えも、教科書で確かめてください。
資格の勉強なら、公式のテキストや問題集で最後に確かめる、という順番を守ると安心です。
AIに「この答えのどこが間違っているか」を探させる使い方も、自分の理解を確かめる練習になります。その場合も、AIの指摘が正しいかを教科書で確かめます。
仕事で使うときの注意
仕事では、AIの答えが「それらしい」ことが、かえって危険になることがあります。社内規程の解釈や、契約の条件の当てはめなどは、AIの説明が正しくても、当てはめで間違えることがあるためです。
こうした作業では、AIには論点の整理や、確かめるべき項目の洗い出しを任せ、最終の判断は担当者が元の文書で行う、という分担にします。
誰がどこを確かめたかを記録しておくと、間違いが見つかったときにも原因をたどれます。確かめる手間も含めて、AIを使う計画を立ててください。
これから分かっていくこと
AIの中を調べる研究は始まったばかりです。Anthropicも、今の方法では短い入力でも計算の一部しかとらえられず、数十語の入力を調べるのにも数時間の人手がかかると書いています。
AIが「どこまで分かっているのか」は、研究が進むにつれて少しずつ明らかになっていくはずです。それまでは、説明の上手さではなく、当てはめの正しさで判断するのが確かな使い方です。
AIの感情や意識についての研究は、AIに感情はあるのかで紹介しています。
AIの答えを使う前の確認リスト
最後に、AIの説明や答えを使う前の確認をまとめます。
- 説明だけでなく、具体例への当てはめも答えさせた
- 自分で答えを知っている例で、当てはめが正しいかを確かめた
- 言い方を変えて聞き直し、答えが食い違わないかを見た
- 数字・決まり・出典は、元の情報で確かめた
- AIの「どう考えたか」の説明も、そのまま信じていない
よくある疑問を、ここで。
使い始める前に、気になるところから。
AIは本当に理解していないのですか？
人と同じ意味で理解しているとは言えません。2025年の研究では、概念を94.2%正しく説明できるのに、使う問題では多く間違えることが分かりました。一方で、先の言葉を計画するなどの働きも見つかっており、研究が続いています。
ポチョムキン理解とは何ですか？
AIが概念の定義は正しく説明できるのに、その概念を使う問題では、人ならしないような間違いをする「理解の見せかけ」のことです。2025年の研究で名づけられ、多くのモデルで見つかりました。
理解していないのに、なぜ答えが上手なのですか？
大量の文章から、言葉の使われ方のパターンを学んでいるためです。よくある説明や型の文章は上手に作れますが、決まりを具体的な場面に当てはめる作業では間違えることがあります。
AIに理由を説明させれば安心ですか？
安心とは言えません。Anthropicの研究では、AIが自分の考え方として説明する内容が、実際の中の計算と一致しないことがありました。説明の中身も、具体例や元の情報で確かめてください。
理解していないAIは使わないほうがよいですか？
使い方しだいです。下書きや要約、アイデア出しのように人が最後に判断できる作業では役に立ちます。決まりの当てはめや計算は、元の情報やコードの計算で必ず確かめてください。
この記事を共有する
商品情報の提供：Supported by Rakuten Developers
出典と、この記事について
公式資料や、記事で参照した発表・報道をまとめています。仕様や料金は、利用する前に最新の案内をご確認ください。
- Mancoridis ほか「Potemkin Understanding in Large Language Models」（ICML 2025）（新しいタブで開きます）
- Anthropic：Tracing the thoughts of a large language model（2025年3月27日）（新しいタブで開きます）
- スタンフォード哲学百科事典：The Chinese Room Argument（新しいタブで開きます）
- OpenAI：言語モデルでハルシネーションがおきる理由（2025年9月5日）（新しいタブで開きます）
- 岩波書店：大規模言語モデルは新たな知能か（目次、Amazonの商品ページで確認）（新しいタブで開きます）
確認した内容と条件は本文に記載しています。結果や使い勝手は、資料や環境によって異なります。編集方針を読む
ぜひコメントください