AIが間違った回答をすることがある理由と、答えを確かめる方法

AIに聞いたら、存在しない本を堂々と紹介された

ChatGPTやClaudeのようなAIチャットに何かを質問して、返ってきた答えが実は間違っていた、という話を聞いたことはないだろうか。「この分野のおすすめの本を教えて」と聞いたら実在しないタイトルが混ざっていたり、「この会社の設立年は」と聞いたら実際の年とずれていたり、根拠として示されたURLを開いてみたら「ページが見つかりません」と表示されたり。厄介なのは、AIがそれをためらいがちに言うのではなく、まるで確定した事実であるかのように、迷いのない口調で答えてくることだ。知らない分野の話だと、間違いに気づかないまま信じてしまうことも起こり得る。

ここでいうAIチャットとは、文章で質問すると文章で答えを返してくれる「生成AI」と呼ばれる仕組みのことを指す。生成AIとは、大量の文章データから「こういう質問にはこういう答え方が自然だ」というパターンを学習し、それをもとに新しい文章を作り出すプログラムのことだ。人間のように意味を理解して答えているというより、統計的に「次にどんな言葉が続くと自然か」を予測して文章をつなげている、と考えるとイメージしやすい。

このパターンで文章を作る仕組みだからこそ、事実として正しいかどうかとは別に、もっともらしい文章を作れてしまう。この、AIが事実と異なる内容をそれらしく作り出してしまう現象には名前がついていて、「ハルシネーション」と呼ばれている。もともとは幻覚という意味の英語で、AIが見てもいないものをまるで見たかのように語ってしまう様子にたとえられている。

なぜ「自信満々に」間違えるのか

人間なら、知らないことを聞かれたら「ちょっとわからない」と言葉を濁すことが多い。ところが生成AIは、質問に対して何らかの文章を返すこと自体は得意で、しかも学習した膨大な文章の中には「わからない」という答え方のパターンよりも、断定的に説明する答え方のパターンの方がずっと多く含まれている。その結果、本当は根拠が薄い内容でも、いかにも詳しい人が説明しているような口調で出力されやすい。

もう一つの理由は、AIが基本的に「その場で言葉をひねり出している」という点にある。人間が図書館で本を調べて答えを書き写すのとは違い、AIは質問を受けた瞬間に、学習してきた膨大な文章の傾向をもとに答えを組み立てている。特に指示がない限り、答えるたびに外部の資料を開いて事実確認をしているわけではない。イメージとしては、物知りな友人にその場で矢継ぎ早に質問しているのに近い。友人は本棚を確認しながら答えているわけではなく、記憶と話の流れだけを頼りに口が動いている。会話としては自然につながるが、細かい年号や固有名詞になると、うろ覚えのまま断言してしまうことがある。AIの場合もこれと似ていて、有名で情報量の多いテーマなら精度は高くなりやすいが、マイナーな話題や、細かい数字・日付・固有名詞・URLになるほど、実際には存在しない情報を「それらしく埋めて」しまう可能性が上がる。

ハルシネーションが特に起きやすい場面

すべての回答が疑わしいわけではない。経験的に確認しやすい、注意した方がいい場面がいくつかある。

一つは、数字や日付、人名、書籍名、企業名といった固有の情報を聞いたときだ。「だいたい合っている雰囲気の答え」を作るのは得意でも、一字一句正確な情報を保証する仕組みはAI自身の中には備わっていない。もう一つは、存在しないものについて聞いたときの反応だ。実在しない資格名や架空の法律名を挙げて「これについて教えて」と聞くと、律儀に「ない」とは言わず、それらしい説明をでっち上げてしまうことがある。さらに、AIの学習が終わった時点より後に起きた出来事や、ごく最近のニュースについても、知らないはずの情報をあたかも知っているかのように答えてしまうことがある。

もう一つ見落とされやすいのが、根拠となる出典を聞いたときの答え方だ。「その情報はどの記事に書いてありましたか」と尋ねると、AIはそれらしいタイトルやURLを返してくれることがあるが、そのURL自体が実際には存在しない、ということが起こる。これは、AIが本当に参照した記事を保存していて後から引っ張り出しているのではなく、「出典を聞かれたら、こういう形式で答えるのが自然だ」というパターンに沿って、URLの見た目をした文字列を新たに組み立ててしまうために起きる。示された出典ほど、まず開いて確かめる価値がある。

答えを確かめる、具体的な手順

大事なのは、AIの答えをそのまま鵜呑みにしないことよりも、確かめる手順を決めておくことだ。次の流れを試してみてほしい。

1. 固有名詞・数字・日付・URLが出てきたら、その部分だけを検索エンジンや公式サイトで照合する。文章全体を疑うのではなく、事実にあたる部分だけをピンポイントで確認すれば手間は少なくて済む。
2. 少しでも怪しいと感じたら、AI自身に聞き返す。たとえば次のようなプロンプト(AIへの指示文のこと)をそのまま使ってみるといい。「この情報の根拠になった情報源を教えてください。もし確実な根拠がなければ、その旨を正直に伝えてください」。この一文を添えるだけで、AIが断定を弱めたり、不確かさを申告したりすることがある。
3. 重要な調べものの最初に、あらかじめ条件を伝えておく方法も有効だ。「わからないことや確信が持てないことは、推測だと明記した上で答えてください」と最初の質問に付け加えておくと、その後のやり取り全体で慎重な言い回しになりやすい。
4. 検索機能が使えるAIツールであれば、その機能をオンにして調べものをする。多くのAIサービスには、回答を作る前にWeb検索を行い、参照したページのリンクを一緒に示すモードが用意されている。純粋に学習した記憶だけで答えるモードより、出典を確認しやすい。
5. 一つのAIだけで完結させず、別の検索や別のAIツールでも同じ質問をしてみる。複数の答えを見比べて、共通して出てくる情報は信頼度が上がり、片方にしか出てこない情報は要注意だと判断できる。

用途によって確認の重さを変える

雑談や文章の下書き、アイデア出しのように、多少の誤りがあっても後で人間が手直しする前提の使い方なら、細部まで毎回裏取りする必要は薄い。一方で、体の不調や薬に関すること、お金の使い方や契約に関わること、法律や制度の解釈に関わることを調べる場合は、AIの回答を判断材料の一つとして扱い、実際の行動に移す前に、その分野の専門家や公式の窓口に確認する姿勢を保っておきたい。AIは調べものの下準備や、論点を整理するたたき台としてはとても頼りになるが、最終的な決定の根拠そのものを丸ごと委ねる相手ではない、と線を引いておくと使い方に迷いにくくなる。

目安として、AIの答えをそのまま人に伝えたり、資料に書き写したりする前に「これは自分で確認済みの情報か、AIの言葉をそのまま信じているだけか」を一呼吸おいて区別してみるといい。区別できていれば、多少の誤りが混ざっていても被害は自分の手元で止められる。区別せずに右から左へ流してしまうと、間違いに気づかないまま人に伝わってしまい、後から訂正する手間の方が大きくなる。

まとめ

AIが間違った答えを出す背景には、事実を検索して答えているのではなく、学習した文章のパターンから「それらしい続き」を作っているという仕組み上の理由がある。だからこそ、断定的な口調と情報の正確さは必ずしも一致しない。数字や固有名詞は元の情報源にあたって照合し、怪しいと思ったら根拠を聞き返し、重要な場面では検索機能や複数ツールの見比べを挟む。この確認の手順をひとつ持っておくだけで、AIとの付き合い方はぐっと安心できるものになる。