AIに医療・法律・お金を相談していい範囲との線引き

AIに聞ける安心感と、そのまま信じる怖さ

夜中に体調不安を感じてAIチャットに相談したり、契約書の文言について尋ねたり、投資の話を聞いたりする人は増えている。誰にも気を遣わず何度でも聞き返せるし、待ち時間もない。ただ、返ってきた答えをそのまま信じて行動していいかというと、それは別の話になる。

ここでいう「AI」は、ChatGPTやClaudeのような、文章で質問すると文章で答えてくれるサービスを指す。こうした仕組みは生成AI(せいせいAI、文章や画像などを新しく作り出すAIの総称)と呼ばれ、内部では大量の文章データから「次にどんな言葉が続きやすいか」を学習したLLM(エルエルエム、大規模言語モデルの略で、言葉のつながりを統計的に学習した仕組み)が働いている。

大事なのは、AIは「正解を検索して持ってきている」わけではなく、「もっともらしい言葉の並びを組み立てている」という点だ。だから、医療・法律・お金のように間違えると実害が大きい分野ほど、聞いていい範囲と自分で確かめるべき範囲を分けておく必要がある。

そもそも生成AIは何を根拠に答えているのか

AIの答えが時々間違っていることがあるのは、AIが嘘をつこうとしているからではない。学習した文章の中で「もっともらしい」パターンに沿って答えを生成しているだけで、その情報源を逐一確認しながら話しているわけではないからだ。もっともらしいのに事実と違う内容を、AIが自信満々に答えてしまう現象はハルシネーション(幻覚、AIが事実でないことをあたかも事実のように述べてしまうこと)と呼ばれている。

さらに、AIが学習したデータには偏りがあり、答え方にも一定の傾向が出ることがある。この仕組みについてはAIの回答はなぜ偏る？バイアスの仕組みと鵜呑みにしない確かめ方で詳しく触れているので、あわせて読むと理解が深まる。

つまりAIは、知識を整理したり言葉を分かりやすく言い換えたりするのは得意でも、「あなた個人の状況について、責任を持って最終判断を下す」ことはできない。ここが線引きの土台になる。

医療:症状の整理や情報の下調べはAI向き、診断は医師へ

体の不調をAIに聞くこと自体は悪くない。たとえば次のような使い方は、AIの得意分野に近い。

• 「頭が重くて吐き気はないが、37度前半の熱が2日続いている。考えられる原因を一般的な範囲で教えて。ただし診断ではなく参考情報として」と条件を書いて聞く
• 「〇〇という病名について、どんな検査をすることが多いか、一般的な流れを教えて」と聞き、診察前の質問リストを作る
• 処方薬の説明書に書かれた専門用語を「この言葉、簡単に言うとどういう意味?」とかみ砕いてもらう

一方で、「これは何の病気か」「病院に行くべきか様子を見るべきか」「薬をやめてもいいか」といった判断は、AIに聞いて終わりにしてはいけない領域だ。AIは目の前の人を診察できないし、血液検査の数値も触診の感触も持っていない。答えが具体的で断定口調に見えても、それは診断ではなく一般論の組み合わせにすぎない。体調に不安があるときは、AIとのやり取りを「症状を言葉にする練習」「病院で聞きたいことの下書き」として使い、実際の判断は医師に委ねるという役割分担が現実的になる。

法律:言葉の意味を調べるのはAI向き、契約の可否はプロへ

契約書や規約を読んでいて、聞き慣れない法律用語が出てくることは多い。こうした場面もAIが力を発揮しやすい。

• 「この契約書に出てくる『瑕疵担保責任』という言葉を、一般的な意味でやさしく説明して」と用語の意味を聞く
• 「賃貸借契約でよく問題になるトラブルには、どんな種類があるか一般的な傾向を教えて」と、事前知識を仕込む
• 自分が書いた質問文やクレームの文面を「もっと丁寧な言い回しに直して」と整えてもらう

反対に、「この契約書にサインしていいか」「この相手を訴えられるか」「今回のトラブルで自分はいくら請求できるか」といった、個別の事実関係に基づく法的な結論は、AIの一般論だけで決めていい話ではない。同じ言葉が並ぶ契約書でも、実際の事情や地域のルールによって結論が変わることがあるからだ。AIの説明は「専門家に相談する前の予習」と位置づけ、金額が大きい契約や争いになりそうな話は、弁護士や行政の無料相談窓口など、実際の案件を見てくれる人に確認する流れが安全になる。

お金:仕組みの理解はAI向き、いくら・いつ動かすかは自分で

お金についても構造は同じだ。仕組みや用語の理解はAIに向いている。

• 「NISAとiDeCoの違いを、制度の目的から一般的に説明して」と、まず全体像をつかむ
• 「複利という考え方を、身近な例を使って説明して」と、計算の仕組みを理解する
• 家計簿アプリの支出項目を貼り付けて「無駄が多そうなカテゴリはどこ?」と、気づきのきっかけにする

ここで注意したいのは、「今この銘柄を買うべきか」「いくら投資に回すべきか」「このローンを組むべきか」という、自分のお金を実際に動かす判断だ。こうした個別の話は、AIの回答だけを根拠にするべきではない。相場も家計の状況も日々変わるし、AIが答える内容が最新の制度や自分の収入・支出を正確に反映しているとは限らない。仕組みを理解したうえで、実際の意思決定は自分の状況を踏まえて行うか、必要に応じてファイナンシャルプランナーなど専門家の助言を受けるのが妥当な線になる。

自分で線引きできるようになる3つの確認ポイント

毎回悩まなくて済むように、聞く前に頭の中で通せる基準を持っておくと楽になる。ひとつ目は「間違えたときに困るのは知識不足か、判断ミスか」という視点だ。用語や仕組みが分からないだけなら、AIに聞いて理解を深めれば十分なことが多い。だが「実行するかどうか」を決める場面なら、AIの答えは判断材料の一つに留めておいたほうがいい。

ふたつ目は「その答えは、自分の個別の事情を踏まえたものか、一般論か」を意識すること。AIの説明が具体的で自信ありげに見えても、実際にはよくあるパターンを一般化しているだけの場合が大半だ。三つ目は「専門家に確認する手間を惜しんでいないか」という点になる。AIに聞くことで満足してしまい、本来なら医師や弁護士、専門家に確認すべき一歩を省略してしまうと、線引きの意味がなくなる。AIは相談相手というより、専門家に相談する前の「頭の整理係」だと考えると、使い方の距離感がつかみやすくなる。

情報を鵜呑みにせず自分の頭で確かめる姿勢そのものについては、『チャットGPT vs.人類』に学ぶAI時代の情報の見極め方でも扱っているので、興味があれば覗いてみてほしい。

よくある質問

Q. AIに症状を聞くこと自体はやめたほうがいいですか?

症状を言葉にして整理したり、病院で聞きたいことをまとめたりする使い方であれば問題ない。ただし、その回答を診断や治療の判断としてそのまま使うのは避けたほうがよい。

Q. AIが説明した法律用語の意味は信じていいですか?

一般的な言葉の意味の説明としては参考になりやすい。ただし、それを自分の契約やトラブルにそのまま当てはめて結論を出すのは避け、実際の判断は専門家に確認するとよい。

Q. なぜAIは間違った内容でも自信ありげに答えるのですか?

AIは事実を検索しているのではなく、学習した文章のパターンからもっともらしい言葉を組み立てて答えているためだ。この現象はハルシネーションと呼ばれ、断定口調に見えても事実確認とは別物になる。

Q. お金の相談はAIにしても意味がないですか?

意味がないわけではない。NISAや複利のような制度や仕組みの理解にはAIが役立つ。ただし、実際にいくら投資するか、どの商品を買うかという個別の判断は、AIの回答だけで決めるべきではない。

まとめ

AIに医療・法律・お金のことを聞くのは、悪いことでもタブーでもない。むしろ、専門用語をかみ砕いたり、質問リストを作ったり、仕組みを理解したりする場面では、AIはかなり頼れる相手になる。線を引くべきなのは、そこから先の「診断する」「契約の可否を決める」「お金を動かす」という、個別の事情に基づいた最終判断の部分だ。AIとのやり取りを下調べや頭の整理に使い、実際に動く前の一段階として専門家や公式情報にあたる。この役割分担さえ持っておけば、AIは十分に安心して使える道具になる。