AIの答えは本当？｜ハルシネーションの見分け方と、自分で確かめる4つの手順

総務省は情報通信白書で、生成AIが事実に基づかない情報をもっともらしく作ることを「ハルシネーション」と呼び、技術的に完全には抑えられないので、利用者が確認することが望ましいとしています。実際、国の調査でも「AIの回答が事実でない可能性」は、人々が非常にリスクだと感じることの上位に挙がっています。ただ、その確認をどうやるのかは、あまり説明されていません。この記事では、専門知識がなくてもできる手順を、手間の軽い順に4つ書きます。

AIは、知らないことも自信のある文章で書く

まず、ハルシネーションは単純な故障というより、生成AIの仕組みの上で起こりうる現象です。総務省の令和6年版 情報通信白書には、こう書かれています。

生成AIは事実に基づかない誤った情報をもっともらしく生成することがあり、これをハルシネーション（幻覚）と呼ぶ。技術的な対策が検討されているものの完全に抑制できるものではないため、生成AIを活用する際には、ハルシネーションが起こる可能性を念頭に置き、検索を併用するなど、ユーザーは生成AIの出力した答えが正しいかどうかを確認することが望ましい。
出典:令和6年版 情報通信白書 特集② 第1節「生成AIが抱える課題」｜総務省

大事なところが2つあります。ひとつは「完全に抑制できるものではない」。新しいAIに変えても、有料版にしても、完全になくなるとは限りません。もうひとつは「ユーザーは確認することが望ましい」。確認する側は、使う人だということです。

同じ不安を持つ人は多いようです。翌年の令和7年版では、AI利用のリスク意識を調べた結果として、「非常にリスクだと感じる」との回答が相対的に多かったのは、悪意のある者による犯罪利用、精巧なフェイクにだまされること、質問に対するAIの回答が事実でない可能性があることだったと報告されています。同じ調査では、生成AIを使ったことがある人の割合が2023年度の9.1%から2024年度は26.7%（20代は44.7%）に増えています（出典：令和7年版 情報通信白書「個人におけるAI利用の現状」｜総務省）。

厄介なのは、間違えているときの見た目が、正しいときと変わらないことです。AIも「確信はありませんが」といった前置きを付けることはありますが、その前置きの有無や自信の強さは、実際の正確さと必ずしも一致しません。断定的に書かれていても間違っていることがあり、控えめに書かれていても正しいことがあります。書き方を信用の目印にしないでください。

間違いが出やすいのは、こういうとき

すべてを確認していたら、AIを使う意味がなくなります。出やすい場面を知っておくと、確認する場所を絞れます。

最近のAIはウェブ検索を併用するものが増えました。検索した場合は新しい話題にも答えられますが、検索しなかった場合はそれらしい答えを作ります。回答に参照元のリンクが出ていれば、確認の手がかりにはなります。ただし、AIが文章の中で挙げたURLや書名、論文名そのものが実在しないことがあります。実在するページでも、AIの説明を裏付ける内容が書かれていない場合もあります。逆に、検索していてもリンクを出さないサービスもあります。リンクの有無だけで判断せず、開いて中身を確かめてください。

逆に、確認が軽くて済む使い方もあります。言い回しを整える、考えを整理する手伝いをさせる。こちらが渡した情報を加工させるだけなら、知識を出させるときより間違いは起きにくいです。

ただし「短くまとめる」は別に考えてください。要約では、条件や例外が抜け落ちる、否定が肯定に入れ替わる、数字が取り違えられる、といったことが起こります。契約書や薬の説明書、役所からの通知を要約させたときは、元の文と読み比べてください。

危ないのは、AIに知識を出させるときだと覚えておくと分けやすくなります。

自分で確かめる4つの手順

手間の軽いものから並べています。全部やる必要はありません。

出典を聞いて、そのURLを実際に開く

「その情報の出典を教えてください」と続けて聞きます。ここで大事なのは、返ってきたURLを実際に開くことです。

出典そのものが作られていることがあります。開いてみると、ページが存在しない、あるいは実在するが書いてある内容が違う、ということが起こります。URLが表示されただけでは確認になりません。

開いたら、AIが言った数字や名称がそのページの中に本当に書いてあるかを見てください。ページ内検索（パソコンなら Ctrl+F、スマホならブラウザの「ページ内を検索」）で、その言葉を打ち込むのが早いです。

URLが go.jp（国の機関）や lg.jp（自治体）で終わっていれば、公的機関のページだと分かります。ただし、法テラス（houterasu.or.jp）のように or.jp を使う公的な窓口もあるので、これだけで決めず、組織名でも確かめてください。

固有名詞と数字だけを、そのまま検索する

AIの答え全体ではなく、いちばん確かめたい部分だけを抜き出して検索します。

説明のために、作り物の例を挙げます。次のような答えが返ってきたとします。

〇〇支援金は令和6年10月から始まった制度で、65歳以上の方が対象です。申請は市区町村の窓口で受け付けています。
※説明のために作った例です。この制度は実在しません。

ここで検索するのは、文章全体ではなく「〇〇支援金」という名前だけです。実在すれば公式のページが出ます。出てこなければ、その制度は無いか、名前が違います。次に「令和6年10月」を確かめます。制度は実在しても、開始時期だけ違うことがあります。

何も出てこないときは、少なくとも「実在を確認できていない情報」として扱ってください。名称が変わっている、サイト内検索に出てこない、紙でしか配られていない地域の制度、といったこともあります。無いと断定はできませんが、確認できていない以上、そのまま信じるのは避けてください。

言い方を変えて、聞き直す

新しい会話を始めて、少し違う聞き方で同じことを尋ねます。「〇〇について教えて」と「〇〇は本当にありますか」では、返ってくるものが変わることがあります。

1回目と2回目で答えが食い違ったら、その部分は疑ってください。一方で、何度聞いても同じ答えが返ってきたとしても、それだけで正しいとは判断できません。同じ情報と同じ推論の癖に基づいて、同じ間違いを繰り返しているだけ、ということがあるからです。

別のAIサービスに同じことを聞く方法も、食い違いを見つける手がかりにはなります。ただし違う会社のAIでも、学習に使っている情報は大きく重なっています。ネット上に広く出回っている誤りは、どのAIも同じように答えます。複数のAIが同じ答えを出したことは、事実確認の代わりにはなりません。最後は公式ページや原典で確かめてください。

聞く前に「分からないときは分からないと答えて」と伝えておく

これは確認ではなく、予防です。質問の前に一文足しておきます。

• 分からないことは「分かりません」と答えてください
• 確実な情報と、推測とを分けて書いてください
• 出典が示せるものだけ答えてください（示された出典は、こちらで開いて確かめます）

3つ目に注意書きを付けたのは、出典そのものが作られることがあるからです。「出典を付けて」と頼むだけでは足りず、1つ目の手順とセットで使ってください。

これで間違いがゼロになるわけではありませんが、AIが無理に答えを埋める場面は減ります。「分かりません」と返ってきたときは、むしろ正直に働いている状態です。

聞き方の違いを並べると、次のようになります。

共通しているのは、「ある」という前提を自分で作らないことです。1行目のように存在を尋ねる形にすると危険は下がりますが、それだけでは足りません。「無ければ『ない』と答えてください」を付けないと、やはりそれらしいものを挙げられることがあります。

指示の出し方そのものについては、ChatGPTの正答率が4倍になるプロンプト「ステップバイステップ」とはにもまとめています。

なぜ、間違いだと気づけないのか

読めば分かりそうなものですが、実際にはなかなか気づけません。理由が3つあります。

ひとつめは、文章が整っていることです。主語と述語が合っていて、順序立っていて、断定的です。内容の正しさより、書き方の滑らかさで信用度を測ってしまうところがあります。たどたどしい文章で同じ嘘を書かれたら、たぶん疑います。

ふたつめは、自分が知りたかった答えだからです。「たぶんこうだろう」と思って聞いて、そのとおりの答えが返ってくると、裏を取ろうという気持ちが働きません。これは確証バイアスと呼ばれるもので、AIに限った話ではありませんが、AIは聞き方によってこちらが望んでいそうな答えを返す傾向があるので、噛み合ってしまいます。この性質を逆手に取って、あえて反対意見を言わせる使い方は「私が間違ってる可能性は?」AIを最強の壁打ち相手にする方法｜確証バイアスから抜け出す思考術にまとめています。

みっつめは、細部だけが違うことです。全体が嘘なら気づきますが、実際に多いのは大筋が合っていて一部だけ違う形です。制度の説明は合っているのに施行日だけ1年ずれている、本の内容は合っているのに著者名が別人になっている。正しい部分を読んでいるうちに信用ができあがるので、その流れで間違いも通ってしまいます。確認するなら、合っていそうな部分ではなく、数字と固有名詞をねらって見てください。

健康・法律・お金は、別扱いにする

この3つは、間違いがそのまま損害につながることがあります。上の手順1と2を通したうえで、重要な判断をする前に、専門家や担当窓口にも確認してください。公式ページを読んでも、自分の事情に当てはまるかどうかまでは分からないことが多いためです。

AIに下調べをさせるのは構いませんが、最終確認を任せないという使い方が安全です。「何を調べればいいか」を教えてもらう相手だと考えると、間違えにくくなります。調べる先の名前さえ分かれば、あとは公式ページで確かめられます。

制度やお金の話は、年度が変わると内容も変わります。「いつ時点の情報ですか」と一言聞いておくと、確認すべきかどうかの見当が付きます。ただし、この答え自体もAIが作ったものです。「去年の内容でした」と返ってくれば確認する理由になりますが、「最新です」と返ってきたことを根拠に、確認を省かないでください。

AIにそのまま入力しない方がよいもの

ハルシネーションとは別の話ですが、入力する情報の扱いにも注意が要ります。同じ白書は、入力した内容がそのAIからの出力などを通じて外に出てしまうリスクを挙げています（出典：令和6年版 情報通信白書 特集② 第1節｜総務省）。

個人情報保護委員会も、一般の利用者に向けてこう求めています。

生成AIサービスの利用者においては、生成AIサービスを提供する事業者の利用規約やプライバシーポリシー等を十分に確認し、入力する情報の内容等を踏まえ、生成AIサービスの利用について適切に判断すること。
出典:生成AIサービスの利用に関する注意喚起等（令和5年6月2日）｜個人情報保護委員会

入力した内容が保存されるか、学習に使われるかは、サービスや契約によって違います。設定で学習に使わせないようにできるものもあります。規約を確かめていないうちは、次のものはそのまま入力しないほうが安全です。

• 氏名、住所、電話番号、口座番号、マイナンバー
• 家族や知人の個人情報、とくに病気や障害に関すること
• 公開されていない勤務先の情報、顧客の情報、営業秘密
• 写真に写り込んだ表札、車のナンバー、部屋の様子

文章を添削してもらうときは、名前を「Aさん」に置き換えてから貼ると違います。ただし、名前を消しても特定されることがあります。勤務先、地名、日付、病名、出来事の細かさが残っていれば、その組み合わせで誰のことか分かってしまいます。関係のない部分は削ってから貼ってください。他人の事情を扱うときは、とくにそうです。

AIの誤りは、人をだます道具にもなる

もっともらしい嘘を作れるということは、悪用もできるということです。同じ白書は、ディープフェイクによる偽の画像や動画を鵜呑みにして、情報操作や世論工作に使われるリスクも挙げています。

ここまでの手順は、AIに聞いたときの確認方法でした。同じ目の付けどころは、送られてきた広告やメッセージにも使えます。実在しそうな会社名や制度名が出てきたら名前だけを検索する、示されたURLを開いて組織名を確かめる。やることは変わりません。

実際に、AIで作られた文章や画像が、投資の勧誘や有名人になりすました広告に使われています。手口は有名人の「無料で投資指導」広告は要注意｜なりすまし投資詐欺の手口と見分け方にまとめました。また、AIが自分好みの答えばかりを返すことで考えが偏っていく問題は、エコーチェンバー現象とは？AIが作る情報の偏りと対策で扱っています。

相談先

AIが作った情報がきっかけで、実際の被害につながりそうなときの入口です。まだ被害と言えるか分からない段階でも構いません。

• 警察相談専用電話 #9110:全国共通の短縮ダイヤルで、発信地を管轄する都道府県警察本部等の総合窓口につながります。緊急でない相談のための番号です。土日祝日と夜間は当直や音声案内で対応しています。ダイヤル回線と一部のIP電話からは利用できません（出典：警察相談専用電話「#9110」｜警察庁）
• 消費者ホットライン 188:局番なしの188にかけると、郵便番号を入力する案内があり、お住まいの市区町村や都道府県の消費生活センター等につながります（市外局番ではなく郵便番号です）。相談は無料ですが、窓口につながった時点から通話料がかかります。施設点検日や年末年始を除いて原則毎日利用できます（出典：消費者ホットライン｜消費者庁）

消費者トラブルで、すでにお金を払ってしまった場合も188に相談できます。何でどう払ったかによって取れる手が変わるので、支払い方法を伝えてください。詐欺や犯罪が疑われる場合は警察にも相談し、銀行振込の場合は振込先の金融機関にもすぐ連絡してください。

まとめ:覚えておきたい3つのポイント

• ハルシネーションは不具合ではなく、技術的に完全には抑えられないもの（総務省 令和6年版 情報通信白書）。確認する役目は使う側にある。断定的に書かれているかどうかは、正しさの目印にならない
• 危ないのはAIに知識を出させるとき。固有名詞・数字・日付・最近の出来事・珍しい話題は疑ってかかる。要約も油断できない（条件や例外が落ちる）
• 確かめ方は①出典のURLを実際に開く ②固有名詞だけを検索する ③言い方を変えて聞き直す ④先に「分からないなら分からないと答えて」と伝える。別のAIに聞くのは食い違いを探す方法で、①②の代わりにはならない

情報源（2026年8月時点で確認）:総務省「令和6年版 情報通信白書」特集② 第1節「生成AIが抱える課題」、総務省「令和7年版 情報通信白書」第Ⅰ部第2節「個人におけるAI利用の現状」、個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」（令和5年6月2日）、警察庁「警察相談専用電話『#9110』」、消費者庁「消費者ホットライン」
※ハルシネーションの定義と「利用者が確認することが望ましい」との記述は令和6年版に、AI利用のリスク意識と利用率の調査結果は令和7年版に掲載されています。令和8年版（2026年7月公表）については、確認した概要資料にはハルシネーションに関する記述が見当たりませんでした。