ハルシネーションとは

ハルシネーションは、生成AIが事実と違う内容や存在しない情報を、本当のことのように答えてしまう現象です。英語の hallucination（幻覚）から来た呼び名です。存在しない論文や判例、誤った数値や日付、実在しない人名などが、自然で整った文章の中に紛れ込みます。

人間の嘘と違って、AIに悪気はありません。本当かどうかを確かめないまま、それらしい文章を組み立ててしまうのです。動画では「嘘というより自信満々の勘違いに近い」と表現しています。厄介なのは、間違っているときも正しいときも同じ口調で言い切るため、読む側が見抜きにくいことです。

なぜ起きるのか：3つの理由

1. 「正しい言葉」ではなく「次に来そうな言葉」を選んでいるから。 ChatGPT のような大規模言語モデルは、文章の続きを予測する仕組みで動いています。スマホの予測変換をはるかに賢くしたもの、と考えると分かりやすいでしょう。ただし、次に来そうな言葉と正しい言葉は、必ずしも一致しません。ある教授の論文名を聞かれると、AIは「論文タイトルらしい言葉の並び」を数多く学んでいるため、実在しない論文をそれらしく作ってしまうことがあります。

2. 知識が辞書のように1件ずつ保存されていないから。 AIの知識は、データベースのように事実が1件ずつ記録されているわけではありません。大量の文章から学んだ傾向が、モデル内部の数値に溶け込んでいるイメージです。何度も書かれている有名な事実はよく覚えていますが、ネット上に数回しか出てこない情報はうろ覚えになり、その隙間をありそうな言葉で埋めてしまいます。OpenAI の研究者らの論文（2025年）も、学習データに一度しか出てこない事実（誕生日など）は誤りやすいことを理論的に示しています。

3. 「分からない」より「当てずっぽう」が得をする評価になっているから。 同じ論文は、AIの性能が正解率だけで比べられることが多い点を問題にしています。正解なら1点、不正解や「分かりません」は0点という採点では、空欄にするより何か答えたほうが得をします。学校の選択問題と同じ構図です。

OpenAI は、この影響を示すデータとして、2つのモデルの比較を公開しています。

（OpenAI「Why language models hallucinate」。事実質問のテスト SimpleQA の結果）

正解率はほぼ同じですが、ほとんどすべての質問に答えた o4-mini は、誤答が約3倍に増えています。それでも正解率だけで並べると、o4-mini のほうがわずかに上になります。こうした採点の仕方が、AIに自信満々で答える癖をつけてしまうというのが、この研究の指摘です。

ビジネスで問題になる理由：責任は使った側に残る

ハルシネーションは、実際に裁判や賠償につながっています。

• 米国の弁護士への制裁（2023年）。 ニューヨーク南部地区連邦地方裁判所の Mata v. Avianca 事件では、弁護士が ChatGPT を使って書面を作り、存在しない判例を引用しました。弁護士は ChatGPT に「この判例は本物か」と確認しており、ChatGPT は実在すると答えていました。裁判所は2023年6月、弁護士と所属事務所に5,000ドルの制裁金を科しています。
• エア・カナダのチャットボット（2024年）。 カナダの航空会社エア・カナダのWebサイトのチャットボットが、忌引き運賃について実際の規定とは違う払い戻しの手順を案内しました。会社側は「チャットボットの説明は会社の責任ではない」と主張しましたが、ブリティッシュコロンビア州の民事紛争解決審判所はこれを退け、差額などの支払いを命じました。

2つの事例が示すのは、AIが言ったことでも、それを使った人や会社の責任になるということです。「AIがそう答えたから」は説明責任になりません。社外に出す文書や、顧客に直接答えるAIほど、リスクは大きくなります。

起きやすい場面と、比較的安全な使い方

動画では、特に注意したい場面として次の5つを挙げています。

一方で、文章の要約や言い換え、アイデア出しのように、正解が1つに決まらない作業はAIが得意とする領域です。どの業務から任せるかを決めるとき、この区別が判断の目安になります。

よくある誤解

「最新のモデルならもう起きない」は誤りです。 AIを作る側では、答える前にWeb検索や社内資料の検索をさせ、見つけた内容をもとに答える方式が主流になっています。これは RAG（検索拡張生成）と呼ばれます。さらに、自信がないときは「分からない」と答えるよう学習させる工夫も進み、動画では新しいモデルほどハルシネーションはかなり減ってきたと述べています。ただし、ゼロにはなっていません。

「AIに本当かと聞き直せば確認になる」も誤りです。 先の裁判の事例のとおり、AIは確認を求められても誤った内容を本物だと答えることがあります。確認は、元の資料や公式情報など、AIの外側で行う必要があります。

「資料を渡せば完全に防げる」わけでもありません。 資料を渡すと誤りは減りますが、資料の読み違いや、資料にないことの補足で誤りが混ざることはあります。出典を示させ、その出典を実際に開いて確かめる流れまで含めて考えましょう。

経営者・事業責任者がすべきこと

ハルシネーションはゼロにできない前提で、業務の設計で抑え込むのが現実的です。動画では、使う側ができることとして3つを挙げています。

1. 資料を渡して、それをもとに答えさせる。 記憶に頼らせず、社内規程や公式資料など根拠となる情報を先に渡します。
2. 「分からないときは分からないと答えて」と一言添える。 当てずっぽうの回答を減らせます。
3. 大事な数字・名前・出典は、元の情報で人が確かめる。

これに加えて、組織として次の点を決めておくとよいでしょう。

• 人が裏取りする範囲を決める。 動画では、社外に出す資料やお金・契約に関わるものは必ず人が確認する、と決めておくことを勧めています。
• 顧客に直接答えるAIは慎重に設計する。 答えてよい範囲を限定し、根拠となる公式ページを示させ、規定や料金など重要な案内は人やシステムで確定させる仕組みにします。
• 誤りに気づける体制を用意する。 誤りが出たとき、誰がどこで気づき、どう訂正するかまで含めて導入を設計しましょう。

AIの出力は「よくできた下書き」として扱い、最終的な判断と責任は人が持つ。この前提を社内で共有しておくことが、事故を防ぐいちばんの近道です。