生成AI・LLM(大規模言語モデル)を業務や日常で使う機会が増える中、「もっともらしい嘘」ことハルシネーション(幻覚)は依然として最大の懸念材料の一つです。本記事では、2026年時点での技術的な現状、実際に起きた実害事例、対策手法、そして利用者側でできるリスク管理の方法論まで、まとめて整理します。
ハルシネーションの現状:大幅に改善しているが「ゼロ」ではない
結論から言うと、ハルシネーションは確実に減ってきているものの、構造的な原因が解消されたわけではなく、完全解消には至っていません。
数値で見る現状
- 要約タスクなど比較的簡単なタスクでも、最良のモデルで数%程度の幻覚率が観測されています。
- RAG(検索拡張生成)を使っても、領域によっては10%を超える幻覚が残る例が報告されており、「RAGを入れれば解決」というほど単純ではありません。
- 簡単な質問(単純な事実確認レベル)では、一部モデルがほぼ100%の正確性を達成し、幻覚がほぼ排除されるケースもあります。ただし難易度の高い評価や実運用では、正確性の上限は100%を下回ります。
なぜゼロにならないのか
OpenAIの調査によれば、根本原因はモデルの「性能不足」というより、学習・評価の設計そのものにあります。現在の標準的な学習・評価手順は、不確実性を正直に認めるより、それらしい当て推量をする方に報酬が出る仕組みになっているのです。
一方で改善も着実に進んでおり、最新モデルではハルシネーションの割合が低下し、特に推論を伴うタスクで顕著な改善が見られると報告されています。
実務での考え方
2026年の実務での主流は「ゼロを目指す」のではなく「許容範囲まで抑え込む」という方向です。検出・抑制・出力検証の3層構造で対策を積み重ね、業務が許容できる誤生成率まで下げることが現実的な目標とされています。
| 観点 | 現状 |
|---|---|
| 簡単なQA | ほぼ解消(モデルによってはほぼ100%正確) |
| 要約・複雑な推論 | 数%〜10%超の幻覚が残存 |
| RAG併用時 | 検索精度が悪いとそのまま幻覚に直結 |
| 根本原因 | 学習・評価のインセンティブ構造自体に起因 |
| 実務の対応 | 「業務が許容できる誤生成率」まで下げる設計に転換 |
ハルシネーションは実際に業務にどれほどの実害を与えるのか
技術的な改善が進む一方で、実際の事故は既に多数報告されています。
実際に起きた深刻な事例
Deloitte(デロイト)豪州法人の返金事件 コンサルティング大手デロイトのオーストラリア法人が、AI生成の報告書の誤りにより、オーストラリア政府に提出した7ヶ月間のプロジェクト成果物に重大な欠陥があり、約4400万円を返金する事態になりました。報告書には実在の大学の研究者名義で架空の論文が引用されていたことが、専門家の精査により発覚しています。
法廷でのハルシネーション急増 専門家によるデータベース調査では、2025年だけで200件以上の法廷でのAIハルシネーション事例が確認され、弁護士への制裁金事例が急増していると報告されています。存在しない判例をAIが生成し、それがそのまま裁判資料として提出されてしまうケースです。
カナダ航空会社の敗訴 生成AIのでたらめな回答が原因で乗客から訴えられ、敗訴した事例も報告されています。
研究データが示す「まだ残る割合」
最新モデルでも3〜5%程度の割合でハルシネーションが発生すると報告されています。また、難易度の高い評価や実際の利用では、情報が入手不可能・曖昧さが残るなどの理由から、正確性が100%に届かないことが指摘されています。
数%でも実害が大きい理由
- 高スループット・低監視の業務(大量の報告書作成、法律文書のドラフトなど)では母数が多く、数%でも実際の事故発生数は無視できません
- 固有名詞・引用文献・数値・判例など「検証されずにそのまま採用されやすい」情報でハルシネーションが起きると、そのまま公式文書や訴訟資料に混入し、金銭的損失や法的責任に直結します
- 経済産業省・総務省の「AI事業者ガイドライン」でも、ハルシネーション等による誤った出力をAIリスクの代表事例として明記し、AI利用者に出力を鵜呑みにしないトレーニングを求めています
ハルシネーションを抑える技術的な手法
現在採用されている主な対策を整理します。
1. RAG(検索拡張生成)
LLMが記憶だけで答えるのではなく、外部の信頼できるデータベースや文書を検索し、その内容を根拠に回答を生成させる手法です。「知識ゼロから作文する」のではなく「資料を見ながら答える」状態にすることで、事実にグラウンディング(根拠づけ)させます。
弱点として、検索でハズレの文書を拾ってしまうと、その誤った文書をそのまま信じて回答してしまう点があります。発展形として、検索結果の品質を評価し必要なら検索し直すCorrective RAGという手法もあります。
2. プロンプトでの制約
指示文の中に明示的にルールを書き込む方法です。
- 「資料にない情報には答えない」
- 「わからない場合は『わかりません』と答える」
- 「推測の場合は『推測ですが』と前置きする」
追加学習不要ですぐ試せる、最も手軽な対策です。
3. 出力検証(ファクトチェック層)
LLMの出力をそのまま使わず、別のプロセスでチェックしてから提示する方法です。固有名詞・数値・引用文献を外部ソースと自動照合したり、別のLLMに根拠資料との矛盾がないか検証させたりします。ただし検証側のAIも幻覚を起こしうるため、単一のLLMに全部任せない設計が重要です。
4. Human-in-the-Loop(人間による最終確認)
特にリスクの高い業務(顧客対応、法務文書、対外発信)では、AIの出力を人間が最終チェックしてから使う運用ルールをセットにします。技術対策だけでは完全にゼロにできないため、組織的な運用でカバーする考え方です。
5. モデル自体の学習改善
評価・学習の設計そのものを変えるアプローチです。従来は「わからない」と答えるより、それらしい推測をした方が評価上有利になる仕組みでした。これを改め、不確実な時に正直に「わからない」と言うことを評価する学習・評価方法への転換が進められています。
| 手法 | 効く場面 |
|---|---|
| RAG | 知識不足・最新情報の欠如 |
| プロンプト制約 | 曖昧な指示への過剰な補完 |
| 出力検証 | 提出前の最終チェック |
| Human-in-the-Loop | 高リスク・対外発信 |
| 学習改善 | モデル自体の根本的な傾向 |
単一の手法で解決するのではなく、この5つを業務のリスクレベルに応じて重ねて使うのが、現在の主流の考え方です。
利用者側でできること:ハルシネーションが起きやすい状況を見極める
「AIの出力を毎回自分で調べる」のは非現実的です。そこでリスクが集中する条件を知り、そこだけ注意深く検証するという方法論が実践的です。
ハルシネーションが起きやすいハイリスク条件
1. 具体的すぎる固有情報を求めたとき 論文タイトル、判例番号、URL、書籍の章番号、統計の出典などは、「それらしい形式」が学習されているため、存在しなくても自然な形で捏造されやすい傾向があります。「異常に具体的なのに、出典が示されない」時は要注意です。
2. 学習データのカットオフ以降の情報 「最新の」「今の」「現在の」という言葉が入る質問、法改正、新製品仕様、直近の人事、株価などリアルタイム性の高いものは注意が必要です。Web検索機能付きのAIを使う、または知識のカットオフを確認するのが対策になります。
3. 曖昧・情報不足な質問をしたとき AIは「わかりません」より「それらしい推測」を優先しがちなので、質問が曖昧だと勝手に補完してしまいます。自分の質問がどれだけ具体的かを先にチェックすることが重要です。
4. マイナーな話題・ニッチな固有名詞 有名な事実は学習データの重複が多く精度が高い一方、無名の人物・小規模な組織・専門的すぎる技術用語は情報が薄く、誤りが起きやすくなります。
5. 複数の事実を統合する複雑なタスク 要約・比較・分析など、単純な一問一答より誤りの蓄積が起きやすい傾向があります。
質問の性質別・リスクと対応の目安
| 質問の性質 | リスク | 対応 |
|---|---|---|
| 一般的な概念説明 | 低 | そのまま信頼してOK |
| 有名な歴史的事実 | 低 | そのまま信頼してOK |
| 固有名詞+出典(論文名、判例、URL) | 高 | 必ず一次情報を検索して確認 |
| 最新情報・現在の状況 | 高 | Web検索機能があるAIを使う/日付を確認 |
| 数値・統計・データ | 中〜高 | 対外文書に使う場合は照合必須 |
| ニッチな専門トピック | 中〜高 | 一般的な話題より慎重に |
さらに実用的なコツ
- 出典を明示してもらう — 出典を示すよう頼んでも実在しないものを作られる危険はありますが、少なくとも「確認すべき対象」が明確になります
- 同じ質問を表現を変えて2回聞く — 事実に基づく回答なら大きくブレません。ハルシネーションだと表現を変えるだけで内容が変わることがあります
- 確信度を聞き返す — 「これは確実な情報ですか、それとも推測ですか」と聞くと、無自覚な断定が減ることがあります
- 高リスク項目だけ人間チェックを入れる — 全部ではなく、固有名詞・出典・最新性・数値の4条件に該当する箇所だけに絞ると現実的な運用になります
AIのハルシネーションを下げる為の学習手法
1. 基本形:RLHF(人間フィードバックによる強化学習)
まずベースになるのがRLHFです。仕組みはこうです。
- 同じ質問に対して複数の回答をAIに生成させる
- 人間の評価者が「どちらがより良い回答か」をランキング付けする(正誤だけでなく、有用性・安全性・事実性など複数観点)
- このランキングデータから報酬モデル(人間の好みを予測する別のAIモデル)を訓練する
- 本体のLLMを強化学習で、報酬モデルが高得点をつける方向に調整する
ここでのポイントは、人間が個別の事実を逐一ファクトチェックしているわけではないという点です。人間がやっているのは「この2つの回答のうちどちらが良いか」の相対比較で、事実確認そのものは評価者や別の仕組みに委ねられます。ChatGPTでの採用が広く知られ、指示追従能力の向上、ハルシネーションの抑制、有害な出力の低減を同時に実現する手法として使われています。
2. 事実性(factuality)に特化した報酬設計
汎用RLHFだけでは「もっともらしいが中身が薄い回答」を人間が誤って高評価してしまうリスクがあるため、事実性を狙い撃ちした学習も組み合わされます。
- 既知の答えがある問題(数学・コード・事実QA)で自動採点:人間ではなく、正解データと突き合わせて自動的に正誤判定し、それを報酬にする(RLHFというよりRLVR = 検証可能な報酬からの強化学習に近い)
- 引用・根拠付き回答の学習:回答に出典を要求し、出典と主張が整合しているかを自動チェックして報酬に組み込む
- モデル自身に自己採点させる(RLAIF):人間の代わりに別のAI(あるいは同じモデルの別インスタンス)が事実性を判定し、そのフィードバックを報酬として使う。人手コストを下げつつ大規模に回せるのが利点
3. 「わからない」と言うことへの報酬付け(キャリブレーション訓練)
ここが2025年のOpenAIの研究で特に注目された部分です。
従来の学習・評価では、不確実でも自信満々に答えたほうがスコアが高くなるという歪んだインセンティブが存在していました。0点/100点式の正誤採点だと、「わかりません」と正直に答えるのは常に0点、当て推量でも当たれば100点になるため、モデルは推測を選ぶよう学習してしまいます。
この対策として提案されているのが:
- 間違った自信満々の回答には**減点(ペナルティ)**を科す
- 「わかりません」「確信度が低いです」という正直な回答には部分点を与える
- モデルに自分の回答の確信度を数値で出力させ、その確信度と実際の正答率が一致しているか(キャリブレーション)を評価軸に加える
これにより「知らないことは知らないと言う」ことがモデルにとって”得”になるよう、報酬構造そのものを組み替えるアプローチです。
4. DPO(Direct Preference Optimization)
RLHFは報酬モデルを別途訓練してから強化学習するため計算コストが高く不安定という課題があります。DPOはこの報酬モデルの訓練ステップを省略し、人間の選好データから直接モデルを最適化する手法です。RLHFの代替・発展形として2026年時点でも広く使われています。
まとめると
| 手法 | 誰が/何が判定するか | 何を学習させるか |
|---|---|---|
| RLHF | 人間評価者(相対比較) | 好ましい応答スタイル全般 |
| RLVR(検証可能報酬) | 自動採点(正解データと照合) | 数学・コード・事実QAの正確性 |
| RLAIF | 別のAIモデル | 大規模・低コストでの選好学習 |
| キャリブレーション訓練 | 自動(正答率と自信度の一致度) | 「知らない」と正直に言う姿勢 |
| DPO | 人間評価者(相対比較) | RLHFと同じだが軽量な最適化 |
つまり、「人間が逐一嘘かどうか判定している」というより、「人間や自動採点による相対比較・正誤判定を報酬信号に変換し、かつ最近は”自信満々に間違えること”へのペナルティを強めることで、正直な不確実性表明を促す」という設計が主流になっています。
まとめ
LLMのハルシネーションは、技術的には着実に改善が進んでいますが、完全に解消されたわけではなく、実際に企業の返金事案や訴訟にまで発展する実害も報告されています。重要なのは「AIの出力を全部疑う」ことではなく、固有名詞・出典・最新性・数値という4つのリスクタグが立ったときだけ検証コストを集中させるという考え方です。RAGやプロンプト制約、出力検証、人間による最終確認といった技術的・組織的な対策を組み合わせながら、リスクの高い場面を見極めて賢く付き合っていくことが、これからのAI活用の基本姿勢と言えるでしょう。
