2026年10月14日
———————————————————————————
■□■ 平林良人の『つなげるツボ』Vol. 577 ■□■
― ISOマネジメントシステムのテクノファ ―
＊＊＊ ISO9001キーワード「組織の知識」AI_11 ＊＊＊
AIはなぜ間違えるのか
———————————————————————————
AIを使っていて最も注意しなければならないことの一つが、もっともらしい間違いです
（人によっては嘘を言うと表現します）。
一般にハルシネーション（幻覚）と言われていますが、今まで述べてきたように生成AI
の構造上、ある程度避けては通れない問題だそうです。AIの今の開発スピードを考える
と、早い時期に解決がされるのではないかと期待されています。
■□■ 頭の良いAIは平気で間違える ■□■
例えば、ある人物について質問したとします。AIが、「その人物は○○大学を卒業し、
1985年に△△という本を書きました」と非常に自然に説明したとします。文章は立派です
し、言葉遣いにもおかしなところはありません。ところが調べてみると、その本は存在し
なかった。こんなことが生成AIの活用では起こり得ます。
このように、AIがもっともらしいけれど事実ではない内容を作ってしまう現象を、一般に
ハルシネーションと呼びます。現在の高性能なAIでも、この問題は完全にはなくなってい
ません。(出典：OpenAI.言語モデルでハルシネーションがおきる理由)
ここで疑問が出ます。東大の難問を解くAIが、なぜ人の生年月日や本の題名のような簡単
な事実を間違えるのでしょうか。人間なら、「難しい問題を解ける人なら簡単な問題も正
しく答える」と思います。
■□■ AIは生まれが違う ■□■
しかし、そのような人間とAIは違います。一番大きな理由は、生成AIは基本的には「事
実を検索して答える機械」として生まれたわけではないからです。AIの最初の学習では、
大量の文章を読みながら、「この文章の次には、どんな言葉が来るだろう」という予測を繰
り返します。学習する文書には、「この文章は真実です」、「これは間違いです」というラベ
ルが付いているわけではありません。
OpenAIの2025年の研究でも、言語モデルの事前学習は大量の文章で次の言葉を予測する
形で行われ、記述に真偽のラベルが付いているわけではないことが、ハルシネーションの
発生と関係すると説明しています。
(出典：OpenAI.言語モデルでハルシネーションがおきる理由)
例えば、「徳川家康は1603年に征夷大将軍となった」という有名な事実なら、多くの文章
の中に関連する情報があります。AIはその関係をかなり強く学んでいますので間違えるこ
とはほぼありません。
ところが、「あまり知られていない研究者の誕生日」のような情報は、学習した文章の中
にほとんど出てきません。それでも質問されると、AIは文章を作ろうとします。
すると、「この人物なら、このくらいの年代だろう」、「このような経歴の人なら、この大
学かもしれない」という周囲のパターンから、事実関係は無視してもっともらしい答えを
作ってしまいます。
■□■ 出来るだけ評価されたい ■□■
人間でも、何も答えないより推測してでも答えた方が点を取れることがあります。AIもそ
うした背景から学習や評価の方法によっては、「分かりません」と答えるより、何らかの答
えを出す方向が強くなってしまいます。OpenAIの研究でも、正答率を重視するAI評価の
仕組みにおいては、分からないことでも推測することが有利になり、それがハルシネーシ
ョンを増やす一因になると指摘されています。
(出典：OpenAI.言語モデルでハルシネーションがおきる理由)
AIを非常に優秀だが時々知ったかぶりをする秘書、あるいは助手と考えると分かりやすい
かもしれません。秘書は「嘘をついている」わけではありません。AIにとっては、正しい
文章を作っている場合も間違った文章を作っている場合も、主人に忠実なのです。基本的
には文章生成という同じ処理の結果でしかないのです。
ここが怖いところです。AIは間違えるときにおどおどした文章になるわけでもなく、萎縮
した説明になるわけでもありません。それどころか堂々とした分かりやすい専門用語まで
入った説明をしますので、人間の方がそれを見て信用してしまいます。AI時代に必要にな
る能力は、「AIを使える能力」だけではありません。「この答えは確認した方がよい」と判
断する能力が必要です。特に、金額、法律、医療、安全、会社の重要な意思決定、人物名、
日付、引用文、最新情報などは、AIの回答だけで決めず、元の資料を確認する必要があり
ます。
■□■ 信用できる仕事は ■□■
一方で、「文章を要約してください」、「考え方を整理してください」、「別の視点を出してく
ださい」といった仕事では、多少表現に幅があってもAIの強みを大いに利用できます。AI
が賢くなることと、AIが絶対に間違えなくなることは同じではありません。ここを理解す
ることが、AIと上手に付き合ううえで非常に重要だと思います。
そして、さらに興味深い疑問が出てきます。AIが間違ったとき、人間なら、「あ、しまっ
た。間違えた」と気がつくことがあります。ではAIは、自分が間違えていることを自分で
分かるのでしょうか。次回はこの問題を考えてみたいと思います。
（つづく）