2026年10月21日
———————————————————————————
■□■　平林良人の『つなげるツボ』Vol. 578 ■□■
―　ISOマネジメントシステムのテクノファ　―
＊＊＊　ISO9001キーワード「組織の知識」AI_12 ＊＊＊
　　　　　AIは自分で間違いに気づく？
———————————————————————————
AIがもっともらしいけれど事実ではない回答を作ることをハルシネーション（幻覚）と言
っていますが、その間違いにAIは自分から気づくのかいろいろ調べてみました。最新の
AIの中には、回答の作成、チェック、最終回答の作成という役割を分担させる仕組みを持
つものもあります。3人の人物にたとえると、Aさんは回答を作る、Bさんはチェックする、
Cさんは最終回答を出すという役割分担です。

■□■　AIは自分の間違いに気がつかないのでしょうか　■□■
AIは非常に難しい問題を解く一方で、ときどき驚くような間違いをするとお話ししまし
た。では、AIに、「その答え、本当に合っていますか。もう一度確認してください」
と言ったらどうなるでしょうか。実際にやってみると、「確認したところ、先ほどの回答に
は誤りがありました」と言って、答えを修正することがあります。

そうなると不思議です。自分で間違いに気づけるのなら、なぜ最初から正しく答えなかっ
たのでしょうか。ここには、「間違いに気づく」という言葉の意味を少し分けて考える必
要がありそうです。人間の場合、例えば計算問題を解いて答えが「327」になったとしま
す。ところが、「待てよ。だいたい300くらいになるはずだったのに、これはおかしいぞ」
と感じて、もう一度計算することがあります。
このとき人間は、自分の答えに疑問を持ち、自分自身の思考を振り返っています。ではAI
も同じなのでしょうか。現在のAIにも、自分の回答をもう一度検討し、矛盾を見つけた
り、別の解き方を試したりして、回答を改善する能力があります。AI研究ではこうした働
きを「self-correction」、自己修正と呼ぶことがあります。研究でも、AIに繰り返し見直し
をさせることで回答が改善することが報告されています。
（出典：arXiv:2406.02378（2024））

■□■　人間の「修正する」とは違う仕組み　■□■
ここで大事なのは、人間の「しまった、間違えた」という感覚と同じものだとは限らない
ことです。AIに「もう一度検討してください」と指示すると、それまでの質問と自分の回
答を材料にして、改めて計算や文章生成を行います。
最初の回答では気づかなかった別の関係に注目したり、違う解法を選んだりすることで、
二回目には正解することに繋がる場合があります。たとえるなら、同じ問題を一人の人に
二度解いてもらうというより、一回目の答案を机の上に置いて、「この答案の間違いを探
してください」という新しい問題をAIに出していると考えると、分かりやすいでしょう。
しかし、ここにも限界があります。
最初の回答を作ったAIと、それを点検するAIが同じような知識や傾向を持っていれば、
同じ間違いを二度することもあります。
あるいは、本当は最初の答えが正しかったのに、「間違っていませんか？」と言われたため
に、かえって正しい答えを変えてしまうこともあります。
つまり、「AIにもう一度確認させたから大丈夫」とは言えません。

そこで有効になるのが、AIの外にあるものを使って確認することです。計算なら計算機を
使う。プログラムなら実際に実行する。今日の出来事ならインターネットで確認する。法
律なら法令そのものを調べる。研究でも、検索や計算など外部の道具からフィードバック
を受けながら回答を修正すると、AIだけで考え直すより改善できる場合が示されています。
（出典：arXiv:2406.02378（2024））

■□■　AIはいつか感情を持つのでしょうか　■□■
AIを使うときには、「もう一度考えて」だけでなく、
「根拠を確認してください」
「別の方法で検算してください」
「最新の資料を調べてください」と頼む方が、信頼性を高められます。
ここで面白いことに気がつきます。AIは自分の文章を読み直し、間違いを修正し、「申し
訳ありません。先ほどの回答は誤りでした」とまで言います。
私たちはそこに、「反省した」、「恥ずかしいと思っている」、「申し訳ないと思っている」
という気持ちを感じてしまいます。
しかし、「申し訳ありません」と言えることと、本当に申し訳ないと感じていることは同
じでしょうか。AIは、いつか人間と同じような感情を持つようになるのでしょうか。
（つづく）