2026年10月14日
———————————————————————————
■□■　平林良人の『つなげるツボ』Vol. 577 ■□■
―　ISOマネジメントシステムのテクノファ　―
＊＊＊　ISO9001キーワード「組織の知識」AI_11 ＊＊＊
　　　　　AIはなぜ間違えるのか
———————————————————————————
AIを使っていて最も注意しなければならないことの一つが、もっともらしい間違いです
（人によっては嘘を言うと表現します）。
一般にハルシネーション（幻覚）と言われていますが、今まで述べてきたように生成AI
の構造上、ある程度避けては通れない問題だそうです。AIの今の開発スピードを考える
と、早い時期に解決がされるのではないかと期待されています。

■□■　頭の良いAIは平気で間違える　■□■
例えば、ある人物について質問したとします。AIが、「その人物は○○大学を卒業し、
1985年に△△という本を書きました」と非常に自然に説明したとします。文章は立派です
し、言葉遣いにもおかしなところはありません。ところが調べてみると、その本は存在し
なかった。こんなことが生成AIの活用では起こり得ます。
このように、AIがもっともらしいけれど事実ではない内容を作ってしまう現象を、一般に
ハルシネーションと呼びます。現在の高性能なAIでも、この問題は完全にはなくなってい
ません。(出典：OpenAI.言語モデルでハルシネーションがおきる理由)
ここで疑問が出ます。東大の難問を解くAIが、なぜ人の生年月日や本の題名のような簡単
な事実を間違えるのでしょうか。人間なら、「難しい問題を解ける人なら簡単な問題も正
しく答える」と思います。

■□■　AIは生まれが違う　■□■
しかし、そのような人間とAIは違います。一番大きな理由は、生成AIは基本的には「事
実を検索して答える機械」として生まれたわけではないからです。AIの最初の学習では、
大量の文章を読みながら、「この文章の次には、どんな言葉が来るだろう」という予測を繰
り返します。学習する文書には、「この文章は真実です」、「これは間違いです」というラベ
ルが付いているわけではありません。
OpenAIの2025年の研究でも、言語モデルの事前学習は大量の文章で次の言葉を予測する
形で行われ、記述に真偽のラベルが付いているわけではないことが、ハルシネーションの
発生と関係すると説明しています。
(出典：OpenAI.言語モデルでハルシネーションがおきる理由)
例えば、「徳川家康は1603年に征夷大将軍となった」という有名な事実なら、多くの文章
の中に関連する情報があります。AIはその関係をかなり強く学んでいますので間違えるこ
とはほぼありません。
ところが、「あまり知られていない研究者の誕生日」のような情報は、学習した文章の中
にほとんど出てきません。それでも質問されると、AIは文章を作ろうとします。
すると、「この人物なら、このくらいの年代だろう」、「このような経歴の人なら、この大
学かもしれない」という周囲のパターンから、事実関係は無視してもっともらしい答えを
作ってしまいます。

■□■　出来るだけ評価されたい　■□■
人間でも、何も答えないより推測してでも答えた方が点を取れることがあります。AIもそ
うした背景から学習や評価の方法によっては、「分かりません」と答えるより、何らかの答
えを出す方向が強くなってしまいます。OpenAIの研究でも、正答率を重視するAI評価の
仕組みにおいては、分からないことでも推測することが有利になり、それがハルシネーシ
ョンを増やす一因になると指摘されています。
(出典：OpenAI.言語モデルでハルシネーションがおきる理由)
AIを非常に優秀だが時々知ったかぶりをする秘書、あるいは助手と考えると分かりやすい
かもしれません。秘書は「嘘をついている」わけではありません。AIにとっては、正しい
文章を作っている場合も間違った文章を作っている場合も、主人に忠実なのです。基本的
には文章生成という同じ処理の結果でしかないのです。

ここが怖いところです。AIは間違えるときにおどおどした文章になるわけでもなく、萎縮
した説明になるわけでもありません。それどころか堂々とした分かりやすい専門用語まで
入った説明をしますので、人間の方がそれを見て信用してしまいます。AI時代に必要にな
る能力は、「AIを使える能力」だけではありません。「この答えは確認した方がよい」と判
断する能力が必要です。特に、金額、法律、医療、安全、会社の重要な意思決定、人物名、
日付、引用文、最新情報などは、AIの回答だけで決めず、元の資料を確認する必要があり
ます。

■□■　信用できる仕事は　■□■
一方で、「文章を要約してください」、「考え方を整理してください」、「別の視点を出してく
ださい」といった仕事では、多少表現に幅があってもAIの強みを大いに利用できます。AI
が賢くなることと、AIが絶対に間違えなくなることは同じではありません。ここを理解す
ることが、AIと上手に付き合ううえで非常に重要だと思います。
そして、さらに興味深い疑問が出てきます。AIが間違ったとき、人間なら、「あ、しまっ
た。間違えた」と気がつくことがあります。ではAIは、自分が間違えていることを自分で
分かるのでしょうか。次回はこの問題を考えてみたいと思います。
（つづく）

2026年10月7日
———————————————————————————
■□■　平林良人の『つなげるツボ』Vol. 576 ■□■
―　ISOマネジメントシステムのテクノファ　―
＊＊＊　ISO9001キーワード「組織の知識」AI_10 ＊＊＊
　　　　　AIは前の答えをコピーできない
———————————————————————————
生成AIは質問された都度答えを作っています。全く同じ質問をされたら前の答えをコピー
すればいいような気がしますが、生成AIの仕組みからコピーは出来ないのです。AIも基
本的にはコンピュータと同じで０か１かの識別の上で動いています。しかし、我々が日常
使っているコンピュータとは同じ種類ではあっても仕組みは全く違います。

■□■　なぜAIの答えは毎回同じでないのか　■□■
電卓に、「125×48」と入力したとします。何回計算しても、答えは同じになります。
コンピュータとは「同じものを入力すれば、同じ結果を返すもの」だと思っている人も多
いと思います。仕組みを理解していただくため、計算とは違いますが、文書の例で説明し
ます。生成AIに全く同じ質問をしても、少し違った文章が返ってきます。時には同じ文章
が返ってくることもあります。
例えば、
「退職する人への挨拶文を書いてください」
と3回頼めば、
一回目は「長年のご尽力に感謝します」、
二回目は「これまでのご貢献に心より感謝申し上げます」、
三回目は「新しい門出を心からお祝いします」、
というように、少しずつ違った文章になります。なぜでしょうか。ここに、生成AIの大き
な特徴があります。AIは、文章全体を一度に取り出しているわけではありません。大ざっ
ぱに言えば、「ここまでの文章の次に、どの言葉を続けるのがよさそうか」を計算しなが
ら、文章を少しずつ作っています。
例えば、
「今日はとても天気が……」
まで来たとします。
次には、
「良い」
「悪い」
「不安定だ」
「穏やかだ」
など、いくつもの候補があります。

■□■　AIは確率を計算している　■□■
AIは、それぞれについて「この言葉が続きそうだ」という度合い（確率）を計算します。
例えば、上の例で、
「良い」50％
「穏やかだ」25％
「悪い」15％
その他10％
のように言葉の候補について度合いを計算するのです。実際の仕組みはもっと複雑です
が、イメージとしてはこのようなものです。必ず一番確率の高いものだけを選ぶようにす
れば、毎回かなり似た文章になります。しかし、それでは文章がいつも同じようになり、
発想の幅も狭くなりますので、複数の有力な候補の中から一定の幅を持たせて選択する方
法が使われています。
AI開発で使われる「temperature（一般用語では温度ですが、AIではバラツキ程度の意
味）」という設定もその一つで、値を高くすると一般に出力のランダムさ（バラツキ）が
増します。(OpenAI「Delete an eval | OpenAI API Reference」)

　■□■　AIは富士山森林樹海の探索みたい　■□■
ここで重要なのは、一つの言葉が変わると、その後も変わっていくことです。
例えば旅行の相談で、「新幹線を使う案」を最初に選べば、その後は新幹線の時間や料金
を中心に説明します。
一方、「飛行機を使う案」から始めれば、空港への移動などを考える方向へ進みます。最初
の小さな違いが、その後の文章や推論の道筋を変えていくのです。
これは、森の中の分かれ道に少し似ています。出発地点は同じでも、最初の分岐で右へ行
くか左へ行くかによって、最後に到着する場所が違ってくることがあります。生成AIで
は、このような選択が文章の途中で何度も行われます。だから、同じ質問でも表現が変わ
るのです。そして、これは単なる欠点ではありません。むしろ生成AIの魅力でもありま
す。小説の題名を10個考えてもらったり、新商品のアイデアを出してもらったりすると
き、毎回まったく同じ答えしか出なければあまり役に立ちません。ある程度のバラツキが
あるからこそ、新しい案を何種類も出すことができます。

　■□■　困ることは？　■□■
しかし、数学や会計、法律上の事実などでは事情が違います。こちらは、「今回はA、次回
はB」では困ります。そこでAIを使うユーザ側も、アイデアが欲しい仕事なのか、それと
も一つの正しい答えが必要な仕事なのか、を区別する必要があります。前者なら、ある程
度のバラツキは歓迎できます。後者なら、「もう一度確認してください」、「計算を検算して
ください」、「根拠となる資料を確認してください」といった使い方が必要となります。
そして、ここからさらに問題が出てきます。「答えがバラツクという違い」だけならまだ分
かります。ところがAIは、ときどき事実ではないことを、とても自然な文章で説明するこ
とがあります。しかも、「本当ですか？」と聞くと、「はい、その通りです」などと自信
満々に答える場合さえあります。

（つづく）

2026年9月30日
———————————————————————————
■□■　平林良人の『つなげるツボ』Vol. 575 ■□■
―　ISOマネジメントシステムのテクノファ　―
＊＊＊　ISO9001キーワード「組織の知識」AI_9 ＊＊＊
　　AIが国際数学オリンピックで金メダルを取った
———————————————————————————
生成AIが東京大学の医学部理科三類の入試合格点をクリアした同じ年、2025年、もう一
つ理系のAI成果のニュースがありました。海外の国際数学オリンピックにチャレンジし
たAIが金メダルを取ったというニュースです。正確には6問中5問を解いて金メダルクラ
スと同じ力量を示したということですが、AIは文系の知識だけかと思っていたら理系の力
量も高いようです。

■□■　Google DeepMindのGeminiモデル　■□■
AIが大量の文章を学習し、言葉と言葉の関係を身につけたのであれば、人間らしい文章を
作れるようになるのは分かる気がします。ところが数学しかも高等数学となると話は違う
ように思えます。
数学には正解と不正解があります。解答文章が自然だからといって、答えが正しいとは限
りません。しかも国際数学オリンピック（IMO）で出題される問題は、公式を覚えて数字
を当てはめれば解けるような問題ではありません。世界各国から選ばれたトップクラスの
高校生が、代数、幾何、整数、組合せなどの非常に難しい問題に挑みます。
そのIMOで2025年、Google DeepMindのGemini Deep Thinkの実験モデルは6問中5
問を完全に解き、42点満点中35点を獲得しました。2025年大会の金メダル基準はちょう
ど35点でしたから、金メダル水準です。答案はIMO関係者によって学生と同じ基準で採
点されたということです。
(Google DeepMind（2025）「Gemini Deep Think、IMOで金メダル水準を達成」)

■□■　AIは数学の論理にも相性が良い　■□■
言葉から生まれたAIが数学にここまで強くなったのはなぜでしょうか。現在のAIにとっ
て数学は完全な別世界ではありません。数学の問題も、「この条件から何が言えるか」、
「この式をどう変形するか」、「この定理は使えるか」、「仮定すると矛盾しないか」
というように、記号と言葉を使って論理をつないでいく作業ととらえています。つまり数
学には、非常に複雑ではありますが関係をたどるという性質があります。これはAIが得意
としてきたものとかなり相性がよいのだそうです。

もう一つ、数学にはAIを訓練するうえで大きな利点があります。正しいか間違っているか
を比較的確認しやすいことです。例えば、「この小説は感動的ですか」という質問には、唯
一の正解はありません。しかし、「この計算結果は正しいか」、「この証明に論理的な矛盾
はないか」なら、かなり明確に評価できます。
AIの学習でも、「この考え方では間違えた」、「こちらの方法なら正解した」という形で、
より良い問題の解き方を学ばせやすくなります。そして最近のAIでは、ただ一つの考え方
に飛びつくのではなく、複数の解き方を検討するそうです。Google DeepMindは2025年
のIMOについて、Gemini Deep Thinkが複数の可能な解法を並行して探索し、それらを
組み合わせる「parallel thinking」を利用したと説明しています。多段階の推論や定理証明
のデータを使った強化学習も行われたということです。
(Google DeepMind（2025）「Gemini Deep Think、IMOで金メダル水準を達成」)　

■□■　強化学習とは何か　■□■
強化学習とは聞きなれない言葉です。人間の数学者を想像してみてください。難問を見て、
「この方法ではどうだろう」、「いや、うまくいかない」、「それなら、この条件を別の角度
から見たらどうか」と試行錯誤します。
AIも計算資源を使って複数の候補を探索し、より良い答えを探す方向へ進化してきました。
人間と同じ方法で考えているわけではありません。しかし、ここにはAIならではの強み
もあります。人間が同時に何十通りもの計算をするのは時間がかかり、場合によっては不
可能なこともあります。コンピュータなら、あまり時間を気にせず大量な計算を試すこと
ができます。
もちろん、「大量に試せば数学が解ける」というほど単純ではありません。どの方向を試せ
ばよいかを選ぶ能力も必要です。その能力自体が学習によって改善されてきたのです。
ただし、IMOで金メダル水準になったから、「AIは数学でもう間違えない」と考えるのは
早すぎます。

■□■　AIの答えは毎回同じでない？　■□■
2025年のGeminiも6問すべてを解いたわけではありません。5問を完全に解いた一方
で、1問は解けませんでした。
(Google DeepMind（2025）「Gemini Deep Think、IMOで金メダル水準を達成」)
さらに不思議なことがあります。同じ数学の問題をAIに何回か聞いてみると、一回目は正
解したのに、二回目には違う方法を使い、場合によっては間違えることさえあります。
人間なら、「さっき正解したのだから、同じ答えを出せばいいのに」と思います。
しかし生成AIは、答えを保管しておいて、そのまま取り出しているわけではありません。
AIはその仕組み上、質問を受けるたびに毎回答えを新しく作っているのです。なんと非効
率的な仕組みになっている、と考える方が多いと思いますが、AIは人間の言葉を理解しな
く、AIが理解する機械語に変換して答えを作成しているので、そのような、つまり同じ質
問なのに答えが変わるということが起きるのです。そこを知ると、「生成AI」という名前
の意味が少し分かってきます。
（つづく）

2026年9月16日
———————————————————————————
■□■　平林良人の『つなげるツボ』Vol. 574 ■□■
―　ISOマネジメントシステムのテクノファ　―
＊＊＊　ISO9001キーワード「組織の知識」AI_8 ＊＊＊
　　　　　AIは東大医学部に合格できる？
———————————————————————————
AIは膨大なデータから学習しており、その学習内容をもとにさまざまな質問に答えること
ができます。最新の知識には答えてくれないと思っていましたが、最近では、インターネ
ット検索機能を備え、昨日や今日起きた出来事についても最新情報を調べながら答えられ
るAIサービスが登場しています。ときどき間違えることがありますが、AIは概して優秀
な秘書であると言えます。

■□■　最難関の「理科三類」の入試問題を解かせてみた　■□■
昨年2025年、生成AIに東京大学の入試問題を解かせる興味深い試みが行われました。
正確には「東大医学部の入試」に参加したわけではなく、東大医学部医学科への進学者が
多い最難関の東京大学「理科三類」の入試問題を解かせてみたということです。ChatGPT
o1とDeepSeek R1に問題を解かせ、東大入試に詳しい河合塾の講師が答案を採点したと
ころ、共通テストと二次試験を合わせて、両AIとも理科三類の合格最低点を上回る水準
に達しました。
(株式会社LifePrompt（2025）「東京大学に生成AIは合格できるのか？」)

これは驚くべきことです。少し前まで、AIというと「人間が事前に学習させた知識を繰り
出すコンピュータ」というイメージだったからです。ところが東大の入試問題は、覚えた
知識をそのまま答えるだけでは解けない内容になっています。文章を読み、何を聞かれて
いるか理解し、必要な知識を選び、いくつかの条件を組み合わせ、途中の考え方を組み立
て、最後に答案として表現しなければなりません。
なぜAIにそんなことができるのでしょうか。

■□■　幾つかの理由がある　■□■
一つ目の理由は、これまでお話ししてきた膨大な学習量です。AIは学習の過程で、教科
書、論文、解説文、問題と解答など、さまざまな文章に含まれる関係を学びます。しか
し、それだけなら「非常に物知りなAI」が構築されるだけです。東大の難問を解くには、
もう一段階上のステップに上がる必要があります。それが推論する能力です。
例えば、
「AならばBである」
「今回はAといえる」
「ゆえにこれはBと考えられる」
というように、情報を何段階かにつなげて結論へ進む必要があります。最近のAIは、質問
を受けてすぐ答えを出すだけでなく、複雑な問題についてより多くの計算を行い、いくつ
かの可能性を検討しながら答えを作る「推論型」の仕組みが大きく進歩しています。

■□■　人間に例えるならば　■□■
人間においても少し難しそうな問題になりますと、「問題を見てすぐ答える」というわけ
にはいきません。「ちょっと待ってください。順番に考えてみます。」というように思考す
ることになります。AIもその能力が強くなったと考えると分かりやすいと思います。
また、AIは一つの分野だけを勉強しているわけではありません。人間で言えば、文章を読
む能力、英語を扱う能力、数学の知識、物理や化学の法則など、多くの種類の知識を一つ
の大きなモデルの中に入れています。
そのため、
「問題文を読む」
↓
「何を求められているか整理する」
↓
「必要な知識を取り出す」
↓
「計算する」
↓
「文章で答える」
という作業を、かなり広い範囲でAIは行います。

■□■　AIは東大生と同じ能力を持った？　■□■
ただし、ここで知っておくことがあります。東大理科三類の入試で合格水準の点を取った
からといって、AIが東大生と同じ能力を持った、という意味にはなりません。
実際、2025年の検証では、AIは数学の途中説明を省略して失点したり、図表や図形の読
み取りに苦戦したりしました。河合塾講師による採点でも、「答えだけでなく、そこへ至
る道筋を書く」という入試特有の要求はAIの弱点として分析されています。
(株式会社LifePrompt（2025）「ChatGPT o1とDeepSeek R1に2025年度東大受験を解かせた結果と答案分析」)

ここが面白いところです。
私たちは人間を見るとき、「東大に合格できる人なら、中学校の問題は当然できるだろ
う」と考えます。しかしAIには、必ずしもこの常識が当てはまりません。非常に難しい問
題を解いた直後に、意外に簡単な問題で間違えることがあります。AIの能力は、人間の知
能をそのまま大きくしたものではないからです。

例えば自動車は、人間よりはるかに速く走りますが、階段を上ることはできません。
「自動車は人間より運動能力が高い」と単純には言えません。AIにも少し似たところがあ
ります。ある種類の知的作業では驚くほど高い能力を発揮する一方で、人間なら簡単にで
きることにつまずく場合があります。
ですから「AIは東大に合格した」というニュースから本当に注目すべきは、「AIが人間と
同じ頭脳を持ったのではなく、人間がこれまで高度な思考だと思っていた作業のかなりの
部分を、AIでも実行できるようになってきた」ことだと思います。
（つづく）

2026年9月9日
———————————————————————————
■□■　平林良人の『つなげるツボ』Vol. 573 ■□■
―　ISOマネジメントシステムのテクノファ　―
＊＊＊　ISO9001キーワード「組織の知識」AI_7 ＊＊＊
　　　　　AIは聞かれるとWEBを調べる？
———————————————————————————
前回は、AIがどのように学習するのかをお話しし、AIは大量の知識を持っているが、ユ
ーザから問われるたびに返事を作っているのだということを解説しました。そして最後に
「学習して知っていること」と「インターネットで調べること」とは違うことをお話しし
ました。

■□■　AIは聞かれるたびにWEBを調べているのか　■□■
ChatGPTなどに質問すると、数秒後には答えが返ってきます。例えば、
「富士山の高さは？」
「ISO9001とは何ですか？」
「徳川家康について教えてください」
と聞けば、すぐに説明してくれます。

これを見ると、多くの人は、「AIがインターネットをものすごい速さで検索して、答えを
まとめているのだろう」と思うかもしれません。しかし、生成AIの基本的な仕組みは、
検索エンジンとは違います。前回お話ししたように、AIはあらかじめ大量の文章などを使
って学習しています。その学習によって形成された内部の数値的な関係を使い、質問に対
する答えをその場で、都度作っています。つまり、質問されるたびに必ずインターネット
へ繋がって、答えの書いてあるページを探しているわけではありません。

「物知り自慢の人」に、「日本で一番高い山は？」と聞けば、今までの知識で「富士山で
す」と答えられます。すでに身につけている知識だからです。一方、「今日の東京の気温
は？」、「昨日の日経平均株価は？」、「今朝発表されたニュースは？」と聞かれても、物知
り自慢の人でも答えの載っていそうなところを調べなければ答えられません。
AIも、これに似たところがあります。学習によって身につけた知識については、その知識
を利用して答えることができます。しかし、学習が終わった後に起きた出来事を、自動的
にすべてを学習しているわけではありません。

■□■　AIも進化している　■□■
現在では、生成AIに検索機能や外部の情報源を調べる機能を組み合わせることができる
ようになりました。例えば「今日の天気」を聞かれたとします。AI自身が過去に学習した
知識だけでは、今日の天気、すなわち雨雲の状況は分かりません。そこで天気情報を提供
するサービスから現在のデータを取得し、その情報を使って、「今日は午後から雨になる可
能性があります」などと答えます。
つまり、現在のAIには大きく分けて二つの答え方がある、と考えると分かりやすいと思
います。一つは、すでに学習によって身につけたものを使って答える方法です。もう一つ
は、必要に応じて外部の情報を調べ、その結果を使って答える方法です。

人間でいえば、「自分の頭に入っている知識で答える」のと、「分からないので本やインタ
ーネットで調べてから答える」の二つです。
この違いを知らないと、AIを使うときに困ることがあります。例えば、「2020年のある出
来事について説明してください」という質問なら、AIが持っている知識だけでもかなり答
えられるでしょう。しかし、「現在、この法律はどうなっていますか」、「この会社の社長は
今誰ですか」、「今日、この製品はいくらですか」といった質問をする場合は、最新情報を
確認する必要があります。

■□■　AIをうまく使う方法　■□■
AIを上手に使うことの一つに、この二つの仕組みを知っているとより便利に活用できま
す。「この質問は、昔から変わらない知識について聞いているのか。それとも、最新情報を
調べなければならない質問なのか」と考えることがポイントです。
例えば、AIに「水は何度で凍りますか」と、「今日のガソリン価格はいくらですか」と聞
くのでは、質問の性質が違うということを知っておくといいのです。

後者の質問をする時には、「最新情報を調べてください」、「出典を示してください」とAI
に頼むことが大切になります。生成AIは検索エンジンそのものではありません。しかし現
在では、AIが持っている知識と検索する能力を組み合わせることによって、以前よりはる
かに幅広い質問に対応できるようになっています。

こう考えると、AIとの付き合い方が見えてきます。AIを「何でも知っている先生」だと思
ってはいけません。むしろ、たくさんのことを学んでいて、考えを整理するのが得意で、
必要なら資料も調べられる助手くらいに考えるのがよいのではないかと思います。
ただし、この優秀な助手には不思議なところがあります。非常に難しい質問には見事に答
えるのに、ときどき驚くほど簡単なことを間違えるのです。
（つづく）