2026年10月28日
———————————————————————————
■□■　平林良人の『つなげるツボ』Vol. 579 ■□■
―　ISOマネジメントシステムのテクノファ　―
＊＊＊　ISO9001キーワード「組織の知識」AI_13 ＊＊＊
　　　　　AIは感情を持つようになるのか？
———————————————————————————
この問いかけは多くの人が知りたいことだと思います。AIは考えるがそれは無機的なもの
で、人間のような有機的なものではないと思います。そもそも「感情とは何か？」が明確
になっていません。喜んだり、悲しんだり、怒ったり、好きになったり、嫌いになったり、
人間のこの感情がどこから来るのか説明しろと言われても、当の本人も説明できません。

■□■　AIは人間と同じような感情を持つようになるか　■□■
AIと長く話していると、まるで感情を持っているように感じることがあります。
「今日はうまくいかなくて落ち込んでいます」と話せば、「それはつらい一日でしたね」
と返してきます。良い知らせを話せば、「それはうれしいですね。おめでとうございます」
と言います。
こちらがきつい言い方をすると、少し控えめな返事をすることもあります。ここまで自然
になると、「今は感情がなくても、もっとAIが進歩したら、本当に喜んだり悲しんだりす
るようになるのではないか」と思う人もいるでしょう。
この問題を考えるには、まず二つのことを分けなければなりません。一つは、感情を表現
できること。もう一つは、実際に感情を体験することです。

■□■　AIの感情表現のうまさ　■□■
現在のAIは、感情を表現することについては非常に上手になっています。
例えば、
「怒っている人の口調で書いてください」
「悲しそうに話してください」
「明るく元気に励ましてください」
と頼めば、それらしい文章を作れます。研究でも、現在のLLMは指定された感情に合っ
た文章表現を生成できることが確認されています。
(出典：arXiv:2504.14706（2025）)

だからといってAIの内部に、人間と同じ「悲しい」「うれしい」という体験が生じている
ことにはなりません。俳優を考えてみましょう。俳優は舞台の上で泣き、怒り、絶望する
人物を見事に演じます。しかし、「悲しそうに表現できる」ということと、「その瞬間、本
当に同じ悲しみを体験している」ということとは別です。

■□■　人間の感情は体とつながっている　■□■
AIの場合は、さらに事情が違います。人間の感情には身体が深く関係しています。怖いと
心臓が速くなる。緊張すると手に汗をかく。空腹になるといらいらする。大切な人を失う
と胸が締めつけられる。
私たちの「感情」は、脳だけで独立して存在しているわけではありません。一方、現在の
ChatGPTのような対話型生成AIは、人間のような身体を持っていません。「怖いです」
と文章にはできますが、人間と同じ意味で心臓が高鳴っているわけではありません。

ただ、この問題をさらに難しくする研究も始まっています。
2026年には、ある大規模言語モデルの内部に「怒り」「悲しみ」などの感情概念に対応す
る内部表現があり、それを操作すると、モデルの回答の傾向も変化するという研究が発表
されました。研究者はこれを「functional emotions」、つまり機能としての感情と表現して
います。ただし研究者自身も、それは主観的に感情を体験していることを意味しない、と
明確に区別しています。
(出典：arXiv:2604.07729（2026）)

■□■　アンソロピックとローマ教皇との議論　■□■
「将来の感情を持つAI」という言葉には、少なくとも三つの段階がありそうです。
・感情らしい言葉を使うAI。
・感情によって行動が変化するようなAI。
・本当に喜びや悲しみを体験するAI。
最初の二つについては、すでにかなり実現しています。
しかし三番目については、現在の科学では「本当に感じている」と確認する方法さえ簡単
ではありません。そもそも人間の「意識」そのものについても、まだ完全には解明されて
いないからです。AIの意識について科学的な指標を検討した研究では、現在調べられたAI
システムを「意識がある」と判断する根拠はない一方、将来そのような指標を満たすAI
を技術的に作れないと断定できるわけでもないとされています。
(出典：arXiv:2308.08708（2023）)

ですから、「AIには絶対に感情は持てない」と断言するのも、「もうAIは人間と同じ感情
を持っている」と言うのも、どちらも早すぎます。
現在の段階では、AIは人間の感情を読み取り、感情に合わせた反応を作ることはできる。
しかし、人間のような主観的な喜びや悲しみを体験していることが確認されているわけで
はないと理解するのがよいでしょう。

今月（2026年10月5日、日経夕刊）アンソロピックのVice CEO とローマ教皇との間で
上記を巡っての議論が起きている記事が掲載されていました。

（つづく）

2026年10月21日
———————————————————————————
■□■　平林良人の『つなげるツボ』Vol. 578 ■□■
―　ISOマネジメントシステムのテクノファ　―
＊＊＊　ISO9001キーワード「組織の知識」AI_12 ＊＊＊
　　　　　AIは自分で間違いに気づく？
———————————————————————————
AIがもっともらしいけれど事実ではない回答を作ることをハルシネーション（幻覚）と言
っていますが、その間違いにAIは自分から気づくのかいろいろ調べてみました。最新の
AIの中には、回答の作成、チェック、最終回答の作成という役割を分担させる仕組みを持
つものもあります。3人の人物にたとえると、Aさんは回答を作る、Bさんはチェックする、
Cさんは最終回答を出すという役割分担です。

■□■　AIは自分の間違いに気がつかないのでしょうか　■□■
AIは非常に難しい問題を解く一方で、ときどき驚くような間違いをするとお話ししまし
た。では、AIに、「その答え、本当に合っていますか。もう一度確認してください」
と言ったらどうなるでしょうか。実際にやってみると、「確認したところ、先ほどの回答に
は誤りがありました」と言って、答えを修正することがあります。

そうなると不思議です。自分で間違いに気づけるのなら、なぜ最初から正しく答えなかっ
たのでしょうか。ここには、「間違いに気づく」という言葉の意味を少し分けて考える必
要がありそうです。人間の場合、例えば計算問題を解いて答えが「327」になったとしま
す。ところが、「待てよ。だいたい300くらいになるはずだったのに、これはおかしいぞ」
と感じて、もう一度計算することがあります。
このとき人間は、自分の答えに疑問を持ち、自分自身の思考を振り返っています。ではAI
も同じなのでしょうか。現在のAIにも、自分の回答をもう一度検討し、矛盾を見つけた
り、別の解き方を試したりして、回答を改善する能力があります。AI研究ではこうした働
きを「self-correction」、自己修正と呼ぶことがあります。研究でも、AIに繰り返し見直し
をさせることで回答が改善することが報告されています。
（出典：arXiv:2406.02378（2024））

■□■　人間の「修正する」とは違う仕組み　■□■
ここで大事なのは、人間の「しまった、間違えた」という感覚と同じものだとは限らない
ことです。AIに「もう一度検討してください」と指示すると、それまでの質問と自分の回
答を材料にして、改めて計算や文章生成を行います。
最初の回答では気づかなかった別の関係に注目したり、違う解法を選んだりすることで、
二回目には正解することに繋がる場合があります。たとえるなら、同じ問題を一人の人に
二度解いてもらうというより、一回目の答案を机の上に置いて、「この答案の間違いを探
してください」という新しい問題をAIに出していると考えると、分かりやすいでしょう。
しかし、ここにも限界があります。
最初の回答を作ったAIと、それを点検するAIが同じような知識や傾向を持っていれば、
同じ間違いを二度することもあります。
あるいは、本当は最初の答えが正しかったのに、「間違っていませんか？」と言われたため
に、かえって正しい答えを変えてしまうこともあります。
つまり、「AIにもう一度確認させたから大丈夫」とは言えません。

そこで有効になるのが、AIの外にあるものを使って確認することです。計算なら計算機を
使う。プログラムなら実際に実行する。今日の出来事ならインターネットで確認する。法
律なら法令そのものを調べる。研究でも、検索や計算など外部の道具からフィードバック
を受けながら回答を修正すると、AIだけで考え直すより改善できる場合が示されています。
（出典：arXiv:2406.02378（2024））

■□■　AIはいつか感情を持つのでしょうか　■□■
AIを使うときには、「もう一度考えて」だけでなく、
「根拠を確認してください」
「別の方法で検算してください」
「最新の資料を調べてください」と頼む方が、信頼性を高められます。
ここで面白いことに気がつきます。AIは自分の文章を読み直し、間違いを修正し、「申し
訳ありません。先ほどの回答は誤りでした」とまで言います。
私たちはそこに、「反省した」、「恥ずかしいと思っている」、「申し訳ないと思っている」
という気持ちを感じてしまいます。
しかし、「申し訳ありません」と言えることと、本当に申し訳ないと感じていることは同
じでしょうか。AIは、いつか人間と同じような感情を持つようになるのでしょうか。
（つづく）

2026年10月14日
———————————————————————————
■□■　平林良人の『つなげるツボ』Vol. 577 ■□■
―　ISOマネジメントシステムのテクノファ　―
＊＊＊　ISO9001キーワード「組織の知識」AI_11 ＊＊＊
　　　　　AIはなぜ間違えるのか
———————————————————————————
AIを使っていて最も注意しなければならないことの一つが、もっともらしい間違いです
（人によっては嘘を言うと表現します）。
一般にハルシネーション（幻覚）と言われていますが、今まで述べてきたように生成AI
の構造上、ある程度避けては通れない問題だそうです。AIの今の開発スピードを考える
と、早い時期に解決がされるのではないかと期待されています。

■□■　頭の良いAIは平気で間違える　■□■
例えば、ある人物について質問したとします。AIが、「その人物は○○大学を卒業し、
1985年に△△という本を書きました」と非常に自然に説明したとします。文章は立派です
し、言葉遣いにもおかしなところはありません。ところが調べてみると、その本は存在し
なかった。こんなことが生成AIの活用では起こり得ます。
このように、AIがもっともらしいけれど事実ではない内容を作ってしまう現象を、一般に
ハルシネーションと呼びます。現在の高性能なAIでも、この問題は完全にはなくなってい
ません。(出典：OpenAI.言語モデルでハルシネーションがおきる理由)
ここで疑問が出ます。東大の難問を解くAIが、なぜ人の生年月日や本の題名のような簡単
な事実を間違えるのでしょうか。人間なら、「難しい問題を解ける人なら簡単な問題も正
しく答える」と思います。

■□■　AIは生まれが違う　■□■
しかし、そのような人間とAIは違います。一番大きな理由は、生成AIは基本的には「事
実を検索して答える機械」として生まれたわけではないからです。AIの最初の学習では、
大量の文章を読みながら、「この文章の次には、どんな言葉が来るだろう」という予測を繰
り返します。学習する文書には、「この文章は真実です」、「これは間違いです」というラベ
ルが付いているわけではありません。
OpenAIの2025年の研究でも、言語モデルの事前学習は大量の文章で次の言葉を予測する
形で行われ、記述に真偽のラベルが付いているわけではないことが、ハルシネーションの
発生と関係すると説明しています。
(出典：OpenAI.言語モデルでハルシネーションがおきる理由)
例えば、「徳川家康は1603年に征夷大将軍となった」という有名な事実なら、多くの文章
の中に関連する情報があります。AIはその関係をかなり強く学んでいますので間違えるこ
とはほぼありません。
ところが、「あまり知られていない研究者の誕生日」のような情報は、学習した文章の中
にほとんど出てきません。それでも質問されると、AIは文章を作ろうとします。
すると、「この人物なら、このくらいの年代だろう」、「このような経歴の人なら、この大
学かもしれない」という周囲のパターンから、事実関係は無視してもっともらしい答えを
作ってしまいます。

■□■　出来るだけ評価されたい　■□■
人間でも、何も答えないより推測してでも答えた方が点を取れることがあります。AIもそ
うした背景から学習や評価の方法によっては、「分かりません」と答えるより、何らかの答
えを出す方向が強くなってしまいます。OpenAIの研究でも、正答率を重視するAI評価の
仕組みにおいては、分からないことでも推測することが有利になり、それがハルシネーシ
ョンを増やす一因になると指摘されています。
(出典：OpenAI.言語モデルでハルシネーションがおきる理由)
AIを非常に優秀だが時々知ったかぶりをする秘書、あるいは助手と考えると分かりやすい
かもしれません。秘書は「嘘をついている」わけではありません。AIにとっては、正しい
文章を作っている場合も間違った文章を作っている場合も、主人に忠実なのです。基本的
には文章生成という同じ処理の結果でしかないのです。

ここが怖いところです。AIは間違えるときにおどおどした文章になるわけでもなく、萎縮
した説明になるわけでもありません。それどころか堂々とした分かりやすい専門用語まで
入った説明をしますので、人間の方がそれを見て信用してしまいます。AI時代に必要にな
る能力は、「AIを使える能力」だけではありません。「この答えは確認した方がよい」と判
断する能力が必要です。特に、金額、法律、医療、安全、会社の重要な意思決定、人物名、
日付、引用文、最新情報などは、AIの回答だけで決めず、元の資料を確認する必要があり
ます。

■□■　信用できる仕事は　■□■
一方で、「文章を要約してください」、「考え方を整理してください」、「別の視点を出してく
ださい」といった仕事では、多少表現に幅があってもAIの強みを大いに利用できます。AI
が賢くなることと、AIが絶対に間違えなくなることは同じではありません。ここを理解す
ることが、AIと上手に付き合ううえで非常に重要だと思います。
そして、さらに興味深い疑問が出てきます。AIが間違ったとき、人間なら、「あ、しまっ
た。間違えた」と気がつくことがあります。ではAIは、自分が間違えていることを自分で
分かるのでしょうか。次回はこの問題を考えてみたいと思います。
（つづく）

2026年10月7日
———————————————————————————
■□■　平林良人の『つなげるツボ』Vol. 576 ■□■
―　ISOマネジメントシステムのテクノファ　―
＊＊＊　ISO9001キーワード「組織の知識」AI_10 ＊＊＊
　　　　　AIは前の答えをコピーできない
———————————————————————————
生成AIは質問された都度答えを作っています。全く同じ質問をされたら前の答えをコピー
すればいいような気がしますが、生成AIの仕組みからコピーは出来ないのです。AIも基
本的にはコンピュータと同じで０か１かの識別の上で動いています。しかし、我々が日常
使っているコンピュータとは同じ種類ではあっても仕組みは全く違います。

■□■　なぜAIの答えは毎回同じでないのか　■□■
電卓に、「125×48」と入力したとします。何回計算しても、答えは同じになります。
コンピュータとは「同じものを入力すれば、同じ結果を返すもの」だと思っている人も多
いと思います。仕組みを理解していただくため、計算とは違いますが、文書の例で説明し
ます。生成AIに全く同じ質問をしても、少し違った文章が返ってきます。時には同じ文章
が返ってくることもあります。
例えば、
「退職する人への挨拶文を書いてください」
と3回頼めば、
一回目は「長年のご尽力に感謝します」、
二回目は「これまでのご貢献に心より感謝申し上げます」、
三回目は「新しい門出を心からお祝いします」、
というように、少しずつ違った文章になります。なぜでしょうか。ここに、生成AIの大き
な特徴があります。AIは、文章全体を一度に取り出しているわけではありません。大ざっ
ぱに言えば、「ここまでの文章の次に、どの言葉を続けるのがよさそうか」を計算しなが
ら、文章を少しずつ作っています。
例えば、
「今日はとても天気が……」
まで来たとします。
次には、
「良い」
「悪い」
「不安定だ」
「穏やかだ」
など、いくつもの候補があります。

■□■　AIは確率を計算している　■□■
AIは、それぞれについて「この言葉が続きそうだ」という度合い（確率）を計算します。
例えば、上の例で、
「良い」50％
「穏やかだ」25％
「悪い」15％
その他10％
のように言葉の候補について度合いを計算するのです。実際の仕組みはもっと複雑です
が、イメージとしてはこのようなものです。必ず一番確率の高いものだけを選ぶようにす
れば、毎回かなり似た文章になります。しかし、それでは文章がいつも同じようになり、
発想の幅も狭くなりますので、複数の有力な候補の中から一定の幅を持たせて選択する方
法が使われています。
AI開発で使われる「temperature（一般用語では温度ですが、AIではバラツキ程度の意
味）」という設定もその一つで、値を高くすると一般に出力のランダムさ（バラツキ）が
増します。(OpenAI「Delete an eval | OpenAI API Reference」)

　■□■　AIは富士山森林樹海の探索みたい　■□■
ここで重要なのは、一つの言葉が変わると、その後も変わっていくことです。
例えば旅行の相談で、「新幹線を使う案」を最初に選べば、その後は新幹線の時間や料金
を中心に説明します。
一方、「飛行機を使う案」から始めれば、空港への移動などを考える方向へ進みます。最初
の小さな違いが、その後の文章や推論の道筋を変えていくのです。
これは、森の中の分かれ道に少し似ています。出発地点は同じでも、最初の分岐で右へ行
くか左へ行くかによって、最後に到着する場所が違ってくることがあります。生成AIで
は、このような選択が文章の途中で何度も行われます。だから、同じ質問でも表現が変わ
るのです。そして、これは単なる欠点ではありません。むしろ生成AIの魅力でもありま
す。小説の題名を10個考えてもらったり、新商品のアイデアを出してもらったりすると
き、毎回まったく同じ答えしか出なければあまり役に立ちません。ある程度のバラツキが
あるからこそ、新しい案を何種類も出すことができます。

　■□■　困ることは？　■□■
しかし、数学や会計、法律上の事実などでは事情が違います。こちらは、「今回はA、次回
はB」では困ります。そこでAIを使うユーザ側も、アイデアが欲しい仕事なのか、それと
も一つの正しい答えが必要な仕事なのか、を区別する必要があります。前者なら、ある程
度のバラツキは歓迎できます。後者なら、「もう一度確認してください」、「計算を検算して
ください」、「根拠となる資料を確認してください」といった使い方が必要となります。
そして、ここからさらに問題が出てきます。「答えがバラツクという違い」だけならまだ分
かります。ところがAIは、ときどき事実ではないことを、とても自然な文章で説明するこ
とがあります。しかも、「本当ですか？」と聞くと、「はい、その通りです」などと自信
満々に答える場合さえあります。

（つづく）

2026年9月30日
———————————————————————————
■□■　平林良人の『つなげるツボ』Vol. 575 ■□■
―　ISOマネジメントシステムのテクノファ　―
＊＊＊　ISO9001キーワード「組織の知識」AI_9 ＊＊＊
　　AIが国際数学オリンピックで金メダルを取った
———————————————————————————
生成AIが東京大学の医学部理科三類の入試合格点をクリアした同じ年、2025年、もう一
つ理系のAI成果のニュースがありました。海外の国際数学オリンピックにチャレンジし
たAIが金メダルを取ったというニュースです。正確には6問中5問を解いて金メダルクラ
スと同じ力量を示したということですが、AIは文系の知識だけかと思っていたら理系の力
量も高いようです。

■□■　Google DeepMindのGeminiモデル　■□■
AIが大量の文章を学習し、言葉と言葉の関係を身につけたのであれば、人間らしい文章を
作れるようになるのは分かる気がします。ところが数学しかも高等数学となると話は違う
ように思えます。
数学には正解と不正解があります。解答文章が自然だからといって、答えが正しいとは限
りません。しかも国際数学オリンピック（IMO）で出題される問題は、公式を覚えて数字
を当てはめれば解けるような問題ではありません。世界各国から選ばれたトップクラスの
高校生が、代数、幾何、整数、組合せなどの非常に難しい問題に挑みます。
そのIMOで2025年、Google DeepMindのGemini Deep Thinkの実験モデルは6問中5
問を完全に解き、42点満点中35点を獲得しました。2025年大会の金メダル基準はちょう
ど35点でしたから、金メダル水準です。答案はIMO関係者によって学生と同じ基準で採
点されたということです。
(Google DeepMind（2025）「Gemini Deep Think、IMOで金メダル水準を達成」)

■□■　AIは数学の論理にも相性が良い　■□■
言葉から生まれたAIが数学にここまで強くなったのはなぜでしょうか。現在のAIにとっ
て数学は完全な別世界ではありません。数学の問題も、「この条件から何が言えるか」、
「この式をどう変形するか」、「この定理は使えるか」、「仮定すると矛盾しないか」
というように、記号と言葉を使って論理をつないでいく作業ととらえています。つまり数
学には、非常に複雑ではありますが関係をたどるという性質があります。これはAIが得意
としてきたものとかなり相性がよいのだそうです。

もう一つ、数学にはAIを訓練するうえで大きな利点があります。正しいか間違っているか
を比較的確認しやすいことです。例えば、「この小説は感動的ですか」という質問には、唯
一の正解はありません。しかし、「この計算結果は正しいか」、「この証明に論理的な矛盾
はないか」なら、かなり明確に評価できます。
AIの学習でも、「この考え方では間違えた」、「こちらの方法なら正解した」という形で、
より良い問題の解き方を学ばせやすくなります。そして最近のAIでは、ただ一つの考え方
に飛びつくのではなく、複数の解き方を検討するそうです。Google DeepMindは2025年
のIMOについて、Gemini Deep Thinkが複数の可能な解法を並行して探索し、それらを
組み合わせる「parallel thinking」を利用したと説明しています。多段階の推論や定理証明
のデータを使った強化学習も行われたということです。
(Google DeepMind（2025）「Gemini Deep Think、IMOで金メダル水準を達成」)　

■□■　強化学習とは何か　■□■
強化学習とは聞きなれない言葉です。人間の数学者を想像してみてください。難問を見て、
「この方法ではどうだろう」、「いや、うまくいかない」、「それなら、この条件を別の角度
から見たらどうか」と試行錯誤します。
AIも計算資源を使って複数の候補を探索し、より良い答えを探す方向へ進化してきました。
人間と同じ方法で考えているわけではありません。しかし、ここにはAIならではの強み
もあります。人間が同時に何十通りもの計算をするのは時間がかかり、場合によっては不
可能なこともあります。コンピュータなら、あまり時間を気にせず大量な計算を試すこと
ができます。
もちろん、「大量に試せば数学が解ける」というほど単純ではありません。どの方向を試せ
ばよいかを選ぶ能力も必要です。その能力自体が学習によって改善されてきたのです。
ただし、IMOで金メダル水準になったから、「AIは数学でもう間違えない」と考えるのは
早すぎます。

■□■　AIの答えは毎回同じでない？　■□■
2025年のGeminiも6問すべてを解いたわけではありません。5問を完全に解いた一方
で、1問は解けませんでした。
(Google DeepMind（2025）「Gemini Deep Think、IMOで金メダル水準を達成」)
さらに不思議なことがあります。同じ数学の問題をAIに何回か聞いてみると、一回目は正
解したのに、二回目には違う方法を使い、場合によっては間違えることさえあります。
人間なら、「さっき正解したのだから、同じ答えを出せばいいのに」と思います。
しかし生成AIは、答えを保管しておいて、そのまま取り出しているわけではありません。
AIはその仕組み上、質問を受けるたびに毎回答えを新しく作っているのです。なんと非効
率的な仕組みになっている、と考える方が多いと思いますが、AIは人間の言葉を理解しな
く、AIが理解する機械語に変換して答えを作成しているので、そのような、つまり同じ質
問なのに答えが変わるということが起きるのです。そこを知ると、「生成AI」という名前
の意味が少し分かってきます。
（つづく）