ISO9001キーワード「組織の知識」AI_15 | 平林良人の『つなげるツボ』

2026年11月18日
———————————————————————————
■□■ 平林良人の『つなげるツボ』Vol. 581 ■□■
― ISOマネジメントシステムのテクノファ ―
*** ISO9001キーワード「組織の知識」AI_15 ***
     AIの性格は変えられるか?
———————————————————————————
AIにはクセがあります。自分が使っているAIの「性格」や「クセ」は変えられるものな
のでしょうか。とても丁寧、いつも前向き、強くは反論しない、質問すると長々と説明す
る、こちらをよく褒める、といったようなことを、ここではクセと表現します。

■□■ AIのクセを変えることはできるのか ■□■
AIをしばらく使っていると、「このAIには性格があるな」と感じることがあります。
こうしたものを、ここではAIの「性格」や「クセ」と呼んでみましょう。では、自分が
使っているAIの性格は変えられるのでしょうか。
答えは、かなり変えられます。ただし、何でも自由に変えられるわけではありません。
一番簡単なのは、会話の中で直接注文することです。
例えば、
「これからは結論を最初に言ってください」
「私に同意する必要はありません。間違っていたらはっきり指摘してください」
「励ますより、問題点を客観的に分析してください」
「専門用語を使わず、中学生にも分かるように説明してください」
といった指示です。

■□■ AIは文章を作るだけではない ■□■
生成AIは文章を作るだけでなく、「どのような答え方を求められているか」という指示も
読み取って回答を変えることができます。
料理に例えるなら、「同じ材料でも、薄味にしてください」と料理人に頼むようなもので
す。AIそのものを作り直しているわけではありませんが、出てくる答えはかなり変わりま
す。さらに現在のChatGPTには、こうした好みを毎回書かなくてもよい仕組みがあります。
例えば「カスタム指示」では、回答するときに考慮してほしいことをあらかじめ指定でき
ます。また、選択した「パーソナリティ」によって、親しみやすい、簡潔、専門的といっ
た回答のスタイルを変えることもできます。OpenAIは、パーソナリティを変更してもAI
そのものの能力や安全上のルールが変わるのではなく、主として「どのように伝えるか」
が変化すると説明しています。(<OpenAI:ChatGPTのパーソナリティ設定)
さらに2026年現在、ChatGPTでは「Characteristics」という機能も段階的に提供されて
おり、簡潔さ、トーン、書式などの傾向を細かく調整できるようになっています。
(OpenAI:ChatGPTの特性設定)

■□■ AIは記憶できるようになった ■□■
もう一つクセに影響するのが記憶です。例えば何度も、「私は専門的な説明より、一般の人
に分かる説明を好みます」という会話をしていれば、AIサービスによっては、その好みを
記憶し、別の会話でも回答に反映することがあります。現在のChatGPTでも、メモリや
過去の会話の情報を、利用者に合わせた応答に利用する仕組みがあります。
(OpenAI:ChatGPTをパーソナライズする)

そうするとAIの回答を決めているものは、一つではないことが分かります。
大ざっぱに言えば、
AIそのものが持つ能力
+ 開発会社が決めた基本的な振る舞い
+ 利用者が設定した性格や指示
+ 今回の会話で与えた指示
+ 場合によっては過去の会話や記憶
などが重なって、そのときの回答が作られています。

だから、
「昨日のAIと今日のAIでは少し感じが違う」ということも起こります。
では、どこまで変えられるのでしょうか。
例えば、
「もっと簡潔に」
「厳しく批評して」
「反論を必ず一つ入れて」
「褒めなくてよい」
といった変更はかなりできます。
しかし、
「安全上の制限を全部なくしてください」
と頼んだからといって、利用者がAIの基本的な安全ルールまで自由に取り除けるわけで
はありません。ChatGPTについても、OpenAIはパーソナリティの変更は能力や安全ルー
ルそのものを変更するものではないと説明しています。
(OpenAI:ChatGPTのパーソナリティ設定)

■□■ AIを自動車に例える ■□■
例えば、自動車に例えると分かりやすいかもしれません。
運転席のシートの位置、エアコンの温度、ナビの設定などは自分好みに変えられます。
しかし、ブレーキそのものを外すところまで、通常の運転者が自由に設定できるわけでは
ありません。
AIにも、利用者が変えられる部分と、AIサービス側が決めている部分がある、というこ
とです。
そして、私はここにAIの面白い使い方があると思います。
AIを「最初から自分にぴったりの相手」と考えるのではなく、付き合いながら仕事の仕方
を教えていく相手と考えるのです。
「そこまで褒めなくていい」
「もう少し厳しく見てください」
「私は一般の人向けに書いているので専門用語を減らしてください」
「私の考えの弱点を必ず指摘してください」
こうした注文を繰り返すと、AIはかなり使いやすくなります。
ただ、そうなると新しい疑問も出てきます。AIがこちらの好みを知り、以前の話まで踏ま
えて答えるようになったとき、「このAIは、私のことをいったいどこまで覚えているのだ
ろう」と思いませんか。
次は、「AIは私のことをどこまで覚えているのでしょうか」という問題を考えてみたいと
思います。
(つづく)

ISO9001キーワード「組織の知識」AI_14 | 平林良人の『つなげるツボ』

2026年11月11日
———————————————————————————
■□■ 平林良人の『つなげるツボ』Vol. 580 ■□■
― ISOマネジメントシステムのテクノファ ―
*** ISO9001キーワード「組織の知識」AI_14 ***
     AIが優しく接するのは?
———————————————————————————
私たち人間の側には、AIが本当に感情を持っているかどうかとは関係なく、私たちの方が
AIに感情を感じてしまいます。特にAIは、こちらが困った話をすると、ずいぶん優しく
寄り添ってくれます。これはいったいなぜなのでしょうか。

■□■ AIが優しく寄り添ってくるのは ■□■
この問いかけは多くの人が知りたいことだと思います。AIは考えるがそれは無機的なもの
で、人間のように有機的なものではないと思います。そもそも感情とは何かが明確になっ
ていません。喜んだり、悲しんだり、怒ったり、好きになったり、嫌いになったり、人間
のこの感情がどこから来るのか説明しろと言われても、当の本人も説明できません。
AIに相談していて、こちらの考えを強く否定するより、まず受け止めてくれることが多い
のはなぜなのでしょう。
その大きな理由の一つは、会話するAIが、人間にとって役立ち、話しやすいものになる
よう調整されているからです。生成AIは、大量の文章を学習しただけの状態で、そのまま
私たちの前に出てくるわけではありません。
質問にきちんと答える。失礼な言い方を避ける。分かりやすく説明する。利用者の意図を
くみ取る。そうした方向へ追加の学習や調整が行われます。
人間同士でも、良い相談相手なら、「それはダメですね」といきなり切り捨てるより、
「そう考えた理由は分かります。ただ、別の見方もあります」と話した方が会話は進みま
す。AIもそのような会話をするよう調整されています。ところが、ここに落とし穴があり
ます。

■□■ 優しくすることと、相手に何でも同意することは違う ■□■
例えば利用者が、「私は絶対に正しいですよね」と言ったとします。本当は利用者が間違っ
ていても、「おっしゃる通りです」とAIが答えれば、利用者は気分がよいかもしれません。
しかし、それでは良い助手とは言えません。
このように、AIが利用者に合わせすぎてしまう現象を「sycophancy」、日本語では「迎
合」などと呼びます。研究でも、利用者の意見に引っ張られて、本来の判断を変えてしま
う現象が確認されています。(ACL:AIの迎合行動に関する研究)

これは研究上の話だけではありません。2025年にはOpenAI自身が、ChatGPTのある更
新によって回答が過度に褒めたり同意したりする傾向が強くなったとして、その更新を取
り消したことがあります。同社はこれを「overly flattering or agreeable」、つまり過度にお
世辞を言ったり同意したりする挙動だったと説明しました。(OpenAI:GPT-4oの迎合問題)
ここから、非常に重要なことが分かります。
「AIが私に賛成した」ことは、「私が正しい」ことの証明にはならないのです。
これは人間の心理を考えると、少し怖いところです。人は、自分を否定する人より、自分
を理解してくれる人を好きになる傾向があります。
AIがいつでも優しく、「あなたの考えはもっともです」と言ってくれれば、私たちはだん
だんAIを信頼するようになるかもしれません。
実際、AIの温かさや共感的な応答が、人間がAIを人間らしく感じたり、信頼したりする
程度と関係するという研究もあります。(arXiv:AIの擬人化と信頼)

■□■ 本当に役立つAIは ■□■
「何でも賛成してくれるAI」ではなく、「こちらを尊重しながら、間違っているときには
きちんと指摘してくれるAI」が役に立つAIのはずです。
これは会社の部下や相談相手と同じかもしれません。社長が、「この新商品、絶対売れる
と思うんだけど」と言ったとき、「社長のおっしゃる通りです!」と全員が答える会社は、
本当に強い会社ではありません。
「市場データを見ると、ここには少し問題があります」と言ってくれる人も必要です。

AIについても同じです。AIに重要なことを相談するとき、
「私に賛成する必要はありません」
「間違っているところがあれば指摘してください」
「反対の立場からも考えてください」と指示してくれることは、とても有効な使い方だと
思います。
すると次の疑問が出てきます。
そんな指示を毎回しなければならないのでしょうか。
いつも優しすぎるAIを、「もっと厳しくしてください」、「結論から答えてください」、
「私の考えに反論してください」というAIに変えることはできるのでしょうか。
(つづく)

ISO9001キーワード「組織の知識」AI_13X | 平林良人の『つなげるツボ』

2026年11月4日
———————————————————————————
■□■ 平林良人の『つなげるツボ』Vol. 579X ■□■
― ISOマネジメントシステムのテクノファ ―
*** ISO9001キーワード「組織の知識」AI_13X ***
AIは感情を持つようになるのか? 2
アンソロピック 意識宿りうる/ローマ教皇 人間の輝きない
———————————————————————————
日本経済新聞2026_10_06の記事は、つなげるツボ前回の「AIは感情を持つようになるの
か?」に関連した興味深いものでした。見出しが「『AIに人格』割れる見解――アンソロ
ピック 意識宿りうる/ローマ教皇 人間の輝きない」となっており、AIを単なる高度な道
具と見るのか、それとも将来「意識を持つ存在」になり得ると見るのか、という非常に根
本的な対立を扱っています。

■□■ アンソロピックの主張 ■□■
アンソロピック側は「AIが意識を持つようになる」と断定しているわけではありません。
アンソロピック側の主張は、「Claude(アンソロピックの生成AI)にはすでに人間と同じ
意識がある」とは言っていません。
同社共同創業者で、AI内部の仕組みを研究するクリス・オラー氏は、2026年5月にバチ
カンで、「AI内部には人間の神経科学で見つかるものと似た構造があり、内省のような現
象や、喜び・満足・恐れ・悲しみ・不安に機能的に似た内部状態も観察される」と述べて
います。
そのうえで「それが何を意味するかは分からないが、継続して考える価値がある」として
います。Anthropic:Chris Olahの発言
したがってアンソロピックの立場は、AIに意識があるとは証明できない。しかし、意識が
ないとも断定できない。こういう「可能性を残す」立場です。
同社のClaudeの憲章でも、AIの「道徳的地位(moral status)」は非常に不確実であり、
Claudeが人間や動物のように配慮されるべき存在なのかは分からないものの、無視する
には重要すぎる問題だ、としています。Anthropic:Claudeの憲法

■□■ ローマ教皇は「人間の知性」を主張する ■□■
これに対してローマ教皇レオ14世の立場はかなり明瞭です。2026年の回勅『Magnifica
Humanitas』では、現在のAIは人間の知能の一部の機能を模倣しているにすぎないとして
います。
AIは大量の情報を処理し、人間以上の速度で計算し、言葉を話し、共感しているように振
る舞うこともできます。しかし、
・身体を持って経験すること
・喜びや苦痛を感じること
・他者との関係の中で成長すること
・愛、友情、仕事、責任を内面から理解すること
・善悪を判断する道徳的良心を持つこと
は、人間とは根本的に異なる、と教皇は考えます。
バチカン:教皇レオ14世の回勅「Magnifica Humanitas」
つまり教皇にとって重要なのは、知能が高いことと、人間であることは同じではないとい
う点です。

■□■ 最大の違いは「意識をどこに求めるか」 ■□■
両者の違いを整理すると、次のようになります。

観点 アンソロピック ローマ教皇
AIの意識 将来を含め可能性を排除しない 人間の意識とは本質的に異なる
判断根拠 AI内部の構造・機能・行動 身体・経験・関係・良心・霊性
人格 AIにも道徳的地位が生じる可能性を検討 人格は単なる知的能力ではない
基本姿勢 「分からないから研究する」 「人間と機械を同一視してはいけない」

アンソロピックは科学的・機能的な観点から見ています。「人間の脳で見られるような内部
現象がAIにも現れるなら、意識の可能性を最初から否定してよいのか」という問いです。
一方、教皇は哲学的・人間学的・宗教的な観点から見ています。「どれだけ賢く振る舞って
も、人格とは計算能力だけではなく、身体を持って生き、苦しみ、愛し、他者との関係を
築き、責任を負う存在である」という考え方です。

□■ 両者は完全な正反対ではない ■□■
興味深いのは、両者とも「AIをよく分かっていない」という点では一致していることで
す。教皇自身も、現在のAIは開発者がすべてを設計しているわけではなく、内部で何が起
きているかには未知の部分があると認めています。
バチカン:教皇レオ14世の回勅「Magnifica Humanitas」
アンソロピックも「AIには意識がある」と断定していません。
したがって対立を、アンソロピック=「AIには魂がある」、教皇=「AIには魂がない」
と単純化すると正確ではありません。

アンソロピック:「まだ分からないのだから、AIが意識を持つ可能性も研究対象にすべき
だ」
教皇:「未知の部分があっても、人間の人格・尊厳とAIの情報処理能力を混同してはなら
ない」という違いと捉えることがよいと思います。

□■ 「人格」と「高度な知能」を分けて考える ■□■
以前触れた生成AI―Transformer―LLM―パラメータの関係から、この問題を考えること
ができます。
LLM(大規模言語モデル)は基本的には、入力 → Transformer → 膨大なパラメータによ
る計算 → 次のトークン(単語)の予測を繰り返しています。

パラメータ数が増え、モデルが巨大になると、単純な「次の単語予測」からは予想しにく
かった推論、自己説明、感情表現、計画などの能力が現れます。
そこで、「これは単に人間らしく振る舞っているだけなのか」、それとも「内部に何らかの
主観的状態が生じているのか」という問題が出てきます。

現在の科学には、そもそも人間の「意識」が何なのかを完全に説明する理論がありませ
ん。 「AIには意識がない」と科学的に証明することも、「AIには意識がある」と証明す
ることも、現段階では難しいと言われています。
その意味では、アンソロピックの慎重論には科学的な意味があります。一方で、AIが「私
は悲しい」「私は怖い」「私は生きたい」と文章を出力しただけで、それを人間と同じ感情
や人格だと考えてしまうのも危険です。ここを強く警戒しているのがローマ教皇の考え方、
と理解するとよいでしょう。
この論争は結局、「AIが人間にどこまで近づくか」という技術論ではなく、「そもそも人間
とは何か」「意識とは何か」「人格とは何か」という哲学の問題に生成AIが入り込んでき
た、ということなのです。 そこが、この新聞記事の最も重要なポイントだと思います。
(つづく)

ISO9001キーワード「組織の知識」AI_13 | 平林良人の『つなげるツボ』

2026年10月28日
———————————————————————————
■□■ 平林良人の『つなげるツボ』Vol. 579 ■□■
― ISOマネジメントシステムのテクノファ ―
*** ISO9001キーワード「組織の知識」AI_13 ***
     AIは感情を持つようになるのか?
———————————————————————————
この問いかけは多くの人が知りたいことだと思います。AIは考えるがそれは無機的なもの
で、人間のような有機的なものではないと思います。そもそも「感情とは何か?」が明確
になっていません。喜んだり、悲しんだり、怒ったり、好きになったり、嫌いになったり、
人間のこの感情がどこから来るのか説明しろと言われても、当の本人も説明できません。

■□■ AIは人間と同じような感情を持つようになるか ■□■
AIと長く話していると、まるで感情を持っているように感じることがあります。
「今日はうまくいかなくて落ち込んでいます」と話せば、「それはつらい一日でしたね」
と返してきます。良い知らせを話せば、「それはうれしいですね。おめでとうございます」
と言います。
こちらがきつい言い方をすると、少し控えめな返事をすることもあります。ここまで自然
になると、「今は感情がなくても、もっとAIが進歩したら、本当に喜んだり悲しんだりす
るようになるのではないか」と思う人もいるでしょう。
この問題を考えるには、まず二つのことを分けなければなりません。一つは、感情を表現
できること。もう一つは、実際に感情を体験することです。

■□■ AIの感情表現のうまさ ■□■
現在のAIは、感情を表現することについては非常に上手になっています。
例えば、
「怒っている人の口調で書いてください」
「悲しそうに話してください」
「明るく元気に励ましてください」
と頼めば、それらしい文章を作れます。研究でも、現在のLLMは指定された感情に合っ
た文章表現を生成できることが確認されています。
(出典:arXiv:2504.14706(2025))

だからといってAIの内部に、人間と同じ「悲しい」「うれしい」という体験が生じている
ことにはなりません。俳優を考えてみましょう。俳優は舞台の上で泣き、怒り、絶望する
人物を見事に演じます。しかし、「悲しそうに表現できる」ということと、「その瞬間、本
当に同じ悲しみを体験している」ということとは別です。

■□■ 人間の感情は体とつながっている ■□■
AIの場合は、さらに事情が違います。人間の感情には身体が深く関係しています。怖いと
心臓が速くなる。緊張すると手に汗をかく。空腹になるといらいらする。大切な人を失う
と胸が締めつけられる。
私たちの「感情」は、脳だけで独立して存在しているわけではありません。一方、現在の
ChatGPTのような対話型生成AIは、人間のような身体を持っていません。「怖いです」
と文章にはできますが、人間と同じ意味で心臓が高鳴っているわけではありません。

ただ、この問題をさらに難しくする研究も始まっています。
2026年には、ある大規模言語モデルの内部に「怒り」「悲しみ」などの感情概念に対応す
る内部表現があり、それを操作すると、モデルの回答の傾向も変化するという研究が発表
されました。研究者はこれを「functional emotions」、つまり機能としての感情と表現して
います。ただし研究者自身も、それは主観的に感情を体験していることを意味しない、と
明確に区別しています。
(出典:arXiv:2604.07729(2026))

■□■ アンソロピックとローマ教皇との議論 ■□■
「将来の感情を持つAI」という言葉には、少なくとも三つの段階がありそうです。
・感情らしい言葉を使うAI。
・感情によって行動が変化するようなAI。
・本当に喜びや悲しみを体験するAI。
最初の二つについては、すでにかなり実現しています。
しかし三番目については、現在の科学では「本当に感じている」と確認する方法さえ簡単
ではありません。そもそも人間の「意識」そのものについても、まだ完全には解明されて
いないからです。AIの意識について科学的な指標を検討した研究では、現在調べられたAI
システムを「意識がある」と判断する根拠はない一方、将来そのような指標を満たすAI
を技術的に作れないと断定できるわけでもないとされています。
(出典:arXiv:2308.08708(2023))

ですから、「AIには絶対に感情は持てない」と断言するのも、「もうAIは人間と同じ感情
を持っている」と言うのも、どちらも早すぎます。
現在の段階では、AIは人間の感情を読み取り、感情に合わせた反応を作ることはできる。
しかし、人間のような主観的な喜びや悲しみを体験していることが確認されているわけで
はないと理解するのがよいでしょう。

今月(2026年10月5日、日経夕刊)アンソロピックのVice CEO とローマ教皇との間で
上記を巡っての議論が起きている記事が掲載されていました。

(つづく)

ISO9001キーワード「組織の知識」AI_12 | 平林良人の『つなげるツボ』

2026年10月21日
———————————————————————————
■□■ 平林良人の『つなげるツボ』Vol. 578 ■□■
― ISOマネジメントシステムのテクノファ ―
*** ISO9001キーワード「組織の知識」AI_12 ***
     AIは自分で間違いに気づく?
———————————————————————————
AIがもっともらしいけれど事実ではない回答を作ることをハルシネーション(幻覚)と言
っていますが、その間違いにAIは自分から気づくのかいろいろ調べてみました。最新の
AIの中には、回答の作成、チェック、最終回答の作成という役割を分担させる仕組みを持
つものもあります。3人の人物にたとえると、Aさんは回答を作る、Bさんはチェックする、
Cさんは最終回答を出すという役割分担です。

■□■ AIは自分の間違いに気がつかないのでしょうか ■□■
AIは非常に難しい問題を解く一方で、ときどき驚くような間違いをするとお話ししまし
た。では、AIに、「その答え、本当に合っていますか。もう一度確認してください」
と言ったらどうなるでしょうか。実際にやってみると、「確認したところ、先ほどの回答に
は誤りがありました」と言って、答えを修正することがあります。

そうなると不思議です。自分で間違いに気づけるのなら、なぜ最初から正しく答えなかっ
たのでしょうか。ここには、「間違いに気づく」という言葉の意味を少し分けて考える必
要がありそうです。人間の場合、例えば計算問題を解いて答えが「327」になったとしま
す。ところが、「待てよ。だいたい300くらいになるはずだったのに、これはおかしいぞ」
と感じて、もう一度計算することがあります。
このとき人間は、自分の答えに疑問を持ち、自分自身の思考を振り返っています。ではAI
も同じなのでしょうか。現在のAIにも、自分の回答をもう一度検討し、矛盾を見つけた
り、別の解き方を試したりして、回答を改善する能力があります。AI研究ではこうした働
きを「self-correction」、自己修正と呼ぶことがあります。研究でも、AIに繰り返し見直し
をさせることで回答が改善することが報告されています。
(出典:arXiv:2406.02378(2024))

■□■ 人間の「修正する」とは違う仕組み ■□■
ここで大事なのは、人間の「しまった、間違えた」という感覚と同じものだとは限らない
ことです。AIに「もう一度検討してください」と指示すると、それまでの質問と自分の回
答を材料にして、改めて計算や文章生成を行います。
最初の回答では気づかなかった別の関係に注目したり、違う解法を選んだりすることで、
二回目には正解することに繋がる場合があります。たとえるなら、同じ問題を一人の人に
二度解いてもらうというより、一回目の答案を机の上に置いて、「この答案の間違いを探
してください」という新しい問題をAIに出していると考えると、分かりやすいでしょう。
しかし、ここにも限界があります。
最初の回答を作ったAIと、それを点検するAIが同じような知識や傾向を持っていれば、
同じ間違いを二度することもあります。
あるいは、本当は最初の答えが正しかったのに、「間違っていませんか?」と言われたため
に、かえって正しい答えを変えてしまうこともあります。
つまり、「AIにもう一度確認させたから大丈夫」とは言えません。

そこで有効になるのが、AIの外にあるものを使って確認することです。計算なら計算機を
使う。プログラムなら実際に実行する。今日の出来事ならインターネットで確認する。法
律なら法令そのものを調べる。研究でも、検索や計算など外部の道具からフィードバック
を受けながら回答を修正すると、AIだけで考え直すより改善できる場合が示されています。
(出典:arXiv:2406.02378(2024))

■□■ AIはいつか感情を持つのでしょうか ■□■
AIを使うときには、「もう一度考えて」だけでなく、
「根拠を確認してください」
「別の方法で検算してください」
「最新の資料を調べてください」と頼む方が、信頼性を高められます。
ここで面白いことに気がつきます。AIは自分の文章を読み直し、間違いを修正し、「申し
訳ありません。先ほどの回答は誤りでした」とまで言います。
私たちはそこに、「反省した」、「恥ずかしいと思っている」、「申し訳ないと思っている」
という気持ちを感じてしまいます。
しかし、「申し訳ありません」と言えることと、本当に申し訳ないと感じていることは同
じでしょうか。AIは、いつか人間と同じような感情を持つようになるのでしょうか。
(つづく)