2026年8月5日
———————————————————————————
■□■ 平林良人の『つなげるツボ』Vol. 568 ■□■
― ISOマネジメントシステムのテクノファ ―
＊＊＊ ISO9001キーワード「組織の知識」AI_2 ＊＊＊
———————————————————————————
生成AI（ChatGPTなど）の説明でよく出てくる用語にLLMがあります。Large
Language Modelの略で大規模言語モデルと呼ばれています。2022年に公開されたOpen
AIのChatGPT（チャッピーとの愛称あり）の核心にある技術がこのLLMです。事前に学
習した膨大な知識（国会図書館蔵書1260万冊と同等）情報をベースにユーザ質問に答え
る文章を作る技術です。
■□■ AIはどうやって文章を作るのか ■□■
AIが文章を作る方法を翻訳を例に説明します。例えば、「吾輩は猫である」を英語に翻訳
したい場合、AIには、まずインプットである日本語を、吾輩→は→猫→で→ある、という
ように、文章全体を一つずつの用語（トークン）に分解させます。そして先頭から順番に
用語を処理させていきます。この処理は、まずインプットの用語をベクトルに変換します。
この「ベクトル」という概念はわれわれ一般人にはよく理解できないのですが、まずはベ
クトルという言葉にとらわれず、機械（コンピュータ）が理解できるような単位に変換す
ると考えてください。
次に、膨大な事前学習のベクトル化された知識の中から、「吾輩→は→猫→で→ある」を
”I →am →a→ cat”という順に、頭から順に統計的確率の高い用語を選んでいくという
ことをひたすら高速に実施していきます。
しかし、この方法では、前の用語の計算が終わらないと次の用語を処理できないため、
いわば一本のレールの上を走る電車のようにしか処理できなくて、文章作成に時間がかか
るということが問題でした。
現在のLLMの基盤となっているTransformer（トランスフォーマー）は、文章中の言葉同
士の関係を効率よく捉えながら処理するためのAIの仕組みです。2017年にGoogle研究チ
ームが発表した論文「Attention Is All You Need」で提案されました。この論文はAI分野
でもっとも有名な研究論文の一つです。入力された文章の文脈をもとに言語を処理すると
いう従来の言語モデルの考え方を発展させ、GPTなどのLLMでは次に来る用語（トーク
ン）の確率を予測して文章を生成しています。
大きな改善点は、Attentionという仕組みによって文章中の離れた用語同士の関係を捉えら
れるようになったこと、またトランスフォーマーによって学習時の並列処理が可能になっ
たことです。その結果、大量のデータを効率的に学習できるようになり、大規模な言語モ
デルの発展につながりました。
AIは「人工知能：Artificial Intelligence」と呼ばれるように、人間の脳の動きを分析、解
析し、疲れを知らない機械（コンピュータ）に真似させようという概念で、70年くらい前
に世界的に研究が始まりました。私がかつて在籍していたセイコーエプソンにも、1984年
に「エー・アイ・ソフト」という子会社が設立されました。設立直後から当時としては先
進的なソフトを開発しましたが、特徴は、OCR、画像処理など、エプソンが得意とするハ
ードウェア（スキャナ・プリンタ）と連携するソフトにフォーカスを当てていました。当
時、担当していた同僚から聞いた話で印象に残っていることがあります。
「人間はいろいろなことを考えるが、今行おうとしていることに集中するとより物事を深
めることができる。」という何気ない会話です。
東大松尾研 社会人公開講座で “Attention is All You Need”というフレーズを聞いた時、真
っ先に思い出したのが同僚とのこの会話でした。“attention”というのは、注意を向けると
いう意味ですが、いままで次の用語、また次の用語と順序よく文章を紡いでいた処理を、
今対象となっている文章の内容に焦点を当てると、大量の用語の中からどの用語が重要か
ということがはっきりし、用語同士の関係性から文章を作成する、という処理方法が開発
されたというのです。この2017年の研究論文が実を結んだのがOpen AIの2022年の
ChatGPTだったということです。GPTの正式な英語は、“Generative Pre-trained
Transformer”で日本語に訳せば、「生成型・事前学習済みTransformer」となります。この
ようにLLMのなかにはAttentionという概念を持ったトランスフォーマーというメカニズ
ムが使われています。
■□■ LLMはシンプル ■□■
LLMの基本的な考え方は比較的シンプルに成り立っているといわれます。それは確率的に
次に来る適切な用語を決めながら全体の文章を紡ぐ繰り返し処理であるからです。ただ、
この処理を日常生活では考えられないモーレツなスピードで大量に行っていることから
我々の常識が追い付かないというイメージになっているのです。
最新のLLMは事前学習で覚えた世界中の多くの知識を使って結果を出し、汎用な博識に
おいては人を超えているかもしれず、世界数学オリンピックでも優勝するレベルになって
います。ただ、モデルによっては知らないこともあり、その場合ハルシネーション（幻
想）と呼ばれる嘘を言うこともあります。
また、企業固有の業務にLLMを利用する場合は、プロンプトの工夫、社内資料の検索・
参照、RAG、ファインチューニングなどによって、必要な情報や回答形式を補うことも必
要になります。
企業が自社固有の課題をAIに実施させようとすると、次のようなステップを必要としま
す。いままで述べたことの繰り返しになりますが、再度整理します。
(1)文章を細かく分ける
入力された文章を「トークン」と呼ばれる処理単位に分割します。トークンは単語と一致
する場合もありますが、単語の一部、文字、記号などになることもあります。
(2)言葉を数字に変換する
各トークンをベクトルという数値の集まりに変換し、言葉の意味や関係を計算できるよう
にします。
(3)文脈を読み取る
TransformerのAttentionという仕組みを使い、文章中のどの用語が重要か、どの用語同士
が関係しているかを判断します。
(4) 次の言葉を予測する
例えば「今日は天気が」に続く候補として、「良い」「悪い」「暑い」などの用語の確率を計
算し、その中から一つを選びます。この処理を繰り返して文章を作ります。
（つづく）