ChatGPTはなぜ人間のように文章を書けるのか。「AIが考えている」ように見えるあの現象の裏側には、LLM(大規模言語モデル)という技術があります。
この記事では、数式を一切使わずにLLMの仕組みをやさしく解説します。仕組みがわかると、AIの「なぜ間違えるのか」「どう使えば強いのか」が腹落ちし、活用の精度が一段上がります。
LLMの正体:「次の言葉」を予測する機械

LLM(Large Language Model)の基本動作は驚くほどシンプルで、「ここまでの文章に続く、次の言葉は何か」を確率で予測することです。「今日はいい天気なので散歩に」の次には「行きます」が来やすい――この予測を1語ずつ繰り返すことで、文章が生成されます。
では、なぜそんな単純な仕組みで高度な回答ができるのか。鍵は「大規模」にあります。インターネット上の膨大なテキストから言葉のつながりを学習した結果、文法・知識・推論のパターンまでもが「次の言葉の予測」の中に織り込まれたのです。
学習の3段階(ざっくり版)
- 事前学習:膨大な文章で「次の言葉当てクイズ」を何兆回も解き、言語のパターンを吸収する
- 指示チューニング:「質問には回答で応じる」など、対話アシスタントとしての振る舞いを教え込む
- 人間のフィードバック:人間が「良い回答」を選んで評価し、有害な出力や不自然な応答を抑える
この3段階を経て、「単なる続き予測マシン」が「対話できるアシスタント」になります。
仕組みからわかる得意と苦手

なぜ誤情報(ハルシネーション)が起きるのか
LLMは事実をデータベースのように「参照」しているのではなく、もっともらしい言葉の並びを「生成」しています。だから、存在しない書籍名や統計をすらすらと作り出せてしまう。これは故障ではなく仕組みの本質です。固有名詞・数値・出典は必ず自分で確認する――この鉄則の理由がここにあります。
なぜ最新ニュースを知らないのか
LLMの知識は学習を締め切った時点(カットオフ)で止まっています。最近のAIチャットはWeb検索機能を組み合わせて補っていますが、「モデル自身の知識」と「検索して得た情報」は別物だと理解しておくと、回答の信頼度を見極めやすくなります。
なぜ計算や文字数指定に弱いのか
LLMは言葉を「トークン」という単位で処理しており、桁の大きな計算や正確な文字数カウントは構造的に不得意です。厳密な計算は電卓・表計算に任せ、AIには文章とアイデアを任せる分業が正解です。
仕組みを踏まえた賢い使い方
- パターンがある仕事を任せる:要約・翻訳・雛形・言い換えはLLMの独壇場です
- 文脈を与えるほど精度が上がる:予測は「ここまでの文章」に依存します。だからこそプロンプトの書き方が効くのです
- 事実確認は人間の仕事:生成された固有名詞・数値・引用は公式情報で検証
- 機密情報の扱いに注意:入力の線引きは安全な使い方の記事で解説しています
よくある質問
Q. LLMは意味を「理解」しているのですか?
A. 哲学的な論争が続いている問いです。実用上は「理解しているかのように振る舞う統計モデル」と捉えるのが安全で、だからこそ検証が必要、という結論は変わりません。
Q. パラメータ数が多いほど賢いのですか?
A. おおむね規模と能力は相関してきましたが、近年は学習データの質や手法の工夫で、小型でも高性能なモデルが増えています。「大きさ=賢さ」は絶対ではなくなりつつあります。
Q. 画像生成AIも同じ仕組みですか?
A. 「大量のデータからパターンを学ぶ」点は共通ですが、画像生成は拡散モデルなど別の技術が主流です。興味があれば画像生成AIの記事もどうぞ。
トークンという単位|日本語が不利になる理由
LLMは文字を1文字ずつ扱っているわけではありません。トークンという単位に区切って処理しています。単語まるごと1トークンのこともあれば、1文字が複数トークンに分かれることもあります。
| 英語 | 日本語 | |
|---|---|---|
| おおよその換算 | 1トークン ≒ 4文字程度 | 1文字 ≒ 1〜2トークン程度 |
| 同じ内容を書いたとき | 少ないトークン数で済む | 数倍のトークンを消費する |
| 影響 | — | 扱える文章量が実質的に短くなる。従量課金では割高になる |
ここから、実務でよく困る現象の理由が説明できます。「1000文字以内で書いて」という指示が守られにくいのは、LLMが文字を数えていないからです。内部ではトークン単位で処理しており、日本語の文字数との対応が一定ではありません。厳密な文字数が必要な場合は、生成させたあとに自分で数えて調整するほうが確実です。
長い会話で「前半を忘れる」のは、仕様です
LLMにはコンテキストウィンドウという上限があります。一度に読み込める量の枠で、会話が長くなるとこの枠に収まらなくなります。
枠を超えると、多くのサービスは古い部分から切り捨てるか、要約に置き換えます。結果として、「最初に伝えた前提を無視した回答が返る」という現象が起きます。
| 症状 | 原因 | 対処 |
|---|---|---|
| 会話の途中から前提を無視し始める | 最初の指示が枠から押し出された | 重要な前提を、都度あらためて書く |
| 長い文書を渡すと精度が落ちる | 枠の中間部分は注意が向きにくい傾向がある | 分割して渡す。重要な指示は文書の最後に置く |
| 同じ話を繰り返してくる | 過去のやり取りが要約に置き換わっている | 新しい会話を開始し、必要な情報だけを整理して渡し直す |
実務上のコツは、会話を長く続けすぎないことです。話題が変わったら新しい会話を始め、必要な前提だけを簡潔に再提示する。このほうが結果的に精度が上がります。
検索を組み合わせると、なぜ誤情報が減るのか
LLMが事実でないことを自信満々に述べる現象(ハルシネーション)は、仕組みから見れば当然です。次に来そうな言葉を選んでいるのであって、事実を照合しているわけではないからです。
これを補う仕組みが、外部から資料を取ってきて、それを読ませたうえで答えさせる方式です(RAGと呼ばれます)。
| 資料なしで答える | 資料を渡して答える | |
|---|---|---|
| 情報の出どころ | 学習時に読んだ内容の記憶 | その場で渡された文書 |
| 最新情報 | 学習時点まで | 渡した資料の時点まで |
| 出典の提示 | できない。それらしいURLを作ってしまうことがある | できる |
| 誤りの起き方 | 存在しない事実を作る | 資料の読み違い、関係ない箇所の引用 |
ただし、資料を渡せば正しくなるわけではありません。渡した資料自体が誤っていれば、そのまま誤った答えが返ります。また、資料に書かれていない部分を「補完」してしまうこともあります。出典リンクが提示されたら、そのリンク先を実際に開いて確認する。これが唯一確実な検証方法です。リンクがあること自体は、内容が正しいことの証明にはなりません。
同じ質問なのに、毎回答えが違う理由
LLMは「次に来る言葉」の候補を確率で持っています。最も確率の高い語だけを選び続けると、文章は単調になり、同じ答えしか返らなくなります。そこで、確率に従ってばらつかせながら選ぶ設計になっています。
| 設定(temperature) | 挙動 | 向いている用途 |
|---|---|---|
| 低い(0に近い) | 最も確率の高い語を選ぶ。毎回ほぼ同じ答え | 要約、分類、翻訳、データ抽出 |
| 中くらい | 適度にばらつく | 一般的な文章作成 |
| 高い | 珍しい語も選ぶ。多様だが破綻しやすい | アイデア出し、創作 |
一般向けのチャット画面では、この設定は直接いじれないことが多いのですが、「ばらつくのは不具合ではなく設計」と知っておくと、結果の受け止め方が変わります。同じ質問を2回して答えが違ったら、どちらが正しいかを自分で確かめる必要がある、というサインです。
LLMが苦手なこと、と代わりに使うもの
仕組み上できないことを頼み続けても、精度は上がりません。向いていない作業は、道具を替えるのが正解です。
| 苦手なこと | 理由 | 代わりに使うもの |
|---|---|---|
| 正確な計算 | 数を計算しているのではなく、それらしい数字を並べている | 表計算ソフト、電卓。または計算ツールを呼び出せる機能 |
| 文字数の厳密な指定 | トークン単位で処理しており、文字を数えていない | 生成後に自分で数えて調整する |
| 最新の出来事 | 学習時点以降を知らない | 検索機能つきの利用、または自分で調べた資料を渡す |
| 存在するかどうかの断定 | もっともらしい名前や書名を作ってしまう | 必ず一次情報で確認する |
| 個人や社内の固有情報 | 学習していない | 資料として渡す。ただし機密情報の扱いに注意 |
| 数値の一貫した集計 | 長い表で行がずれることがある | 表計算ソフトに転記して検算する |
言い換えると、LLMが強いのは「言葉を整える」「発想を広げる」「大量の文章から要点を取り出す」という領域です。ここに使えば、道具として非常に強力です。逆に、正確さが1回で決まる作業を任せると、確認の手間のほうが大きくなります。
仕組みから導かれる限界
次に来る語を確率的に選ぶという仕組みを理解すると、なぜ特定の失敗が起きるのかが説明できます。
| 起きること | 仕組み上の理由 | 使う側の対処 |
|---|---|---|
| 事実でない内容を自信ありげに書く | もっともらしい語の並びを選んでいるだけで、真偽を判定していない | 一次情報で裏を取る |
| 同じ質問で答えが変わる | 確率的に選ぶため | 重要な判断には使わない |
| 計算を間違える | 計算しているのではなく、それらしい数字を並べている | 計算は専用のツールで |
| 最新の出来事を知らない | 学習した時点までの情報しか持たない | 日付を明示して確認する |
| 長い文章で前半を忘れる | 一度に扱える範囲に上限がある | 要点を再度伝える |
| 引用元を作り出す | 出典らしい文字列を生成できてしまう | URLを実際に開いて確認する |
最も注意すべきは最後の項目です。存在しない論文名やURLを、実在するかのように書くことがあります。示された出典は必ず自分で開いて確認してください。
安全な使い方はAIを安全に使うためにに、指示の出し方はプロンプトの書き方のコツにまとめています。
一度に扱える量には上限がある
長いやり取りで話が噛み合わなくなるのは、記憶が消えているのではなく、一度に見られる範囲に上限があるためです。
| 起きること | 理由 | 対処 |
|---|---|---|
| 会話の前半を忘れる | 上限を超えた古い部分が視野から外れる | 要点を再掲する |
| 長い文書の後半しか反映されない | 同上 | 分割して渡す |
| 指示が途中から無視される | 指示が古い位置に流れた | 重要な指示は直前に再度書く |
| 要約が雑になる | 入力が上限に近い | 章ごとに要約してから統合する |
実務上の対処は「重要な指示を最後に置く」ことです。長い資料を貼り付けたあとに指示を書くほうが、指示を先に書くより反映されやすくなります。
会話が長くなったら、新しく始め直すほうが速いことがあります。それまでの要点を自分でまとめて渡せば、噛み合わない状態を引きずらずに済みます。
まとめ
LLMの正体は「超大規模な次の言葉予測マシン」。この一点を理解するだけで、ハルシネーションを警戒し、パターン仕事を任せ、文脈で精度を引き出す――という正しい付き合い方が自然に導かれます。仕組みを知って、AIをもっと自信を持って使いこなしてください。
