今さら聞けない生成AIの仕組み｜LLM・回答生成・ハルシネーションをやさしく解説

「生成AIは、どうしてあんなに自然な文章を返せるのか」

ChatGPTやGemini、Claudeのような生成AIを使う人は増えました。一方で、仕組みが見えないまま使っていると、「本当に信用していいのか」「なぜ間違えるのか」がわかりにくいものです。

結論から言うと、生成AIは正解を頭の中に持っていて、それをそのまま取り出しているわけではありません。

入力された文章を細かく分け、文脈を読み取り、次に続く言葉を一つずつ予測しながら回答を組み立てています。だから自然な文章を作れる一方で、もっともらしい誤情報も作ってしまうことがあります。これが「ハルシネーション」と呼ばれる現象です。

この記事では、生成AIの基本であるLLMとは何か、回答が作られる流れ、ハルシネーションが起こる理由、そして仕事で使うときの対策を、非エンジニアの方にもわかるように整理します。

---

生成AIとは、文章や画像を「作る」AI

生成AIとは、文章、画像、音声、動画、コードなどを新しく作るAIの総称です。

従来のAIは、どちらかといえば「分類する」「予測する」「異常を見つける」といった用途が中心でした。たとえば、迷惑メールを判定する、売上を予測する、不正な取引を検知する、といった使い方です。

生成AIはそこから一歩進んで、次のような作業ができます。

• メールやブログ記事の下書きを作る
• 会議メモを要約する
• 表の内容から説明文を作る
• 画像や図解の案を作る
• プログラムのコードを書く

つまり生成AIは、「人間が使う言葉や表現を、コンピューターが組み立てる技術」です。

なかでも、ChatGPTのような文章を扱う生成AIの中心にあるのが、LLMです。

LLMとは何か

LLMは「Large Language Model」の略で、日本語では大規模言語モデルと呼ばれます。

難しく聞こえますが、ざっくり言えば、LLMは大量の文章から言葉の使われ方を学習したAIです。

人間が本を読み、会話を聞き、仕事の経験を積みながら「この場面ではこう言うと自然だ」と覚えていくように、LLMは膨大なテキストから言葉のつながり方を学びます。

ただし、人間のように意味を体験して理解しているわけではありません。LLMが得意なのは、文脈の中で「次にどんな言葉が続くと自然か」を計算することです。

ここで大事なのは、LLMは「検索エンジンそのもの」ではないという点です。

Web検索機能や社内データ検索機能がついているAIもありますが、LLM単体の基本動作は、検索結果をそのまま読むことではありません。文脈から回答を生成することです。

生成AIが回答を作る流れ

生成AIの回答は、おおまかに次の流れで作られます。

1. 入力文を受け取る

まず、ユーザーが質問や依頼文を入力します。

たとえば、「生成AIの仕組みを初心者向けに説明して」と入力したとします。この文章が、AIにとっての出発点です。

2. 文章をトークンに分ける

次に、入力された文章は「トークン」と呼ばれる小さな単位に分けられます。

トークンは、単語そのものの場合もあれば、単語の一部や記号の場合もあります。AIは人間の文章をそのまま読んでいるのではなく、いったん処理しやすい部品に分けて扱っています。

3. 文脈を読み取る

AIは、入力されたトークン同士の関係を見ます。

「生成AI」「初心者向け」「説明」という言葉があるなら、技術者向けの細かい数式ではなく、わかりやすい解説が求められていると判断します。

この文脈を読む仕組みに大きく関係しているのが、Transformerと呼ばれる技術です。Transformerは、文章の中でどの言葉がどの言葉と強く関係しているかを見つけるための仕組みです。

4. 次の言葉を予測する

LLMは、回答全体を一気に完成させるのではありません。

「次に来る言葉は何が自然か」を一つずつ予測し、その結果をつなげて文章にしていきます。

たとえば、「生成AIは、文章や画像を」という文脈があれば、次に「作る」「生成する」「出力する」といった言葉が候補になります。その中から、文脈に合う言葉を選びます。

5. 回答として整える

この予測を何度も繰り返すことで、文章、箇条書き、表、コードなどの形に整えられます。

つまり、生成AIの回答は「文脈を読んで、自然な続きを何度も選び続けた結果」です。

だから生成AIは「それっぽい文章」が得意

生成AIがすごく見える理由は、言葉のつながり方を非常によく学習しているからです。

メール文、議事録、ブログ記事、提案書、FAQ、コードなどには、それぞれよくある型があります。LLMはその型を学んでいるため、人間が読むと自然に見える文章を作れます。

たとえば、次のような作業は得意です。

得意な作業	理由
文章の下書き	文章構成や表現パターンを学習しているため
要約	重要そうな文脈を抜き出して短くまとめられるため
言い換え	同じ意味を別の表現に変えるパターンを持っているため
アイデア出し	関連する言葉や事例を広げるのが得意なため
コード生成	プログラムにも決まった構文や型があるため

一方で、「自然に見える文章」と「事実として正しい文章」は同じではありません。

ここを混同すると、生成AIのリスクを見落とします。

ハルシネーションとは何か

ハルシネーションとは、生成AIが事実ではない内容を、もっともらしく回答してしまう現象です。

たとえば、次のようなものです。

• 存在しない法律名や判例を作る
• 実在しない論文や出典を示す
• 会社名やサービス内容を間違える
• 古い情報を現在の情報のように説明する
• 数字や料金を自信ありげに誤る

ここで怖いのは、文章が不自然ならすぐ気づけますが、ハルシネーションは文章としてはきれいに見えることです。

「言い方が自然だから正しい」と判断してしまうと、誤情報をそのまま使ってしまう可能性があります。

なぜハルシネーションが起こるのか

ハルシネーションは、単なる不具合ではありません。LLMの基本的な仕組みと深く関係しています。

原因1. 正解を確認してから話しているわけではない

LLMは、基本的には文脈から次の言葉を予測して回答します。

そのため、手元に確かな情報がない場合でも、「この文脈ならこう続くと自然だ」と判断して文章を作ってしまうことがあります。

これは、事実確認をした結果ではなく、言葉の自然さをもとにした出力です。

原因2. 情報が足りないと推測で補う

質問があいまいな場合、AIは不足している情報を推測で補います。

「この会社の最新料金を教えて」のように聞いた場合、その会社名、地域、プラン、時点が不足していると、AIはそれらを補って回答してしまうことがあります。

人間なら「どのプランですか？」と聞き返す場面でも、AIは回答を優先してしまうことがあります。

原因3. 学習時点より後の情報は知らないことがある

AIモデルには、学習に使われた情報の範囲があります。

検索機能や外部データ連携がない場合、最新の料金、制度変更、サービス仕様、法律改正などを正確に知らない可能性があります。

原因4. 「わかりません」より回答が評価されやすい

AIの学習や評価の仕組みによっては、「わからない」と控えめに答えるより、何かしら回答したほうが評価されやすい場面があります。

OpenAIも、標準的な評価方法が「不確実さを認めること」より「推測して答えること」を促してしまう問題を指摘しています。

つまり、ハルシネーションは「AIが嘘をつこうとしている」のではなく、自然な回答を作る仕組みが、事実確認より前に動いてしまうことで起こります。

生成AIを仕事で使うときの安全な考え方

生成AIは危ないから使わない、という結論ではありません。

大事なのは、得意なことと苦手なことを分けて使うことです。

対策1. 出典を確認する

事実に関わる内容は、必ず公式サイト、一次情報、公的資料などで確認します。

特に、料金、制度、法律、医療、採用条件、補助金、契約に関わる内容は、AIの回答だけで判断しないでください。

対策2. 指示を具体的にする

あいまいな質問ほど、AIは推測で補いやすくなります。

悪い例：

この制度について教えて

よい例：

2026年6月時点の日本の中小企業向け制度について、公式情報を優先して、わからない点は「不明」と書いてください。

「時点」「対象」「地域」「出典の優先順位」「不明な場合の扱い」を入れるだけで、誤回答のリスクは下げられます。

対策3. 「わからない場合は不明と書いて」と伝える

AIには、最初から次のように指示しておくと安全です。

これでも完全に防げるわけではありませんが、AIに「自信がないときは止まる」方向を促せます。

対策4. 重要な業務は人が最終確認する

生成AIは、仕事の速度を上げる道具です。

しかし、責任までAIに移せるわけではありません。公開する文章、顧客に送る提案、医療・法律・お金に関わる判断は、人間が最終確認する必要があります。

Pharmapiaでも、AIは下書きや整理に使えますが、外に出す文章は人のチェックを通してから使う前提で考えています。

生成AIを理解すると、怖さより使いどころが見える

生成AIは、人間のように「真実を理解して話している」わけではありません。

入力をトークンに分け、文脈を読み、次に自然な言葉を予測しながら回答を組み立てています。

だからこそ、下書き、要約、アイデア出し、言い換え、資料整理には強い。一方で、最新情報、数字、法律、医療、契約、出典確認は苦手です。

この仕組みを知っておくと、生成AIを過信せず、必要以上に怖がらずに使えます。

AIの使い方や導入で迷ったら、Pharmapiaにご相談ください

Pharmapiaでは、医療・福祉・中小企業向けに、無理のないAI活用や業務改善の相談を行っています。

「ChatGPTを入れたけれど現場で使い切れていない」「社内で安全に使うルールを作りたい」「自社のどの業務にAIを使えるか整理したい」という段階からご相談いただけます。

薬剤師としての現場経験と、Web・IT支援の視点を組み合わせ、現場の実態に合ったAI導入を一緒に設計します。

参考情報

この記事は、2026年6月時点の公開情報をもとに作成しています。生成AIの仕様や各社サービスは変わるため、実務で使う場合は最新の公式情報を確認してください。

• OpenAI「Why language models hallucinate」
• IBM「What Are Large Language Models (LLMs)?」
• IBM「What are AI hallucinations?」
• AWS「What is LLM?」
• Google for Developers「LLMs: What's a large language model?」