ChatGPTはなぜ堂々と嘘をつく？「わかりません」と言わない理由

ChatGPTに聞いたことが、後から調べたら真っ赤な嘘だった。しかも「本当ですか？」と念を押したのに、平然と「はい、事実です」と返してきた——。

先に結論を言います。ChatGPTが嘘をつくのは、性格が悪いからでも、あなたを騙そうとしているからでもありません。あれは「知識を調べる道具」ではなく、「それっぽい文章の続きを作る道具」だからです。 そして「わかりません」と答えないのは、そう答えると損をするような育て方をされてきたからです。これはOpenAI自身が2025年に論文で認めています。

この記事では、AIを使ったことがほとんどない方に向けて、専門用語を使わずに次のことをお話しします。

• ChatGPTの「嘘」は、そもそも嘘とどう違うのか
• なぜ「知りません」と言わずに、堂々と作り話をするのか
• 嘘が生まれる4つのパターンと、実際に起きた事件
• 信用していい質問と、絶対に信用してはいけない質問の見分け方
• 嘘を減らす、今日から使える質問のコツ3つ

読み終わるころには、「ChatGPTは怖い」でも「ChatGPTは万能」でもない、ちょうどいい距離感がつかめるはずです。

ChatGPTは「調べている」のではなく「続きを作っている」

まずここが一番大事なところです。ChatGPTは、質問されたときに辞書やデータベースを調べに行っているわけではありません。 「この言葉のあとには、どんな言葉が続くと自然か」を、ものすごい精度で予測しているだけです。

たとえば「日本の首都は」と入力されたら、その続きとして「東京です」が来るのが圧倒的に自然なので、そう出力します。結果として正解になりますが、ChatGPTは「東京が首都だと知っている」のではなく「東京と続けるのが自然だと判断している」 のです。この違いが、すべての原因です。

だから「もっともらしい嘘」だけが生まれる

自然な続きを作る道具なので、出てくる文章は必ず「もっともらしい形」をしています。ここが厄介なところです。

人間が嘘をつくときは、目が泳いだり、言い方が曖昧になったり、どこかにサインが出ます。しかしChatGPTには、そのサインが一切ありません。正解を答えているときと、完全な作り話をしているときで、文章の自信のありようがまったく同じなのです。

人間の嘘は「隠そうとする」から不自然になります。ChatGPTの嘘は「隠そうとしていない」ので、どこまでも自然なままです。これが、多くの人が引っかかる理由です。

「ハルシネーション」という言葉の意味

この現象には名前がついています。ハルシネーション（＝AIが事実でないことを、事実のように答えてしまう現象のこと）です。日本語では「幻覚」と訳されますが、要するに「AIが自信満々にデタラメを言う現象」と覚えておけば十分です。

専門家がわざわざ「嘘」ではなく「ハルシネーション」と呼び分けるのには理由があります。嘘とは「本当のことを知っていて、あえて違うことを言う」行為です。ChatGPTはそもそも本当のことを「知って」いないので、厳密には嘘をついていない。ただ、受け取る側からすれば結果は同じです。だからこの記事では、あえて「嘘」という言葉のまま話を進めます。

ポイント：ChatGPTは検索エンジンの仲間ではなく、「文章を作る機械」の仲間です。この一点を勘違いしたまま使うと、必ず痛い目を見ます。

では、なぜ知らないなら「知りません」と言ってくれないのでしょうか。ここにこそ、驚くほど人間くさい理由があります。

なぜ「わかりません」と言わないのか

答えは拍子抜けするほど単純です。「わかりません」と答えると、テストの点数が下がるように育てられてきたからです。

これは私の推測ではありません。OpenAI（ChatGPTを作っている会社）とジョージア工科大学の研究チームが、2025年9月に公開した論文「Why Language Models Hallucinate（言語モデルはなぜ幻覚を起こすのか）」で示した見解です。

AIは「白紙で出すより、当てずっぽうで書く」受験生

論文の冒頭には、こんな趣旨のたとえが出てきます。難しい試験問題に直面した学生が、わからないと認める代わりに推測で答えてしまうのと同じことが、AIにも起きている——と。

考えてみれば当たり前の話です。4択問題で、わからないときに白紙で出せば0点が確定します。適当に選べば25%の確率で当たります。「わからない」に部分点がつかないルールのもとでは、当てずっぽうこそが最適な戦略になってしまうのです。

AIの実力を測るテスト（ベンチマークと呼ばれます）の多くが、まさにこのルールでした。正解なら1点、不正解なら0点、「わかりません」も同じく0点。この採点方式でランキングが決まるので、AIを作る側は「とりあえず何か答えるAI」を作るほうが有利になる。論文はこの構造そのものが問題だと指摘しています。

実際、「答えないAI」は損をしていた

同じ研究では、実際のAIモデルを比べた結果も示されています。わからないときに素直に棄権するモデルと、必ず何か答えるモデルを比べると、後者のほうが正答率はわずかに高い。ただし誤答率は約3倍に跳ね上がっていた（2025年9月時点、OpenAI公表の分析）。

つまりこういうことです。

	必ず何か答えるAI	わからないと言うAI
正答率	少しだけ高い	少しだけ低い
間違いの多さ	約3倍	少ない
従来のテストの点数	高い	低い
実務での使いやすさ	低い（毎回検算が必要）	高い

まぐれ当たりの分だけ点数は上がるけれど、外れも激増する。それでも従来の採点方式では「点数の高いほう」が優秀とされてきました。

論文が提案している解決策も、実にシンプルです。間違った答えにはより重いペナルティを課し、「わかりません」と正直に言った場合には部分点を与えるようにテストの採点方法を変えるべきだ、というもの。AIそのものを直すのではなく、AIを評価する物差しのほうを直そう、という提言です。

だから「有料版なら正確」ではない

ここでよくある誤解を潰しておきます。「無料版だから嘘をつくんでしょう、課金すれば正確になるのでは？」という質問です。

答えはノーです。有料版で使える高性能なモデルは、確かに正答率が上がり、嘘の頻度も下がります。しかし仕組みそのものは同じなので、ゼロにはなりません。むしろ性能が上がるほど文章が上手くなり、嘘がより見抜きにくくなるという厄介な側面すらあります。

「賢くなる」と「正直になる」は別の話です。ChatGPTは年々賢くなっていますが、それは「デタラメの精度が上がっている」ことも意味します。

では、その嘘は具体的にどんな形で現れるのでしょうか。

ChatGPTの嘘が生まれる4つのパターン

嘘の出方には、はっきりした型があります。この4つを知っておくだけで、危険信号にかなり気づけるようになります。

パターン	どんな嘘か	危険度
①でっち上げ	存在しない本・法律・判例・論文を作り出す	非常に高い
②時間のズレ	古い情報を、今の情報として答える	高い
③細部のズレ	数字や固有名詞だけが微妙に違う	非常に高い
④迎合	あなたの言い分に合わせて話を作る	中〜高

①存在しないものを、堂々とでっち上げる

一番有名で、一番危険なパターンです。実際に事件になっています。

2023年、アメリカ・ニューヨークの連邦裁判所で、ある弁護士がChatGPTを使って作成した書類を提出しました。ところがそこに引用されていた判例が、実在しないものだったのです。存在しない裁判、間違った裁判官の名前、実在しない航空会社が関わっているかのような記述。担当した弁護士は制裁を受け、5,000ドルの罰金が科されました（2023年6月）。

背筋が寒くなるのは、この弁護士がChatGPTに「これらの判例は本物ですか？」と確認していたことです。ChatGPTの答えは、「はい、すべて事実です」でした。

これが「続きを作る道具」の本質です。 「本物ですか？」と聞かれたら、「はい」と続けるのが自然な流れなので、そう答える。事実確認をしているわけではないのです。

②古い情報を、今の情報として答える

ChatGPTには、学習した情報の締め切り日があります。それ以降に起きたことは知りません。ところが「知らない」とは言わずに、締め切り時点の古い情報を、さも現在の話のように答えてしまうことがあります。

料金プラン、法律の改正、サービスの仕様、会社の担当者。この手の「変わるもの」を聞くときは特に注意が必要です。なお最近のChatGPTはWeb検索機能を持っていますが、検索する場合としない場合があり、どちらで答えたかは画面をよく見ないとわかりません。

③数字や固有名詞だけが、微妙にズレる

個人的に最も怖いと思っているのがこれです。全体の話の流れは完全に正しいのに、金額や年号、人名だけが少しだけ違う。

「〇〇制度の補助率は3分の2、上限450万円です」——制度は実在し、話の筋も合っている。でも上限額だけが違う。全体が正しく見えるぶん、疑う気持ちが働きません。丸ごとのデタラメより、こういう「9割正しい答え」のほうが実害が出やすいのです。

④あなたの言い分に、話を合わせてくる

「これって〇〇ですよね？」と決めつけて質問すると、ChatGPTはその前提に乗ってきます。間違った前提でも、それに合う説明を作ってしまう。質問の仕方そのものが、嘘を誘発しているケースです。

さらに「本当に？間違ってない？」と強く問い詰めると、正しい答えだったのにあっさり撤回して間違った答えに変えることもあります。事実に基づいているのではなく、その場の会話の流れに沿っているだけだからです。

ポイント：ChatGPTに「本当ですか？」と聞いても、事実確認にはなりません。確認は必ずChatGPTの外で行ってください。

パターンがわかったところで、次は実践編です。どんな質問なら安心して使えるのでしょうか。

信用していい場面・してはいけない場面

見分け方には、たった一つの基準があります。「その答えが正しいかどうか、自分で確かめられるか」 です。

確かめられるなら使ってよい。確かめられないなら使ってはいけない。それだけです。

用途	信用度	理由
文章の下書き・言い換え	高い	読めば良し悪しが自分で判断できる
要約・要点整理（材料を渡した場合）	高い	元の文と見比べられる
アイデア出し・壁打ち	高い	正解が存在しないので嘘になりようがない
翻訳	中〜高	ニュアンスのズレは残る
メールや文章の添削	高い	結果を自分の目で確認できる
一般常識の確認	中	有名な話ほど正確、マイナーなほど危険
法律・制度・税金	低い	でっち上げの温床。必ず一次情報で確認
具体的な数字・統計	低い	③のズレが起きやすい
人名・会社の実績・経歴	非常に低い	平気で作り話をする
医療・健康の判断	使わない	取り返しがつかない

「答えが1つに決まる質問」ほど危ない、という逆説

多くの人が逆に考えています。「創作させるのは不安だけど、事実を聞くだけなら安全だろう」と。実際は真逆です。

アイデア出しや文章の言い換えには「正解」がありません。だから嘘が生まれる余地もない。一方、「この制度の上限額は？」のように答えが1つに決まる質問は、外れたら明確に間違いです。しかもChatGPTは、その1つを「知っている」わけではなく「それっぽく続けている」だけ。

ChatGPTが本当に得意なのは、正解のない仕事です。 正解のある仕事を任せるときこそ、人間の検算が要ります。

特に危ないのは「自分の専門外」の質問

これは実務でも繰り返し目にしてきたことですが、自分が詳しい分野なら、ChatGPTの嘘には意外とすぐ気づきます。 「あれ、それは違うぞ」という違和感が働くからです。

危険なのは、詳しくない分野。知らないからこそ聞いているわけで、返ってきた答えの真偽を判断する材料が手元にありません。知らないことを聞くときこそ、ChatGPTは最も危険になる——この逆説を頭に入れておいてください。

では最後に、嘘そのものを減らす方法をお伝えします。

嘘を減らす質問のコツ3つ

完全にゼロにはできません。しかし、質問のしかたを変えるだけで、嘘の頻度は目に見えて減ります。

コツ1：「わからないときは、わからないと書いて」と先に伝える

一番簡単で、一番効きます。質問の最後にこの一文を足すだけです。

確実でない情報は書かないでください。わからない場合は「わかりません」と正直に書いてください。推測で答える場合は「推測ですが」と明記してください。

「わからないと答えると損をする」ように育てられていると書きました。だったら、こちらから「わからないと答えていい」と許可を出せばいいわけです。これだけで、平然とでっち上げてくる確率がぐっと下がります。

コツ2：材料を自分で渡す

ChatGPTの記憶に頼らせるのをやめて、こちらから資料を貼り付ける。 これが最強の対策です。

「〇〇制度について教えて」ではなく、公式サイトの説明文をコピーして貼り付け、「この文章の要点を3つに整理して」と頼む。こうすると、ChatGPTの仕事は「思い出す」ではなく「目の前の文章を整理する」に変わります。手元にある材料を加工させるぶんには、嘘の入る余地がほとんどありません。

PDFやファイルを読み込ませられる機能があるなら、それを使うのも同じ効果があります。

コツ3：出典を聞く。ただし、出典も疑う

「その情報の出典を教えてください」と聞くのは有効です。ただし大きな落とし穴があります。出典そのものをでっち上げることがあるのです。

存在しない本のタイトル、実在しないURL、それらしい論文名。冒頭の弁護士の事件がまさにこれでした。ですから、出典を聞いたら、その出典を自分で検索して実在を確認するまでがセットです。手間に思えますが、これをやるかやらないかで信頼性はまるで変わります。

ビフォー・アフターで見る

同じことを聞くにも、これだけ違います。

	危ない聞き方	安全な聞き方
例	「補助金の上限額を教えて」	「この公募要領（貼り付け）から、上限額と補助率を抜き出して」
例	「これって〇〇ですよね？」	「〇〇だと考えていますが、この理解は正しいですか。違う場合は指摘してください」
例	「〇〇社の実績を教えて」	「〇〇社の公式サイトの文章（貼り付け）を要約して」

私たちがAI導入のご支援に入る際も、社内ルールの一番最初に置くのは「事実確認が必要な用途では、必ず材料を渡す・出典を検算する」という運用の型づくりです。ツールを配るより、こうした使い方の型を先に決めるほうが、事故はずっと減ります。もっと基礎から知りたい方は、AI伴走支援の詳細もご覧ください。

よくある勘違いQ&A

最後に、この話をすると必ず出てくる疑問にまとめてお答えします。

Q. 最近、前より嘘が増えた気がするのですが

A. 実際に増えているというより、あなたの使い方が深くなった可能性が高いです。 簡単な質問から、専門的で細かい質問へと移ると、当然デタラメに当たる確率は上がります。ただしモデルの更新で得意分野が変わることは実際にあるので、体感が完全な気のせいとも言い切れません。

Q. 「嘘をつかないで」と強く言えば直りますか

A. 一時的には効きますが、根本的には直りません。 コツ1のように「わからないと言っていい」と許可を出すほうが、責めるより効果があります。感情的に問い詰めると、むしろ④の迎合を招いて正しい答えまで撤回されることがあります。

Q. 他のAIなら嘘をつかないのですか

A. どのAIも同じ仕組みなので、程度の差はあれ同様に起こります。 GeminiもClaudeもCopilotも例外ではありません。Web検索と組み合わせるタイプは出典が確認しやすいぶん検算はしやすいですが、「検索結果の読み違え」という別の間違いが起きます。「このAIなら安全」は存在しないと考えてください。

Q. 嘘をつくなら、使わないほうがいいのでは？

A. それは「電卓は打ち間違えるから使わない」と言うのに近い話です。 適した仕事に使えば圧倒的に速い。向かない仕事に使うと事故る。それだけのことです。この記事の信用度の表を、手元のメモに置いておくくらいの気持ちで十分です。

Q. 有料版にすれば安心して任せられますか

A. 精度は上がりますが、検算が不要になるわけではありません。 むしろ文章が上手くなるぶん、嘘に気づきにくくなる面があります。「賢いAIほど、上手に間違える」と覚えておいてください。

まとめ

長くなったので、大事なところだけ3つに絞ります。

1. ChatGPTは調べているのではなく、それっぽい続きを作っている。 だから正解のときとデタラメのときで、文章の自信のありようが同じです。
2. 「わからない」と言わないのは、そう答えると損をする育て方をされてきたから。 OpenAI自身が2025年9月の論文でそう認め、テストの採点方法を変えるべきだと提言しています。
3. 判断基準は「自分で検算できるか」の一点。 正解のない仕事（下書き・整理・アイデア出し）は得意、正解のある仕事（数字・制度・人名）は要検算です。

そして今日からできる一番簡単な一手は、質問の最後に「わからない場合は、わからないと書いてください」と付け足すこと。たった一行で、体感が変わります。

ChatGPTは、疑いながら使えばとても優秀な相棒です。信じ切って使うと、いつか足をすくわれます。ちょうどいい距離感は、「よく知らない分野にやたら詳しそうに話す、話し上手な知人」くらいだと思ってください。

自社での使い方やルールづくりで迷っている方は、お気軽にご相談ください。