あなたは本当にAIの嘘を見抜けるか？
訴訟された僕が語るAIとの付き合い方
AIの回答を鵜呑みにしてる人って正直かなり多い。
ていうか今年も残り後半折り返しですが、今が最もハルシネーション祭りでは？と僕は視ています。
なぜなら、AIに触れる人が爆発的に増えたからです。
AIに触れる人が増えたということは、そのぶんハルシネーションに振り回される人も同じ数増えるということです。
念のため、ハルシネーションを簡単に説明すると「AIの嘘」です。
例えばChatgptに「日本の首相」は？と聞くと「高市早苗」ですよね？
これがAIの回答でハルシネーションが混在し「安倍晋三」と答えてしまうということです。
ハルシネーション？んなもんアホでもわかるわ！
絶対自分は引っかからないと思い込んでいる人ほど要注意です。
知ってることとできてることは、全く別の話ですから。
以前記事にも書きましたが僕は3年前、僕自身がChatGPTの出力をファクトチェックせずに成果物をクライアントへ提出して訴訟を起こされた経験があります。起案段階でAIの出力をそのまま成果物に使い、数字も出典も検証しませんでした。
結果、クライアントから法的措置を取られるところまで発展しました。
詳しく見たい人は下記からチェックしてください↓
「AIが出した答えだから、まず間違いないだろう」
当時の油断が招いた結末ですが、実際に経験したからこそ骨身に染みてます。訴訟だけじゃなく、生成AIを正しく学ばないまま仕事に投入してクライアントとの関係が完全に壊れた経験もあるんです。
今日は過去の経験を踏まえて、AIの「もっともらしい嘘」ことハルシネーションについて、そして見抜く術を皆さんに共有していこうと思うので、まだ購読されていない方はこの機会にぜひ購読ボタンのスマッシュもよろしくお願いします🔥
AIはなぜ「自信満々の嘘」をつくのか
Siriと同じ感覚でChatGPTを使うのは、諸刃の剣です。
Siriは検索エンジンと連携して既存の情報を引っ張ってきますが、ChatGPTは確率的に次の言葉を生成するという全く別の仕組みで動いてます。仕組みが違う以上、扱い方も当然違います。
ChatGPTのような生成AIは、膨大なテキストデータを学習して次に来そうな言葉を確率的に選び続けて文章を作ってます。事実かどうかを調べて答えてるんじゃなく、統計的に正しそうな文を組み立ててるだけなんですよね。つまり事実を検索して返してるわけじゃなく、確率の計算をしてるだけです。だからこそ、自信満々に嘘をつくという事態が起きます。
AIは基本的に「わかりません」と言いたがらない傾向があります。学習データの中から、もっともらしい答えを作り上げる。正しいかどうかより、文として自然かどうかが優先されてしまうんですよね。
特に厄介なのが、権威付けを使う嘘です。
「ハーバード大学の研究によると」とか「厚生労働省が発表した最新データでは」という形で出てくる情報が、実際には存在しないケースが非常に多いです。権威的な情報源が出てきたときほど、疑ってかかる必要があります。
2026年7月現在だとハルシネーションはベンチマークによってかなり数字が変わるんですが、要約タスクのように答える範囲が限定されてるテストだと、上位モデルは2%を切るところまで来てます。一方で幅広い知識を問うオープンドメインの質問だと、同じ世代のモデルでも16%から30%を超える結果が出ることもあります。
「最新モデルだから大丈夫」は、危険な思い込みってことをお忘れなく。
タスクが重くなるほど、ハルシネーションは発生しやすくなりますし、シンプルな質問より複雑なリサーチとか長文生成とか多段階の推論を頼んだとき、AIは知らない部分を補完しようとして嘘をつく頻度が上がります。仕事の成果物や公開コンテンツに生成AIを使うなら、出力をそのまま通すのは怠慢です。
AIの嘘が特に出やすい質問のパターン
AIがハルシネーションを起こしやすい質問のパターンを覚えておくと、
リスクを事前に察知できるんで、このテクも覚えておいて損はしません！
まず数字や統計を聞いたときです。日本のGDPとか〇〇の市場規模とか、数字を聞く質問は特にリスクが高いです。AIは数字を間違えることがかなり多く、実際の数値とまったく違う数字を自信満々で出してきます。統計や数値は必ず一次ソースで確認してください。
次に、方法や手順を聞いたときです。ステップが架空だったり、存在しないツールの操作手順を堂々と説明するケースがあります。特にソフトウェアの操作手順は、バージョンが変わってることも多いので二重の危険があると覚えておいてください。
最近のニュースや出来事を聞いたときも危ないです。学習データのカットオフ以降の情報を、もっともらしいニュースとして創作してしまうことがあります。「2026年に〇〇が起きた」という文章を堂々と生成することがあるので、注意が必要です。生成AIが登場して以来、ずっと続いてる問題ですね。
出典や論文を求めたときも要注意です。存在しない論文名や著者名やURLを、実在するかのように提示するケースが特に多いです。学術情報をAIで調べる行為は、裏取りなしだと致命的なリスクを伴います。2023年には米国の弁護士が架空の判例をChatGPTで作成して法廷に提出し、制裁を受けた事例が起きました。まさにハルシネーションの末路そのものです。
最後プロや専門家の発言や権威ある事例を求めたときです。
「〇〇博士が論文で証明した」「〇〇大学の研究では」という形で、架空の人物や研究を提示することがありますが、権威的な情報源が出てくるほど、もっともらしい嘘になるのでジャッジが難しいところです。
AI丸出しの文章にもサインがある
事実の嘘だけじゃなく、文章そのものにもAIが書いた丸出しのサインがあります。
実際の見本を使って、3つ紹介します↓
1つ目はアスタリスクの多用です。
AIが書いた文章だとこういう文章になりがちです。
「AIを活用する際は、ファクトチェックを怠らないことが非常に重要です。特に数字や統計については、必ず一次情報源で確認するようにしましょう。」
アスタリスクで単語を区切って強調する書き方は、会話や思考の流れじゃなく箇条書きの延長線上で生まれる書き方です。
人が普段の会話で単語ごとに区切って強調することはまずありませんよね？
2つ目は定型的な導入と締めです。
AIが書くパターン↓
「本記事では、AIのハルシネーションについて解説していきます。まず一つ目のポイントからご紹介します。いかがでしたでしょうか。ぜひ参考にしてみてください。」
「本記事では」「〇つ目のポイント」「いかがでしたでしょうか」という三点セットは、AI特有のテンプレートです。
実際に自分の頭で考えて書いてる人は、機械的な入り方と締め方をまずしません。
3つ目は断定を避ける丁寧すぎる言い回しです。
AIが書くと逃げ道だらけの文章↓
「AIの回答をそのまま信じることについては、リスクがある可能性が高いと考えられます。可能であれば、複数の情報源で確認することをおすすめします。」
「〜可能性が高いと考えられます」「〜することをおすすめします」のような断定を避けて逃げ道を作る言い回しは、AIが責任を取りたがらないから生まれる文体です。人はもっと踏み込んで言い切ります。
この3つのサインを覚えておくだけでもAIが生成した文章とプロが書いた文章の見分け方はかなり変わってくるはずなんで絶対に記憶しておきましょう！
AIの嘘を見抜く確認術
実際に訴訟を経験して、クライアントとの信頼を失ってから辿り着いた僕なりの確認術を紹介します。
1つ目は出典のURLを必ず聞くことです。AIが情報を出してきたら、出典のURLを教えてくださいと続けて聞きます。本
当に存在する情報なら、有効なURLがちゃんと出てくるはずですし、ハルシネーションの場合はURLが存在しなかったり、アクセスしても無関係のページが出てきたりします。
2つ目は同じ質問を言い方を変えて2回することです。「〇〇について教えて」と聞いた後、「〇〇は本当に存在しますか、根拠を教えてください」と別の角度から聞き直します。
これがハルシネーションの場合だと1回目と2回目で矛盾した回答が返ってくることが多い。
3つ目は数字や固有名詞を必ずダブルチェックすることです。日付、統計、人名、企業名、論文名みたいな固有情報は、必ず別のソースで裏を取ってください。
AIは年号と人物名と出来事をもっともらしく組み合わせるのが得意なので、パーツごとは正しくても組み合わせが間違ってるケースがあります。
4つ目は「自信度を10点満点で教えて」と聞くこと。
情報を出してもらった後に、自分の回答の自信度を10点満点で教えてください。
7点以下ならどこが不確かか教えてください、と追加で聞いてください。
精度の高いAIは自己評価が比較的正確で不確かな部分を正直に教えてくれます。
5つ目は、「わからない場合は正直に言って」と質問の最初に指示することです。
わからない場合や不確かな場合は正直に分かりませんと答えてくださいという一文を加えるだけで、ハルシネーションの発生率は結構下がります。
AIは指示がないと何かしら答えを出そうとする傾向がありますからね！
6つ目は検索特化型AIで裏取りすることです。Perplexityみたいな検索連動型AIで同じ質問をしてみてください。
リアルタイムで検索した結果をもとに回答するので、
純粋な生成AIより出典の信頼性が高いです。
ラスト7つ目は別のAIに検証させることです。仕事の資料やクライアント向けの文章は、1つのAIで作った後に別のAIへ「内容に誤りがないか確認して」と投げます。
別のAIが違う指摘をした箇所は僕らが直接調べるべきポイントです。
コピペで使えるAI嘘チェックの3ステップ
ここまで読んでくれたあなたのために、
最後は実際に使えるプロンプトを3つ紹介します。
セットで使うとハルシネーションのリスクがかなり下がるんでフル活用してみてください！
質問する前には、次のプロンプトを貼ります。
「回答する際は不明・不確かな情報については正直に分かりませんと伝えてください。数字や統計には必ず出典を明記してください」
回答をもらった後には、追加でプロンプトを貼ってください。
「上記の回答で不確かな点や検証が必要な点を教えてください。自信度が低い情報はどれですか」
出典を確認したいときは、最後に次を貼ります。
「回答に含まれる数字・固有名詞・出来事について、確認できる公式URLを提示してください。URLが存在しない場合は、存在しないとはっきり書いてください」
慣れてきたら、1つ目のプロンプトを毎回の冒頭に貼るだけでもAIの回答精度は体感でかなり変わってくるんでぜひトライしてみてください🔥
ファクトチェックを習慣にしないと「信用」を失う
結論、ハルシネーションがあるという知識だけ持ってる人は多いですが、毎回実際に確認できてる人は、肌感ですがかなり少ないです。
2023年から2025年にかけて、アメリカではAIが生成した架空の判例を法廷に提出した弁護士が制裁を受けた事例が複数起きてますし、僕が過去に経験した訴訟も、AIへの過信と検証をサボったことが招いた結末でした。
生成AIはツールとして優秀ですが、ファクトチェックのプロセスを省くのは職業的な怠慢と同じです。
AIを使いこなす人間と、AIに使われる人間の差は一次情報への執着だと僕は思ってます。
面倒でも確認する、分からなければ調べる、AIを言い訳に使わない。
最低限この3つは徹底してやりましょうねってハナシ。
ちなみに僕は549日間、AIハック書き起こしをnoteでほぼ毎日更新しています。
約5年にわたり培ったAIスキルやクライアントワークや講師業で得た生の知見を誰でもわかりやすく載せているので、先ずはAIをライト学んでいきたい方にはオススメなのでぜひリテラシーを高めてください🐈