AI時代の落とし穴｜真実or嘘を見極める3つの方法

AIが大好きな私ですが、先日、検索に特化をしたAIのPerplexity（パープレキシティ）の新機能を試そうと使っていた時のことです。その後の自分の行動も含め、なんだか恐ろしいAI &SNS社会を感じました。

それと同時に、これからどのようなスキルが必要なのか（「AI活用スキル」よりもっと具体的なもの）を考えたので、今日はそれについてお話をします。

『SNS上で反応されやすい感情ワード』を調べていたときのことです。

その答えと一緒に、
・「日清食品は共感・親しみやすさを中心とした感情ワードを用いたSNSコミュニケーションにより、投稿エンゲージメント率を150%向上させました」
・「マクドナルドのクイズ形式のツイートは楽しさ・わくわく感を刺激し、フォロワー数30%増加という成果を上げています」
という調査が上がってきました。
（※ここから日清食品様、マクドナルド様の社名を記事の便宜上、敬称略でそのまま使わせていただきます。）

プレゼンテーションにも使える具体的な数字と、しっかりとした引用源まで付いていて、
私は「なんて便利なんだろう！」と感動したのです。

でも、実際に引用元を確認してみると…
❌ 日清食品の投稿エンゲージメント率150%向上
❌ マクドナルドのフォロワー数30%増加

どちらも公式からは事実としての記載はありませんでした。

「あれ？」と違和感があった私は、さらにGoogleで
『日清食品　投稿　150%向上』
『日清食品　投稿エンゲージメント　150%』
『日清　SNS エンゲージメント　150』など、それはいろいろ検索し、マクドナルドも同様にキーワードを入れたのですが、出てこないのです。

この「もっともらしい嘘＝ハルシネーション」は2023年にだいぶ問題になったものの、2024年には大幅に良くなりました。

さらに引用元まで出してくれるものは（少なくとも私は）
「引用先に正しい情報がある」ということを何度も何度も見てきたので、気が付いたら、
「引用元があるものは間違っているわけがない」と疑わないようになっていたのです。

もちろん、以前はハルシネーションがあったことは体験しているにも関わらず
「進化しているんだから、かつての問題が起こらないだろう」
と開発について何も詳しくないのに過信していました。

今回は新しい機能だからこそ、細かくリサーチをしたので、すぐにハルシネーションだと気が付くことができました。
そしてこのリサーチを人に伝えるという役目があったからこそ、
さらに細かく調査をして数字の正確な事実がないと発覚しました。

ですが、例えば私のX（旧Twitter）がものすごい影響力があり、
無意識につぶやいたことがすぐに100万人、1,000万人に拡散されてしまったら…
と思うと、とんでもないことですよね。

今回の、結果としてAIのハルシネーション（もっともらしい嘘）だった
・「日清食品は共感・親しみやすさを中心とした感情ワードを用いたSNSコミュニケーションにより、投稿エンゲージメント率を150%向上させました」
・「マクドナルドのクイズ形式のツイートは楽しさ・わくわく感を刺激し、フォロワー数30%増加という成果を上げています」

はもし私に影響力があったとしても、そんなにリツイートはされるような話ではないと思いますし、
そんな影響力もないのですが・・と自分で自分に突っ込んだ後にハッとします。

「そんな影響力もない」さえも通用しない時代

ここ近年のSNSはTikTokが「誰にでも今日からインフルエンサーになるチャンス」を与えてくれました。
→正しくは「インフルエンサー」よりも「クリエイター」という名称になってきています。

そして私自身も日々InstagramにX（旧Twitter）に、TikTokに、Threadsにと
いろいろなSNSをお仕事の関係で見るのですが、特に最近Threadsでは毎日のように
「朝、起きてびっくりしました！まさかこんなにたくさんの人にリアクションをいただけるとは」
という投稿を目にします。

その多くはほっこりするお話なので、むしろ温かい拡散なのですが、たまに刺々しいものもあるのが事実です。
（いや、X（旧Twitter）だと「たまに」ではないかも？）

今回のように、企業のエンゲージメントが…という話に興味がある人は一部なので、
発信者の影響力に関わらず、そんなに多くの人が反応をする話ではないと思います。

でも、フォロワーさんが数十人でも、バズが起こっている時代。

何万人、何十万人とフォロワーさんがいる人でしたら、
自分の発言に責任を持ち、事実を調べてから発信するかもしれませんが、
「数十人しかいないから誰も見ていないよね」という心理で
事実を知ろうとせず、友達や家族にボヤく気持ちで気軽に書いたことが、
何百万人にも見られる・・ということだって起きるようになってしまいました。

そうすると、何が事実かわからなくなってしまいますよね。
かと言って、みんながみんな、SNSと本気で向き合う必要はないですし、
自分の思ったことを〝気軽につぶやく、あるいはぼやける心地よさ〟があります。

「全部真実を調べて一言、一言に責任を！」なんて現実的ではありません。
万が一、そんな風に発言へのルールが変わったら窮屈です。

でも
１、AIが出した答えを真実だと思ってSNSで投稿
↓
２、本人は悪気もなく、「大して見られないし」と身内に話す感覚で書いたのに予想外に拡散される
↓
３、実はその情報は真実ではなかったけれど、〝なんとなく〟見ている人たちは何回も流れる情報（正しくは誤情報）が本当だと思い込んでしまう
↓
４、嘘が一人歩き&拡散され続ける

というのがすでに芸能人などの噂や政治家関係でも起こっていますよね。
今までも２から４はありましたが、１のステップが多くの人に増えたことによって、

より情報が入り乱れる社会になっているし、これからももっとなるのだろうと思いました。

こうして、気軽な投稿が瞬く間に拡散され、
事実かどうかの確認が追いつかないまま、印象だけがひとり歩きしてしまう現代。
そこに、さらに拍車をかけているのが——AIが生み出す「説得力のある嘘」なのです。

AIが生み出す「説得力のある嘘」の正体

この体験を通して気づいたのは、AIが生成する情報には「もっともらしい嘘」が含まれる可能性があるということです。
特に危険なのは、以下のような要素が組み合わさった情報です。

・具体的な数値（150%、30%など）
・有名企業の事例
・それらしい引用元や記事タイトル

これらは本当にありそうに見えるけれど、事実確認をすると存在しないことがあります。

なぜなら、AIは時に既存の記事の複数の断片を組み合わせて「ありそうなストーリー」を作ってしまうからです。
これは人間でいえば「記憶違い」に近い現象なのです。

AIの情報に対し、真実を見極める3つの方法

では、どうすれば信頼できる情報を見分けることができるのでしょうか。
私が提案したいのは、この3段階チェック法です。

方法1：出典URLの確認

まず確認すべきは「出典にURLがあるか」です。
URLがない情報は、まず疑ってかかりましょう。特に数値データや具体的な成果については、必ず一次情報の確認が必要です。

方法2：内容の一致確認

URLがある場合でも、安心してはいけません。
「URLの内容と、AIが出した情報が一致するか」を必ず確認してください。数値や事実がちゃんと明記されているかどうかが重要なポイントです。
私の場合、日清食品の投稿エンゲージメントについての記事（2014年や2015年）は存在しましたが、150%という具体的な数値の記載はありませんでした。

方法3：情報源の信頼度判定

情報源によって、信頼度は大きく変わります。

・最も信頼できる 自社Webサイト、プレスリリース（PR Timesなど）
・中程度の信頼性 業界メディア（MarkeZine、AdverTimesなど）
・注意が必要 SNS上の投稿（X、Instagramなど）

AI時代に求められる新しいリテラシー

「この世の情報で何が真実で何が嘘かを見極めるのは非常に難しい」
これは確かにその通りです。
しかし、だからこそ大切なのは「調べる力」より「問い直す力」なのです。

AIが生成する情報に対して「これって本当に事実なの？」と立ち止まって検証する姿勢こそが、
これからのAI時代におけるリテラシーの中心になります。
感情を揺さぶる情報ほど、冷静に立ち止まることが必要です。

上手にAIと付き合うために

AIを敵視する必要はありません。
大切なのは、AI時代の信頼性とは「出典と根拠をセットで示す力」だと理解することです。
私たちがすべきことは、AIが提供する便利さを享受しながらも、常に批判的思考を働かせること。
そして、もし疑わしい情報に出会ったら、その情報は「仮説」や「印象」として扱い、必要に応じて追加の確認を行うことです。

まとめ

AI時代だからこそ、私たちには新しいリテラシーが求められています。
それは、情報の真偽を見極める力です。今回ご紹介した3つの方法を実践することで、あなたもAI時代の情報の波に飲まれることなく、確かな情報を手に入れることができるはずです。

私はこれからもAI時代に、人とAIがいい形で共存できる方法をお伝えしていきたいと思いました。
本日もご一読をありがとうございました。

上村菜穂　プロフィール

株式会社PR NET 代表取締役

マーケティングの本質×SNSのトレンドを掛け合わせたSNSからの女性集客を専門としている。
14歳でメールマガジンを始め、8ヶ月で20,000人の登録を達成。当時の歴代最年少記録を保持。
2021年に株式会社PR NETを創設。
個人、法人の500以上のSNSを個別で指導。登壇は（公財）東京都中小企業振興公社、東京大学、楽天、ロート製薬、ダイハツ工業、東芝テック、POLA、サイバーエージェント、商工会議所、新潟のミスユニバース・ファイナリスト（敬称略）など、全国で延べ13,700名の方へ行っている。