SNSで急増するAI創作の嘘話に騙されるな!インプ稼ぎの巧妙な手口と対策

SNS

最近SNSを見ていると、なんだか作り物っぽい話や、どこかで聞いたような感動エピソードがやけに流れてくるなあと感じたことはありませんか。声優や文筆業として活躍されている浅野真澄さんが、まさにこの現象についてXで疑問を投げかけたところ、多くの共感や分析が集まって大きな話題になりました。エピソードとして綺麗にまとまりすぎていて、逆に嘘くさく感じてしまうような投稿がタイムラインにあふれているというわけです。一文ごとにやたらと改行が入っていたり、最後に「続く」と書いてあったり、なぜか青い認証マークがついていたりするアレです。ちょっといい話系から、理不尽な上司をスカッと見返す話まで、パターンが似通っているのも特徴的ですよね。なぜ今、私たちのタイムラインはこのような作られた物語で埋め尽くされているのでしょうか。そして、私たちはなぜそれにモヤモヤしてしまうのでしょうか。今回はこの現代のSNS現象について、心理学や経済学、そして統計学といった科学的なレンズを通して、ちょっとディープに、でもわかりやすく解き明かしていきたいと思います。

まずは、経済学の視点からこの現象の裏側にある仕組みを覗いてみましょう。経済学の基本原則に、インセンティブ、つまり「人を行動させる動機付け」という概念があります。近年のSNSプラットフォームでは、ユーザーの投稿に対してインプレッションや広告収益が還元される仕組みが導入されました。これによって、SNSは単なるコミュニケーションツールから、立派なマネタイズの場へと変貌を遂げたのです。経済学の古典的な研究に、ジョン・ von・ノイマンらのゲーム理論がありますが、これに照らし合わせると、現在のSNS空間は「いかに少ないコストで最大のインプレッションという報酬を得るか」を競い合うゲームの場となっています。人間がゼロから心を揺さぶるような感動的なエピソードを考え出すには、多大な時間的・精神的コストがかかります。しかし、現代には生成AIという強力なツールが存在します。AIに「バズりやすい感動的なエピソードを、一文ごとに改行して出力せよ」と指示を出せば、数秒でそれっぽい文章が完成します。つまり、極めて低いコストで、高いリターンを狙うことができるわけです。経済学で言うところの「情報の非対称性」や「モラルハザード」がここで発生しています。本当は嘘のフィクションであるにもかかわらず、それが真実であるかのように装って投稿することで、プラットフォーム上のアルゴリズムの隙をつき、人々の注意を引きつけて収益をかすめ取る。この構造がある限り、AIによる創作エピソードが量産されるのは、経済合理性から見れば極めて自然な現象だと言わざるを得ません。

では、なぜAIが作ったような画一的な文章や、少し胡散臭いフィクションに、私たちはこれほどまでにつかまってしまうのでしょうか。ここで登場するのが心理学、特に認知心理学や行動経済学の知見です。人間には、物語を好むという本能的な性質があります。これを心理学ではナラティブ・バイアスと呼びます。私たちは、ただのデータや事実の羅列よりも、起承転結があり、感情の起伏が描かれたストーリーを聞かされた方が、圧倒的に記憶に残りやすく、共感しやすい生き物です。進化心理学的に見ても、人類は長年、キャンプファイヤーの囲炉裏端で物語を共有することで絆を深め、危険や知恵を伝えてきました。AIが生成する「ちょっといい話」や「スカッとする話」は、まさにこの人間の脳が持っているストーリーテリングに対する脆弱性をハッキングしているのです。さらに、心理学者のダニエル・カーネマンが提唱したシステム1とシステム2の理論も大いに参考になります。システム1は直感的で素早く動く思考、システム2は論理的でエネルギーを使う慎重な思考を指します。SNSをスクロールしているときの私たちの脳は、圧倒的にシステム1優位の状態にあります。次から次へと流れてくる情報を受け身で処理しているため、一文ごとの改行や「続く」という焦らせる演出によって、脊髄反射的に「なんだろう?」と注意を奪われてしまうのです。文章の最後に「↓」や「続く」とあると、次を見たくなってしまうのは、ツァイガルニク効果という心理現象とも深く関わっています。人は完了していないタスクや、途中で途切れた情報に対して強いモヤモยや興味を抱く性質があり、この未完了感をあえて利用することで、ユーザーの滞留時間を延ばしているというわけです。

さらに統計学やデータサイエンスの観点から見ると、私たちが目にするタイムラインが、いかに偏ったものであるかがよくわかります。SNSのアルゴリズムは基本的に、ユーザーのエンゲージメント、つまり「いいね」や「リポスト」「リプライ」、そして何より「画面に滞在した時間」を最大化するように設計されています。統計学におけるサンプリングの偏り、いわゆる選択バイアスがここでも猛威を振るっています。怒りを覚える投稿や、過激な危機感を煽る投稿、あるいは涙をそそる感動話は、極めて高い確率でユーザーの強い感情を呼び起こします。感情が動いた人間は、その投稿に対して何らかのアクションを起こしやすくなります。アルゴリズムは、そうした「反応しやすいデータ」を優先的に抽出し、私たちのタイムラインというサンプルに重点的に配給します。その結果、何が起きるかというと、世界中で毎日劇的な理不尽や奇跡的な美談が起きているかのような、極端な錯覚に囚われることになります。実際の統計データを見れば、私たちの日常の大半は極めて平穏で、退屈なルーティンに満ちているはずです。しかし、アルゴリズムのフィルターを通すことで、世界はまるで崩壊しかけているか、あるいはドラマの舞台のように劇的な場所であるかのように歪められてしまうのです。浅野さんが疑問に思った「本当に起きたことなのか疑わしい投稿」の急増は、まさにこのアルゴリズムの最適化の果てに行き着いた、統計学的な必然の景色だと言えます。

このような状況の中で、私たちはどのように情報と向き合っていけばよいのでしょうか。心理学の研究には、私たちが情報の真偽を見極めるためのメタ認知能力の重要性が繰り返し説かれています。メタ認知とは、自分の思考のプロセスを一段高い視点から見つめ直す能力のことです。「あ、今自分はこの感動的なエピソードを読んで、勝手に心が動かされているな」「なぜこの投稿にはこんなに改行が多いんだろう」と、自分の感情の揺らぎを客観的に観察するクセをつけることが、デジタル社会を生き抜くための強力な防衛策になります。また、行動経済学では「ファスト&スロー」の重要性が説かれていますが、SNSを見る際にあえて意識的に「スロー」のモードに切り替えることも大切です。タイムラインに流れてくる情報を即座に真実として受け取るのではなく、「これは本当に事実だろうか」「誰が何の目的でこれを書いたのだろうか」と一呼吸置いて考えてみる。この少しの立ち止まりが、フェイクニュースやアルゴリズムの罠から私たちの心を守ってくれます。

世の中には、便利な技術や新しいシステムが登場すると、必ずそれをハックして私腹を肥やそうとする人々が現れます。SNSの収益化構造と生成AIの組み合わせも、まさにその現代的な一例に過ぎません。人間が本来持っている共感力や、物語を愛する性質、そして未完了なものに惹きつけられる心理的特性が、皮肉にもテクノロジーによって逆手に取られているのが今の状況です。だからこそ、私たちはネット上の情報に対して、適度な冷ややかさと健全な疑いの目を持つ必要があります。SNSの画面の向こう側にある世界がどれほど騒がしく、劇的で、あるいは絶望的に見えたとしても、一度スマホの画面を伏せて外に出てみれば、そこにはいつも通りの穏やかな風が吹いていて、人々が当たり前の日常を淡々と暮らしているという現実があります。ネットの海に漂う情報の波に飲み込まれそうになったときには、この当たり前の現実を思い出してみることが何よりも大切なのです。科学的な見地から世の中の仕組みを少しだけ知ることで、私たちは情報に振り回される被害者から、賢明な情報の観察者へと変わることができます。これからのSNS時代を少しでも心地よく、そして心穏やかに渡っていくために、情報の裏側にある経済の仕組みや人間の心理を頭の片隅に置きながら、上手に距離をとって付き合っていきたいものですね。

タイトルとURLをコピーしました