最近ネット上で、ある漫画家さんの叫びが大きな話題になっているのを知っているでしょうか。人生で初めて子供向けのとびきり可愛いフルカラー漫画を出版した作者さんが、「絶対にインスタグラムで作品名を検索しないでほしい」と血を吐くような思いで注意喚起をしたのです。その理由はあまりにもショッキングで、検索窓に作品名を入れた瞬間に、公式の作品とは全く関係のない、モザイクなしのショッキングな画像やグロテスクな映像、目を覆いたくなるようなコンテンツがワンクッションもなしに大量に表示されてしまうという異常事態が起きているからでした。
せっかく自分の可愛い我が子のような作品を世に送り出し、読者に楽しんでもらおうと胸を躍らせていた作者の気持ちを想像すると、本当に胸が痛くなりますよね。しかもこの問題、この作品固有のトラブルというわけではなく、最近のインスタグラムの検索機能全般で頻発している構造的な欠陥なのだそうです。料理のレシピを調べようとした主婦がトラウマ級の映像に出くわしたり、可愛い動物を検索したら直視できない画像が出てきたりと、日常のちょっとした調べ物すら恐怖のガチャを引くような状態になっていると言われています。
一体なぜ、世界的な巨大IT企業が運営するプラットフォームで、このような悪夢のような現象が起きるのでしょうか。そして、なぜ私たちはそんな不快なものを見せられると分かっていながら、ついネットの海を彷徨ってしまうのでしょうか。今回はこの現代のデジタル社会が抱える闇深い現象について、心理学や経済学、そして統計学のガチガチの科学的見地から、ちょっとフランクに、でも徹底的に紐解いていこうと思います。
●なぜインスタの検索は狂ってしまったのかの経済学
まずは経済学の視点から、この不可解な現象の裏側にあるプラットフォームの構造を覗いてみましょう。私たちが普段何気なく使っている無料のSNSですが、経済学的には「アテンション・エコノミー」、つまり「人間の注目や注意力こそが通貨である経済システム」の上で成り立っています。運営会社はユーザーにできるだけ長くアプリに滞在してもらい、広告を見てもらうことで利益を得ています。そのためには、アルゴリズムは常にユーザーのエンゲージメント、すなわち「クリックしたくなる」「感情が大きく揺さぶられる」コンテンツを優先して表示するように設計されます。
ここで統計学と機械学習のブラックボックス問題が関わってきます。現代のSNSの検索やレコメンドは、人間が手動で管理しているわけではありません。膨大なビッグデータをディープラーニングなどのAIが解析し、「このワードを入力した人は、次はこれを見る傾向がある」という相関関係だけをひたすら学習しています。ここで恐ろしいのが、AIは「コンテンツの意味や倫理観」を一切理解していないという点です。AIが理解しているのは「数字」と「確率」だけなのです。
例えば、悪意あるユーザーグループが特定のハッシュタグや検索ワードに対して、まったく関係のないショッキングな画像を意図的に紐付け、大量のアクセスやシェア（あるいは通報という名の閲覧）を集めたとします。統計学的な確率の計算において、そのキーワードとショッキングな画像の間には「強い相関関係」が生まれてしまいます。AIは倫理的なブレーキを持たないため、「このワードが検索されたら、ユーザーの滞在時間が最も伸びる（あるいは感情的な反応が大きい）確率が高いこの画像を表示しよう」と最適化してしまうのです。これが、健全な検索結果がグロテスクに乗っ取られるというバグの正体です。経済合理性を追求した結果生まれたアルゴリズムが、人間の倫理観というセーフティネットを完全にすり抜けて暴走しているわけですね。
●見たくないのに見てしまう心理学の罠
次に、心理学の観点から「絶対に検索するな」と言われると、かえって検索したくなってしまう私たちの脳の不思議なバグについて考えてみましょう。心理学には「カリギュラ効果」という有名な法則があります。「これをしてはいけない」「あれを見てはいけない」と禁じられるほど、逆にその禁止されたものに対する興味や欲望が何倍にも膨れ上がってしまうという人間の心理現象です。
今回のケースでも、「ぷにコーンという可愛い名前の裏に、そんな恐ろしい世界が広がっていると言われたら、ちょっとだけ確かめてみたくなる…」という心理が働いた人が一定数いたはずです。これは人間の脳に備わっている「生存戦略の名残り」でもあります。私たちの祖先は、未知の危険や脅威に対して強い注意を向けることで、命を守ってきました。安全な情報よりも、「毒があるかもしれない」「危険なものがあるかもしれない」という不確実でショッキングな情報に対して、脳のアミグダラ（恐怖や感情をつかさどる部位）が過敏に反応するように進化してきたのです。
しかし、現代のSNSという超高速の情報環境において、この原始的な生存本能は完全に裏目に出てしまいます。見たくない、怖い、不快だと分かっているにもかかわらず、脳は「リスクの確認」としてそのショッキングな画像を処理しようとしてしまい、結果として深い精神的ダメージやトラウマを負うことになります。さらに厄介なのが、不快な映像を見たときのショックや怒りは、喜びや感動よりも強烈にSNSでシェアしたくなるという「ネガティブ・バイアス」です。「見てしまった、最悪だ」と誰かに伝えたくなるその衝動こそが、まさに先ほど説明したアルゴリズムにさらなるエサを与え、悪質な検索結果を固定化させてしまうという最悪の負のループを作り出しているのです。
●統計データから見るネット空間の歪みと私たちの防衛策
統計学の視点に立つと、私たちが日々使っているインターネットの検索結果がいかに偏った歪んだものであるかがよく分かります。マスメディアの時代と違い、現代のSNSは「パーソナライゼーション」や「リアルタイムのトレンド」を重視するあまり、情報の信頼性や安全性の担保がユーザー側のリテラシーに丸投げされています。
ある統計データによると、SNS上で拡散されるデマやショッキングなコンテンツは、真面目で健全な情報に比べて約6倍の速さで拡散されるという結果が出ています。人間は退屈な真実よりも、刺激的な嘘やショッキングな異常性に強く惹きつけられる生き物だからです。つまり、インスタグラムの検索機能が荒らされているという現象は、システムの一時的な不具合という側面だけでなく、人間の持つダークな好奇心と、それを最適化しすぎるAIのアルゴリズムが生み出した、現代社会の縮図そのものだと言えます。
では、私たちはこのデジタル荒野でどのように身を守ればいいのでしょうか。経済学の「リスク管理」と心理学の「認知のコントロール」を組み合わせて考える必要があります。まず大前提として、プラットフォーム側のインフラが完全に安全になるまでは、「好奇心をコントロールする勇気」を持つことが最大の防御になります。今回は可愛い漫画のタイトルでしたが、今後もあらゆるワードが意図的あるいはバグによって汚染されるリスクは常に存在します。
見知らぬワードや、少しでも嫌な予感がするキーワードを検索窓に入れない。もし不意に不快なものに出くわしてしまったら、すぐにアプリを閉じ、そのアルゴリズムに自分の貴重なアテンション（注意）をこれ以上与えないこと。そして、被害を受けているクリエイターに対しては、冷やかしや面白半分での接触ではなく、本来の目的地である安全な場所（今回の場合はXなど）で温かい言葉や正当な評価を届けること。これが、狂ったアルゴリズムに対する私たちにできる最も効果的な抵抗手段なのです。
●まとめに代えて
私たちが何気なく指先でスワイプしているスマートフォンの画面の裏側では、最新の経済合理性と、人間のプリミティブな心理が複雑に絡み合い、時に今回のような悪夢のような空間を作り出しています。技術がどれだけ進化しても、それを使いこなし、情報の波に呑まれないようにコントロールするのは、いつの時代も私たち人間の理性と知性です。
可愛い作品を世に送り出した作者の心がこれ以上傷つかないこと、そして同じような被害に遭う人が一人でも減ることを強く願うと同時に、私たち一人ひとりがネット上の情報との付き合い方をもう一度見つめ直す、非常に良い（そして少し怖い）契機になったのではないでしょうか。次に検索窓に何かを入力するときは、ほんのコンマ数秒だけ立ち止まり、「この検索の裏にはどんなアルゴリズムと人間の心理が隠されているだろうか」と少しだけ俯瞰して考えてみる。そんなスマートな知性を持ちながら、これからのデジタルライフを楽しく、安全に渡り歩いていきましょう。
