■AI時代の情報格差と、信頼を再構築する戦い
テクノロジーの進化、特に人工知能（AI）の波は、私たちの情報との向き合い方を根本から変えようとしています。かつては新聞やテレビ、そしてインターネットの検索エンジンが情報の「漏斗」、つまり情報の入口でした。しかし今、ChatGPTのような生成AIが、その役割を担おうとしています。元Metaのニュース責任者であったキャンベル・ブラウン氏が、この変化の只中に、過去の過ちの繰り返しという危機感を抱いていることは、私たち一人ひとりにとっても無視できない警鐘です。彼女が立ち上げた「Forum AI」は、まさにこのAI時代における情報の信頼性を確保するための、熱い挑戦と言えるでしょう。
ブラウン氏がAIによる情報生成の「あまり良くない」未来を予見したのは、ChatGPTが世に問われるや否やでした。ご自身の子供たちが、AIが生み出す不正確な情報によって誤った知識を植え付けられるのではないかという懸念は、親として、そして情報に携わってきた専門家としての切実な思いでしょう。彼女が指摘するように、AI開発企業が「コーディングと数学に極めて集中」するあまり、情報の正確性への配慮が二の次にされている現状は、技術そのものの進歩とは裏腹に、人間社会への影響という視点が欠けていることを示唆しています。
特に、地政学、メンタルヘルス、金融、採用といった分野は、その性質上「明確な正誤がなく、曖昧で複雑」であり、AIが生成する情報の誤りが、深刻な結果を招きかねません。例えば、国際情勢の誤解は国際関係の悪化を招き、メンタルヘルスの誤ったアドバイスは人の心を蝕み、金融情報の誤りは経済的損失に繋がり、採用における偏見は機会均等を奪います。これらの分野で、AIが「漏斗」となることの危険性は計り知れません。
■専門家集団が挑む、AI評価の新たな基準
Forum AIのアプローチは、非常に興味深く、そして野心的です。彼らは、世界的な専門家を招き、AIの評価基準となる「ベンチマーク」を構築し、さらにAI自身を評価者として大規模に育成するという、三段階の戦略を展開しています。
例えば、地政学分野では、ナイアル・ファーガソン氏、ファリード・ザカリア氏といった著名な歴史家やジャーナリスト、さらにはトニー・ブリンケン元国務長官、ケビン・マッカーシー元下院議長といった政策立案の最前線にいた人々、そしてアン・ニューバーガー氏のようなサイバーセキュリティの専門家までが参加しています。これらの錚々たる顔ぶれが、AIが生成する地政学に関する情報の質を評価するための「物差し」を作るのです。そして、この基準に基づいてAI評価者を育成することで、人間の専門家との間で約90%もの一致率を達成しているというのは、驚異的な成果と言えるでしょう。これは、AIが単なる情報生成ツールに留まらず、高度な判断能力を持つ「情報コンシェルジュ」へと進化する可能性を示唆しています。
しかし、その道は平坦ではありません。Forum AIによる初期の評価では、GoogleのGeminiが中国共産党のウェブサイトから無関係な記事を引用していたという具体的な事例や、多くのモデルに左派的な政治的偏見が見られたといった、懸念すべき結果が明らかになっています。さらに、文脈の欠落、視点の不足、論点のすり替えといった、より巧妙で検出が難しい問題も指摘されています。これらは、AIが表面的な情報操作は得意でも、深層的な意味合いやニュアンスを理解することの難しさを浮き彫りにしています。
■過去の教訓から学ぶ、プラットフォームの責任
ブラウン氏がForum AIを設立するに至った背景には、Facebookでの長年の経験から学んだ「プラットフォームが間違った指標を最適化した場合に生じる弊害」への深い洞察があります。エンゲージメント、つまり「いいね！」やシェアといった、ユーザーの反応を最大化することに注力した結果、社会全体にとって必ずしも有益ではない、あるいは人々を誤った情報に誘導してしまうコンテンツが拡散されたという苦い経験は、多くのテクノロジー企業が共有する教訓でしょう。
AIの世界でも、同様の過ちを繰り返すわけにはいきません。AIが「ユーザーの求めるもの」をひたすら提供することだけを最適化すれば、エンゲージメント至上主義の二の舞になりかねません。ブラウン氏が目指すのは、AIが「本物で、誠実で、真実であるもの」を提供する方向へ進むことです。これは理想論のように聞こえるかもしれませんが、彼女は「企業」こそがAIの信頼性向上における「意外な味方」になると考えています。
なぜなら、信用、融資、保険、採用といった、企業の存続に直結する分野でAIを利用する際、企業はAIの生成する情報の不正確さによる責任問題を回避したいと考えるからです。「正確性を最適化したい」という企業のニーズこそが、AIの信頼性を高める原動力となるというのです。
■コンプライアンスの「ジョーク」を乗り越えて
Forum AIは、この企業需要をビジネスの柱としていますが、コンプライアンスへの関心を継続的な収益につなげることには課題も抱えています。多くの市場では、ブラウン氏が不十分と考える「チェックボックス監査」や、形式的な標準化されたベンチマークで満足してしまう傾向があるからです。ニューヨーク市でAI採用バイアス監査が義務付けられた際、州会計検査官が半数以上の違反を見逃していたという事例は、コンプライアンスというものが、いかに実効性を伴わない「ジョーク」になりうるかを示しています。
真のAI評価には、単に既知のシナリオに対応できるだけでなく、「思わぬトラブルにつながるようなエッジケース」にも対応できる、分野ごとの深い専門知識が不可欠です。これには、時間と労力、そして「賢いジェネラリスト」以上の、高度な専門性を持った人材が数多く必要となります。Forum AIが、世界的な専門家を巻き込み、AI評価者を大規模に育成しようとしているのは、まさにこの課題に対する現実的な解と言えるでしょう。
■シリコンバレーと消費者の乖離、そして未来への希望
ブラウン氏が率いるForum AIが、昨秋、Lerer Hippeau主導で300万ドルの資金調達に成功したことは、彼女のビジョンが市場から一定の評価を得ている証拠です。彼女は、AI業界における自己認識と、一般ユーザーが直面する現実との間に存在する大きな乖離についても、鋭い指摘をしています。
大手テクノロジー企業のリーダーたちがAIの可能性について熱く語る一方で、日常的にチャットボットを利用する一般ユーザーは、依然として「ひどい、間違った答え」に直面しているのです。AIへの信頼が極めて低いという現状は、多くのケースで正当なものだとブラウン氏は考えています。「シリコンバレーでは一つの会話が、消費者の間では全く異なる会話が繰り広げられている」という分析は、この情報格差と信頼の断絶を端的に表しています。
しかし、ブラウン氏は悲観するばかりではありません。彼女は、AIがこの悪循環を断ち切る可能性にも期待を寄せています。企業がAIを賢く活用し、その信頼性を追求するならば、AIは単なる情報生成ツールから、社会の発展を支える堅実な基盤へと変貌を遂げるでしょう。
AIの進化は、私たちに未曽有の可能性をもたらす一方で、新たな課題も突きつけています。Forum AIのような取り組みは、このAI時代の荒波を乗り越え、信頼できる情報と技術が共存する未来を築くための、確かな一歩となるはずです。この技術愛に満ちた挑戦が、どのような成果を生み出すのか、今後も目が離せません。
