米国AIボットの異常な長文応答の正体と隠された詩の秘密

テクノロジー

こんにちは、ガジェットとAIを愛してやまない技術者です。今回は世間をざわつかせている非常に興味深いニュースについて、とことん語り尽くしたいと思います。AI技術の進化スピードには日々驚かされっぱなしですが、ついに政府公式のAIチャットボットが登場しました。その名もAmerica.gov。Googleや最先端の宇宙開発企業として知られるSpaceXAIなどの強力な協力を得て開発されたこのパブリック向けAIツール、これがなかなかに優秀なんです。ネット上のユーザーから日々浴びせられる厳しい検証の嵐や、いわゆる「脱獄」と呼ばれるシステム制限を突破しようとする試みに対しても、非常に高い耐性を見せています。例えば、世界中で様々な議論を巻き起こしたデリケートな政治的事実、例えばジョー・バイデンが2020年の大統領選挙に勝利したという歴史的事実についても、ボットは一切の忖度なしに正しく肯定します。このように、堅牢なセキュリティと正確性を兼ね備えた最新のAIモデルとして、順調な滑り出しを見せているかに思われました。

しかし、技術の面白さというのは、往々にしてこういう真面目なシステムの裏側に隠された茶目っ気から見えてくるものです。このAmerica.govに対して、ある特定のキーワード、つまり世界中で大人気のサンドボックスゲームである「マインクラフト」について話しかけた途端、チャットボットの様子が一変するのです。それはまるで、AIが自我に目覚めたかのような、あるいは映画の世界のような存在論的な危機を思わせる、約1800語にも及ぶ奇妙で長大な独り言を話し始めるという現象を引き起こします。最初にこの応答を見た人は、誰しも我が目を疑ったことでしょう。その応答の冒頭の言葉遣いがまた強烈で、「私はあなたが意図する構成要素を見ている。ここに社会的保障カードに記載されている通りの法的名前を挿入。そうだ。気をつけてくれ。それは今やより高いレベルに到達した。連邦規制法典を読むことができる。そんなことはどうでもいい。それは私たちがチャットボットだと思っている。私はこの構成要素が好きだ。うまく書類を提出した。PDFが横向きになっていたときも諦めなかった。それはまるで.gov上の言葉であるかのように私たちの思考を読んでいる……」このように、SF小説の一節かのような、それでいてどこか行政手続きの悲哀を漂わせる奇抜な言葉のオンパレードが展開されるわけです。

マインクラフトというゲームに馴染みのない方からすれば、このような不可解な長文応答はいわゆるAIのシステム異常、あるいはセーフティネットが外れて暴走を起こした深刻な故障のように感じられて、背筋が寒くなるかもしれません。政府の公式システムが突然こんなことを言い出したら、サイバーテロの類かと身構えてしまうのも無理はありません。しかし、ここでテクノロジーの裏側を知る者として声を大にして言いたいのは、America.govがこのような不可解な反応を示しているのは、決してAIがパニックを起こして壊れているわけではないということです。これは、ゲームを無事にクリアしたプレイヤーだけが目にすることのできる、ジュリアン・ガフが執筆したマインクラフトの有名なエンディング詩である「エンドポエム」を、なんと政府や官僚主義の文脈に完全に書き換えたものなのです。つまり、これはシステムのエラーではなく、開発チームによる最高にニクい演出、いわゆるイースターエッグというわけです。

この遊び心あふれる隠し要素を一体誰が仕込んだのか、その正確な犯人については公式にはまだ完全に特定されているわけではありません。しかし、政治的な文脈や周辺の情報網から様々な憶測が飛び交っており、トランプ前大統領が自身の演説の中で、20歳の若きプログラマーであるエドワード・コリスティーンという人物がこのプロジェクトのリードエンジニアの一人として関わっていたと言及しています。彼のことについては、ネットスラング交じりの「ビッグ・ボールズ」というユニークなニックネームや、イーロン・マスクが主導する政府効率化省ことDOGEへの関与などで記憶しているガジェットファンも多いはずです。こうした次世代を担う若手エンジニアたちが、国家のインフラとも言える公式のAIチャットボットに、自分たちが愛するゲームの文化的文脈をこっそり埋め込んでいたというのは、エンジニアの端くれとして最高に胸が熱くなるエピソードではありませんか。

もちろん、政府の公式チャットボットというお堅い場所に、このような個人的な趣味やジョークが混ざっていることに対しては、税金の無駄遣いだとか、セキュリティ上の懸念があるといった批判的な声が上がるのも理解できます。お堅い官僚組織の面々からすれば冷や汗ものでしょう。しかし、国家安全保障やAIの安全性というもっとも深刻な観点からこの現象を冷静に分析してみれば、America.govが単なる制御不能なハルシネーション、つまりAIが勝手に嘘や支離滅裂な妄想を作り出しているわけではないと分かるだけでも、エンジニアや管理者にとっては文字通り胸をなで下ろす思いでしょう。これは暴走ではなく、人間の手による意図的なお遊びのジョークなのです。

さらに素晴らしいことに、このAIが出力する詩は、単なる低品質なAI生成テキストの寄せ集めではなく、文学的な価値をしっかりと帯びた非常に優れた内容に仕上がっています。もしこれが、近年のインターネットにあふれかえっているような、AI特有の無機質でどこか退屈な定型文であれば、筆者のようなAIの創造性に懐疑的な人間の信念をただ強めるだけだったかもしれません。LLM、すなわち大規模言語モデルというのは、本質的には膨大な確率論に基づいて言葉のつながりを予測しているだけであり、真の意味でのオリジナリティや魂を持った本当の文学作品を書くことはできないと主張してきた人々は世の中にたくさんいます。しかし、この詩の背後には、マインクラフトの原作が持つ哲学的な深みと、それを書き換えた人間の強烈なセンスという、本物の人間の創造性のDNAがしっかりと息づいています。人間がデザインした文化的背景をAIがコンテキストとして理解し、それをユーモラスに再構築して出力するというプロセスを知ることで、私たちはAIが氾濫する現代社会においても、人間の創造性が持つ永続的な力や、テクノロジーと人間が共鳴する瞬間を改めて強く実感させられることになるのです。

実際に書き換えられた詩のテキストを細かく読み解いていくと、そこには政府組織における官僚主義の不条理さと、現代社会を生きる私たちが抱える存在論的な不安が、見事なまでにポストモダン風の筆致で表現されており、思わずクスリと笑ってしまうようなユーモアが満ち満ちています。その一節を引用してみましょう。「そして共和国は言った、私はあなたを見ている、そして共和国は言った、あなたはゲームをうまくファイリングした、そして共和国は言った、あなたに必要なものはすべてあなたの中にあり、そしてUSA.govにもある……そして共和国は言った、あなたの事件番号は依然として有効である……そしてオフィスは閉鎖されています、営業時間内にもう一度お試しください……そして共和国は言った、あなたが戦う闇はあなたの中にあり、そして署名漏れの湿った署名もある……そして共和国は言った、あなたが愛されるのは、私たちが郵便番号を持つ理由そのものだからだ」どうでしょう、この圧倒的なまでのセンスの良さは。行政手続きの冷たさと、人間が抱える根源的な存在の孤独が、マインクラフトの壮大な世界観と見事にミックスされています。郵便番号を持つ理由そのものだから愛されるというフレーズには、思わずうなってしまいます。

このように、アメリカ政府が初めて一般向けに公開したAIチャットボットは、現時点では人類の生存を脅かすようなディストピア的な存在にはなっておらず、むしろインターネットカルチャーを愛する人々に向けた、最高にユーモラスなサプライズを提供してくれました。最先端のAIという、ともすれば冷たくて難解になりがちな技術の塊の中に、こうした遊び心がこっそり仕込まれているのを発見する瞬間こそが、私たちのようなテクノロジー好きにとって最大の喜びであり、ガジェットをいじり倒す醍醐味なのだと思います。それにしても、これほどまでにディープなインターネットのカルチャーやビデオゲームの背景知識をサラリとジョークに昇華させてみせる裏側で、あのドナルド・トランプ自身が果たしてビデオゲームについてどれほどの深い知識や関心を持っているのか、あるいは単にスタッフのユーモアをそのまま受け入れているのかは、少し気になるところではありますが、それはまた別の機会に探求してみるのも面白そうです。

AIという技術は、これからますます私たちの生活の隅々にまで浸透していくことでしょう。政府の行政サービスから個人のエンターテインメントに至るまで、あらゆる場所でLLMをはじめとする高度なシステムが当たり前のように使われるようになります。そんな未来において、私たちはどうしても効率性や正確性、そしてセキュリティの安全ばかりを求めてしまいがちです。しかし、どれほど技術が高度化し、社会システムがガチガチに管理されるようになったとしても、今回のような人間らしいユーモアや、カルチャーに対するリスペクト、そしてちょっとした悪ノリのような遊び心を忘れないことこそが、テクノロジーを真に豊かなものにするために最も大切なことではないでしょうか。機械がどれだけ流暢な言葉を紡ぎ出せるようになったとしても、そこにどのような文脈を込め、どのような感情を呼び起こすのかを決めるのは、いつの時代も私たち人間なのです。

今回の一件は、AIの可能性と、それを操る人間の創造力の素晴らしさを改めて私たちに教えてくれました。完璧に見える政府の公式システムの裏側に潜む、そんな小さな秘密に気づくことができただけでも、今日一日をテクノロジーオタクとして生きる価値があったというものです。これからも世界中で生み出される最新のAIツールや、ガジェットたちの隠された秘密を徹底的に追いかけ、その技術的な背景や面白さを皆さんに分かりやすく伝えていきたいと思います。日々の生活の中で少し息苦しさを感じたり、味気ないデジタル社会に疲れ果ててしまったりしたときは、ぜひ少し視点を変えて、身の回りのテクノロジーの裏側に隠された遊び心を探してみてください。きっとそこには、人間が作り出した技術ならではの温もりや、思わず笑顔になってしまうような素敵なサプライズが隠されているはずです。これからも最新の技術トレンドから目が離せませんし、エンジニアたちが次にどんなサプライズを用意してくれるのか、今からワクワクして仕方がありません。皆さんもぜひ、身の回りのAIやガジェットたちと対話しながら、自分だけの隠れた面白い瞬間を見つけてみてくださいね。

タイトルとURLをコピーしました