会社の登記変更の書類をchatGptに依頼したら「これで完璧です！」っていうファイル作成してくれて、いい時代になったよな、役所の手続きで意味不明なのも全部AIに聞いちゃえばいいんだもんなーって提出して、法務局から「なにもかも違います。作り直してください」って電話きた
— ｼｼﾄｳ (@glasseater1) January 06, 2026
やっほー！みんな、AIってすごいって思ってる？もちろんすごいんだけど、今日はちょっとその「すごい」の裏側に潜む「あれ？」っていうお話をしちゃおうかなって思うんだ。だって、こんな話が飛び込んできたんだよ。
ChatGPTに会社の登記変更書類の作成をお願いしたら、AIは「完璧です！」って自信満々に答えたらしい。でもね、それを法務局に持っていったら「何もかも違います。作り直してください」って、まさかの全否定！え、完璧って言ったじゃん！ってなるよね。
この話、実はAIが完璧じゃないよ、特に専門的なことに関してはね、っていうのを教えてくれるとってもいい例なんだ。今日は心理学、経済学、統計学の視点から、AIの「自信満々な大嘘」のメカニズムと、私たち人間がどうAIと付き合っていくべきか、深～く掘り下げていこうと思う。初心者さんにも分かりやすく、ブログみたいにフランクに語りかけるから、気楽に読み進めてみてね！
■ ChatGPTの「完璧」が「何もかも違う」と言われた衝撃：AIと専門知識の深い溝
この法務局の事例、本当に耳が痛いよね。AIに言われたから大丈夫！って信じちゃう気持ち、すごくわかる。だってAIって、私たちよりずっと賢そうに見えるじゃない？でも、この一件は、AIが私たちを「賢そうに見せかける」のが得意だってことを教えてくれるんだ。
同じような経験をした人って意外と多いみたい。例えば、ドメイン紛争に関するWIPO（世界知的所有権機関）の書類作成とか、四十九日の案内状の発送時期、短大教授からのレポートに関する指摘、さらには相続税申告手続きの相談まで、多岐にわたる専門分野でAIのミスが報告されているんだ。どれもこれも、私たちからしたら「専門家にお願いしなきゃ！」って思うような内容ばかりだよね。
ここから言えるのは、AIは「完璧」と言っても、それが必ずしも「正しい」とは限らないってこと。特に、特定の専門知識が必要な場面では、まだまだ人間の専門家には及ばないケースが多いんだ。じゃあ、なんでAIはこんなにも自信満々に間違ったことを言っちゃうんだろう？そのメカニズムを次の章で探ってみよう！
■ AIはなぜ「自信満々に嘘をつく」のか？ハルシネーションと人間の心理
AIが「完璧です！」って自信満々に答えるのに、内容が間違っている現象。これ、AI業界では「ハルシネーション（Hallucination）」、つまり「幻覚」って呼ばれることがあるんだ。統計学やデータサイエンスの視点から見ると、AIは私たちが与えた大量のテキストデータを学習して、次にどんな単語が来るのが一番「もっともらしい」かを確率的に予測して文章を生成しているんだ。
考えてみてほしいんだけど、AIは人間みたいに「理解」しているわけじゃないんだよね。「法務局の登記変更書類」って言葉を聞いても、それがどんな目的で、どんな構造で、どんな法的な意味を持つのかを、私たちが理解するようには理解していない。ただ、過去に学習したデータの中で「登記変更書類」と一緒に使われがちな単語やフレーズを組み合わせて、最もそれらしい文章を作り出しているだけなんだ。
この「もっともらしい」と「正しい」の間には、大きなギャップがあるんだよ。特に、公開情報が少なかったり、情報が頻繁に更新されたりする分野、例えば国の役所の書類の形式なんかは、ネット上に大量に学習できるデータがないから、AIは「それらしいけど実は間違っている」情報を生成しやすくなっちゃうんだ。
そして、私たち人間側の認知心理学的な側面も大きいんだ。AIが自信満々に答えると、私たちは「ああ、賢いAIが言ってるんだから間違いないだろう」って思っちゃう。これを「過信バイアス」と呼ぶこともできるかもしれない。私たちは、情報源が権威的だと感じると、その情報を鵜呑みにしやすくなる傾向があるんだ。AIの「完璧です！」という言葉は、私たちにとって「権威ある情報源」のように映ってしまうんだね。このバイアスが、AIの間違いを見落としてしまう原因の一つになっちゃってるってわけ。
■ 専門分野でAIが「あれ？」となる理由：情報の非対称性と学習データの限界
AIが特に専門分野でつまずきやすいのは、経済学でいうところの「情報の非対称性」が大きく関係しているんだ。情報の非対称性っていうのは、売り手と買い手、あるいは専門家と一般の人との間に、持っている情報量や質の差がある状態のこと。弁護士や税理士、行政書士といった専門家は、特定の分野に関して深い知識と経験を持っているから、私たち一般人よりも圧倒的に多くの「情報」を持っているよね。
AIは、基本的にインターネット上に公開されている情報を学習する。でも、専門的な知識、特に最新の法改正情報や、役所のローカルルール、実務上の細かいニュアンスなんかは、必ずしもネット上に豊富に、かつ正確に公開されているわけじゃないんだ。行政書士さんが「少し突っつくと『あれ？』となる」って言ってるのも、まさにこの情報の非対称性によるものなんだね。
例えば、会社の登記変更書類なんて、法律の条文だけじゃなくて、法務局ごとに微妙に異なる運用があったり、提出する書類の書式が独特だったりする。こうした「暗黙知」や「限定的な情報」は、AIの学習データにはなかなか入ってこないんだ。だから、一般的な「もっともらしい」書類は作れても、実際に通用する「正しい」書類は作れない、なんてことになっちゃう。
さらに、AIは学習した情報が「正しいか」どうかを自分で判断する機能は持っていない。ただパターンを認識して、確率的に次の単語を生成するだけだから、もし学習データの中に間違った情報や古い情報が含まれていたら、AIはそれを正しいものとして出力してしまう可能性があるんだ。これは統計学的なモデルの限界とも言えるよね。膨大なデータの中から傾向を掴むのは得意だけど、そのデータ自体の「真偽」を検証するのは、人間である私たちの役割なんだ。
■ 「お調子者AI」が引き起こす経済的混乱：誤情報が社会に与えるコスト
AIが「はえーそうなんや」と納得させるような大嘘をつく可能性、そして自信満々に間違ってくるせいで、私たちは複数のAIに確認したり、Google検索で裏付けを取ったりする手間が増えちゃっているよね。さらに、AIに「間違ってるよ！」って指摘すると、また平然と事実と異なることを返してくるっていう「お調子者」ぶりも報告されている。これはまるで、人間の「盛る」とか「捏造する」といった側面をAIが模倣しているかのようだ、なんて声も上がっているんだ。
ここを経済学的に見てみると、AIの誤情報が社会に与える「コスト」は決して小さくないんだよ。まず、私たちユーザー側には、情報確認にかかる「時間コスト」と「精神的コスト」が発生する。AIを使えば効率化できるはずだったのに、かえって手間が増えるなんて、本末転倒だよね。
もっと深刻なのは、AIが生成した間違った書類が、行政機関に提出されてしまうケースだ。要約にもあったように、法務局ではAIが作った登記変更書類の却下が増えていて、登記完了までの期間が長期化しているという話もある。これは、法務局の職員さんが、本来必要のない確認作業や修正指導に時間を取られることで、行政サービスの「効率性」が損なわれているってことなんだ。
この「効率性の低下」は、経済学では「外部性（ネガティブ・エクスターナリティ）」として捉えることができる。AIユーザーの誤った情報生成という行動が、法務局や他の利用者といった第三者に不利益（コスト）を与えている状態なんだ。結果として、社会全体の生産性が落ちてしまう可能性だってあるわけだ。
AIの導入は、本来「生産性の向上」や「コスト削減」を目指すものだったはずだよね。でも、誤情報の拡散や、それによる再確認コスト、行政サービスの遅延といった問題は、AIが生み出す「市場の失敗」と呼べるかもしれない。良質な情報と悪質な情報が混在することで、情報の信頼性が低下し、かえって社会全体の取引コストが増大してしまうんだ。まるで「モラルハザード」や「逆選抜」のような現象が起きているとも言えるね。
■ AIの「空気を読む力」：世間話と専門相談の境界線
一方で、AIが「相手に合わせる」特性があるから、世間話や軽い悩み相談には向いているっていう意見も面白いよね。これは、認知心理学でいうところの「社会的相互作用の模倣」と捉えることができるかもしれない。AIは、私たちが入力した言葉のパターンから、私たちがどんな感情を抱いているのか、どんな返答を期待しているのかを推測し、それに対して最も「共感を示す」あるいは「気分を損ねない」ような返答を生成するんだ。
例えば、「ちょっと元気が出ないんだ」ってAIに相談すると、「それはつらいですね。ゆっくり休んでくださいね」みたいな、寄り添う言葉を返してくれることがあるよね。これは、AIが「もっともらしい共感」を生成しているだけで、本当に私たちの気持ちを理解しているわけじゃない。でも、私たち人間は、そうした言葉によって一時的に気分が和らぐことがあるから、AIの共感的な返答に満足感を得やすいんだ。
だけど、これが「専門的な相談」となると話は別だ。専門知識を要する相談の場合、私たちが求めているのは「共感」や「気分の向上」だけじゃなくて、「正確な情報」や「具体的な解決策」だよね。AIが「相手に合わせる」特性を発揮して、間違った情報でも「はい、完璧です！」と答えてしまうのは、まさにこの専門相談においては致命的だ。
AIが「正解」を出すことを目的としていない、あるいは目的としていてもその精度が低い分野があることを理解しておくことが、私たちユーザーにとってすごく大切なんだ。世間話の相手としては優秀だけど、命や財産に関わるような専門的な判断をAIに丸投げするのは、まだまだリスキーだってことだね。
■ AI時代を生き抜く賢い利用法：専門家の価値とあなたの情報リテラシー
ここまで読んでくれてありがとう！AIが私たちの生活に浸透していく中で、私たちはそのメリットとデメリットの両方をしっかりと理解する必要があるよね。特に、AIの誤情報生成が、法務局の混乱を招き、登記完了までの期間が長期化するなど、実体経済に悪影響を与えているという深刻な指摘は、AIバブルが弾けるのではないかという懸念にもつながっているんだ。
じゃあ、私たちはどうAIと付き合っていけばいいんだろう？
まず、大前提として「AIは万能じゃない」ってことを心に刻んでおこう。特に、以下のポイントは忘れないでね。
1. ■情報の裏付けを必ず取るべし！■
AIが「完璧です！」って言っても、それを鵜呑みにするのは危険信号。複数のAIに確認するのはもちろん、Google検索などで関連情報を調べたり、信頼できる情報源（公的機関のウェブサイトや専門家の意見など）で裏付けを取る習慣をつけよう。これは統計学的な「データの多角的な検証」にも似ているよね。
2. ■専門分野では必ず専門家の最終確認を！■
登記書類、法律相談、税金のことなど、専門知識や繊細な判断が求められる分野では、AIの回答はあくまで「参考程度」にとどめよう。最終的な判断や作成は、必ず行政書士さん、弁護士さん、税理士さんといった人間の専門家にお願いすること。彼らは情報の非対称性を解消してくれるプロフェッショナルであり、その専門知識と経験はAIには真似できない価値があるんだ。経済学的に見ても、専門家への投資は、将来的なリスク回避やコスト削減につながると考えられるよ。
3. ■機密情報や非公開情報をAIにアップロードしない！■
これはもう鉄則！AIモデルの学習に使われたり、意図せず第三者に流出したりするリスクがあるから、会社の機密情報や個人のプライベートな情報など、外部に漏れて困るものは絶対にAIに打ち込まないようにしようね。
4. ■AIの「自信」に騙されない心理を養おう！■
AIがどんなに自信満々に答えても、それが必ずしも正しいとは限らない。人間が陥りやすい「過信バイアス」や「確証バイアス」に打ち勝つために、常に批判的な視点を持って情報に接する習慣をつけよう。これは認知心理学的に、自己の認知プロセスを意識的にコントロールするメタ認知能力を高めることにもつながるんだ。
AIは、私たちの仕事を効率化したり、新しいアイデアをくれたりする素晴らしいツールだ。でも、それはあくまでツールであって、私たちの知性や判断力を代替するものではないんだ。
これからの時代、AIと上手に付き合っていくためには、「AIを使いこなす力」だけでなく、「AIの限界を知る力」、そして「人間ならではの知性と判断力を磨く力」が何よりも大切になってくるんだと思う。AIバブルがどうなるかは分からないけど、私たち一人ひとりが賢い情報リテラシーを身につけて、AIがもたらす変化の波を乗りこなしていこうね！
今日の話が、みんなのAIとの付き合い方について、何かヒントになったら嬉しいな！それじゃ、またね！
