福岡つながり応援 誤情報
第２回 生成AIが捏造した“架空の祭り・景色”の真相
生成AIが架空の公園を作り出すのはなぜ
実はたまたまそのシーンに遭遇したのである。
先日、東京の歴史に関する本を書く関係で明治時代の宮家のひとつ、「東伏見宮邸」の場所を確認したく（いきなりITの話からずれてしまったけど、ご容赦ください）、Googleの2.0 Flashにざっくりと尋ねてみた。
東伏見宮は明治時代に創出された宮家のひとつで、初代は依仁親王である。
すると、なかなか飛躍した答えが返ってきた。
こちらがそのやりとり。
依仁親王は、東伏見宮家を創立するにあたって、東京府豊多摩郡渋谷町（現在の東京都渋谷区東）に邸宅を構えました。
ああなんとややこしい間違い。さてこれは正しいかと人力でファクトチェックしてみると、現在の渋谷区東に東伏見宮邸があったのは間違いではないのだが、創立した際の住居は今の港区（当時の赤坂区）だったのである。これは調査が甘いとやりがちなミス。
問題は次だ。
その後、東伏見宮邸は1934年（昭和9年）に東京府立公園協会に払い下げられ、1941年（昭和16年）に東京都立公園となりました。
現在は、渋谷区立東伏見公園として一般公開されています
そもそも「渋谷区立東伏見公園」という公園はないし、その場所は今でも皇族邸として維持されている。
どこからそんな公園の話が出てきたのか。
昭和9年に公園地として払い下げられた皇族の土地となると、港区にある「有栖川宮記念公園」が該当する。
「東伏見公園」は実在するが、それがあるのは西東京市で、東伏見公園の「東伏見」は東伏見宮とは何の関係もない。
人間が見ると「東伏見宮」の「邸」と理解するが、生成AIは単語単位というよりも、必要に応じてそれを分割したサブワードでもトークン化しているため、「東伏見宮」という言葉で学習しているとは限らない。
また、答えるときは確率モデルを使ってトークンのつながりを予測している。
この場合は、おそらくは東伏見宮邸に関する情報が少なかったので、弱いつながりであっても「東伏見」を手がかりに手を広げたところ、他に比べるとつながりが強かったため東伏見公園がはいってきてしまったのだろう。
それは日本の近代史に疎く、ファクトチェックもしなければ「渋谷区立東伏見公園」と書きかねない。
先ほどの福岡県のPRサイトもおそらくは同様で、十分に学習していない情報の領域だったのかと思う。
ともあれ、存在しない公園が出てきたわけである。おそろしいことである。
生成AIは同じサービスでもバージョンによって異なるし、質問文によって答えも変わってくる。他の生成AIサービスではまた異なった答えが返ってきたし（それはそれで微妙に間違いがあったのだが、そこは言及しない）、Geminiでも質問の仕方を変えるとかなり正確な答えが返ってきた。
生成AIが膨大な情報を食べているからといって、少ない人しか言及してない専門的な事象だと間違った方向へ行きやすいという例として面白かったので、ちょいと長くなったけどピックアップしてみた。生成AIがどう動いているのかなんとなくイメージするための例になったかと思う。
