福岡つながり応援 誤情報
第２回 生成AIが捏造した“架空の祭り・景色”の真相
生成AIによるコンテンツ作成が広がる中、事実確認が不十分なまま公開された情報が問題視されている。自治体のPRサイトに架空の祭りや公園が掲載されるなど、生成AIの誤情報を見抜けなかったケースが相次いでいる。
なぜ生成AIは架空の情報を生み出してしまうのか、福岡県PRサイト「福岡つながり応援」で生成AIが作成した架空の祭りや公園が公開→1週間で削除。その背景にあるAI誤情報のメカニズムと、事前チェックの重要性を事例を交えて考察する。
目次
福岡県PRサイト「福岡つながり応援」公式サイトに架空の祭りや景色が
2024年の秋にはこんなニュースが流れた。
福岡県のキャンペーン「福岡つながり応援」の公式サイトの情報が間違っていたというものだ。
生成AIを使ってコンテンツを作成したのはいいが、人間が内容をきちんとチェックしなかったため、間違いがはいっていたというもの。
その間違いの内容が致命的だった。架空の祭や福岡県以外の施設が紹介されていたという。
ここで象徴的なのは「実在しない公園」や「祭り」が捏造されたこと。
自治体が絡んでいるサイトなのに、生成AIが吐き出した情報に対して何の裏も取らずにそのまま使ってしまった製作会社があり、クライアントも内容のチェックをしなかったと思うと怖ろしいことであるが、実際に生成AIは架空の公園を作ってしまうことがあるのか。
世田谷区立船橋公園……という公園はない
実は同様のケースを見つけたことがある。
100g未満のミニドローンを飛ばせる場所がないか探していたところ、真偽は不明だけどこんなページがあったと教えて貰ったサイトだ（現在は更新が止まっているようだ）。
観に行くと東京都区内のドローンを飛ばせる公園がリストアップされていたのだが、その多くが実在しない公園だったのである。
都内でドローンを飛ばせる場所として紹介されていた公園たち。
よく見ると、実在しない公園がほとんどである。芝公園は実在するが、港区立ではない。
びっくりしたので、世田谷区立船橋公園について内容を詳しくチェックしてつっこみをいくつかいれてみた。
世田谷区立船橋公園……という公園はないのだ。
その名前の公園はないし、書かれた住所は実在するもののたんなる住宅地でそこには小公園すらない。
世田谷区には船橋池という池もない。祖師谷大蔵駅から徒歩15分の場所に大きな池のある広い公園はあるけれどもまったく違った名前だ。
そもそも、23区の公園はすべてドローン禁止であるからはなから成り立たないのだけれども、それはそれとして、このサイトが生成AIによるものかダミーデータで仮に作られたものが公開されてしまったのかは判然としないが（いくら生成AIによるものとしてもデタラメがすぎるし、人間が作るなら架空の場所だとわかるようにするだろう）、今の時代、生成AIの出力をノーチェックで出してしまったといわれても不思議は無い。
ただ、自治体のPRサイトで架空の公園を作り出してしまった事例を考えると、あり得ないことではないなと思う。
生成AIはいかにして架空の公園を創出してしまうのか。
