生成AIによるコンテンツ作成が広がる中、事実確認が不十分なまま公開された情報が問題視されている。自治体のPRサイトに架空の祭りや公園が掲載されるなど、生成AIの誤情報を見抜けなかったケースが相次いでいる。なぜ生成AIは架空の情報を生み出してしまうのか、そのメカニズムについて事例を交えて考察する。

荻窪 圭

フリーライター。東京農工大学工学部数理情報工学科卒。学生時代にパソコン誌のライターとしてデビューして約40年。現在はIT系の他、デジタルカメラの記事も手がけつつ、趣味が嵩じて街歩きのガイドも行う。近著に『古地図で訪ねるあの頃の東京』（実業之日本社）等。

目次

自治体の公式サイトに架空の祭りや景色が

世田谷区立船橋公園……という公園はない

生成AIが架空の公園を作り出すのはなぜ

自治体の公式サイトに架空の祭りや景色が

2024年の秋にはこんなニュースが流れた。

福岡県のキャンペーン「福岡つながり応援」の公式サイトの情報が間違っていたというものだ。

生成AIを使ったPR記事が取り下げられたという記事

https://www.itmedia.co.jp/aiplus/articles/2411/08/news167.html

生成AIを使ってコンテンツを作成したのはいいが、人間が内容をきちんとチェックしなかったため、間違いがはいっていたというもの。

その間違いの内容が致命的だった。架空の祭や福岡県以外の施設が紹介されていたという。

ここで象徴的なのは「実在しない公園」や「祭り」が捏造されたこと。

自治体が絡んでいるサイトなのに、生成AIが吐き出した情報に対して何の裏も取らずにそのまま使ってしまった製作会社があり、クライアントも内容のチェックをしなかったと思うと怖ろしいことであるが、実際に生成AIは架空の公園を作ってしまうことがあるのか。