福岡県の魅力を発信することを目的に、今年11月に開設された観光ウェブサイト「福岡つながり応援」。
しかし、そのサイトはわずか1か月足らずで閉鎖に追い込まれるという異例の事態に見舞われました。
その理由は、生成AIを活用して作成した記事に含まれた誤情報です。
この問題は、観光情報の信頼性と生成AI活用の課題を浮き彫りにしました。
実在しない観光地や誤った情報を掲載
問題となったのは、記事内に記載された観光地や特産品が事実と異なる点です。
例えば、存在しないアミューズメント施設「うみなかハピネスワールド」や、2021年末に閉園した「かしいかえん シルバニアガーデン」を現在も運営中であるかのように紹介していました。
これらの誤情報が発覚し、サイト運営会社は全記事を削除するに至りました。
運営会社の説明と福岡市の対応
運営会社はインターネット上の情報を基に、生成AIを活用して記事を作成したと説明。
人的な確認も行っていたものの、不十分だったと認めています。
さらに、福岡市をはじめとする行政が後援していたことも問題を深刻化させ、市は「正確性が前提」として後援を取り消しました。
生成AIがどうこうの話よりも書き手の問題
今回の問題は、生成AIの利便性とリスクを改めて考えさせられるものです。
生成AIは情報収集や記事作成を効率化する一方で、その正確性を担保するための確認作業が欠かせません。
特に、行政や公共性の高い分野では、誤情報が広まるリスクが大きく、運用の慎重さが求められます。
個人的には━━
該当のHPが話題になった時点でちらっと見ました。
ひとめで「こんな施設ないだろ……」とわかるような内容だったし、むしろ何の生成AIを使ってこんな文章が出来上がったのかを知りたいレベル。
ろくにリサーチもせず、”適当”でも”雑なテキトー”のプロンプトで作成したのでしょう。
無料でも、Perplexityで県内の観光施設リサーチして、ChatGPTかClaudeで「ユーザー向け１～３位のランキング形式で観光情報記事を書いて」のほうがマシじゃないだろうか。
だからこの問題を生成AIになすりつけるのはお門違い。
利用する側のリテラシーに問題がある。
再発防止に向けた取り組み
運営会社は「システムを過信し、確認を怠った」と反省の意を示し、再発防止に向けた取り組みを進めるとしています。
しかし、今回の騒動が観光情報への信頼性や地域ブランドに与えた影響は小さくありません。
まとめ：本物を知らないと嘘を見抜けない
福岡観光サイトの閉鎖は、生成AI活用の課題を示す象徴的な事例となりました。
情報の正確性をどのように確保し、信頼を維持するか……。
ここまで雑なやらかしをされたところで、「生成AIってマジ怖い！」と感じる人は、それはそれでいいんじゃないかなと。
そもそもAIのハルシネーションを見抜くには、扱う当人も同程度の知識を持ってないと、見抜きようがありません。
なので、記事作成をAIに任せるなら、自分が得意とする分野で請け負うのがベストでしょう。
いやだって、あの観光サイトの文章を見て「おかしくね？」と判断できず、公開する胆力というか無責任さは伝説級だと思いますよ。
ちなみにこの記事も30%くらいはChatGPTに任せています。
コメント