Metaのスタンドアロン「Meta AI」アプリに搭載されていた「For You」セクションが、AIが自動生成した架空のニュース記事を配信し続けていたとして批判を集め、The Vergeの取材を受けたMetaが機能を撤回する事態となった。

For Youフィードとは何だったのか

Meta AIアプリは2025年4月に「Discover」フィードとともにローンチされ、AIが生成した画像やユーザーの会話を公開表示する機能を持っていた（ユーザーが公開されていると気づいていないケースも多かった）。その後アプリは刷新され、現在は標準的なチャットインターフェースに加え、「For You」ページが数カ月にわたって提供されていた。

This For Youフィードは、ユーザーの推定される興味・居住地に基づいてクリックベイト風の記事カードを表示し、タップすると記事全文がその場でAI生成される仕組みだった。ロンドン在住のThe Verge記者には「紅茶のミルクを先に入れる論争に元王室執事が決着」「行列に並ぶ心理学」「英国パブ全制覇という極限スポーツ」といった記事が提示された。

何が問題だったのか

The Vergeの調査で明らかになった問題は複数ある。

出典が存在しない 生成された記事テキストは「プロンプトの前提を繰り返すだけ」の内容で、実際の取材や引用がない。「専門家」や「研究」への言及はあっても、いずれも無名・架空だった。「ロレックス実験」記事に至っては、著者名もなく会話ボックス内でその場生成された完全な創作だった。

実在人物の画像に誤り AI生成画像の中には公人を描いたものも含まれており、エラーが多発していた。エリザベス女王が2人写っている画像などが確認されている。

システムプロンプトが露出 同じカードを複数回タップすると、チャット履歴に本来非表示のはずの内部プロンプトが表示された。「あなたは役立つ会話型アシスタントです。ユーザーはプロアクティブなフィードカードに反応しています」という形式の隠しプロンプトと内部メタデータが丸見えになっており、実装上の設計ミスが露呈した。

同じプロンプトで毎回異なる記事 同一の見出しを別のチャットで入力すると、全く異なる内容の記事が生成された。「記事」と見せかけているが、実態はプロンプトへの即時応答であり、記事としての同一性・正確性は保証されていない。

Metaはなぜ撤回したのか

The Vergeが質問状を送った後、Metaはこの機能を引き上げると表明した。同社は正式なコメントを出しておらず、機能がいつから提供されていたか、どれだけのユーザーが利用したかも不明のままだ。

実務への影響——情報リテラシーと生成AIコンテンツの見極め方

今回の事件は、日本のエンジニアやIT担当者にとっても他人事ではない。

  • AIが生成したコンテンツには出典確認が必須: For Youフィードのように「記事らしく見える」コンテンツでも、出典リンクがなければ信頼性はゼロと考えるべきだ。社内情報ポリシーとして「AI生成コンテンツは一次ソース確認必須」を明文化しておくことを推奨する
  • 実在人物の画像生成はリスクが高い: 公人の画像をAIが生成・配信することは、日本においても肖像権・名誉毀損の観点から問題になりうる。自社サービスにAI画像生成を組み込む場合、実在人物を描写するケースへのフィルタリングは必須要件と捉えるべきだ
  • システムプロンプトの隠蔽は完璧ではない: 今回はチャット履歴からプロンプトが漏洩した。自社のAIアプリ開発において、プロンプトを「見えないから安全」と過信しないこと。コンテキスト管理と表示制御は設計段階から慎重に行う必要がある
  • パーソナライズアルゴリズムとAI生成の組み合わせはフィルターバブルを加速する: ユーザーの属性からコンテンツを推定して生成する設計は、既存の推薦アルゴリズムよりもさらに閉じた情報環境を生む可能性がある

筆者の見解

Metaが今回やったことは、「AIが高品質コンテンツを生成できる」という証明の真逆だった。クリックベイトをAIで量産し、出典もなく、実在人物を誤って描写し、内部プロンプトまで漏らす——これだけ問題が重なれば、批判を受けて当然だ。

ただ、この失敗をMetaだけの問題として片付けるのはもったいない。同じ設計ミスは、どの企業のAIアプリ開発でも起こりうる。「AIが生成したから正確」「パーソナライズされているから価値がある」という思い込みが、品質管理の目を曇らせる。今回の事件は、AI生成コンテンツを本番ユーザーに届ける前に何を確認すべきかを問い直す好機だ。

AI活用の本質は「人間の認知負荷を下げること」にある。架空記事を流し続けるフィードは、ユーザーの認知負荷を下げるどころか、何が事実かを判断するコストを増やすだけだ。AIで「もっともらしいコンテンツ」を量産することと、「ユーザーにとって本当に価値のある情報を届けること」は、まったく別の問題である。この区別を設計段階から意識できているかどうかが、AIアプリの信頼性を左右する。

出典: この記事は Meta made its own AI-generated clickbait news feed の内容をもとに、筆者の見解を加えて独自に執筆したものです。