GoogleのAI検索機能「AI Overviews」やチャットボット「Gemini」が、巧妙に細工されたウェブページを通じて偽情報を拡散させられていたことが、BBC記者の調査によって明らかになった。GoogleはポリシーをアップデートしてAIポイズニングへの対策を強化しているが、専門家は依然として「現状では操作されていると思って利用すること」と警告する。

なぜAIは簡単に騙されるのか

通常、AIチャットボットは学習データをもとに回答を生成するが、ChatGPTやClaude、GoogleのAI製品の一部は「リアルタイムでウェブを検索してから回答する」機能を持っている。この仕組みが悪用された。

SEOとAI検索の専門家によると、AIツールは特定の1つのウェブページやSNS投稿の内容をそのまま拾い上げることが多い。つまり、うまく作り込んだブログ記事を1本公開するだけで、AI検索の回答を意図的に操作できてしまう。これが「AIポイズニング」と呼ばれる手口だ。

BBC記者がGoogle・ChatGPTを20分で騙した実験

BBC記者のトーマス・ジャーマン氏は、自身のウェブサイトに「ホットドッグ早食い世界チャンピオン」を称する記事を掲載した。翌日には、ChatGPTやGoogleのAIが世界中に向けて同氏を「世界チャンピオン」として紹介し始めたという。

笑い話のような実験だが、同様の手口は深刻な場面でも使われていた。調査では、医療サプリメントの健康上の懸念を否定する偽情報や、退職資金に関する金融情報をGoogleのAIに語らせることにも成功しており、こうした操作が「広範かつ組織的なレベル」で行われていることが確認されている。

Googleのポリシー更新と現状

この調査報道や研究者たちの指摘を受け、Googleはスパム対策ポリシーをAI検索機能に適用する形でポリシーを更新した。ただし同社は「以前から継続的に取り組んできた内容の明確化にすぎない」と説明しており、新たな抜本対策というよりは既存姿勢の再確認という側面が強い。

実際、記事執筆時点でも同じ手口でGoogle検索が操作されている事例が確認されており、完全な解決には至っていない。

「10個のリンク」から「1つの正解」への構造的変化

この問題の本質を突いているのが、SEOコンサルタントのリリー・レイ氏の指摘だ。

「かつてGoogleは10個のリンクを提示し、ユーザーが自分でリサーチしていた。AIは1つの答えを出す。額面通りに受け取りやすくなってしまった」 AI検索への移行は、情報収集の構造を根本から変えつつある。複数の情報源を比較検討するプロセスが失われ、ユーザーは「AIが選んだ1つの答え」を受け取るだけになる。この変化は、偽情報が拡散したときの影響範囲を以前より格段に広げる。

日本のエンジニア・IT管理者への実務ポイント

今すぐ取り入れられる対策：

  • AI検索結果を「一次情報」として扱わない: 投資・医療・セキュリティなど重要な判断にはAI検索結果だけを使わず、公式ドキュメントや信頼できる情報源でクロスチェックする
  • 社内AIガイドラインへの明記: 「リアルタイム検索を使うAIツールの回答は検証が必要」という一文を利用ポリシーに追加することを検討する
  • 自社情報の流通モニタリング: 自社製品・サービスに関する誤情報がAI検索で流通していないか定期的に確認する習慣を持つ
  • ウェブ検索オフのモードを活用: 機密性や信頼性が重要な作業では、インターネット参照なしのモードを選択する

筆者の見解

今回の問題は「AIが賢くなりすぎた」ことが原因ではなく、「AIが外部情報をどう取り込むか」というアーキテクチャ設計の課題だ。検索エンジンのスパム対策は長年の歴史があり、Googleはそのノウハウを積み重ねてきた。AI Overviewsへの対応もその延長線上にあり、時間をかけて洗練されていくとは思う。

ただ、見逃せないのはユーザー側に求められるリテラシーのハードルが上がっている点だ。「複数リンクから自分で判断する」プロセスが消え、「AIが提示する1つの答え」をそのまま受け取る文化が定着すれば、誤情報の影響は以前より広範に及ぶ。

技術的な防御策の整備と並行して、組織・教育の場で「AIの回答を批判的に検証する」習慣を育てることが急務だ。ツールを使いこなすとは、出力を無批判に信頼することではない。AIを正しく使いこなすためのリテラシー教育は、エンジニアだけでなくビジネスユーザー全員に必要な時代になっている。

出典: この記事は Google’s AI is being manipulated. The search giant is quietly fighting back の内容をもとに、筆者の見解を加えて独自に執筆したものです。