英ケンブリッジ大学のAI科学・政策プログラム（CASP）は、ナイジェリアのイスラム過激派組織ボコ・ハラムの両派閥が、OpenAIのChatGPT、AnthropicのClaude、GoogleのGemini、xAIのGrok、Meta AI、中国DeepSeekといった主要フロンティアAIを、戦闘計画の立案や兵器のトラブルシューティングなど実戦活動に組織的に活用していたとする調査報告書を公表した。

27人の元メンバーへの聴取から浮かび上がった実態

CASPは2025年から2026年にかけて、ボコ・ハラムを離脱した元戦闘員27人への半構造化インタビューを実施し、フロンティアAIが現場でどう使われていたかを再構成した。報告書が挙げる利用目的は、戦闘計画の策定、武器のトラブルシューティング、爆発装置の設計支援、そして日常的な組織運営の効率化と多岐にわたる。特筆すべきは、一部のユーザーが各社の安全対策（セーフガード）を突破することに成功していたと記録されている点だ。

なぜ「体系的」なのか

報告書が強調するのは、この利用実態が従来の分析が想定していたよりもはるかに進んでおり、場当たり的ではなく体系的だったという点だ。テロ組織側が特定の1社のAIサービスに依存するのではなく、複数のベンダーのサービスを使い分けていたことも読み取れる。これは、単一ベンダーの対策強化だけでは問題が解決しない、業界横断の課題であることを示している。CASPは政策立案者・セキュリティコミュニティ・AI開発企業の三者が連携して注視すべきだと結論づけている。

実務への影響

この報告書は、AIを組み込んだプロダクトやサービスを開発・運用する日本のエンジニア、それを導入するIT管理者にとっても他人事ではない。第一に、フロンティアAIのセーフガードは「絶対に破られない壁」ではなく、悪意ある利用者による継続的な迂回の試みにさらされ続けているという前提でシステムを設計する必要がある。自社サービスにLLMを組み込む際は、モデル提供元のガードレールに全面的に依存せず、入力・出力の双方に対する追加のモニタリングや異常検知の仕組みを重ねて用意しておくべきだろう。第二に、レッドチーミング（悪用者視点でAIを攻撃してみるテスト）の重要性が改めて浮き彫りになった。社内でAIエージェントを本番導入する前に、想定外の目的での利用や安全対策の迂回が可能かどうかを検証するプロセスを組み込むことが、今後のガバナンスの標準になっていくはずだ。

筆者の見解

AIエージェントの価値は「目的を伝えれば自律的にタスクを遂行する」自律性にある、というのが筆者の一貫した立場だ。だがこの自律性は諸刃の剣でもある。今回の報告書が突きつけるのは、まさにその裏面だろう。人間の認知負荷を下げる仕組みは、使う人間の意図が善であれ悪であれ機能してしまう。

だからといって「AIを禁止すればいい」という結論には賛成しない。禁止アプローチは必ず失敗する、というのが筆者の持論だ。しかも今回悪用されたのは特定の1社のサービスではなく、業界のほぼすべての主要フロンティアAIだった。つまりこれは一社のガードレール強化で片付く話ではなく、業界全体でセーフガードの設計思想を磨き続けるしかない構造的な課題だ。

日本のAIベンダーやシステムインテグレーターも、「うちは大丈夫」で済ませず、自社が扱うAIサービスが悪意ある目的にどう転用され得るかを継続的に検証する体制を持つべきだ。正規ユーザーには最高の使い勝手を提供しつつ、悪用のハードルを上げ続ける——この地道な両立にしか、答えはないはずだ。

出典: この記事は How the terrorist group Boko Haram uses frontier AI の内容をもとに、筆者の見解を加えて独自に執筆したものです。