Metaは2026年7月8日、Instagramの新しい画像生成AIモデル「Muse」に関連する機能として、公開アカウントを「@」でタグ付けするだけでその投稿画像を参照したAI生成画像を作れる仕組みを発表した。しかし公開からわずか数日で「本人の同意なく他人の肖像を使ったディープフェイクを助長する」との強い批判を浴び、Metaは同機能を全面停止した。

何が起きたのか

問題となったのは、Museの画像生成時に公開Instagramアカウントを@メンションすると、そのアカウントが投稿してきたコンテンツを参照した画像を誰でも生成できるという仕様だ。対象は本人が同意した相手に限らず、公開設定のアカウントであれば原則として誰の投稿でも参照可能だった。オプトアウトの手段は用意されていたものの、設定画面の奥深くに埋もれており、機能はデフォルトで有効になっていた。

性的搾取防止に取り組む非営利団体「National Center on Sexual Exploitation」のHaley McNamara氏は「自分自身の肖像に対する権利を明らかに侵害するだけでなく、セクストーションなど詐欺の道具になり得る」と厳しく批判。俳優組合SAG-AFTRAも会員に対しオプトアウトを推奨し、その手順を公式に案内する事態となった。

Metaは公式ブログの更新で「有用な創作ツールを提供する意図だったが、狙いを外したというフィードバックを受け止め、機能の提供を停止した」と説明している。

「オプトアウト任せ」の設計が招いた炎上

今回の本質的な問題は技術力ではなく同意設計（コンセントデザイン）にある。「本人が明示的に許可した場合のみ利用可能」というオプトイン設計ではなく、「デフォルトで利用可能、嫌なら自分で探して止める」というオプトアウト設計を採用したことが炎上の火種になった。生成AIが個人の投稿や肖像を扱う機能では、この設計順序を間違えると影響範囲が一瞬で拡大する。

実務への影響

日本のエンジニア・IT管理者にとっても他人事ではない。生成AIを使って第三者のコンテンツ（写真・投稿・音声など）を参照する機能を設計する際は、必ず「デフォルトはオプトイン」を徹底すべきだ。社内向けツールでも、社員の顔写真やSNS投稿を参照する生成AI機能を安易に実装すると、同様のリスクを抱え込むことになる。

日本には肖像権・パブリシティ権に関する判例の蓄積があり、無断でのAI生成物への肖像利用は法的リスクを伴う。生成AI機能をリリースする前に、悪用シナリオ（なりすまし、誹謗中傷、性的搾取目的の利用など）を想定したレッドチーム的な事前レビューを行う体制を、開発フローに組み込んでおくことが望ましい。

筆者の見解

今回の一件は、生成AIの実装力そのものよりも「安全に使える既定値をどう設計するか」がプロダクトの成否を分けることを改めて示している。禁止で縛るのではなく、最初から安全な既定値の中でユーザーが安心して使える仕組みを用意する——これは生成AI機能を作るすべての企業に共通する基本のはずだ。Metaほどのリソースと規模を持つ企業であれば、公開前にこの種のリスクを潰す体制を敷けたはずで、その意味では「もったいない」対応だったと言わざるを得ない。

生成AIの活用が広がるほど、個人の肖像や投稿を扱う機能の設計には一段と慎重さが求められる。日本企業が同様の機能を検討する際は、今回のInstagramの事例を「デフォルト設計を間違えると信頼を一瞬で失う」という反面教師として活用してほしい。

出典: この記事は Meta turns off the Instagram feature that let users make AI deepfakes of public accounts の内容をもとに、筆者の見解を加えて独自に執筆したものです。