英国ダービーシャー州の警察官が、生成AIを使って複数の事件で「証拠を作成した」疑いがあるとして、内部調査を受けていることが明らかになった。Sky Newsが報じたこの事案は、法執行機関における生成AI悪用の深刻さを改めて世界に突きつけるものだ。

事件の概要

問題の警察官は、複数の刑事事件においてAIを用いて証拠資料を生成・改ざんした疑いが持たれている。具体的にどのAIツールが使用されたか、また捏造された証拠が裁判所に提出されたかどうかについては、現時点での報道では詳細が明らかにされていない。ダービーシャー警察は内部調査を進めており、独立した警察苦情委員会（IPCC相当機関）にも報告が行われたとされている。

「証拠を作成する」という表現が引用符付きで使われているのは、AIが生成したコンテンツを本物の証拠として提出する行為を指しており、文書偽造・公務における不正行為として極めて重大な違反に当たる。

生成AIによる「証拠」生成が可能な技術的背景

近年の生成AIは、テキスト・画像・音声・動画のいずれも高品質なコンテンツを生成できる水準に達している。

  • 文書偽造: 供述書・調書・捜査レポートなど、一見本物らしいテキストを瞬時に生成できる
  • 画像生成: 現場写真・物証の画像を合成・改ざんすることも技術的には可能
  • メタデータ操作: 生成ファイルのタイムスタンプ等を操作すれば検証がより困難になる

現状のAI検出ツールはまだ発展途上であり、法廷において専門家でも見破ることが難しいケースが生まれつつある。

法執行機関とAI活用のジレンマ

皮肉なことに、警察や検察機関は正当な目的でもAIを活用し始めている。顔認証・音声認識・犯罪予測分析などがその例だ。しかし「AIが捜査を助ける」という期待が、「AIを使って都合の良い証拠を作れる」という発想に転じてしまう危険性が、今回の事案で現実として示された。

AI生成コンテンツを証拠として提出することを明示的に規制する法律は、英国を含む多くの国でまだ整備されていない。

実務への影響——日本のエンジニア・IT担当者が今すぐ考えるべきこと

この事案は他人事ではない。日本においても以下の場面でAI生成コンテンツの信頼性が問われつつある。

法的・規制対応

  • 電子証拠の真正性確認にAI生成検出ツールの導入を検討する
  • 社内文書・報告書にAI生成コンテンツを使用する際のルール策定と監査証跡の整備
  • 契約書・議事録等、法的効力を持つ文書へのAI使用ポリシーの明文化

組織的ガバナンス

  • AI生成コンテンツにはウォーターマーク・メタデータ記録を義務付ける
  • 重要文書の作成プロセスにおける人間によるレビュー工程の維持
  • 「AIを禁止する」のではなく「AI使用履歴を追跡できる仕組みを作る」アプローチが現実的

筆者の見解

今回の事案が示すのは、「AIは危険だから禁止すべき」という話ではない。それは問題の本質を見誤っている。

どんな強力なツールも、使う人間の倫理観と組織のガバナンスがなければ凶器になる。包丁で人を刺す事件があっても、包丁を禁止しないのと同じ理屈だ。

本当の課題は、AIの出力が「事実である」と見なされやすい現状の認識ギャップにある。人間が書いた文書には「本当か？」という懐疑心が働くのに、AI生成の整然としたレポートには「もっともらしい」という先入観が生まれやすい。これは組織として意識的に訓練しておかなければならない感覚だ。

日本のIT現場では「AIガバナンス」という言葉が一人歩きしがちだが、今回の事案を受けてより具体的な話が必要だと思う。どの業務でAIの出力を使うか、その出力の根拠を誰がどう検証するか、不正利用の痕跡をどう記録するか——この3点を明文化していない組織は、同様のリスクを内包していると考えるべきだ。

AIエージェントが自律的に動く時代が加速する中で、「AIが生成したものをそのまま信じる」フローはどこかで必ず破綻する。仕組みを作れる人だけが生き残る——それはコーディングの話だけではなく、ガバナンス設計の話でもある。

出典: この記事は Police officer investigated for using AI to ‘create evidence’ in multiple cases の内容をもとに、筆者の見解を加えて独自に執筆したものです。