「AIがあれば誰でも作れる」が招いた医療データ全漏洩

AIを使えば誰でも簡単にソフトウェアが作れる——そんなメッセージを담은動画を見た医療従事者が、患者管理システムを自作した。既存の業務用ソリューションを使う代わりに、AIコーディングエージェントを使ってゼロからシステムを構築し、既存の患者データをすべてインポート。さらに診察中の会話を録音して2つのAIサービスに自動送信する機能まで追加した。

そして、その結果は壊滅的だった。

セキュリティ研究者がこのシステムを発見し、わずか30分で全患者データへの読み書きアクセスを取得した。データはすべて平文でインターネットに公開されており、音声録音はDPA（データ処理契約）なしに米国のAIサービスへ送信され続けていた。

技術的な解剖——何がどれほど壊れていたのか

このシステムの構造を技術的に見ると、問題の深刻さが改めてわかる。

アーキテクチャ：

  • アプリケーション全体が単一のHTMLファイル（JavaScript・CSS・ロジックすべてインライン）
  • バックエンドはマネージドデータベースサービスだが、アクセス制御ゼロ・行レベルセキュリティなし
  • 「認証」ロジックはクライアントサイドのJavaScriptのみに存在

最後の点が致命的だ。クライアントサイドに認証ロジックを書いても、それはサーバー側ではまったく機能しない。curlコマンド1本でAPIを直接叩けば、認証を一切通らずにデータが取り放題だ。これはセキュリティと呼べるものではなく、「見た目だけの認証」に過ぎない。

データ保護の観点では：

  • 患者データは暗号化なしでインターネット上に公開
  • データは米国のサーバーに保管（DPAなし）
  • 音声録音が複数の米国系AIサービスへ自動送信
  • 患者への説明・同意取得なし

発覚後の対応として「基本認証を追加してアクセスキーをローテーションした」とのことだが、それは表面的な対処に過ぎず、根本的なアーキテクチャの問題は何も解決していない。

日本の医療・法務現場への示唆

この事件はスイスで発生しており、nDSG（スイス連邦データ保護法）および職業秘密法（Berufsgeheimnis）への違反が疑われる。では日本ではどうか。

日本では個人情報保護法に加え、医療機関向けには「医療情報システムの安全管理に関するガイドライン」（厚労省）が存在する。医療情報をクラウドへ保存する場合の要件、第三者提供の制限、暗号化要件などが明確に定められている。今回のケースのようなシステムは、日本でも複数の規定に違反する可能性が高い。

IT管理者・システム担当者が今すぐ確認すべきポイント：

  • 現場が「便利ツール」として導入したSaaSやアプリに患者・顧客データが流れていないか 確認する。特に小規模クリニックや士業・医療隣接業では注意が必要
  • データの保管先・送信先を把握していない「野良システム」が動いていないか シャドーITの棚卸しを定期的に実施する
  • 音声録音や会話ログを処理するAIサービスは、契約上データを学習利用しないか 利用規約を確認する
  • クライアントサイドのみの認証は「認証なし」と同義 であることをエンジニア・非エンジニア双方に周知する

筆者の見解

この事件を「だからAIコーディングは危険だ」という結論に使うのは、的外れだと思う。

AIが強力なコード生成能力を持つようになったことは事実であり、その流れは止まらない。問題はツールの力が理解の速度を追い越してしまったことだ。アーキテクチャを理解し、セキュリティの基礎を知り、「自分が何を作っているのか」を把握している人間がAIエージェントを使えば、開発速度と品質を同時に高められる。しかし理解なしに「バイブコーディング」（感覚だけで雰囲気に乗って作ること）をすれば、今回のような結果になる。

「禁止すれば解決する」というアプローチは機能しない。動画を見て「自分でも作れる」と思った医療従事者の行動は、ある意味で合理的だった。既存の業務用ソフトは高く、カスタマイズも効かない。AIでゼロから作れるなら、そちらの方が魅力的に映るのは当然だ。

その欲求に応えながら安全性を確保する道を作るのが、私たちエンジニアやIT管理者の役割だ。適切にガバナンスされた環境で、適切な知識を持った人間がAIを活用できる仕組み——これが答えになる。

AIエージェントは正しく使えば現場を劇的に変える力を持っている。だからこそ、「正しく使う」ための知識と仕組みへの投資が今、最も重要なフェーズに入っていると感じる。ツールの力が先行し、理解が追いついていない現状は、今後さらに多くの「ホラーストーリー」を生む可能性がある。

今回の事件を他山の石として、自組織のAI活用とデータガバナンスを今一度見直してほしい。

出典: この記事は An AI Vibe Coding Horror Story の内容をもとに、筆者の見解を加えて独自に執筆したものです。