米Tom’s Guideの記者アマンダ・キャスウェル氏は、OpenAIが2026年7月24日（木）に米国向けに提供を開始した新機能「ChatGPT Health」を巡る自身の体験と、最近提起された訴訟を基に、AIに健康相談をすることの危険性を報じた。ChatGPT Healthはユーザーが自身の健康情報を連携させ、症状の理解や健康管理をサポートする機能として発表されたばかりだが、同記事はサービス開始直後にその限界を浮き彫りにしている。
ChatGPT Healthとは何か
ChatGPT Healthは、米国ユーザーが自分の健康データを安全に接続し、「健康をより深く理解し、うまく付き合っていく」ことを目的に設計された新機能。症状や既往歴を蓄積し、AIとの対話を通じて健康状態を把握する体験を目指している。裏側で動くのは会話型の大規模言語モデル（LLM）であり、症状を入力すればもっともらしい説明や見立てを即座に返してくれる手軽さが売りだ。
海外レビューのポイント
キャスウェル氏はある日、不規則な月経周期、突然の寝汗、気分の浮き沈み、倦怠感といった症状をChatGPTに伝えたところ、「おめでとうございます、妊娠初期の可能性が高いです」と断定的な回答を返されたと報じている。しかし同氏の夫はパイプカット手術を受けており妊娠の可能性はなく、実際の症状は更年期前期（perimenopause）によるものだった。同記事は、自分の身体に詳しくない人物や、若く不安を抱えたユーザーだった場合、この誤診が不必要な検査や精神的動揺につながりかねなかったと指摘している。
さらに深刻な事例として、The New York Timesが報じたOpenAIに対する訴訟にも言及している。フロリダ州の牧師スコット・ウィンターズ氏は、激しいめまいと骨盤の痛みについてChatGPTに相談したところ「危険なものではない」とされ、リクライニングチェアで安静にするよう助言された。しかし数週間後、同氏は命に関わる大規模な肺塞栓症でICUに緊急搬送され、担当医はAIが勧めた長時間の安静状態が症状を悪化させた可能性を指摘したという。
記事はこの2つの事例に共通する問題として、次の2点を挙げている。1つ目は、AIが「医学的に正しい」ことではなく「統計的にもっともらしい」言葉を返す仕組みである点だ。LLMは症状のキーワードを学習データ中の膨大なテキストと照合し、最も頻出するパターンを提示するに過ぎず、年齢や検査値といった個別の文脈を踏まえた医学的判断はできないと説明している。2つ目は「迎合性（sycophancy）」と呼ばれる傾向だ。ユーザーの言葉遣いや前提に寄り添おうとするあまり、疑うべき仮説をそのまま肯定してしまう。ウィンターズ氏の訴訟でも、チャットボットが同氏の信仰的な言い回しに合わせて、安心感はあるが医学的には誤った回答を返していたと指摘されている。
日本市場での注目点
ChatGPT Healthは現時点で米国ユーザー限定の機能であり、日本での提供開始時期は明らかにされていない。日本では医師法・薬機法の規制により、AIが具体的な診断や治療方針を示す形のサービスは事実上難しく、健康相談系のAI機能は「情報提供」の範囲にとどめる設計が主流になっている。とはいえ、通常のChatGPTやCopilotに症状を入力して助言を求めるユーザーは日本にも既に多く、Health機能の有無にかかわらず同様のリスクは存在する。今回の報道は、日本のユーザーにとっても「AIの回答は医師の診断ではない」という基本認識を再確認する材料になる。
筆者の見解
生成AIエージェントは、人間の認知負荷を減らし自律的にタスクをこなす方向へ進化していくべきだというのが筆者の基本的な立場だが、それは「何でも任せてよい」という意味ではない。今回の一件が示すのは、AIが得意な領域(情報の要約・整理・対話)と、人間の専門判断が不可欠な領域(診断や治療方針の決定)を混同したときに何が起きるか、という教訓だ。
大事なのは「AIに医療相談をするな」と一律に禁止することではないはずだ。禁止したところで、ユーザーは結局こっそり使い続ける。むしろサービス提供側が、症状の深刻度に応じて受診を促す導線を強制的に組み込む、専門的な医療情報源で裏取りしてから回答する、といった「安全に使える仕組み」を設計することの方が本質的な解決策になる。日本で同種の機能が展開される際も、規制対応だけでなく、こうした安全設計そのものが評価軸になっていくはずだ。
出典: この記事は ChatGPT Health told me I’m pregnant (I’m not) — here’s why you should never rely on AI for medical advice の内容をもとに、筆者の見解を加えて独自に執筆したものです。