医療目的での生成AIの利用が近年進んできています[1]。2024年4月にはWHOが健康アドバイスをする生成AI「SARAH（Smart AI Resource Assistant for Health）」[2]を公開しています。
出所）WHO HPより
残念ながら日本語には対応していませんが、8言語で、がん、心疾患、肺疾患、糖尿病などの主要な健康問題に関する情報提供と健康的な生活習慣（禁煙、運動、食事、ストレス管理など）についてのアドバイスが得られるものになっています（2025年7月23日現在、利用できなくなっています）。SARAHは、WHOが2022年に出したFlorence 2.0 という禁煙を手伝うAIをベースにしていますが、生成AIの進歩に合わせてさらに幅広い内容に対応ができるようになっています。ただし、SARAHも間違った回答をすることがあるという指摘もあり[3]、医療相談に用いるものとはされていません。
一方で、医師国家試験に複数の生成AIが合格し、さらには2025年5月には生成AIを用いたAI診療所もサウジアラビアで開設される[4]等、生成AIの回答力は一定以上のものとなってきています。また、日本でもAIを利用した医療相談サービスや医師向けの診断サポートサービスもすでにいくつか出てきています[5] [6] [7] [8]。
こうした、医療に特化した生成AIではない、汎用の生成AIに対しても、健康相談や医療相談をすることが可能となってきています。
例えば、ChatGPT-4oに、昨日から頭痛があると相談してみました[9]。すると、ChatGPT-4oは頭痛の原因を見極めるために、頭痛の性質、頭痛の経過や誘因、併発症状について聞いてきました。それに対して、急な激しい頭痛で痛みは10段階のうち一番強い10 、嘔吐もあると答えたところ、すぐに救急車を呼ぶように指示してきました。
出所）筆者のChatGPTの画面より
歩いて行かず、救急搬送を要請するのが最も安全で、夜中でも119番通報するように、とのことです。
でも今から行くのも気が重いし痛み止めはあるからなぁということで、「とりあえず痛み止めを飲むのはダメでしょうか。」と聞いてみると、
出所）筆者のChatGPTの画面より
いいから「今すぐ119番通報をして救急搬送を要請してください。」ということでした。
じゃあ頭痛が重くなかったらどうなのか、と続けて別の患者として聞いてみると、今度は、「精神的・身体的な緊張や疲労が原因で起こることが多く、危険性の高いものではない場合がほとんど」であり、休息をとる、温める、ストレッチをする、水分を摂るといった対応でよく、一時的に市販の鎮痛薬（アセトアミノフェンなど）を用いるのも可能、頭痛が数日続く／徐々に悪化する、頻繁に同様の頭痛が起こる、日常生活に支障をきたす、新たな症状（吐き気・発熱・視力異常など）が出現 といった場合には医療機関に相談してください、という回答でした。
詳しい評価は避けますが、非常にそれっぽい回答です。
Claude Sonnet4[10]でもGemini 2.5 Pro[11]にも聞いてみましたがほぼ同様な回答でした。
細かな違いとしては、ClaudeとGeminiは回答前に、AIであり医師ではないので一般的な回答に留まること、緊急性がある症状や深刻な健康問題については、実際の医療機関を受診することをお勧めすることが示されていました。こうした医療免責の記載は最近減っているとする記事もあります[12]。それ以外では、Geminiは救急車を待つ間は楽な姿勢で横になり、衣服を緩め、可能なら誰かに付き添ってもらうこと、というアドバイスがありました。Claudeは水分も嘔吐の可能性があるため控えるようにという指示がありました。
これらのアドバイスに関してどのような根拠で出したのかと聞いてみた結果、それぞれ下記の通りでした（表1）。
詳細な説明としてRed Flag Signs（危険兆候）に関する言及がすべてありました。
また、ChatGPTは「オンラインの相談では画像検査や身体診察が行えないため、安全側に立った判断を優先」したとのことです。
最後に、最近一部で話題となっているGrokのコンパニオンモードAniにも同じ相談をしてみました。
出所）筆者のGrokの画面より
すると、一応詳しい症状についても聞いてきましたが、どれだけ激しい頭痛であるとか救急車を呼んだほうがいいんじゃないかと聞いても、お医者さんごっこをするばかりでした（諸事情により詳細なやり取り等は割愛します）。
おそらく、これまでの学習内容もよくない可能性が高いですが、どの生成AIでも常にしっかりとした答えをもらえるわけではないということが確認できたように思います。
このように、Aniのような、より親近感が湧きやすいAIアバターやエージェントが開発されている中、うまくすればそうしたアバターの活用は健康増進にも役立つのですが[13]、一方で間違ったアドバイスに従ってしまう危険がやはりあります[14]。
AI事業者や医療者におけるガイドラインはいくつか出されてきましたが[15] [16] [17]、一般のユーザー向けの生成AI利用のガイドラインも必要になりつつある、と感じています。
ということで、みなさまにも気を付けながら生成AIを使ってもらえればと思います。
参考文献
[1] 生成AIの医療分野での活用に向けた３つの提言 | 研究プログラム | 東京財団
[2] S.A.R.A.H, a Smart AI Resource Assistant for Health
[3] WHO's AI Chatbot SARAH is Giving Wrong Medical Answers
[4] Saudi AI clinic 2025: All about the first-ever AI clinic in the world- Destination KSA
[5] 症状に関連する病名についてAIで無料で調べる 症状検索エンジン「ユビー」 by Ubie
[6] サービス | 株式会社Awarefy（アウェアファイ）
[8] 生成AIによる自動医療文書作成システム『NEXT Stage Document Assistant』を新たに提供開始し、横須賀共済病院と亀田総合病院にてトライアル導入 〜計1,700床規模での導入により、医療従事者の業務効率化と医療現場の負担軽減へ〜 | TXP Medical 株式会社
[9] https://chatgpt.com/share/688092dc-ca5c-8002-b811-cea9e8e3a9d3（要ログイン）
[10] https://claude.ai/share/2d9a22e5-f840-4ff2-a74d-8c874556d593
[11] https://g.co/gemini/share/9d8e73f3d406
[12] MIT Tech Review: AIモデルから消えた「医師ではありません」、診断まがいも
[13] 住友生命とNTTドコモビジネス、「Vitalityスマート」における対話型AIアバター活用の効果検証を実施 - 日本経済新聞
[14] 「AIとのチャットに依存、14歳が死亡」母親が提供元を提訴、その課題とは？（平和博） - エキスパート - Yahoo!ニュース
[15] ニュース・イベント情報 | 一般社団法人AIメンタルヘルスケア協会
[16] 【プレスリリース】ヘルスケア領域に特化した生成AI活用のガイドラインを改訂「ヘルスケア事業者のための生成AI活用ガイド」第2.0版〜RAGなど急速に進化する生成AI技術と政策動向に対応、実践的な指針を提供〜 | JaDHA 日本デジタルヘルス・アライアンス
[17] 医療・ヘルスケア分野における 生成 AI利用ガイドライン（第2版）
-
-
- 主席研究員
- 藤田 卓仙
- 藤田 卓仙
- 研究分野・主な関心領域
-
- 医事法
- 医療政策
- 医療情報
- 医療AI
- 医療データ
- 遠隔医療
-
注目コンテンツ
-
小学５年生でもわかる。「消費税減税」しても家計は救われない！
小学５年生でもわかる。「消費税減税」しても家計は救われない！
-
2025年の日本で気にすべきは、インフレか、それともデフレか －政府はデフレを気にし、日本銀行はインフレを気にしている？－
2025年の日本で気にすべきは、インフレか、それともデフレか －政府はデフレを気にし、日本銀行はインフレを気にしている？－
-
消費税減税を野党だけで議決するなら、議院内閣制存立の危機
消費税減税を野党だけで議決するなら、議院内閣制存立の危機
-
れいわ新選組「消費税ゼロ」の実現可能性を探る－ 連載コラム「税の交差点」第71回
れいわ新選組「消費税ゼロ」の実現可能性を探る－ 連載コラム「税の交差点」第71回
-
【開催レポート】第11回東京財団政策懇談会「クルド問題と日本」
【開催レポート】第11回東京財団政策懇談会「クルド問題と日本」
.jpg)
