バーチャル急患診療におけるAIと医師の推奨の比較

Zeltzer D, Kugler Z, Hayat L, et al.
Comparison of Initial Artificial Intelligence (AI) and Final Physician Recommendations in AI-Assisted Virtual Urgent Care Visits.
Ann Intern Med. 2025 Apr;178(4):498-506. PMID: 40183679.

こういう研究を読んだり、AIが理IIIに合格できる記事を読んだりしていつも考えるのは、ICUの診療をAIがするようになるのはいつだろう、ということ。

まず基本的なこととして、「ICUでの診療は複雑なのでAIには無理だ」と考えるのは間違い。僕が生きている間にそういう時代が来てもおかしくないくらい、当然起こること。それと、いつ、ということを考える時に、何年後かを考えるのはちょっと無理がある。そこには色々な要素があるので必ず不正確になるから。それよりもどんな条件がそろえばAIがICUの診療をできるようになるか、を考えたい。

今回の研究では、患者診療に必要な情報が全てテキストとして提供される。それをAIと医師が見て、さらに判定する”エキスパート"が見て、診療プランを決定し、評価している。つまりまとまったテキスト情報があり、それを一つの問題に対して利用すれば済む。でもICUでは、患者さんの病態を把握するための情報がいろいろなところにある。具体的には、
・電子カルテの診療記録
・部門システムの経過表（バイタル、使用薬剤、医療機器、インアウト、血液ガス）
・血液検査結果、培養結果、その他の検査の実施と結果
・画像、読影レポート
・（まだ）文章化されていない伝聞情報（担当科の医師がこう言っていた、家族がこう言っていた、数日前に抗菌薬を中止した理由をカルテに書かなかった）
・記録されていない患者情報（見た目、診察で得られる情報）

まず複数のシステムが存在している点が問題。部門システムは比較的容易だが、電子カルテの相当量の情報を定期的に出力する仕組みが利用可能になるにはしばらく時間がかかるし、画像は別個にAIが読影する必要がある。
次の問題は、検討するべきアウトカムが無限と言ってくらいたくさんあること。例えばGPTが上昇しただけで、経過観察するかどうか、エコーするかどうか、薬剤を中止するかどうか、の全てを判断する必要がある。この無限の問題に対する判断をAIがどう行うか。教師あり学習や強化学習ではほぼ無理なので、multimodalなLLMが多量の情報を飲み込んで、何を判断する必要があるかについて考えてくれないといけない。
そして最後の問題は文章化されていない情報。これって結構多いし、知らないと判断できないくらい重要な情報が含まれていたりする。その対応には病室とICUの各所にカメラとマイクを設置して、それを評価できるようになる必要がある。

どれもある程度は現状でも可能だけど、まだAIがそのレベルに達していないところもあるし、金銭的に導入が難しいところもあるし。これらをすべてクリアして、ICUでAIが診療するのが普通になるには、結構時間がかかりそう。週３でICUのカンファに参加（ほぼ見学）していてるのだけど、いつもこんなことを考えている。でも、東ロボくんの失敗から10年を経たずに理IIIに合格できるようになったことを考えると、もしかしたら思いのほか早かったりして？

ICUにおけるAI予測の臨床応用 ～実際にやってみた！～

１年前にICONで話したこれ。
URLを公開してもよいと許可をいただいたので、改めて紹介。

ICUにおけるAI予測の臨床応用 ～実際にやってみた！～

昨年９月からは、この仕組みがACSYSに取り込まれ、全患者で1時間毎に自動更新されています。
実物を見たい方は自治さいたまICUにお越しください。

敗血症性ショックにおける最適なバソプレシン投与開始

JAMAのAI文献。僕の感想は、「ふーん」。
その理由をちゃんと説明するため、少し詳しく書いてみる。

Kalimouttou A, Kennedy JN, Feng J, et al.
Optimal Vasopressin Initiation in Septic Shock: The OVISS Reinforcement Learning Study.
JAMA. 2025 Mar 18. Epub ahead of print. PMID: 40098600.

強化学習と言えばalpha-goやChat-GPTのRLHFが有名だけど、ICUにおける強化学習と言えば、この研究。時期も早いし、Nature Medだし、これを見た時の感想は「ただすごい」だった。教師あり学習は単に過去の情報をまとめるだけだけど、強化学習はその中からより良い選択をすることができるので、「近未来のICUでは強化学習が患者さんの状態に合わせた治療選択をしてくれるようになるのでは」と漠然と思っていた。

しかしあれから7年、AIの進歩には十分すぎるほどの時間が経ったが、ICUのAI研究が強化学習で溢れるような状況にはならなかった。理由は複数。
・強化学習は教師あり学習と比べて圧倒的に難しい。
・計算資源が教師あり学習よりもたくさん必要（時間がかかる）。
・囲碁などと異なり実験ができず、過去の情報の範囲内の選択しかできない（例えば敗血症性ショックにニカルジピンを投与したらどうなるか、なんていう実験ができない）。
・だからこそバラエティに富んだ多くの症例データが必要だが、巨大データベースはまだ存在しない（1000万例のバイタルデータとか）。
・AI研究者のほとんどがLLMに向かってしまい、強化学習の進歩が遅い。
・頑張って学習させても、このNature Medの研究のように、「敗血症性ショックに対し、ノルアドと補液の投与量を5群ずつに分け、合計25のストラテジを作り、そのどれがもっとも現状にとって望ましいか」という程度の結果しか出ない。「次の4時間はノルアドを0.22-0.45γ、補液を50-180mL/hrで投与してください」という情報が臨床で有益とはとてもじゃないが思えない。
これらの理由により、少なくともICUにおける強化学習は限られた数、限られた種類の研究しか行われていない、というのが現状。発表されている多くの文献はこの研究をリピートしたものだし、あとはFiO2とPEEPの組み合わせとか、せいぜいその程度。

さて、これらの情報を踏まえ、本研究を見てみる。
すぐに気がつくのは、Nが小さいこと。Trainingに使われたのは3608例のみ。そして、アウトカムが「バソプレシンをいつ開始するか」という非常にシンプルなもので、正直、目を引くものは何もない。では何故JAMAに掲載されたのか。
・アウトカムがシンプルであるが故に、逆に分かりやすく、臨床応用できる。
・バソプレシンの開始時期はもう多施設RCTが行われている話題だが、まだ結論が出ておらず、比較的注目を集めやすい。
・eICUのデータを使ったexternal validationなど詳細な解析をしている（AI文献としてはアリガチだけど）。
・強化学習は馴染みのない人が多い。
・アメリカの学会雑誌にアメリカ人が投稿した。かつ著者にDerec Angusが含まれている。
からだと思う。

一言で言えば、上手いことやった研究。
医療における強化学習が今後どこに向かうか、ICUに入ってくるのか、は今後も注目だけどね。

神経学におけるAIデバイス-診断から予後診断へ

Hillis JM, Cliff ERS, Vokinger KN.
AI Devices in Neurology-Moving From Diagnosis to Prognosis.
JAMA Neurol. 2025 Feb 1;82(2):117-118. PMID: 39556390.

1ページちょっとの短いview point。
タイトルだけでは内容が想像できなかったのだけど、つまりFDAが新しい承認方法をとった、という話のようだ。
Chat先生の要約をさらに短くすると、
ーーーーーーーーーー
2024年初頭、FDAは認知症の予後予測を支援するAI/搭載の医療機器を承認した。このデバイスは軽度認知障害（MCI）の予後評価ソフトウェアとしては初のFDA承認となる。
誤って高い進行リスクを出力することで不適切な治療が行われる可能性や、逆に誤って低いリスクを出力することで診断や治療が遅れる可能性が考慮された。こうしたリスクを軽減するため、FDAは承認後の市販後監視によってデバイスの性能を検証する要件を設定した。
市販後試験の実施は、従来のAI医療機器の規制プロセスには必ずしも含まれていなかった。しかし、実際の臨床現場における精度と再現性の検証が求められることから、今後は市販後試験がAI医療機器の標準的な規制要件になる可能性がある。
FDAはこれまでに約1,000件のAI医療機器を承認しており、今後も予後予測AIデバイスが続々と登場する可能性がある。FDAのライフサイクル規制、特に市販後試験の強化が、イノベーション促進と安全性のバランスを取る上で不可欠となるだろう。
ーーーーーーーーーー
なるほどー。市販後調査かー。薬なら普通だもんね。
ただ、この製品の場合でデータ収集に2年、予後評価にさらに数年。そうこうしているうちに時代が変わっている気もする。今現在でやれることとしてはこれがベストということか。

ICUのVRが親族の精神的苦痛に及ぼす影響

Drop DLQ, Vlake JH, Wils EJ, et al.
Effect of an intensive care unit virtual reality intervention on relatives´ mental health distress: a multicenter, randomized controlled trial.
Crit Care. 2025 Feb 5;29(1):62. PMID: 39910674.

家族にICUでの治療内容を説明する14分のVRを見せるかどうかで6ヶ月後のPTSDや不安が減るかどうかを比較したRCT。介入群は全体的に発症頻度が低い傾向はあったが有意差は無し。
でも家族の90%が普通のパンフレットよりVRを高く評価し、82％がICUでの治療内容を理解できたと報告。

サプリを見ると、患者さんの視点で動画が作られているようだ。
PTSDが減らなくても、単に説明方法としてこっちの方がいいんじゃない？

専門医レベルの集中治療に関する質問に対するLLMの性能

Workum JD, Volkers BWS, van de Sande D, et al.
Comparative evaluation and performance of large language models on expert level critical care questions: a benchmark study.
Crit Care. 2025 Feb 10;29(1):72. PMID: 39930514.

集中治療についての選択問題をLLMに解かせたら、人間の平均が62点だったのに対してChatGPT-4oは89点だったと。

そもそもこんなサイトがあるらしい。
https://gotheextramile.com
知らなかったので、これまたChatGPT-4o先生に聞いてみた。
ーーーーーーーーーー
Go the Extra Mile（GTEM）は、集中治療医学に特化したオンラインの多肢選択式問題（MCQ）プラットフォームです。GTEMは、iOSおよびAndroid向けの「Critical Care MCQ」アプリを提供しており、医療専門家が集中治療に関する知識を強化するためのリソースを提供しています。 このプラットフォームは、集中治療分野で世界最大のMCQコレクションを誇ります。
GTEMは、EDIC OmnibusやLearn-Xなどのサブスクリプションを通じて、NEET-25のWhatsApp勉強グループプランを提供し、質問バンクの全カリキュラムをカバーしています。また、GTEMの利用者はINISS（集中治療）試験で高い成績を収めており、プラットフォームの効果が実証されています。
GTEMの創設者であるSumesh Arora氏は、集中治療専門医であり、プラットフォームの開発と運営に携わっています。
さらに、GTEMは新規および経験豊富な集中治療医向けに、無料のテストや教育リソースを提供しています。
ーーーーーーーーーー

それにしても、当然のことながら人間より賢い。4o先生でこのレベル。もうo1先生やo3先生はどれくらい賢いのだろう。もうすぐGPT4.5先生も出るらしいし、今年中に5.0先生になって、o1/o3先生とかDeep Research先生とか全部統合されるらしいし。

将来の医療や集中治療がどうなるか、なんて質問はあまり意味がなく、いつそうなるのか、の方が興味ある。

せん妄の発見と治療にAIを活用

もうすぐ1月も終わるのに、ICMの今月号がまだ出ない。新しい編集長が気張って作っているのかな。
でもonline-pubはバンバン出ていて、その中で目立つのがAI関係のeditorial。10くらいはあるのではないか？

これはそのうちの一つ。我が師Dr.Bellomoのチームから。
Young M, Kotfis K, Bellomo R.
Using AI to detect and treat delirium.
Intensive Care Med. 2025 Jan 20. Epub ahead of print. PMID: 39831998.

この文章の主旨とは少し異なるのだけど、読んでいて思ったこと。
自治さいたまでは2年前から約40項目のAIによる予測を臨床で使えるようにしていて、昨年9月からはACSYSでリアルタイムで見られるようになっている。「24時間以内のせん妄の発生」もその一つで、予測のAUROCは0.844。AIによるせん妄の予測についての研究は複数あり、どれも有望そうな結果で、このeditorialにも"... opens the door to early automated screening and intervention...”なんて書いてある。

この”有望そうな”予測が実際に臨床の場で使える状況にあるわけだけど、じゃあみんなが使っているかと、話題に登っているのを聞いたことがない。作成者側は残念に思っているかというと、そういうことはなく、どちらかといえば「この数字を人々は実際に使うのか？」を観察するために作っていて、予想通り使われていない。

使われない理由は簡単で、せん妄の予防も治療も確立したものはないから。周囲にカレンダーや時計を置いたり、メガネや補聴器を普段使っている患者さんに提供したり、そういう”当たり前”のこと以外は予防も治療もないのだから、「この患者さんはX%の確率でせん妄になりますよ」と言われても、対応のしようがないし、だから話題にも登らない。

何をアウトカムにしても、データがあれば予測するのは簡単で、精度もそこそこ出ることが多い。
でも臨床で実際に有意義な予測というのは、なかなか無い。
あるけどね。

日常的に収集されるICUデータの力を活用する

ICMのePubでAI関係のeditorialがたくさん出ている。2025年1月号は編集長が代わって最初の号になるので、そこで特集が組まれているのかな？

Lijović L, Elbers P.
Leveraging the power of routinely collected ICU data.
Intensive Care Med. 2024 Dec 11. Epub ahead of print. PMID: 39661137.

このeditorialは、僕がいつも考えていることをそのまま文章にしてくれた感じ。特に、
"One notable challenge associated with the secondary use of routinely collected ICU data is concern over data quality, which may affect the reliability of any derived insights. This is typically referred to by the umbrella expression “garbage in, garbage out”, implying that flawed, incomplete, or low-quality input data will inevitably lead to faulty outputs, regardless of how sophisticated the data processing or analysis might be."
「日常的に収集されるICUデータの二次利用に関連する注目すべき課題の一つは、データの質に関する懸念であり、これは導き出される洞察の信頼性に影響を及ぼす可能性がある。これは一般的に 「garbage in, garbage out 」という包括的な表現で呼ばれ、欠陥のある、不完全な、あるいは低品質の入力データは、データ処理や解析がいかに精巧であろうと、必然的に欠陥のある出力につながることを意味している。」

電子カルテや部門システムが電子化されているのでデータとして利用しやすいとは言っても、その多くは人間が入力しているので、精度がデータ利用時に大きな影響を与える。とても大事なことだと思うのだけど、ICUの医療従事者はそこまで考えて入力していない。目の前の患者さんの方が重要だから、そこに関与しないことに関心を持たないのは当然と言えば当然だけど。

2023年にChatGPTが大きな話題になり、2024年はノーベル賞でAIが2つも賞を取り、来年はさらにAIが身近になる年になるでしょう。でもAIを使おうと思ってもまともなデータが無ければ使えない。気がついたらすでに遅かった、とはならないようにするには、今が大事。

FDA認可の敗血症予測AI/MLツール

FDA-Authorized AI/ML Tool for Sepsis Prediction: Development and Validation
Akhil Bhargava, Carlos López-Espina, Lee Schmalz, et al.
NEJM AI 2024;1(12) DOI: 10.1056/AIoa2400867 VOL. 1 NO. 12

敗血症予測モデルは星の数ほどあるし、中には電子カルテに組み込まれているものもあるけど、FDAが認可したのはこれが初めてだそうだ。で、その開発と評価の結果を示した文献。

なのだけど。
複数の施設で行われた前向き研究、というのは評価しないといけない、とは思いつつも。
Nは2366しかないし、対象は、どうも血培を採取した患者さんらしく、その時点でどうなの？という感じで、手法も特に珍しいものはなく、22項目（患者背景、バイタル、ラボデータ）を用いてrandom forrestしただけのようだし、AUROCもexternal validationで0.81とまあまあ。

なんか、すごく普通。
Nだけ見たらMIMIC使ったものの10分の1とかしかないし。
「血培とることにしたよー、敗血症になるかどうか教えて」って、臨床で思うだろうか？

熟読すれば深さがわかるのかもしれないが、その気にならない。。。

集中治療室における人工知能に対する躊躇がもたらす機会費用

Spencer EJ, Economou-Zavlanos NJ, van Genderen ME.
What if we do, but what if we don't? The opportunity cost of artificial intelligence hesitancy in the intensive care unit.
Intensive Care Med. 2024 Dec 11. Epub ahead of print. PMID: 39661136.

AIは幻覚や差別や倫理や著作権などなど、たくさんの問題があるから導入は慎重にしよう、という話はよく聞くけれど、導入しないことによる機会損失（AIを使用しないことによる不利益）も倫理的に問題では？という意見が書かれているeditorial。

そっか、その視点はありませんでした。
何かの時に使えるな。メモメモ。