ECMO PAL：深層ニューラルネットワークを用いたECMOの生存予測

最近、どうも文献を読む時間がない（単に読まなくなったのか？）ので、記事も書けない。
それじゃ寂しいので、ちょっと気になったやつをサラッと。

Stephens AF, Šeman M, Diehl A, etal.; Extracorporeal Life Support Organization Member Centres.
ECMO PAL: using deep neural networks for survival prediction in venoarterial extracorporeal membrane oxygenation.
Intensive Care Med. 2023 Aug 7. Epub ahead of print. PMID: 37548758.

すごく普通の研究。同様の文献は月に何十と出ている。
AI研究でNが1万を超えるのは珍しくないし（MIMICとか使えばすぐ）、AIの手法も普通だし、AUORCも0.8程度だし。
予後を計算してくれるWebサイトを作るというのもありがち。なんと現時点ではまだ利用可能となっておらず、逆にそこは珍しい。

ELSOのデータベースをANZICSの人たちが使って普通の解析をすると、impact factor 40の雑誌に載る。
知ってはいるが少し悲しい事実を改めて見せられたな、というのが感想。

人工知能がCritical Care誌の新編集長に（多分？）

Salvagno M, Taccone FS.
Artificial intelligence is the new chief editor of Critical Care (maybe?).
Crit Care. 2023 Jul 6;27(1):270. PMID: 37415249.

Jean-Louis Vincent.
How artificial intelligence will affect the future of medical publishing
Critical Care volume 27, Article number: 271 (2023)

1つ目の方は、はっきりとは書いてないけど、著者は2名なのに主語が"I"で書いてあるし、AcknowledgementsにChat-GPTの助けを借りたことが書いてあるので、AIが書いている雰囲気を出している。
で、このちょっと挑発的な内容に対して、Vincent先生がしっかりと受け止めたお返事を書いている。

どちらもなかなか面白い。というかちゃんとしている。
連休のお供に、よかったらどうぞ。

機械学習による心筋梗塞の心電図診断

Al-Zaiti SS, Martin-Gill C, Zègre-Hemsey JK, et al.
Machine learning for ECG diagnosis and risk stratification of occlusion myocardial infarction.
Nat Med. 2023 Jun 29. Epub ahead of print. PMID: 37386246.

心筋梗塞の診断精度。External validationにおいて、機械学習のAUROCが0.87、エキスパートが0.80、心電図の自動診断が0.75で、機械学習の圧勝。
エキスパートが中〜低リスクと判断しても、それを機械学習が高リスクと判定し直した場合、実際に冠動脈の閉塞が見つかる確率はほぼ50%ある。

おお、ついにこのレベルに達したか、が感想。
AIのレベルが、ではなくて研究のレベルがね。
普通は、心電図を人とAIが診断して、AIが勝ったよで終わるのだけど、この研究はexternal validationがちゃんと作られていて、かつNが3000を超えていて、かつエキスパートの診断をAIがサポートしたらどれくらい有益かも検討している。

きっと数年後には普通に使われるようになるのではないかなー。

AIによる脳波の自動解釈

Tveit J, Aurlien H, Plis S, et al.
Automated Interpretation of Clinical Electroencephalograms Using Artificial Intelligence.
JAMA Neurol. 2023 Jun 20 Epub ahead of print. PMID: 37338864.

AIによる脳波の読影というのはたくさん研究があったけど、この研究が偉いのは、同時に複数の波形異常を読影し、かつそれが専門家と精度が同等であったことを示したこと。

脳波、難しっす。全然分かんないっす。
と、僕と同じように思っている方、早く臨床で使えるようになるといいですね。

AI予測をICUの実臨床でリアルタイムに使用する②

まず２の注意点について。
例として、抜管と挿管、昇圧剤の開始と終了、CRRTの開始と終了、抗菌薬の開始と終了、譫妄の発生と改善、AFの発生と改善をあげたが、このうち譫妄とAFは少し意味合いが異なる。なぜなら変化が激しい可能性があるから。例えばAFなら、SRだった患者さんがAFになり、その状態が数日続いてSRに戻りICU退室、なんて綺麗な経過にはならず、数時間、場合によっては数分でAFとSRが繰り返される。そうするとAFの発生を予測しようとしても、予測ポイントがたくさんあって、何を予測しているのかイマイチ分からなくなり、結果も臨床的な意義が乏しくなってしまう。
CRRTも難しい。理由は回路交換と短期的な使用（昼間だけCRRTするとか）。回路交換のたびに開始と終了を定義していたら、患者の状態が本当の開始終了時とは異なるので予測が正しくできなくなってしまう。例えば中断してから再開するまで24時間以上経過したら終了と定義するなどと決めることはできるが、何らかの理由で24時間以上間があくことはあるし、2日に1回、日中だけCRRTをするなんてこともある。
こんな感じで、どのイベントも開始と終了を定義するのは思いのほか難しく、項目毎に臨床判断が要求される。逆を言えば、意義のある開始終了が定義できれば臨床での使用は可能。

３の問題点について。
こちらも２と同様の問題が起こる。状態を単純に0か1で記載し、それを前にシフトさせれば済む気がするが、そうすると例えばCRRTの回路交換による中断も予測対象になってしまう。なのでやはり開始と終了を個別に定義する必要がある。
しかし実はもっと大きな問題がある。それは、現在の状態が未来の状態予測に強く影響を与えてしまうこと。例えば今が譫妄なら24時間後も譫妄の確率が高く、逆も言えてしまう。その結果、実際に臨床応用すると、今は譫妄で24時間後の譫妄状態の確率は90%、でも1時間後にCAMが陰性になると24時間後の確率が急激に10%になったりする。これではリアルタイムに予測しても意味がない。
この問題、研究段階では気がつかないことが多い。しかもAUROCなどの精度は当然高いので、「精度高く予測することができ、臨床で有意義な情報となりうる」的な結論が書かれる。
では現在の状態をデータとして使用しなければいいと思うかもしれない。でも、それが可能な時もあるだろうけど、例えば人工呼吸関連の情報を一切使用しないで将来の人工呼吸の使用状況を予測することなんて不可能でしょう。
結論として、現在の状態をデータとして使用しないで済むアウトカム（相当珍しいと思う）以外では、状態の予測は実臨床では意味がないと言ってしまっていいかもしれない。譫妄やAFの予測をした研究ってたくさんあるのだけどね。

この話、先日のHypotension Prediction Indexと強く関連する。機械が動いているところを実際に見たことがないので分からないが、どうも15分後のMAPの予測が現在のMAPの値と強く相関するらしい。本当にそうなら、単にMAPを高めにアラーム設定しておけば済むので、やはり実臨床では意味がないかもしれない。

４の問題点について。
まず単純に、解析時は時系列データ全てではなく介入時のデータのみを使用するので、Nが大きく減ってしまう。例えば自治さいたまでは、過去5年間にICUで抜管が約3000回行われ、そのうち約180回（だいたい6%）で再挿管となっている（文献的にはだいたい5-10%と言われているはず）。5年間の全患者の観察時間は約100万時間なので、圧倒的にNが小さい。もちろんその分、精度は悪くなる。
しかし実は、もっと大きな問題がある。それはリアルタイム予測をそもそもどう行えばいいかが難しいこと。
例えば、抜管後の再挿管を予測したいとする。解析は抜管前のデータを使用すればいいので難しくない。しかし、抜管前にはFiO2は低くなっているし、深鎮静もしていない。なので予測モデルはFiO2も鎮静剤も重要な因子として使用しない。そうすると、「今もし抜管したら再挿管になる確率」をリアルタイムに示そうとすると、FiO2が1.0で筋弛緩を持続投与している時でも100%にはならない（実際には事故抜管したら大慌てなのに）。これは解析時に使用したデータと状況が同じでないと実臨床での予測ができないということで、そもそも抜管基準を満たして、鎮静もオフして、カフリークとかもOKなのでいざ抜管、という状況にしてからじゃないと予測ができなくなるということ。それって臨床的に役に立つとは言いにくい。例えば朝のカンファで、「この患者さん、抜管できるか微妙だな」と話している時に、「AIは再挿管率を10%しか予測していないのか、じゃあチャレンジしてみるか」という感じで情報を提示できるから意味があるのに。

これにて今回の備忘録は終了。
予測モデルを臨床応用しようとすると、研究時には気がつかない問題がいろいろ発生する。
「へー、面白い」と思ってくれた人がいたら嬉しいけど。

AI予測をICUの実臨床でリアルタイムに使用する①

ICU患者を対象にAIを使って〇〇を予測した、という研究は数多い。PubMedで検索すると毎月100以上の新しい研究が発表されていることが分かる。どの文献も、「精度高く予測することができ、臨床で有意義な情報となりうる」的な感じな結論で終わっているが、実際に予測を臨床応用した研究となると、数はガクンと減る。以前、商品化されたAIについての紹介をしたが、日本のICUで実際にAIを使用しているという話はほぼ聞いたことがない。

そこで、今回からしばらく、「AI予測をICUの実臨床にリアルタイムに使用する」というタイトルで、僕が思っていることについてまとめてみる。まあ備忘録的なものなので、興味のない方には意味不明かもしれない。
なお、話の内容はICUで使用されている経過表（昔は温度板と呼んでいた）から主に得られる情報をテーブルデータに加工して行う予測に限定する。画像診断とかLLMとかは出てこない。

まず、データの準備について。
実はここがもっとも時間がかかる（全体の9割とか）ところだが、今回の主題とは異なるので一瞬で。
リアルタイムに予測することが目的なので、過去のデータを1時間毎とか4時間毎とか24時間毎とか（目的によって異なる）に集約し、時系列データにする。同じ経過表に記載されているデータでも、バイタルのように裏では1分毎に蓄積されているデータもあるし、血液検査のように1日に1回しか行われないものもある。それをどう扱うかは多くの文献に記載されていることなので、ここでは割愛。
今回の主題は、どんな予測アウトカムがあるか、それらの利用時にはどんな注意点があるか。

どんな予測アウトカムがあるか。
これは、データ解析をして実臨床に応用することを考えると、４つに分類することができると思う。

１：ICU在室中に1度しか起こらないイベント
病院死亡、ICU死亡、ICU退室、再入室、退室時気管切開、退室時人工呼吸、透析依存、など。
これらは同じ患者では全て同じ値（普通は0か1）がテーブルデータに入力される。
解析時も臨床応用時も、時間Xにおけるデータからアウトカムを予測することになるので、シンプル。

２：在室中に複数回起こるイベント
抜管や挿管、昇圧剤や開始と終了、CRRTの開始や終了、抗菌薬の開始や終了、譫妄の発生や改善、AFの発生や改善、など。
これらは通常は1回のICU在室中に数えられる程度の回数で発生する。イベント発生時だけ1、それ以外の時間では0がテーブルデータに入力される。
でも当然これでは解析ができない。未来を予測する必要があるので、解析時は、例えば24時間以内の昇圧剤開始を予測するなら、実際に昇圧剤が開始された時から24時間前までの列に1を入力し、それ以外に0を入力したものをアウトカムとする。このモデルを臨床応用すると、時間Xから24時間以内に昇圧剤が開始される確率が示される。

３：変化する状態
人工呼吸を使用しているかどうか、昇圧剤が投与されているかどうか、低血圧かどうか、譫妄状態かどうか、AFかSRか、など。
２と似ているが、こちらはワンポイントではなく状態。なのでイベントと違って1がしばらく継続する。
解析時は、例えば24時間後の昇圧剤投与を予測するなら、並んだ1が24時間分前にシフトしたデータをアウトカムとする。このモデルを臨床応用すると、時間Xから24時間後に昇圧剤が投与されている確率が示される。

４：介入後の結果
抜管後の再挿管、補液による血圧上昇、PAFに対するDCの効果、血培が陽性となるかどうか、など。
２と同様、結果が発生した時だけ1、それ以外の時間では0がテーブルデータに入力される。
２との違いは、介入しないと結果が発生しないこと。なので解析時は時系列データ全てではなく介入時のデータのみを使用する。

これらのうち、解析時も臨床応用時も何も考えないで済むのは１のみ。
次回は２から４における注意点について。

テスラ「オートパイロット」の衝撃的な犠牲者数

17 fatalities, 736 crashes: The shocking toll of Tesla’s Autopilot

ChatGPTで要約の和訳。
"テスラの自動運転システム「オートパイロット」がこれまでに報告されていた以上に多くの事故に関与していたことが明らかになりました。2019年以降、アメリカでテスラのオートパイロット機能が関与した事故は736件に上り、その中には17件の死亡事故も含まれています。これは、以前の報告よりもはるかに多い数値です。
これらの事故の一つとして、今年3月、ノースカロライナ州で起きた事故があります。17歳の少年が学校のバスから降りたところ、オートパイロット機能をオンにした状態のテスラが少年を45マイル（約72キロメートル）の速度で撥ねました。少年は重傷を負いましたが、一命を取り留めました。
テスラのCEO、イーロン・マスク氏は、オートパイロット機能を使用した車が人間だけが運転する車よりも安全であると主張しています。しかし、アメリカのハイウェイでの実際のテストでは、技術に明らかな欠陥が存在することがデータから明らかになっています。また、事故の発生に対するマスク氏の対応、例えば車両のレーダーセンサーを除去するなどの決定は、事故の増加に寄与していると専門家から指摘されています。
この問題について、マスク氏やテスラはまだコメントを出していません。一方で、アメリカ国家道路交通安全局（NHTSA）はテスラのオートパイロットについての調査を進めていますが、それについてのコメントは控えています。最後に、マスク氏は自動運転技術の推進を続けると述べています。
なお、テスラの自動運転システム「フルセルフドライビング」による市街地での自動運転を含めた事故が増加していることについて、専門家からは懸念の声が上がっています。"

ICUのAIについてもこの問題がある。
信用しすぎちゃダメ。判断するのは自分だし、そのためには知識と経験が重要であることは、未来になっても変わらない。

生成AIに“生成AIが作った文章”を学習させ続けるとどうなる？

「役立たずになる」と英国チームが報告
「これを回避する唯一の方法は、人間が作成した本物のコンテンツへのアクセスが不可欠」

イラストレーターが仕事を失うっていうけど、ゼロにはならない。というか、なってはいけない。
人間による画像診断も病理診断も絶対になくならない。というか、なくなってはいけない。

実践的なAIが臨床に広く導入されて、それにみんなが従うようになると、同じことが起こる。
AIの予測をみんなが信じるようになると、Self-Fulfilling Prophecyの問題が起こる。

何事も、「過ぎたるは猶及ばざるが如し」。
おいおい、マジ難しくね？

集中治療におけるAIの未来：予測AIから実践AIへ

Smit JM, Krijthe JH, van Bommel J; Causal Inference for ICU Collaborators.
The future of artificial intelligence in intensive care: moving from predictive to actionable AI.
Intensive Care Med. 2023 Jun 6. Epub ahead of print. PMID: 37278758.

予測するだけでは何をするかを教えてくれない。因果推論に基づいた、より実践的な情報提供が重要だ。
考えさせされる文章ではある。

単なる予測AIは有意義か無意味か、それとも有害か。
精度が低ければ相手にされないし、フォールスアラームが多いと無視されるし、当たり前のことを言われてもウザいし。ICUにおけるAI関連の研究はたくさんあるけど、その多くは、実はこの中のどれかに収まってしまいそう。でも、有益性を示した研究も数は少ないけれどある。
僕は今、在室しているICU患者さんの予測を提供している。何かが大きく変わったということはないけれど、まったく影響を与えていないという感じでもない。効果の有無はしばらく様子を見ないと分からないし、効果があったとしても小さすぎて観察できないかもしれない。有害なことをしている可能性も否定できない。

実践的AIは有意義か無意味か、それとも有害か。
まず、研究の数が圧倒的に少ない。理由はいろいろあって、予測AIよりも技術的に難しいし、必要なデータ量も多い。有効性の証明も大変。それに、仮に有効性が示されたとしても、「この患者さんには補液が必要です」とAIに言われて従う人はきっと多くない。
でも、頭で考えていても分からないので、実際に行動してみようと思っている。

患者ケア改善のための敗血症臨床予測モデルの使用

レターとコメントなんだけど、内容的には２つで１つの感じ。

Lyons PG, Hofford MR, Yu SC, et al.
Factors Associated With Variability in the Performance of a Proprietary Sepsis Prediction Model Across 9 Networked Hospitals in the US.
JAMA Intern Med. 2023 Jun 1;183(6):611-612. PMID: 37010858.

Mogri M, Grant RW, Liu VX.
Use of Sepsis Clinical Prediction Models to Improve Patient Care.
JAMA Intern Med. 2023 Jun 1;183(6):612-615. PMID: 37010828.

Epic Sepsis Modelというアメリカの電子カルテに付いている敗血症予測機能。予測のAUROCは敗血症の発生頻度に逆相関する。
ひどいとAUROCが0.55とかになっている。ほぼコインじゃん。

死亡率の低下も報告されている仕組みなのだけどね。
先日のhypotension prediction indexと同じで、悪い言い方をすれば「レベルの低い環境」ではAIによる有害イベントの予測は有益かもしれない。血圧が下がってきているのに予防的に介入できない環境とか、敗血症に慣れていない環境とか。
少し残念な話ではあるけれど、現実的には「レベルの低い環境」というのは存在するのだから、まあ、こういうのもアリなのかな。