集中治療におけるAIの未来：予測AIから実践AIへ

Smit JM, Krijthe JH, van Bommel J; Causal Inference for ICU Collaborators.
The future of artificial intelligence in intensive care: moving from predictive to actionable AI.
Intensive Care Med. 2023 Jun 6. Epub ahead of print. PMID: 37278758.

予測するだけでは何をするかを教えてくれない。因果推論に基づいた、より実践的な情報提供が重要だ。
考えさせされる文章ではある。

単なる予測AIは有意義か無意味か、それとも有害か。
精度が低ければ相手にされないし、フォールスアラームが多いと無視されるし、当たり前のことを言われてもウザいし。ICUにおけるAI関連の研究はたくさんあるけど、その多くは、実はこの中のどれかに収まってしまいそう。でも、有益性を示した研究も数は少ないけれどある。
僕は今、在室しているICU患者さんの予測を提供している。何かが大きく変わったということはないけれど、まったく影響を与えていないという感じでもない。効果の有無はしばらく様子を見ないと分からないし、効果があったとしても小さすぎて観察できないかもしれない。有害なことをしている可能性も否定できない。

実践的AIは有意義か無意味か、それとも有害か。
まず、研究の数が圧倒的に少ない。理由はいろいろあって、予測AIよりも技術的に難しいし、必要なデータ量も多い。有効性の証明も大変。それに、仮に有効性が示されたとしても、「この患者さんには補液が必要です」とAIに言われて従う人はきっと多くない。
でも、頭で考えていても分からないので、実際に行動してみようと思っている。