蘇生における自己実現的予言と機械学習

「自己実現的予言」（Self-Fulfilling Prophecy, SFP）の説明はこちら。

De-Arteaga M, Elmer J.
Self-fulfilling prophecies and machine learning in resuscitation science.
Resuscitation. 2023 Feb;183:109622. Epub 2022 Oct 25. PMID: 36306959.

一部をDeelLで和訳。

「一般的な目標は一連の臨床情報（X）が与えられたときに、将来の事象または結果（Y）の確率を推定することである。現実には観察された結果YはXだけに依存するわけではない。観察された結果は無数の治療決定にも影響され、さらに医療提供者の結果予測にも影響され、それはXにも影響しうる。共有意思決定が行われる環境では、Yは患者や代理人が予測した結果に対する認識にも影響されるかもしれない。」

「重症患者の回復可能性を推定するアルゴリズムが、最初は特定の特性を持つ患者の回復確率を低く見積もっているとする。この誤診された推定値が予後不良を予期して高コストで侵襲的な治療を処方する可能性を減らすなど治療を変更した場合、新たなSFPが導入され、アルゴリズムが時間とともに学習することで永続化する可能性がある。観察データに基づいて推定されたモデル性能はこれらの予測を誤りと認識せず、時間の経過とともに予測力が向上していることを誤解させる可能性さえある。」

「予測アルゴリズムは観察データのパターンを利用するため、過去の関連性が将来も続くと仮定する。医学の世界では治療法や転帰が改善されることが多いため、観察された関連性の安定性は制限される。使用可能な治療薬や治療戦略におけるブレークスルーは、発症した病気の重症度と転帰の関連性を急速に変化させる可能性がある。」

「SFPがもたらす課題を認識することは、機械学習をSFPを難解にし複合化する危険性のあるツールから、SFPに光を当て軽減するツールに変える研究と実践への門を開くことができる。」

さらに要約すると、機械学習による予後予測は、
・自己実現的予言を増幅する可能性がある
・予測の間違いはさらに状況を悪化させうる
・医学の進歩に追従する必要がある
・だから機械学習を使わない、ではなく、問題を認識することが重要だ

まったくその通り。
そしてやっぱりDeepLは偉い。