心停止患者に対するAI予後予測の意味は？
最初に、以下の内容はあくまで勉強会時点での個人的な感想であることをご承知ください。僕も今後調べたり議論を踏まえて考えていきたいと思います。
6/19のTXP勉強会はDuke-NUS Medical Schoolに留学している岡田遥平先生を招いて機械学習を用いた予後予測モデルならびにtrustworthy AIに関してのディスカッションをしました（本人の許可を得て記載しています）。抄読会はLancet Digital Healthの「The impact of commercial health datasets on medical research and health-care algorithms」ですが分量多いのでまたに。
とりあえずAIであろうとなかろうと、予測モデルは細かい手法論よりも価値ある診断予測モデルを作って妥当性と一般化可能性を吟味・検証し、それをdisseminationして臨床にインパクトを与えたかどうかまで繋げるのが難しいと思っているので（みんなそこまでやらない）、論文にするのは簡単だけど…というのが一般的な予測モデル研究に対する感想です。ただ予測モデルは他にも使い方があるので、そこは今回は割愛。
医療者(救急に限らず)に質問です。
— Y.Okada (@OkadaYohei) June 14, 2023
60歳男性、ゴルフ中に突然倒れた。目撃ありbystanderCPRあり、救急隊接触時VF、除細動3回後もVF、救命センターに搬送(覚知-病院30分)、まだVF継続
到着時、妥当性検証済の機械学習モデルの予後予測によると神経予後良好確率1%以下、あなたはどうする？
上記岡田先生のアンケートですが、僕の判断はECMO（人工心肺）導入が可能なら入れる、無理なら本人の状況と家族の到着を待ちながら続ける、です。参加者にも聞いたところ、やはり続けるという人が多かったです。
僕はこのツイートを最初見た時には「面白いけど、このモデルが役に立つことはあまりないだろうな」と思いました。そこで岡田先生に「なぜ先生はこのモデルを作ろうと思ったんですか？最終的なゴールはどこですか？」と聞いたところ、このモデルは前振りで、実際には別の研究があるとのことで、そちらはなるほどと思いました。そのうち研究論文として発表されるので楽しみに待ちます。
AIであろうとなかろうと予後予測が介入や蘇生中止を決めるかと言われると、心肺蘇生の現場においては現状あまり決定要因にならないと思っています（少なくとも中止基準に関しては）。これはAIモデルの限界、医学的意味だけでなく、医療資源とのバランスや倫理・法律・本人と家族の意思などあまりにも多くの要因が混在すること、そして「蘇生行為をこれ以上行わない」というのは「確実な死」という不可逆的な事象を意味し、AI予測はこの判断とすこぶる相性が悪いから。
1. 介入のためのモデル？予測モデル？
予後予測モデルと言うと、心停止患者さんの28日神経学的予後などを評価するモデルですが、予測モデル自体は病態に直結せず、counterfactualを想定してないただの予測値でしかないので、基本的に介入すべきかどうかは教えてくれません。
ここは臨床研究相談でも多い部分で、「予測値に応じて介入を変えたい」と相談されるんですが、介入すべきかどうかは分からないという話をしています（が、あまり通じない時もあります）。今メンティーとまとめているので、そのうち紹介します。
そもそも神経学的良好なアウトカムの割合が低いので、予測モデルを正確に組むのは難しいし、見た目のAUROCが高くても意味を持たない可能性の方が高いでしょう。とはいえ分単位で変化する蘇生現場では、蘇生のポリシーが決まっているとしても強化学習的なアルゴリズムのためのデータを取得して応用するのもおそらく難しい。また、モデルを構築し検証するにはself-fulfilling prophecies(自己成就予言)が起きる可能性を考慮しないといけない。
Self-fulfilling prophecies and machine learning in resuscitation science
もう一点、現場で取得可能な古典的項目（ウツタインで収集するような項目）で予後予測しても多分医療者の判断とそうズレないし、ズレているならそれはどちらかというとモデルがその現場や医療資源にfitしていない可能性の方が現状は高い。妥当性の検証に関しても時間経過・地位的差異・医療資源などに大きく影響されるため、上記問いにあるように単一モデルがそこまでカバーしているとは考えにくいです。
2. AIで99%予後不良と出ています
AIで99%予後不良と出た場合に医療者はどうするか？アンケートの結果からもわかりますが、そもそも現場の経験ある医者の判断と乖離していてもっと蘇生確率があるなら治療するしかないし、そうでないならガイドラインに則った上で、その場（患者本人・家族含む）のコンセンサスになる状況がほとんどだと思います。
一方、朝は元気だった自分の家族が突然心肺停止で運ばれた場合、AIが99%予後不良と言っても、きっと残り1%に縋るし、その数字による判断を僕は信じきれません（今のAI予測の未熟さを知ってもいるから余計に）。逆に100歳の曽祖父とかである程度受け入れているつもりなら、そもそも数字を出されても逆に判断に困るかもしれない。
では予後不良の確率がどの程度なら家族が受け入れるか？
心肺蘇生の現場はrevealed preference（実際その状況に直面したらどうするか）と stated preference（質問紙で仮想的な状況に回答する）が最も乖離する状況であって、心肺蘇生においてはstated preferenceは正直あまり意味がないと思っています。そして『この数字がいくらなら受け入れますか？』なんて質問を今心肺蘇生を受けている患者家族に質問するのは流石にunethicalでは？
じゃあ、AIの信頼性が上がったら解決するか。明らかに医師の判断よりAIの判断の方が正しいという社会的コンセンサスが形成されたら、「AIも99.9%予後不良と示しています」と言われても納得できるかもしれません。
僕は最後の中止の判断は医学的に全力を尽くした上でのコミュニケーションだと思っていて（延命希望していないとかそういう話は一旦さておき）、AIがどう絡むかは今後の大きな課題の一つだと思いますが、本当に絡めないといけないのかはよく分かりません。
3. 人は死ぬ時に一番医療費がかかる
昔とある救命センターにいた時、ガンガンECMOを入れていました。当時血気盛んなシニアレジデントだったんですが、高齢者にどこまで蘇生行為を行うかという話になった時、ECMOを入れるのは流石にコスト的にどうなのか？と思ったことがあります。もっと直接的に言うと、「高齢者にそこまでする意味はあるのか？」です。
その時に、とある先生に言われた一言があって、『人は死ぬ時に一番医療費がかかるのは当たり前で、むしろ他に減らせるところがある』という趣旨の意見があり、僕の意見は短絡的だなと振り返った記憶があります。
医療政策のtop journalであるHealth Affairsの2017年の論文でも似たような趣旨の論文があります。
「人生の最後の12ヶ月間の支出は、総支出に占める割合が米国の8.5%から台湾の11.2%程度であったが、人生の最後の3暦年の支出は台湾で24.5%に達した。このことは、医療費の高騰が、命を救うための最後の努力ではなく、平均余命の短い慢性疾患患者への支出に起因していることを示唆している。」
https://www.healthaffairs.org/doi/10.1377/hlthaff.2017.0174
でも現実として、心肺蘇生がコストで測れないにしてもECMOを含めた集学的医療を行うとなると一気にコストは膨れ上がるでしょう。日本ほどECMO入れてる国はそうないので、上記の論文が今の日本の蘇生現場に外挿できるかどうかは疑問です。
社会保障費の増大が問題になっている中でコスト意識は大事な一方、そのような決断をAIがサポートしてくれるかというとなんとも言えないなと。全力で救命に行ったからこそデータが蓄積されて、本当にするべきかするべきでないのかの議論ができるとも思います…が、AIに学習させるほどのデータはおそらくまだ不十分。
あまりまとまりのない最後になってしまいましたが、AIだからこそ客観的指標として判断できる未来はあるだろうけど、今の所まだ立ち入れないんじゃないかなと思っています。