Designship2019 レポート01【医療体験の当たり前をアップデートする「道具としてのAI」のデザイン】

day1【医療体験の当たり前をアップデートする「道具としてのAI」のデザイン】

Ubie株式会社畠山糧与さん。AIを使った病気推測のプロダクトを作るデザイナーさんです。
スライドと書き起こしを上げてくださってます↓
https://note.com/hatake0173/n/n3e169ea06a14

Ubie株式会社について
https://ubie.life/
https://introduction.dr-ubie.com/

わたしは保育士の業務を軽減するIoTサービスなどを提供する会社に勤めていて、医療/ヘルスケア分野のお話が聞けるのを楽しみにしていました。
共通点を見つけることもできとても勉強になりました…！

カルテや書類の仕事が多いため、医師が患者と向き合う時間が少ない医療現場の課題

患者自身が受付でもらって書く昔ながらの紙の問診票の問題点＝情報が薄い
・患者自身の言葉は、診断や治療を行う上で十分ではない
・結局診察室で1からヒアリングして、医師が電子カルテに打ち込まなければならない

→紙の問診票の代わりにAIによる事前問診に変えると
・AIが患者さんの回答に合わせて質問選定を最適化し、従来より広く深い事前問診を行うことができる
・AI問診の内容がそのまま電子カルテになる

→初心の問診時間が1/3に短縮

所感：本来の仕事にかけるための時間が削がれているというのは、保育業界と似た課題だなと（保育士さんも事務作業などで子どもに向き合う時間が削られているので）。
患者と医師のあいだにAIが入ることで、問診時間が1/3に短縮したという目に見える効果すばらしい…

AIによる病気予測は、どうしたら医師の診断や治療の意思決定を支えられるか?

医師は患者の状態や問診や検査結果などを元に、知識や経験を使って病気を推測する。Ubieのプロダクトでは、AIが事前問診や検査結果を元に病気推測のサポート（リストアップ）を行う。

★最初は病名だけ出していたが、医師から「病名だけ示されても、自分の経験を踏まえてどう評価・解釈していいかわからない」というフィードバックがあった。

AIのブラックボックス問題
AIが推測した理由に答えられないと、解釈の余地がない
解釈の余地がないと、AIを道具として使いこなせない

どう解決したか：AIが提示する参考病名に推測理由を添える
→医師からの反応「AIと対話できるようになった」「若手の研修にも使えそう」
・「なぜ？」がわかるとAIの癖をヒトが学習しやすくなる
・癖を学習できるようになると、AIとの付き合い方がわかる

畠山さんが道具としてのAIのデザインで気をつけていること
①ヒトも、「道具」としてのAIも完璧ではない前提に立つ
②解釈性を手がかりに、AIの癖をヒトが学習しやすくする

所感：AIのデザイン面白そうううう…！
実は以前から社内のR&Dチーム（機械学習の専門集団）と関わることができないかなあと思っていたのですが、さらに興味が湧きました。
デザインにできそうなこと
・AIが導き出した情報を受け取ったヒトが、想像する余地/余白を作る
・AIとヒトとの対話を滑らかにする
・そもそもAIが道具である（怖がらなくていいものである）ことを実感できるようにする
とかとか。AIとヒトが得意や苦手を補い合っていけたら、そしてそれがいろんな分野でできるようになったら素敵だ…。その第一歩がAIのブラックボックスを無くして「AIがなぜこの答えを導いたのか」を理解することなのかなと思いました。

保育現場向けのプロダクトに関わっていると、保育者のITリテラシーの課題やシステムを入れる抵抗感・保育士の業務負担軽減を考えることが多いです。
医療業界にも、業界ならではの障壁って何かあったりするのかな〜〜と思ったり…もしあったならどのように乗り越えたんでしょう:D