Designship 2019 書き起こし : 医療体験の当たり前をアップデートする「道具としてのAI」のデザイン
はじめに
これは何?
Designship 2019 公募セッションで登壇時使用したスライドと、話した内容の書き起こしです。
当日参加された方は補助的にお読みいただけるとありたいです。参加できなかった方は、こちらで一通りの内容は網羅できます。
自己紹介
畠山糧与と申します。
AI(特に機械学習)を使った病気推測等をやっているスタートアップUbie(ユビー)で、2018年からプロダクトのデザインをしています。
会社紹介資料
今日はあまり会社説明っぽい話をしないつもりです。もし興味ある方は、最近どんなことしてるか、以下から見てやってください。
なぜ2年連続で応募したか?
去年のDesignshipでも登壇させてもらったので、2年続けての公募となります。なぜか。医療やAIのデザインを、一緒に面白がってくれる仲間を増やしたいからです。
去年は「医療のデザイン」の話をさせてもらいました。登壇からのご縁がつながり、実際にUbieのデザインをお手伝いしていただいた方もいます。
300人くらい入る会場で、実際に医療のデザインのプロジェクトに携わったことのあるデザイナーが数人しかいなかったのをよく憶えています。
「もう少し、この分野を面白がって、一緒にデザインに取り組んでくれる仲間が増えると嬉しいなあ」という思いが今も変わらずあって、また今年は今やっていることを「AIのデザイン」という去年と別の切り口でもお伝えできるとも考え、応募しました。
Chapter 01 : あなたは「1人の患者」であり、「1/100人の患者」でもある
医師は、患者を診る行為以外で猛烈に忙しい
最初は、身もふたもない話からはじめようと思います。
去年もお話したことなのですが、病院で働く医師(勤務医)は、とても忙しい日常を送っています。病院勤務医は、平均的に過労死ラインの倍以上の残業をしていて、多い日には100人の患者さんを診察することもあると言われています。この原因となっているのが、診断書やカルテ等のペーパーワークです。
これは本当に医師からよく聞く話なのですが、「患者さんと向き合った医療を行いたい」と思って医師免許をとっていざ医療現場に出てみると、1日の多くの時間をディスプレイと向き合わざるを得ない、という現状があります。これは、明らかに本来やりたかったことに反しています。
ここから生まれる問いは、「毎日多いときに100人も診察している医師が、どうしたら一人ひとりの患者さんと向き合うゆとりを確保できるか?」ということになります。
AIによる事前問診で、患者と医師の言葉を翻訳する
Ubieのアプローチの一つは、「AIによる事前問診」です。
事前問診というと、皆さん医療機関に行ったときにはほぼ例外なく待合室で紙の問診票を書くはずです。紙の問診票は、せいぜいA4一枚分のフォーマットにおさまる質問で、患者さんの医師が診断や治療を行う上で十分な情報を得られることは稀です。診断や治療を行う際に、医師が気をつけるべき症状が紙では書き漏れている、という場合も多々あります。そのため「よくわからんからとりあえず患者さんを診察室に呼んで、いちからヒアリングし、いちからカルテに書く」ということになりがちなのが現状です。
Ubieがやっているのは、「従来の紙の問診票の代わりに、患者さんにまずAI問診をやっていただき、事前問診を充実化させる」というものです。AIが患者さんの回答に合わせて、質問選定を動的に最適化し、従来より広く深い事前問診を行うことができるようになります。
患者が回答した事前問診のデータは、診察室にいる医師にすぐ表示されるようになっています。ここで重要なのは、「患者の言葉を医師にとって自然な言葉に翻訳しておくこと」です。これにより、患者が診察室に入ってくる前に、すでに電子カルテ記載に必要な基本的な問診情報が揃った状態、つまりほぼ準備ができた状態で、患者を迎え入れることができるようになります。
これらにより、カルテ記載時間が大幅に効率化され、患者の初診問診は1/3に短縮されます。初診比率の高い医療機関の場合は特にユーザー体験へのインパクトが大きく、診察時に医師がゆとりを持って患者と向き合いやすくなります。
Chapter 02 : 解釈できないAIと、解釈できるAI
あなたが経験する医療の多くには、運が作用している
想像してみてください。あなたが体調不良で、医療機関を受診したとしましょう。
・あなたのような症状をもった患者を、その医師は診察した経験はあるか?
・あなたを診察をしている医師が診断に迷ったとき、相談に乗ってくれる先輩医師がそばにいるか?
・毎年アップデートされる最新の治療法を、その医師は知っているか?
日本は世界的に見ても医療水準が高いとされています。国民全員が公的保険に加入していて医療費の患者負担が比較的少なく(国民皆保険)、どこの医療機関を受診してもOKなシステム(フリーアクセス)が保証されています。そんな日本でさえ、医療体験の多くには、運の要素が影響を及ぼしています。
医師も、バイアスからは完全に逃れられない
視点を変えてみましょう。医師もヒトなので、認知バイアスからは完全には逃れることはできません。The Invisible Gorilla(見えないゴリラ)という有名な心理学実験をもとにした実験があります。放射線科医24人を対象として、「肺の中にある小さなこぶ(lung nodule)を探してください」というにとって馴染みのあるタスクを与えたところ、83%の医師はゴリラを見過ごしていたことがわかりました。ゴリラはこぶよりはるかに大きい48倍のサイズで、アイトラッキングではゴリラのあたりを見ていたにもかかわらずです(元論文では、この原因としてInattentional Blindness, 不注意盲と呼ばれる認知バイアスに触れています)。
ここから生まれる新たな問いは、「どうしたら、運やバイアスをできるだけ取り除き、医師の診断や治療の意思決定を支えられるか?」というものです。
熟練者と非熟練者の思考の違い
ちょっと立ち止まって考えてみましょう。医療の分野に限らず、熟練者と非熟練者の決定的な違いはなんでしょうか?
ご存知の方も多いと思うので多くは触れないですが、行動経済学の分野では、ヒトの思考は2種類あり、直観的思考(System 1) と分析的思考(System 2)があると言われています。直観的思考はいわゆる勘と経験(ヒューリスティクス)を司っているもので、分析的思考は守破離でいうところの守つまり型に沿った思考です。非熟練者はまず型に沿って分析的思考をとることが一般的ですが、熟練者は目的や状況に応じて両者を使い分けることができます。
熟練者はなぜそんな器用なことができるかというと、彼らの頭の中には、経験に裏打ちされた「地図」がすでに存在しているからです。これはあらゆる分野で言えることで、System1とSystem2の比重の違いはあれど、デザイナーも農家も数学者も同じ原則のもと考えています。
病気推測による地図づくり支援
その意味で、Ubieがやっているのは「病気推測による地図づくり支援」とも言うことができます。
医師は通常、患者の症状等をもとに、まずいくつかの病気の可能性を疑います。それらの可能性を絞り込むために、問診や検査や身体診察を行います。とはいえ、さきほど触れたような日進月歩の医学知識のアップデート、運やバイアスの影響も背景に、臨床現場の限られた時間の中ですべての可能性を必要十分に網羅するのは困難です。
Ubieは患者の事前問診等をもとに、ありうる可能性を医師がリストアップするのを支援しています。これを参考にすることで、たとえば自分の不得意な診療科を診察する際でも、まず押さえなければならない観点(鑑別疾患)を押さえやすくなると考えています。
頭のなかで知識や経験の「地図」をマッピングするというのは、膨大な時間と労力がかかることです。一人ひとりの医師がまさに一生をかけて修練し、その積み重なりがまさに現代の医学を支えています。「Ubieを通じて、このマッピングを医師が従来よりなめらかに行うお手伝いができれば」という想いで、いまのプロダクトをつくっています。
医療における「AIのブラックボックス問題」
ここ1年間で直面したチャレンジの話をしたいと思います。
とある現場のドクターにインタビューしたときのことです。上で触れたような目的で、かつても患者さんの問診等を病名のみ医師に表示していたのですが、
「Ubieさんの病気推測は、完全に信じるか完全に信じないかのどちらかになっちゃうんだよね」
と言われたことをよく覚えています。最初は意図がわからなかったのですが、よくよく理由を伺ってみると、そのドクターは
「病名だけ示されても、自分の経験を踏まえてどう評価・解釈していいかわからない」
ともおっしゃっていました。
さきほど触れた通り、医師が患者を診察する際、患者さんの症状をヒアリングしながら、いくつかの可能性を頭に思い浮かべます。たとえばそれを病気A, B, C等としましょう。
一方で、問診情報等から同様に病気推測AIが可能性を挙げたとき、病気A, B, Cに加えて病気Zというのもリストアップしたとしましょう。医師の自然な思考としては、「なぜ?」を問いたくなります。
「なぜ?」に答えられないAIの推論は、その意味をヒトが解釈する余地がなくなってしまいます。解釈の余地がないと、ヒトはそのAIを道具(=地図)として使いこなすことが一気に困難になります。
「解釈できないAI」から、「解釈できるAI」へ
それに対して自分たちがやったことはとてもシンプルで、参考病名としてそれまで表示していたものにきちんと推測理由を添えるということです。言ってしまうとそれだけなのですが、根拠といっても様々あります。何の情報をどの粒度で表示すると、医師の意思決定を支えられそうか、ということを、医師を含む社内メンバーで検討しつつプロダクトに反映していきました。
たったこれだけのことですが、現場の反応は明確に変わりつつあるのを感じています。
「ただそこにあった参考病名と、最近は対話できるようになってきた」
「若手の研修医の教育でも使えそうだね」
医師には医師の臨床診断のプロトコルがあり、AIがそれを支援する上で、今回においては足りないピースが推測理由だった、という形です。
この経験から得られた学びとしては、次の2つです。
・「なぜ?」がわかると、AIの癖をヒトが学習しやすくなる
・癖を学習できるようになると、AIとの適切な付き合い方がわかる
Chapter 03 : 「道具」としてのAIをデザインすること
「道具」としてのAI
AIについては、様々な文脈で様々なストーリーが語られています。
あるSFでは、「シンギュラリティ以降、人間の知性を超えた機械(AI)が、人間に叛逆する」という話が語られています。
またあるニュースでは、「将棋が強い藤井聡太七段の強さの秘訣は、小さい頃からAIとの対局を重ねてきたから」という話も語られています。
同じAIなのに受ける印象が全然違うなあと感じませんか? この違いはいったい何なんでしょうか？ 個人的な回答としては、これらを「人格」として見ているのか、「道具」として見ているのかの濃淡の違いではないかと考えています。言い換えると、どれだけAIに人間性を投影しているかです。
「道具」としてのAIをデザインする
この視点に立つと、UbieにとってのAIとはあくまで「道具」であり、いまデザインする対象もこの「道具」になります。
「道具」としてのAIをデザインしはじめてから、2年近くが経ちました。他の分野でAIプロダクトのデザインに携わっている方のお話も聞くことも少しずつ増えてきました。やはりあらゆる分野で、ヒトとAIの関係性をデザインするときには皆さん次のようなことに気をつけているようです。
・ヒトも、「道具」としてのAIも完璧ではない前提に立つ
・解釈性を手がかり(シグニファイア)に、AIの癖をヒトが学習しやすくする
AIも機械の一種なので、ヒトと機械の関係性のデザインについて考えるのはとても有用です。『誰のためのデザイン』のD.A.ノーマンは、2008年に出版された『未来のモノのデザイン』という著書の中で、こう述べています。
「機械とうまく協調するためには、機械とのインタラクションを動物とやりとりするときのインタラクションのようなものとしてみる必要がある。人も動物も知的ではあるが、違う種であり、異なる理解、能力を持っている。同様に、最も知的な機械であっても、異なる種であって、独自の強みや弱み理解、能力を持っている。ときには我々が動物や機械に従わなければならないし、ときには機械や動物が我々に従わなければならないのである」
『未来のモノのデザイン ロボット時代のデザイン言論』p.11より
ノーマンは、ヒトと機械の関係性を、ヒトと動物のアナロジーで語っています。自分や相手の違い・独自性についてよく理解すること。絶対的な主従関係はないことに触れつつ、他の部分ではその関係性を繋ぐものとして、解釈性やメンタルモデルの重要性についても繰り返し言及しています。
10年前、「ちょっと先の未来」としてノーマンが夢想していたことに、技術が追いついてきた、というのが適切かもしれません。いま、我々はそんな時代に生きています。ヒトとAIの関係性は、まさに今後デザイナーが取り組むべきチャレンジのひとつであると自分は考えています。超面白いです。
Chapter 04 : 「いつかやってくる未来」を、今たぐり寄せる
「病気推測なんて、もっともっと未来のことだろう」
2年前、Ubieに出会う前は、自分自身もぼんやりそんなことを考えていました。
でも2年前、Ubieに出会ったときには既にその未来の兆しはありました。
この道具は世の中を変えるだろうし、そんな大仰なことを言わなくても、自分が将来おじさんになったとき、きっと自分自身の役に立つだろう。
未来の兆しは見えていたので、それを一人のデザイナーとして、もっと大きくしたいと思い、ジョインしました。
「AIなんて言っても、まだまだ先のことでしょ?」
そう思われるかもしれません。でも、まさに「道具」としてのAIは、北は北海道から南は沖縄まで、既に全国の病院の新しい日常になりつつあります。平成の30年間でゆっくりと進んでいた時計の針が、まさに大きく進みつつあります。
1年前のDesignshipでは、昭和の話から2050年までの話をしました。「いつかやってくる未来」を今たぐり寄せるんだという想いは、いまも変わっていませんし、それは少しずつ確信になりつつあります。
Ubieはこれまでもこれからも、医療体験の当たり前を「道具」としてのAIでアップデートしていきたいと考えています。
デザイナーには一見とっつきづらい分野ではありますが、ヒトとAIの関係性のデザインに取り組んでくれるメンバーを募集しています。超面白いです。
ご静聴ありがとうございました！
質問募集中
slidoで質問募集しています。
以下のサイトでevent code : Q398を入力すると、ログイン不要で匿名で質問できます。
Designship セッション予告
slidoでいただいた質問は、別途noteやtwitterでお返事します。
なおDesignship 2019 ではこの公募セッションを含めて3回出番がありまして、Q&Aセッションやコラボセッションでもお会いできることたのしみにしています。以上！
Ubieではデザイナーを募集しています
もしご興味ある方いらっしゃったら一緒にランチいきましょう！
（追記）slidoでいただいた質問への回答
すべての質問に回答できてはおりませんが、可能な限りお答えさせていただきました。
よくわからない、もっと聞きたい、ということありましたら、twitterでDMなどぜひいただけると！
Q1. 現在チャットボットの開発に携わっております。チャットボットの性質上、ユーザはどうしてもボットを「人格」として捉えて、そして間違った回答に失望して去っていきます。そんなチャットボットを「道具」としてデザインするやり方は可能でしょうか？そうすることで、ユーザの期待値をコントロールすることもできるでしょうか？
A1. 可能というよりそれが推奨されると考えています。
「ユーザーがbotを人格として捉えてしまう」というのは、コミュニケーションの中で何らかのキャラクターなどを使われているのでしょうか？「人間っぽい振る舞い」をbotにまで期待すると、結果に対するユーザーの期待値は人間並みまではね上がります。
Google のPeople + AI Guidebook でもまさに同様の話が触れられているので、参考になるかと思います。
Q2. 医者向け製薬系のサイトを作るときに、どんなに文字が小さかろうが、1画面に収めたいという話をよく聞きますが、やはり、お医者さんの忙しさが関係してるのでしょうか？スクロールする時間すら惜しいというような。
A2. おっしゃる通り、毎日医師が触れている電子カルテは、スクロールすら不要な一枚絵の設計になっていることが主です。都度スクロールが必要となると、患者の数だけそのタスクが発生するので、医師にとっては確実に不便と思います。
ただし医師向け製薬サイトとなると広告？かと思いますので、スクロールそのものの是非より、医師の可処分時間で、どれだけ意味あるコンテンツを届けられるかのほうに関心を向けてもいいかもしれません。
Q3. 患者ファーストな医療を提供できない原因は、多忙である事だけではなく医師の意識改革も必要に感じています。患者に寄り添う医療を提供するために、効率化以外にの取り組みは何か考えていますか？
A3. 意識改革が何を指してるかによりますが、手元の多忙な業務を軽減し、患者と向き合うゆとりをつくれるようお手伝いする、というのをまずUbieはやっていきたいなあと考えています。twitterのDMや、直接お声がけいただけると、より突っ込んだお話しできるかと。
Q4. モードの使い分けは地図があるからできる。というのがわかりませんでした。地図とは何かを教えていただきたいですmm
A4. 地図は経験の蓄積そのものです。慣れができたら思考のショートカットができますよね。それができるようになったモードがSystem 1で、AIは非熟練者がいち早く熟練者に到達しSystem 1も起動できるようにするための学習支援ツール、ともいえます。
Q5. ヒトの癖や個性について共通認識をつくるのにはペルソナなどの手法がありますが、AIの癖や個性についてステークホルダーの間で共通認識や理解をつくるにはどのようなコミュニケーションが効果的、効率的でしょう
A5. ステークホルダーというのがどのような人なのかにもよりますが、まずGoogleのPAIRのガイドブックやAppleのHIGの機械学習の章あたりを皆で読むところからはじめてみて、「うちのプロダクトの場合だとどうだろう？」を地道に考えるところからはじめてみてはどうでしょうか。
Q6. AIの結果が、どうやって出てくるかは、まだわかってないと言われているが、道具として分析していたら、見えてくるのでしょうか？理由も、信じるか信じないかになりそうと思ったので、聞いてみたいです。
A6. 前提として、最終的な診断そのものはAIでなくあくまで医師が行うもので、医師が診断を行うためのインプットとしては、患者さんの問診だけでなく検査・身体診察などがあり、Ubieが現在扱っているのはあくまで問診のみです。
その上で、病名の根拠となる推測理由を信じるか信じないかは、医師自身の経験に基づいて取捨選択していただく形が「道具としてのAI」の扱い方として適切かなと考えています。推測理由は、言ってみれば使い手(医師)の経験とAIの解釈をつなげるための糊のようなものだと思います。これは業界やプロダクトによって異なるはずです。もしAIプロダクトのデザインに取り組まれているようでしたら、ぜひ今度お話し聞かせてください。
この記事が気に入ったらサポートをしてみませんか？