「診断」について
以下のヤンデル先生のブログエントリーにinspireされて、昔考えていたことと今考えていることを書き殴りのかたちで。
内科分野で伝説的な「一発診断医」にLaurence Tierney Jr.という方がいらっしゃるのですが、彼は時として、症例提示の非常に早期の段階で「最終診断を言い当ててしまう（一発診断）」のです。
かつて僕もTierney先生の前で症例発表したとき、1枚目のスライドで最終診断「再発性多発軟骨炎」を言い当てられたことがあり、おお、マジか、と衝撃を受けました（たぶん2007年頃）。
それ以来、なぜそういう超能力的な診断が可能になるのか、Tierney先生ご自身がレクチャーされるのを聞いたり、時には症例検討会の後に直接彼に「なぜそういう診断を考えついたのか」と聞きにいったりしたのですが、結論として
彼自身の診断能力が彼の言語化能力を上回っている。
膨大な「教師あり学習」が、ある一定量を超えたところで質に転化して「超能力的に見える」のだろう
ということで納得したのでした。
さて、昨年夏ごろに突然出現した「お絵描きAI」ことMidjourney（その後色々出た）、さらにその後出現したChatGPTで感じたことは
こちらの要求に対して「非常にそれっぽい出力」を返す
学習させたデータによってはとんでもないデタラメを出力する
あたりで、特にお絵描きAIでは「なんか綺麗な絵なんだけど、その下の骨格を想定しにくい」という、表現自体が難しい違和感(?)が表明されています。例えば2018年のお絵描きAIはこんなのだったことを考えると、今のAIによるイラストは「このスライム状のなにかが人の形をとったもの」のように感じられるのもまぁわかるというか。
ではこれまで人間が描いてきたイラストは人体骨格に忠実かというと必ずしもそうとは言えないので、一部で難しい議論が勃発したりもしています。
さて、冒頭のヤンデル先生ブログエントリーでは、「一瞬で俯瞰して弁別する」ことが名人芸的に描写されているのですが、これはむしろAIが得意にするところではないかと思うのです（個人的感想）。
一昔前に、行動経済学的な「システム1, システム2」という分類に沿った診断学の考え方が提示されました。
（図をクリックすると医学界新聞の元記事にリンクしています）
多くの医師が「システム 2的な思考で訓練を受けるうちに、多くの症例に暴露されてシステム 1的な思考もとれるようになる」という成長過程を経ていると想像されるのですが、AIがやっていることは「大量のデータで教師あり学習を行った結果、システム 1的なアウトプットだけギンギンに研ぎ澄まされた状態」で、一方で解剖学的構造との関連・形態的特徴からの推論は（今のところ）苦手にしているように感じます。
なので「え、ちょっとちょっと」と言いたくなる、あり得ないアウトプットが出てしまうのではないかと。
「基本的なことがわからない（そもそも「わかっている」という状態の検証が困難なアウトプットを出す）達人」としてのAI、どうなんでしょうね。
これも個人的には、システム 2的な思考は、システム 1的な思考による出力の「禁則」を定めるように働いているような実感があります。なので、今後AIを教育するに当たって「より多くのデータを学習させる」で乗り越えられる壁はあると思うのですが、それとともに「こういう条件のアウトプットは捨てる」ということで乗り越えられる壁もあるのではないかと。
はい、全くの妄想・夢想の類いです。
なにより「捨てるための条件」の言語=コード化が難しいんじゃないかと。
初心者はあらゆる可能性を検討してしまうが、
達人クラスは、直感を使って必要にして十分な最適解をいきなり出してしまう。
さらに、臨床現場では「診断しなくてもできること」は沢山あったりするので、妄想はこのあたりにして、仕事に戻ることにします。
いただいたサポートで麦茶とか飲みます。