Cubecが医療言語モデルを開発する意味〜Vision-Knowledgeモデルによる診療支援〜
今日から全8回のシリーズで私たちの取り組みの一つである医療に特化した大規模言語モデル（以下LLM）について、発信してこうと思います。
ここで私たちの取り組みを見える化する理由
はじめに、自己紹介しますと、私は大学院での循環器領域におけるテンソル・シミュレーションと、データサイエンティストとして20年近い経験があります。そのキャリアを通じて、機械学習による問題解決力が医療の発展に貢献ができると考えるようになり、共同創業者の奥井とともに、Cubecの創業を決意しました。創業する前のアイデアベースのデスカッションから数えると2年以上、本プロジェクトに携わっていることになります。
今回、ブログとして書くのは「医療×LLM」のシリーズです。これは、医療におけるAIの貢献に期待されているビジネスプレイヤーやヘルスケアでご活躍の方、自身もヘルスケア領域でのAI開発に挑戦されている方を対象に、私たちのLLMに対する考え方や取り組みについて知っていただくことを目的としています。また、開発過程によって得られた知見や視点をオープンにすることにより、新規性と医療機器に求められる透明性・安全性を伝えていきたいとも考えています。
コンテンツは、幅広いLLMの学術的な領域から、医療に適用する場合のイシューやそこへのアプローチを主と考えています。逆に、理論や数式の説明に偏らない内容にしたいと考えています。それを通じて、医療の発展と患者さんや医療従事者の皆様へ、少しでも貢献を目指したいと考えています。
慢性疾患領域にチャレンジするCubec
私たちCubecは、近年患者数が増加傾向にある慢性疾患の領域において、診療する医師を支援する医療機器を開発している会社です。現在、複数の大学病院、医療機関と連携し、診断治療支援のプログラム医療機器開発を進めています。最初に取り組んでいる心不全の領域では、慢性期の患者さんが診察に来た際に、その時の検査値から心不全の度合いや、薬剤の提案を行うプロダクトを開発しています。
プロダクト開発を通じて見つけた課題感「What」と「Why」
このプロダクト開発を進めていく中で、これまで見えていなかった課題感を感じるようになってきました。私たちの提供価値は、専門医の判断に裏付けされた教師データによって、 各患者さんの状態や薬剤の提案などの「何をすればいいか」＝「What」を答えるモデルであると考えています。しかし、実際の診療の場面では、結論である「What」に加え、 その結論に至る過程、つまり、なぜその判断に至ったかの理由としての「Why」も求められるシーンがあるのではないか、そう考え始めるようになりました。そこで前者のWhatに答える機能を「Vision」、後者のWhyに答える機能を「Knowledge」とし、 Vision-Knowledgeモデルにより、心不全に立ち向かう構想を持つようになりました。
Vision-Knowledgeモデル構想が、実現可能になった2023年
一般論として、Vision-Knowledgeモデルの構想は、アイデアとしては良いもの、ひと昔前では実現可能性のあるプランとは言えませんでした。それは、二つのピースが揃う必要があったからです。これまでの技術では、ビッグデータと教師ありのアノテーション、それをモデル化するアンサンブル学習やディープラーニングによってVisionモデルは実現できました。一方で、Knowledgeモデルの実現には、多くのハードル・技術課題があったため、二つのピースをそろえることができないと思われていました。
私たちは前者のVisionモデルを既に着手していましたが、現在のLLMのコア技術であるTransformerの可能性、特にDecoder-Onlyに着目しました。そして、この1年のLLM自体と関連ライブラリの発展を受けて、Knowledgeモデルの開発に踏み切り、Vision-Knowledgeモデル構想を立ち上げました。
Knowledgeモデルで実現したいのは、それぞれの専門知識を持ち合った医師が相談しながら、診療を進める世界観です。この「医療×LLM」のシリーズでは、Cubecが考えるKnowledgeモデル実現に向けた技術課題についてお話ししていきます。
Cubecの目指す未来
私たちは、医師の診断・治療に寄与する医療機器開発を通じて、患者さんに寄り添うことを大切にしています。そのため、安全性、透明性を重視し、臨床に貢献するプロダクト開発を進めます。そんな私たちが取り組む姿をこのシリーズで発信していきます。ぜひ、次回も読んでいただけると嬉しいです。また、Cubecの取り組みに一緒にチャレンジしてくれる仲間を募集しています。興味がある方は、こちらからカジュアル面談をお申込みください。
この記事が気に入ったらサポートをしてみませんか？