Slide 1

Slide 1 text

©KAKEHASHI inc. AWS 製造 & 医療・製薬シンポジウム 2025 生成AIが拓く医療DXの進化と壁 2025.10.7 株式会社カケハシ 鳥越 大輔

Slide 2

Slide 2 text

© KAKEHASHI Inc. All Rights Reserved. 鳥越 大輔 トリゴエ ダイスケ Data & AI Domain Head of Engineering 慶應義塾大学院理工学研究科修了後、大手金融機関等を経て、 株式会社メルカリにて、Fintech領域の機械学習チームの責任 者として、AIによる与信、不正対策、マーケティング、生成AI活 用に取り組む。2024年5月に株式会社カケハシへ入社。 2025年3月より現職。 趣味はレコード収集、(昨年から始めた)空手 自己紹介

Slide 3

Slide 3 text

© KAKEHASHI Inc. All Rights Reserved.

Slide 4

Slide 4 text

© KAKEHASHI Inc. All Rights Reserved.

Slide 5

Slide 5 text

© KAKEHASHI Inc. All Rights Reserved.

Slide 6

Slide 6 text

© KAKEHASHI Inc. All Rights Reserved. カケハシの生成AI活用における取り組み領域 音声認識から薬歴の 自動生成

Slide 7

Slide 7 text

©KAKEHASHI inc. AIアシスタント - 音声薬歴生成 - の紹介 7

Slide 8

Slide 8 text

© KAKEHASHI Inc. All Rights Reserved. ソリューション概要 Step1. 患者と薬剤師の会話を取得 Step2. 音声を文字起こし Step3. SOAP式(※)薬歴に変換 ※ 薬局で薬剤師が薬歴を作成する際に使われる、患者さんの情報をS (主観)、O (客観)、A (評価)、P (計画)の4つの要素で体系的に記録する方法

Slide 9

Slide 9 text

© KAKEHASHI Inc. All Rights Reserved. 医療業界の基幹システムとしてのSaaSに、 生成AIによる機能追加をする際の 壁と工夫した点についてご紹介します

Slide 10

Slide 10 text

© KAKEHASHI Inc. All Rights Reserved. 精度品質 非機能要件 セキュリティ

Slide 11

Slide 11 text

© KAKEHASHI Inc. All Rights Reserved. 精度品質 非機能要件 セキュリティ Point1 Point2 Point3

Slide 12

Slide 12 text

© KAKEHASHI Inc. All Rights Reserved. 高精度品質の実現を支えるLLM Ops 業務SaaSゆえの非機能要件への対応 情報セキュリティと実験環境の両立 Point1 Point2 Point3

Slide 13

Slide 13 text

© KAKEHASHI Inc. All Rights Reserved. 高精度品質の実現を支えるLLM Ops Point 1

Slide 14

Slide 14 text

© KAKEHASHI Inc. All Rights Reserved.

Slide 15

Slide 15 text

© KAKEHASHI Inc. All Rights Reserved. ワークフロー構成 他社モデル

Slide 16

Slide 16 text

© KAKEHASHI Inc. All Rights Reserved. ワークフロー構成 他社モデル 文字起こしの良し悪し? 薬歴生成の良し悪し?

Slide 17

Slide 17 text

© KAKEHASHI Inc. All Rights Reserved. ワークフロー構成 文字起こしの良し悪し? -> 一般的にはWERや CER(※)で見るが、 薬剤師の良悪の感覚 と異なる 薬歴生成の良し悪し? -> そもそも一般的な 考え方はない ※ 単語誤り率(Word Error Rate; WER)=(挿入単語数 + 置換単語数 + 削除単語数)/正解単語数 文字誤り率(Character Error Rate; CER)=(挿入語数 + 置換語数 + 削除語数)/正解語数 他社モデル

Slide 18

Slide 18 text

© KAKEHASHI Inc. All Rights Reserved. ドメインエキスパート(薬剤師)をチームに入れ、独自の性能品質指標と仕組み を定義(一部抜粋)。 LLM as a judgeと人手評価の組み合わせで評価。 対象 指標 指標の意味 備考 文字起こし 重要語の的中率 (precicion) 書き起こし中の重要語が正解文にも存在してい る割合 重要語の抽出には LLMを使用 。 (薬剤師が抽出した重要語 vs LLM抽出の重要語の相関がある ことを確認済) 重要語の再現率 (recall) 正解の中の重要語が書き起こし文にも存在して いる割合 SOAP 薬歴生成 模範回答に対する優劣 薬剤師作成の薬歴に対して同等か優れている 割合 LLMにより評価 共通 定性評価 クリティカルな問題発生頻度 ドメインエキスパートによる人手 評価

Slide 19

Slide 19 text

© KAKEHASHI Inc. All Rights Reserved. LLM as a Judge プロンプト チューニング 薬剤師による 定性評価 定量手法と薬剤師による定性評価のバランスをとることで、 チューニングの高速化と高精度品質を実現 基準を超えたもの のみを人手評価 全て自動化した 定量評価

Slide 20

Slide 20 text

© KAKEHASHI Inc. All Rights Reserved. 基幹システムSaaSゆえの非機能要件への対応 Point 2

Slide 21

Slide 21 text

© KAKEHASHI Inc. All Rights Reserved. 基盤モデルの改善(EOL)は非常に早く、「独自精度」「コスト」「非機能品質」 のバランスを見ながら、切り替えできる仕組みを構築。 特に、基幹システムとしてのSaaSであり、非機能品質が相対的に重要

Slide 22

Slide 22 text

© KAKEHASHI Inc. All Rights Reserved. リクエスト数 シミュレーション時刻 リクエストの詰まり具合の時刻別シミュレーション (青がリクエスト数, 赤が詰まり具合)

Slide 23

Slide 23 text

© KAKEHASHI Inc. All Rights Reserved. リクエストの詰まり具合の時刻別シミュレーション (青がリクエスト数, 赤が詰まり具合) リクエスト数 シミュレーション時刻 お昼前と夕方にピークがくる 業務特性 耐えうるスループットを具備する ことがmust have

Slide 24

Slide 24 text

© KAKEHASHI Inc. All Rights Reserved. モニタリングとアクションについて 基盤モデルlist (精度、コスト、RPM) 利用分布予測 今後の営業、導入計画 過不足判定 必要に応じてアクション (上限緩和リクエスト、 枠購入...) in out update

Slide 25

Slide 25 text

© KAKEHASHI Inc. All Rights Reserved. 要求値が、正式フローの上限を越えてしまいましたが、 弊社の稼働状況を丁寧に伝えた上で、AWS様に上限緩和のご対応をいただきました

Slide 26

Slide 26 text

© KAKEHASHI Inc. All Rights Reserved. 情報セキュリティと実験環境の両立 Point 3

Slide 27

Slide 27 text

© KAKEHASHI Inc. All Rights Reserved. 医療情報 ガイドライン 個人情報 保護法 サービス規約 医療情報システムであり、セキュリティは非常に重要 保健医療福祉分野 プライバシーマーク

Slide 28

Slide 28 text

© KAKEHASHI Inc. All Rights Reserved. セキュリティ対応として本番データへのアクセスは、Amazon WorkSpaces Secure Browserを利用し制限 実験環境 本番データ

Slide 29

Slide 29 text

© KAKEHASHI Inc. All Rights Reserved. 一方で、本番環境のワークフローを直接動かせなかったため、 環境間の評価差分が生じてしまっていた 実験環境 本番データ 再現した ワークフロー 本番 ワークフロー 各種 LLM

Slide 30

Slide 30 text

© KAKEHASHI Inc. All Rights Reserved. AWS PrivateLink経由で、本番ワークフローのAPIにアクセスできる仕組みを 構築し、評価差分解消を実現 実験環境 本番データ 再現した ワークフロー 本番 ワークフロー 各種 LLM

Slide 31

Slide 31 text

© KAKEHASHI Inc. All Rights Reserved. Point1-3は当初から戦略的に 出来ていたわけではありません。 試行錯誤のための、クロスファンクショナルな プロジェクト体制自体が成功の鍵

Slide 32

Slide 32 text

© KAKEHASHI Inc. All Rights Reserved. Dev User Biz ガバナンス 部門 リスマネ 法務 事業企画 BizDev CS セールス 顧客 競合 Domain Expert GoTo Market 事業性 ガバナンス、 リスク管理 適法性、 個人情報保護 技術 品質評価、 ドメイン知識 競合優位、 PMF 販売戦略 Data Scientist Product Manager デザイナー UX 精度 エンジニア

Slide 33

Slide 33 text

©KAKEHASHI inc. 今後のチャレンジ 33

Slide 34

Slide 34 text

© KAKEHASHI Inc. All Rights Reserved. カケハシ本Projectで獲得したノウハウや基盤をもとに、薬局システムの さらなる次世代化を目指す 自社医療アセットを活用したAIエージェント

Slide 35

Slide 35 text

© KAKEHASHI Inc. All Rights Reserved. FY25で開発組織の PdM・EM・エンジニアを積極採用中 生成AIに関する情報も発信中 https://kakehashi-dev.hatenablog.com/ https://recruit.kakehashi.life/

Slide 36

Slide 36 text

© KAKEHASHI Inc. All Rights Reserved. ご清聴ありがとうございました。

Slide 37

Slide 37 text

© KAKEHASHI Inc. All Rights Reserved. Appendix

Slide 38

Slide 38 text

© KAKEHASHI Inc. All Rights Reserved. ロジックの 初版作成 +精度指標作成 ロジックの Try & Error と 精度目標の達成 本番ロジック の実装 LLMOps 継続モニタリング や改修 Data Scientist Engineer Domain Expert CoE Product Domain Expert 役割分担