LangSmithによるAIエージェントの継続的改善のためのオブザーバビリティの向上

Transcript

1. LangSmithによる AIエージェントの継続的改善のための オブザーバビリティの向上
2. 自己紹介 上野彰大 PharmaX共同創業者・CTO/AX事業部長 書籍『LLMアプリケーション評価駆動開発』が発売予定 X：@ueeeeniki （C）PharmaX Inc. 2025 All Rights Reserve 2
3. 個人でも勉強会コミュニティ StudyCoも運営 （C）PharmaX Inc. 2025 All Rights Reserve 3
4. 自社としては LLMを中心に勉強会を月 1回程度開催 （C）PharmaX Inc. 2025 All Rights Reserve 4
5. 医療業界を横断する 2つの事業領域 BtoC/BtoB両事業でAIエージェントを実装することで患者満足度世界一の医療体験を実現 YOJO toC事業 AX toB事業 “まだ誰も見たことのない ”10Xな医療体験の実現 既存医療インフラの AIによる劇的なアップデート （C）PharmaX Inc. 2025 All Rights Reserve 5
6. 一生涯にわたって寄り添うかかりつけ漢方薬局「 YOJO」 相談型医療体験 パーソナライズ漢方薬 継続的なかかりつけ 医療アドバイザーに体調 のことをいつでも気軽に相 談できる 30種類以上の漢方薬からあ なたに合ったものを月毎に 提案 定期的に漢方をお届けし、 一人ひとりに寄り添うかか りつけ医療を提供 （C）PharmaX Inc. 2025 All Rights Reserve 6
7. YOJOで稼働する OTC医薬品相談 AIエージェント 患者さまからの一次対応をすべて AIエージェントが行う（裏側では 100近いのプロンプトが稼働） 基本的にはメッセージを自動送信し、必要があれば薬剤師に承認を求める 一次的な漢方選択や、こちらから送信する体調確認などもエージェントが自律的に作成 一次的な漢方選択なども行う AIが人に指示をするような体験 薬剤師に重要な 返信や判断の確認を依頼 ユーザー AIエージェント 薬剤師 薬剤師が返信する場合もある （C）PharmaX Inc. 2025 All Rights Reserve 7
8. 医療業界を横断する 2つの事業領域 BtoC/BtoB両事業でAIエージェントを実装することで患者満足度世界一の医療体験を実現 YOJO toC事業 AX toB事業 “まだ誰も見たことのない ”10Xな医療体験の実現 既存医療インフラの AIによる劇的なアップデート （C）PharmaX Inc. 2025 All Rights Reserve 8
9. OCR＋初期スクリーニングサービスの画面イメージ 大手調剤薬局様と PoC実施中 処方箋の有効期限 切れを検知 （C）PharmaX Inc. 2025 All Rights Reserve 9
10. 【AI基本処方監査】添付文書をもとにした処方監査 大手調剤薬局様と PoC実施中 公開情報等を使用した簡易的な疑義照会について PoC実績あり 処方箋画像 レセコン ①OCR ②連携 薬剤師 ④出力 ⑤確認 ③取得 疑義 医薬品添付文書等 （C）PharmaX Inc. 2025 All Rights Reserve 10
11. Agentic Workflow （C）PharmaX Inc. 2025 All Rights Reserve 11
12. YOJOにおける Agentic Workflow（フローエンジニアリング） • ①ルールベースで LLM処理可能かを 判定 • ②LLMで会話を分類し LLM処理可能 かを判定 ① • ③LLMで次のフェーズに移るべきかど 現時点では精度高く メッセージ提案できない ため薬剤師が対応 ② ④ ③ ⑤ うかを判定 • ④LLMでメッセージを作成 • ⑤LLMで作成されたメッセージを評価 （LLM-as-a-Judge）し、一定の水準を 下回ったら再生成して、クリアしたもの のみをサジェストする ※②〜⑤： GPT-4o （C）PharmaX Inc. 2025 All Rights Reserve 12
13. LangGraphで実際に構築したグラフ LangGraphで作成したグラフは mermaidで出力しテストにも使用している ルール1 ルール2 LLM-フェーズ切替 LLM-会話分類 LLM-メッセージ作成 _ 分類1 LLM-メッセージ作成 _ 分類2 LLM-メッセージ作成 _ 分類3 LLM-メッセージ作成 _ 分類4 （C）PharmaX Inc. 2025 All Rights Reserve 13
14. LangSmithによるトレーシング rule1 rule2 ① ・・・ ② ① ③ ② ④ ④ ③ ⑤ ⑤ ※②〜⑤： GPT-4o （C）PharmaX Inc. 2025 All Rights Reserve 14
15. AIエージェントの開発サイクルと LLMOps （C）PharmaX Inc. 2025 All Rights Reserve 15
16. AIエージェントの継続的改善サイクル 計画・設計 運用・オペレーション ・ 要件定義 ・実運用 ・ワークフローの設計 ・評価指標の決定 ・アノテーション 実装 リリース ・コーディング ・プロンプトエンジニアリング ＆パラメータ調整 ・ファインチューニング オブザーバビリティ ・ログ ・メトリクス（評価含む） ・トレース ・本番へのリリース リリース前評価・テスト ・データセット /テスト環境で の評価 各種シグナルの分析 ・異常の検知 ・原因の深堀り・特定 プロンプトやアプリケーションの変更履歴を紐づけて管理することが重要 （C）PharmaX Inc. 2025 All Rights Reserve 16
17. LLMOpsと従来の MLOpsの違い 必ずしもモデルのアップデートを伴わないため、改善サイクルを短くできるのが LLMOpsの特徴 MLOps LLMOps モデルアップデート ・モデルがアップデートされることが前提 ・新データ →再学習 →デプロイが中心 ・必ずしもモデルの再学習を伴わない ・プロンプト・パラメータ調整がメイン 主要な改善手法 ・データ収集・前処理 →モデル学習・評価 →再学習によるパフォーマンスの向上 ・プロンプトエンジニアリング ・パラメータ調整 ・RAG ・ファインチューニング等 評価の特徴 ・定量的指標中心（精度、 F1スコアなど） ・比較的客観的な評価が可能 ・出力が確率的で自由度が高い ・LLM-as-a-Judge等の新手法が必要 ・多面的評価（品質・安全性・コスト） 監視・観測の重点 ・モデルの変更履歴管理 ・本番でのモデル精度の評価 ・モデル精度の劣化の検知 ・プロンプト・パラメータ変更履歴管理 ・本番でのアウトプットの評価 ・予期せぬ挙動の検知 （C）PharmaX Inc. 2025 All Rights Reserve 17
18. オブザーバビリティの重要性 オブザーバビリティとは 複雑なシステムの内部状態を理解できる能力や仕組み • ログ (Logs): 特にLLMでは各タスクのインプット ・アウトプットの履歴情報が重要。詳細な状況分 析に利用。 • メトリクス (Metrics): システムやサービスの状 態を数値で表したデータ。健康状態・パフォーマ ンス指標の定量的な把握に利用。 • トレース (Traces): ワークフローをまたがるリク エストの処理経路やワークフローの問題特定に 利用。 異常を検知するだけでなく、「どこで何が起 こったのか」、「なぜ起こったのか」を把握す ることに重点がある https://github.com/cncf/tag-observability/blob/whitepaper-v1.0.0/assets/primary-signals.png （C）PharmaX Inc. 2025 All Rights Reserve 18
19. LLMアプリケーションにおけるオブザーバビリティの例 問い合わせ対応するAIチャットボットを運用していたとする、、、 • • • ログの活用 ：ユーザー質問と生成された回答のペアを分析し、「どんな種類の質問で的外れな回答が増え ているか」というパターンを発見可能 メトリクスの活用 ：評価の回答品質スコアの時系列変化を見ると、「先週火曜日の夕方から急激に品質スコ アが低下している」ことが判明する トレースの活用 ：回答生成の各ステップを追跡すると、「外部知識ベースへの接続が失敗している」「プロン プト前処理部分が正しく動作していない」といった具体的な処理の問題点を特定できる 3つの情報を組み合わせることで、、、 「先週のプロンプト更新でトークン節約のため説明文を短くしたところ、ナレッジベースを検索して回答に含めてく ださい』という重要な指示部分まで削除されてしまい、 LLMが社内データベースを参照せずに回答するようになっ た」という根本原因にたどり着ける 「チャットボットの回答品質が下がった」という現象を検知するだけでなく、「なぜ下がったのか」「ど のように修正すべきか」まで迅速に把握できる （C）PharmaX Inc. 2025 All Rights Reserve 19
20. LLMOpsの重要プラクティス抜粋 LLMOpsのプラクティスの中でも特に下記のようなものが重要なので後半でご紹介する • オブザーバビリティ（ログ・メトリクス・トレース） ◦ ログやメトリクスは従来のシステムに対する考え方の延長線上で理解・カバーしやすいの で、トレースに説明の重点を置く • プロンプトやパラメータを中心とする変更履歴管理 ◦ 従来の機械学習モデルと比較すると、学習を伴わないため変更することもそのものも履歴 の管理も非常に簡単になった ◦ 非エンジニア以外も変更可能にすることができれば改善速度がさらに向上 • 出力の評価 ◦ 従来の機械学習と比較しても自由度が高く、精度を評価しづらい＆多面的な評価が必要 ◦ 評価結果を定量的に表すことができれば、メトリクスの一種として捉えられる （C）PharmaX Inc. 2025 All Rights Reserve 20
21. トレーシングとプロンプト管理 （C）PharmaX Inc. 2025 All Rights Reserve 21
22. LangSmithによるトレーシング rule1 rule2 ① ・・・ ② ① ③ ② ④ ④ ③ ⑤ ⑤ ※②〜⑤： GPT-4o （C）PharmaX Inc. 2025 All Rights Reserve 22
23. LangSmithによるトレーシング rule1 rule2 ① ・・・ ② ① ③ ② ④ ④ ③ ⑤ ⑤ ※②〜⑤： GPT-4o （C）PharmaX Inc. 2025 All Rights Reserve 23
24. LangSmithによるトレーシング rule1 rule2 ① ・・・ ② ① ③ ② ④ ④ ③ ⑤ ⑤ ※②〜⑤： GPT-4o （C）PharmaX Inc. 2025 All Rights Reserve 24
25. LangSmithによるトレーシング rule1 rule2 ① ・・・ ② ① ③ ② ④ ④ ③ ⑤ ⑤ ※②〜⑤： GPT-4o （C）PharmaX Inc. 2025 All Rights Reserve 25
26. LangSmithによるトレーシング rule1 rule2 ① ・・・ ② ① ③ ② ④ ④ ③ ⑤ ⑤ ※②〜⑤： GPT-4o （C）PharmaX Inc. 2025 All Rights Reserve 26
27. LangSmithによるトレーシング ① rule1 rule2 ① ・・・ ② ③ rule1 rule2 ④ rule3 rule4 rule5 ⑤ （C）PharmaX Inc. 2025 All Rights Reserve 27
28. LangSmithによるトレーシング ② rule1 使用したprompt xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx rule2 ① ・・・ ② ③ ④ パラメータ model_name ⑤ xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx （C）PharmaX Inc. 2025 All Rights Reserve 28
29. LangSmithによるトレーシング ② rule1 rule2 ① ・・・ xxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx どんなinputのときに ③ xxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx ② ④ どんなoutputだったか ⑤ （C）PharmaX Inc. 2025 All Rights Reserve 29
30. プロンプト一覧 プロンプト名を選択 （C）PharmaX Inc. 2025 All Rights Reserve 30
31. プロンプトの履歴 Commitハッシュ （C）PharmaX Inc. 2025 All Rights Reserve 31
32. Playgroundでのプロンプトの実験 変数 （C）PharmaX Inc. 2025 All Rights Reserve 出力 32
33. プロンプトの比較機能 出力の比較 （C）PharmaX Inc. 2025 All Rights Reserve 33
34. パラメータ設定機能 （C）PharmaX Inc. 2025 All Rights Reserve 34
35. LangSmithによるトレースとプロンプト管理 LangSmithを活用することで Agentic Workflowの処理のトレースの可視化とプロンプトの履歴管理 • LangSmithを使うことで、処理の過程が記録されるため、どこでどのような出力がされて、どこ でなぜ処理が終了したのかが一目瞭然 ◦ ルールベース処理のようなLLMではない処理も記録することが可能 ◦ どのRunにどのプロンプトが使用されていたのか？ということも分かる • プロンプトやパラメータのバージョン管理もLangSmith上で行うことで、どのバージョンのときに どのような処理がされていたのかを後から確認することができる ◦ 開発者以外も含む複数人でプロンプト等を変更できるため、高速でPDCAを回すことが可 能になる ◦ 後述するオンライン評価でもどのタイミングでプロンプトやパラメータを変更したかを確認で きることは重要 （C）PharmaX Inc. 2025 All Rights Reserve 35
36. LLMの出力の評価 （C）PharmaX Inc. 2025 All Rights Reserve 36
37. 評価用のプロンプトのイメージ LLMからのメッセージ提案を評価させるためのプロンプトを定義し、 LLMにLLMの評価をさせる 評価用プロンプト System User あなた(assistant)には、別のassistant(chat-assistant)のメッ セージを評価していただきます。 chat-assistantの最後の返答がどの程度下記の文章作成マニュ アルに従っているかで0〜100点のスコアを付けて下さい ## chat-assistantの前提 chat-assistantの役割は、PharmaX株式会社のYOJOという サービスのかかりつけ薬剤師です。健康や漢方の専門家とし て、常にユーザーの感情に寄り添いアドバイスをします。 ...（略） ## 文章のライティング方針 ・丁寧に対応する ・謝罪では絵文字を使わずに、文章だけで表現する ・難しい漢字はひらがなで書く ・細かい説明は箇条書きで書く ...（略） （C）PharmaX Inc. 2025 All Rights Reserve 37
38. LLM-as-a-Judgeの必要性 LLMアプリケーションの出力結果を LLMで評価することを LLM-as-a-Judgeという • LLMの出力を人が評価するのは、工数・コスト・速度の観点から限界があるので、LLMにLLMの 出力を評価をさせようというアイデア ◦ 人で評価する場合、異なる評価者の間で評価基準を一致させるのは難しいが、 LLMなら 可能 ◦ LLMであればプロンプトを作り込めば、専門家にしかできない評価も高精度にさせることが できる （C）PharmaX Inc. 2025 All Rights Reserve 38
39. ツール選定の基準 （C）PharmaX Inc. 2025 All Rights Reserve 39
40. LangSmithの選定基準 有名なツール間の差は大きくはないので、セルフホストの必要の有無で選定することにはなる • 正直、よく使われているツールの機能には大きな差はない ◦ とはいえLangChainが力を入れて開発しているので、最新の機能が使えたり、UXなども より洗練されている気がする • LangSmithも金額は高くなるが、セルフホスティング可能 ◦ トレース等はそれなりのデータ数になるので、トラフィックが増えると障害が起こる可能性も ある ◦ セルフホストはインフラの障害等の面倒も自社で見なければならないので注意が必要 （C）PharmaX Inc. 2025 All Rights Reserve 40
41. まとめ （C）PharmaX Inc. 2025 All Rights Reserve 41
42. まとめ AIエージェントで価値を届けるためには継続的に改善し続ける必要がある • エージェントを継続的に改善し続けるためには、LLMOpsのプラクティスを取り入れる必要がある ◦ オブザーバビリティを担保し、プロンプトやパラメータなどのアプリケーションの変更履歴を 管理する必要がある ◦ 従来のアプリケーションと比較しても特にトレースや評価についての議論がホット • LangSmith、LangFuseなどの有名ツール間での機能の差はそこまで大きくないので、 （C）PharmaX Inc. 2025 All Rights Reserve 42
43. 『LLMアプリケーション評価駆動開発』という書籍を出版します • 評価の基本を網羅的に解説：評価の全体像から評価軸の考え方 まで丁寧に解説 • 幅広い評価のアプローチの解説：最新の評価手法である LLM-as-a-Judgeなども取り上げ、幅広い評価のアプローチを習 得することで、あらゆる場面で最適な評価手法を選択・活用できる 力を身につけられる • 評価・LLMOps実践力を身につけられる （C）PharmaX Inc. 2025 All Rights Reserve 43