Money Forwardにおける Databricks利⽤の現状と今後の展望

Transcript

1. ⼭崎隼也 1 Money Forwardにおける Databricks利⽤の現状と今後の展望 株式会社マネーフォワード
2. Yamazaki Junya Data AI Platform Division　 Data Engineering Department Manager 2021年2月マネーフォワードに入社 DatabricksとBigqueryの２環境でのデータ基 盤の運用をしています。 12月から新部署を立ち上げました
3. ⼭崎隼也 3 Money Forwardにおける Databricks利⽤の現状と今後の展望 株式会社マネーフォワード
4. ⼭崎隼也 4 Money Forwardにおける Databricks利⽤の現状と今後の展望 のちょっと細かい話 株式会社マネーフォワード
5. マネーフォワード公式キャラクター 「みーも」 Money Forward AI Vision 2025 AXを推進させ、 No.1バックオフィス AIカンパニーを目指す 5
6. マネーフォワードのデータ‧AIアーキテクチャ 6 R&D ML Ops LLM Ops 分析基盤 外部 暗号化 オープン データ Vector DB (RAG) FineTuned Open LLM 外部 LLM API ログ トレーニング データ ナレッジマネジメント BI ビジネス インテリ ジェンス アナリティクス エンジニアリ ング ML モデリング トレーニングデータ アノテーション Web 公開 情報 プロダクト 社内ツール B to B Produc B to B Produc B to B プロダクト 営業 管理 ツール 社内 資料 B to B Produc B to B Produc B to C プロダクト データ エレメンツ データソース データレイク 分析/モデリング アプリ ケーション E T L A P I ク ロ ー ラ ー モ ニ タ リ ン グ 評 価 経営管理 フィード バック プロダクト ログ デ プ ロ イ / 提 供 インテグレッド ワンデータ レイク ‧AI時代では⼀元化されたデータレイクを構築することの重要性がさらに増しており、マネーフォワードでは分析結果の 社内ツールへの還元による業務効率化を推進している。
7. マネーフォワードにおけるdatabricks 活⽤ 7 databricks 利用の３つのメリット • プラットフォームフリー • エンタープライズセキュリティ • 利用者体験の向上
8. マネーフォワードにおけるdatabricks 活⽤ 8 databricks 利用の３つのメリット • プラットフォームフリー ◦ 各クラウドベンダーで同様にプラット フォーム構築ができること ◦ Databricksの主要コンポーネントが OSSであること ◦ ストレージがユーザ所有であること
9. マネーフォワードにおけるdatabricks 活⽤ 9 databricks 利用の３つのメリット • エンタープライズセキュリティ ◦ フロントエンド、バックエンドが Private linkで繋げること ◦ ドメインが単一であること ◦ 各種リソースの権限が詳細に定義でき、 運用できること
10. エンタープライズセキュリティ 10
11. マネーフォワードにおけるdatabricks 活⽤ 11 databricks 利用の３つのメリット • 利用者体験の向上 ◦ 統合された環境 ◦ コード管理されたリソース ◦ 使い始めやすい LLM機能群 ◦ SQL Serverlessの登場
12. Raven 管理観点 - System tableが有用
 - 有効にするだけで勝手に収集
 - ディスクリプションも埋まってる
 
 Genieとの相性がいい！ 
 

13. Raven ユーザ調査
14. Raven ユーザ調査
15. マネーフォワードにおけるdatabricks 活⽤ 15 databricks 利用の３つのメリット • プラットフォームフリー • エンタープライズセキュリティ • 利用者体験の向上
16. Money Forward, Inc. 1616
17. Money Forward, Inc. 17 初のAIネイティブプロダクト『マネーフォワード AI確定申告』 会計知識のない方でも簡単に確定申告。 AIが領収書を読み取り、申告内容を作成
18. MLflow Tracingを⽤いたAgent横断分析基盤 18 MLflow Tracing • セキュリティを担保して確認 • 様々な環境から連携 • プロダクトデータと突き合わせて確認可 能
19. Mosaic AI Gatewayを⽤いたLLM基盤 19 Mosaic AI Gateway • 社内の全LLMユースケースを ◦ 安心して ◦ 効率的に ◦ 横断的に 　　Gatewayを通すことで提供する ※計画中
20. Money Forward, Inc. 20 人手不足に悩む 企業にAIの力を、 そして、デジタルワーカーを。 20
21. 21 ご清聴ありがとうございました。 21