Tweet
Tweet

Slide 1

Slide 1 text

シンプルフォーム株式会社 2024年6月6日

Slide 2

Slide 2 text

Azure OpenAI を活用し 金融機関にお届けする LLM + RAG サービス

Slide 3

Slide 3 text

シンプルフォーム株式会社 全社会資料 2024年5月31日

Slide 4

Slide 4 text

シンプルフォーム株式会社 全社会資料 2024年5月31日

Slide 5

Slide 5 text

アジェンダ 4 • 会社紹介 • 作ったデモ／アーキテクチャ／課題 • Azure OpenAI を用いた解決 • 結び

Slide 6

Slide 6 text

アジェンダ 5 • 会社紹介 • 作ったデモ／アーキテクチャ／課題 • Azure OpenAI を用いた解決 • 結び

Slide 7

Slide 7 text

Azure OpenAI を活用し 金融機関にお届けする LLM + RAG サービス

Slide 8

Slide 8 text

Azure OpenAI を活用し 金融機関にお届けする LLM + RAG サービス

Slide 9

Slide 9 text

Azure OpenAI を活用し 金融機関にお届けする LLM + RAG サービス

Slide 10

Slide 10 text

Azure OpenAI を活用し 金融機関にお届けする LLM + RAG サービス

Slide 11

Slide 11 text

アジェンダ 10 • 会社紹介 • 作ったデモ／アーキテクチャ／課題 • Azure OpenAI を用いた解決 • 結び

Slide 12

Slide 12 text

法人の特徴から審査観点を提案してくれる AI Chat 11 本法人は●●●という特徴があり、審査 ガイドライン第●頁●●●●●●に該当す るため追加調査●●●●●● が必要です

Slide 13

Slide 13 text

ガイドラインをベクターデータ化し RAG を実現 12 本法人は●●●という特徴があり、審査 ガイドライン第●頁●●●●●●に該当す るため追加調査●●●●●● が必要です

Slide 14

Slide 14 text

RAG の有無による性能の差 13 「国際テロリスト財産凍結法」に関する次の記述のうち、最も不適切なものはどれか。 1. テロリストに対する制限が不十分であるというFATF第3次対日相互審査の指摘やFATFの声明を 受けて制定された。 2. 公告国際テロリストを規制対象としており、公告国際テロリストを相手として取引を行う場合は 公安委員会の許可が必要となる。 3. 10万円超の金銭等、政令として定める規制対象財産の贈与を「一定の取引」として制限している。 4. 政令として定める規制対象財産の貸付や売却を「一定の取引」として制限している。 問題数: 91 使用した Model: gpt-4 RAG無し正解数: 49 RAG有り正解数: 88

Slide 15

Slide 15 text

Pinecone + OpenAI API を用いたアーキテクチャ 14 OpenAI API OpenAI API We User Get 法人 情報 RDB 発現可能性のある リスクをN個特定 リスク1の評価 リスク2の評価 …リスクNの評価 リスク1に関する 知識を獲得 リスク1を評価＋ 推奨アクションの提案 ベクターデータの用意

Slide 16

Slide 16 text

運用に際しての課題 15 OpenAI API の信頼性 1. 可用性 2. データガバナンス（顧客データがサードパーティでどう扱われるか） 3. セキュリティ（どの程度の水準でセキュリティが担保されるか）

Slide 17

Slide 17 text

アジェンダ 16 • 会社紹介 • 作ったデモ／アーキテクチャ／課題 • Azure OpenAI を用いた解決 • 結び

Slide 18

Slide 18 text

Azure OpenAI とは 17 https://learn.microsoft.com/ja-jp/azure/ai-services/openai/overview#comparing-azure-openai-and-openai → 安定性やセキュリティ、コンプライアンス、ガバナンスの観点で顧客水準のクリアが期待 できる

Slide 19

Slide 19 text

Azure OpenAI を用いたアーキテクチャ 18 Azure OpenAI We User Get 法人 情報 RDB 発現可能性のある リスクをN個特定 リスク1の評価 リスク2の評価 …リスクNの評価 リスク1に関する 知識を獲得 リスク1を評価＋ 推奨アクションの提案 アップロード Azure AI Search Azure Document Intelligence ベクター データ

Slide 20

Slide 20 text

Azure AI Studio を用いてノーコードで RAG を作れる 19

Slide 21

Slide 21 text

Azure AI Studio を用いてノーコードで RAG を作れる 20

Slide 22

Slide 22 text

アジェンダ 21 • 会社紹介 • 作ったデモ／アーキテクチャ／課題 • Azure OpenAI を用いた解決 • 結び

Slide 23

Slide 23 text

結び 22 • SimpleForm では審査情報基盤を開発／ LLM+RAG で審査を補助 • 顧客属性によってはデータガバナンス・セキュリティは重大課題 • Azure OpenAI で Microsoft の水準を享受でき対外説明しやすくなる • ノーコード、ワンタッチで RAG が実現できる • 先端技術がコモディティ化 ⇔ 独自データの重要性、ますます高まる • SimpleForm は「サイバー時代の探偵」宜しく情報基盤に積極投資

Slide 24

Slide 24 text

We want YOU! Great Detective in the Cyber Age: Data Analysis Engineer, Application Engineer, Infrastructure Engineer

Slide 25

Slide 25 text

シンプルフォーム株式会社 全社会資料 2024年5月31日

Slide 26

Slide 26 text

シンプルフォーム株式会社 全社会資料 2024年5月31日