Upgrade to Pro — share decks privately, control downloads, hide ads and more …

フィンテック養成勉強会#32

 フィンテック養成勉強会#32

2023年8月2日に行われた『生成AIとともに金融の未来を探求する #2〜フィンテック養成勉強会#32 powered by QUICK』の進行スライド。
https://fintech-engineer.connpass.com/event/289053/

More Decks by フィンテック養成コミュニティ

Other Decks in Technology

Transcript

  1. Confidential © 2023 QUICK Corp. All Rights Reserved. 2 ੴҪཅࢠ

    ೥גࣜձࣾ26*$,ೖࣾɻ ΞϓϦέʔγϣϯ։ൃ෦໳Λܦݧޙɺ γεςϜӡ༻΍σʔλ؅ཧΛܦݧɻ ݱࡏ͸৽نࣄۀاըΛ୲౰ɻ ࢿ࢈ͱͯ͠ͷΞʔτͷՁ֨σʔλ෼ੳ౳Λ ࣮ࢪɻ ΦϧλφςΟϒΞηοτͱۚ༥ͱͷؔ܎ੑ ʹڵຯ͕͋Δɻ ࢘ձ঺հ
  2. Confidential © 2023 QUICK Corp. All Rights Reserved. 3 26*$,ʹ͍ͭͯ

    ೔ຊܦࡁ৽ฉࣾάϧʔϓͷۚ༥ɾܦࡁ৘ใαʔϏεձࣾ • ೔ຊॳͷۚ༥৘ใϕϯμʔͱͯ͠೥ͷ૑ۀҎདྷɺ ূ݊ɾۜߦΛ͸͡Ίͱ͢Δۚ༥ػؔʹϚʔέοτ ৘ใΛఏڙ͍ͯ͠·͢ • ೔ܦฏۉגՁΛ͸͡Ί೔ຊΛ୅ද͢Δ͞·͟·ͳ ࢦ਺ͷࢉग़ͳͲ೔ຊͷۚ༥ࢢ৔Λࢧ͑Δ ۚ༥৘ใϕϯμʔͰ͢ ݸਓ౤ࢿՈͷօ༷ʹ͸ɺʮ26*$,.POFZ8PSMEʯ ͱ͍͏ձһ޲͚౤ࢿ৘ใαΠτΛӡӦ͍ͯ͠·͢ גࣜձࣾ26*$,͸೔ຊܦࡁ৽ฉࣾͷάϧʔϓձࣾͰ͢
  3. ϑΟϯςοΫཆ੒ίϛϡχςΟ 藤井 達人 株式会社みずほフィナンシャルグループ 執行理事 デジタル企画部 部長(部付) 阿部 一也 (あべんべん)

    Institution for a Global Society 株式会社 上席研究員 高屋 卓也 株式会社 技術評論社 https://fintech-engineer.connpass.com/ ӡӦʢڞಉओ࠵ͷ໊ʣ
  4. ຊ೔ͷϓϩάϥϜ ϋογϡλά GJOFOHJOF 時間 プログラム 19:00 - 19:05 (5分) オープニング

    石井 陽子@株式会社QUICK 19:05 - 19:35 (30分) 講演『AI を利用した Java 開発の最新情報』 講演者:寺田 佳央@日本マイクロソフト株式会社 クラウド アドボケイト 19:35 - 19:40 (5分) 休憩 19:40 - 20:25 (45分) パネルディスカッション『生成AIとともに金融の未来を探求する』 パネラー :寺田 佳央@日本マイクロソフト株式会社 クラウド アドボケイト パネラー :林 憲一@SambaNova Systems Japan合同会社 Head of Marketing パネラー :氏弘 一也@シンプレクス株式会社 クロスフロンティアディビジョン プリンシパル パネラー :阪本 雅義@日本生命保険相互会社 デジタル推進室 デジタル推進課長 パネラー :藤井 達人@株式会社みずほフィナンシャルグループ 執行理事 デジタル企画部 部長(部付) モデレーター:阿部 一也@Institution for a Global Society株式会社(IGS) 上席研究員 20:25 – 20:30 (5分) クロージング 渡辺 徳生@株式会社QUICK 20:30 – 21:30 (60分) ネットワーキング 無料(お酒・軽食をご用意しております)
  5. ೥݄ʹࡳຈ͔Β౦ژʹҠॅɻ *5اۀ΍ۚ༥ػؔͷݚڀॴͰγεςϜΤϯδχΞͱ͠ ͯΩϟϦΞΛੵΈɺݱࡏ͸ڭҭɾ)3෼໺޲͚ͷϒϩο ΫνΣʔϯʹ͍ͭͯͷݚڀ։ൃΛߦ͍ͬͯ·͢ɻ 1ZUIPO΍ػցֶशɺϒϩοΫνΣʔϯɺΫϥ΢υɺۚ ༥ɺιϑτ΢ΣΞ։ൃʹؔ͢Δ*5ίϛϡχςΟͷӡӦ ΍ɺઌ୺ٕज़ɺϏδωε΍૊৫վֵͷΠϕϯτاըɺ ࣥචͳͲͷݸਓ׆ಈΛߦ͏ɻ <ίϛϡχςΟӡӦ> 4UBSU1ZUIPO$MVCɺϑΟϯςοΫཆ੒ίϛϡχςΟ΄͔ଟ਺

    <؂मɺࣥචɺ຋༁ɺࠪಡ> ɾ4QBSLʹΑΔ࣮ફσʔλղੳʕେن໛σʔλͷͨΊͷػցֶशࣄྫू ɾϚϯΨͱਤղͰεοΩϦΘ͔Δϓϩάϥϛϯάͷ͘͠Έ ɾ࣮ફۚ༥σʔλαΠΤϯεӅΕͨߏ଄Λ͋ͿΓग़ͭ͢ͷΞϓϩʔν ɾςετۦಈ1ZUIPO ɾ͋ͨΒ͍͠1ZUIPOʹΑΔσʔλ෼ੳͷڭՊॻ ɾΈΜͳͷϒϩοΫνΣʔϯ ɾϑΟϯςοΫΤϯδχΞཆ੒ಡຊ ɾ1ZUIPOεΩϧΞοϓڭՊॻ ɾ"GUFS("'"෼ࢄԽ͢Δੈքͷະདྷ஍ਤ ɾ࣮ફγφϦΦɾϓϥϯχϯά ɾۚ༥"*੒ޭύλʔϯ ɾ"*ʷ8FCͷະདྷ Ѩ෦Ұ໵ *OTUJUVUJPOGPSB(MPCBM4PDJFUZגࣜձࣾ ্੮ݚڀһ 1SPGJMF
  6. Copyright © 2023 SambaNova Systems ⾃⼰紹介︓林 憲⼀(1967年 東京⽣まれ) • SambaNova

    Systems, Head of Marketing for APAC 信州⼤学社会基盤研究所特任教授 • 略歴 + 1991年 東京⼤学⼯学部計数⼯学科卒 + 1991年 〜 富⼠通研究所及び富⼠通でスパコンの研究・開発 + 1998年 〜 ⽶国Sun MicrosystemsでSunFireサーバー開発エンジニア + 2006年 〜 マイクロソフトでWindows Serverのマーケティング + 2010年 〜 エヌビディアでエンタープライズマーケティング本部⻑ + 2020年 〜 信州⼤学社会基盤研究所特任教授 + 2022年 〜 SambaNova Systems AIが⽣成した画像 家族型ロボットLOVOT “つぶあん”
  7. Copyright © 2023 SambaNova Systems SambaNova Systemsについて シリーズDまでに11億ドル以上を調達 スタンフォード⼤学 コンピュータ科学教授

    Chris Ré スタンフォード⼤学 EE/CS教授 Kunle Olukotun CEO Rodrigo Liang パロアルト オースティン、ロンドン、東京 2017 創業 ML/AI ソフトウェア定義型ハードウェア 500+ HW/SWAIエンジニア Copyright © 2023 SambaNova Systems AI半導体からソフトウェア、サーバーシステム、 ⽣成AIソリューションまでフルスタックで提供 2023 ACM Eckert-Mauchly Award
  8. 15 CONFIDENTIAL © 2023 Simplex, Inc. ⾃⼰紹介 2012年〜 シンプレクス さまざまな⾦融機関(銀⾏・証券・保険)向けのシステム開発プロジェクトに参画。

    要件定義、設計、開発、テスト、運⽤と幅広く経験。 2016年〜 ロボット開発ベンチャー コミュニケーションロボットに搭載する以下機能の設計・開発を担当。 ⾔語機能︓対話、趣味嗜好の記憶制御、感情分析 画像認識︓顔認証、感情分析 ⾳声認識︓⾳声認識(辞書の整備) 2019年〜 シンプレクス ⾃社の分析基盤構築やAIプロダクトの設計・開発。 受託の分析案件のチームリード。 暗号資産事業においては、STO案件のアーキテクチャ設計。 ⽣成AI専⾨チーム(Generative AIコンピテンシー)のリードとして⽣成AIによる 社内の業務効率化に向けて活動中。 • AIエンジニアとして分析プロジェクトを推進。また、アーキテクトとして暗号資産事業のSTO案件のアーキテクチャ設計を担当。 ⽣成AI専⾨チームのリードとして、⽣成AIによる社内の業務効率化に向けて活動中。 ⽒弘⼀也 クロスフロンティア・ディビジョン プリンシパル
  9. 16 CONFIDENTIAL © 2023 Simplex, Inc. • DXを⽀援するテクノロジーパートナーとして、幅広い業界の課題に対し、戦略から設計、開発、運⽤保守ま で、⼀気通貫かつ⾃社完結でのトータルソリューションを提供。 シンプレクス

    会社紹介 沿⾰ 社名 シンプレクス株式会社 事業概要 ⾦融機関の収益業務に関わるシステム・ソリューションの提供 • 業務コンサルティング • システムコンサルティング • システム開発 • 保守・運⽤ • パッケージシステム販売 • ASPサービス提供 等 代表取締役社⻑ ⾦⼦ 英樹 創業年⽉⽇ 1997年9⽉16⽇ 資本⾦ 4,750 百万円 連結従業員数 1,346名(2023年4⽉1⽇現在) 株主 シンプレクス・ホールディングス株式会社 本社所在地 東京都港区⻁ノ⾨1-23-1 ⻁ノ⾨ヒルズ森タワー19階 会社概要 “FinTech Rankings Top 100”に9年連続で選出(国内は4社のみ) 1997年9⽉ 株式会社シンプレクス・リスク・マネジメントを設⽴ 2000年2⽉ 株式会社シンプレクス・テクノロジーに社名(商号)を変更 2002年2⽉ JASDAQ市場に上場 2004年5⽉ 東京証券取引所市場第⼆部に上場 2005年9⽉ 東京証券取引所市場第⼀部に上場 2008年3⽉ Simplex U.S.A. , Inc.(⽶国・カリフォルニア州)を設⽴ 2010年9⽉ シンプレクス・コンサルティング・ホンコン・リミテッド(中国・⾹港)を設⽴ 2010年10⽉ 株式会社シンプレクス・ホールディングスに社名(商号)を変更 株式会社シンプレクス・コンサルティングを新設継承会社とする会社分割を⾏い純 粋持株会社体制に移⾏ 2013年4⽉ 上場廃⽌を前提としたMBO(マネジメント・バイアウト)の実施にあたり、 公開買付けを通じて株式会社シンプレクス・ホールディングスの普通株式、 および新株予約権を取得・保有することを主たる⽬的として 株式会社SCKホールディングスを設⽴ 2013年10⽉ 東京証券取引所市場第⼀部上場廃⽌ 2014年1⽉ 株式会社SCKホールディングス、株式会社シンプレクス・ホールディングス、 株式会社シンプレクス・コンサルティングが事業再編により合併、 シンプレクス株式会社に社名(商号)を変更 2016年12⽉ 株式会社SKホールディングスとシンプレクス株式会社が事業再編により合併 単独株式移転により、持株会社シンプレクス・ホールディングス株式会社を設⽴ 2017年2⽉ Simplex Global Inc.(⽶国・ニューヨーク州)を設⽴ 2018年8⽉ ⽇本初の「AWS⾦融サービスコンピテンシー」認定を取得(AWS公認資格) 2019年3⽉ AI⼦会社「Deep Percept株式会社」をepiST株式会社との合弁会社として 設⽴ 2021年4⽉ クライアントのDXを⽀援する総合コンサルティングファームとして「Xspear Consulting株式会社」を設⽴ 2021年9⽉ 東京証券取引所市場第⼀部に上場
  10. 17 CONFIDENTIAL © 2023 Simplex, Inc. ⽣成AI専⾨チーム(Generative AIコンピテンシー)の設⽴ • これまでのAI開発の経験を活かしつつ⽣成AIの活⽤ナレッジを蓄積することで、社内の業務効率化やナレッジの外部提供を⾏う。

    • プレス:https://www.simplex.inc/news/2023/2278/ 専⾨チームの役割、活⽤検討の流れ シンプレクス Generative AI コンピテンシー 社員 1 活⽤⽅法の相談 有志による活動に対して、どうアプローチするかなどの問い合わせ担当チー ムとして活動。 ①活⽤⽅法の相談 ②社内活⽤PoC ③活⽤例の周知 ④活⽤事例の公表 カンファレンス プレスリリース ④活⽤事例の公表 ⑤ノウハウの外部提供 コンサルティング PJ/有志による 活⽤検討 専⾨チームの役割 2 社内活⽤PoC ⾼い効果を期待する場合、業務フローの⾒直しや専⽤ツール/アプリの開 発が必要となるため有志の活動だけでは対応が難しい。専⾨チームが主 体となってPoCを実施。 3 活⽤例の周知 利⽤状況のモニタリングを実施し、効果的な利⽤例やプロンプトの改善点 を整理。整理結果を周知し、活⽤の促進を図る。 4 活⽤事例の公表 社内事例を積極的に公表。国内の⽣成AIの利⽤促進に貢献。 5 ノウハウの外部提供 活⽤⽅法から、環境準備、専⽤ツール/アプリを外部提供。
  11. 18 CONFIDENTIAL © 2023 Simplex, Inc. ⽣成AI専⾨チームの活動紹介1 • セキュアなLLM API利⽤環境やガイドラインを作成。認証・認可、リクエスト・レスポンス監視の仕組みを構築。

    • 従業員が気軽にLLMを利⽤できるようチャット⽤Webアプリを提供。 • LLM API、チャット⽤Webアプリの利⽤状況をモニタリングし、効率的な使い⽅を社内共有。 Subnet Subnet Virtual network Azure Japan East シンプレクスオフィス 業務端末 (PC) Server Subnet API利⽤許可環境 インターネット Application Gateway API Management Private Link Private Link Private Link Azure OpenAI Service Key Vault Public DNS Network Security Group Network Security Group Network Security Group Log Analytics Blob Storage Azure Entra ID Azure East US Private DNS App Service ドメイン/証明書
  12. 19 CONFIDENTIAL © 2023 Simplex, Inc. ⽣成AI専⾨チームの活動紹介2 • GitHub Copilotの導⼊を開始。

    • 利⽤を検討した半数以上のメンバーで⽣産性向上の効果が⾒られた。 利⽤料を加味しても投資効果は出ている。 ほぼ変わりなし 21% 向上 68% ⼤幅に向上 11% 開発⽣産性に関して 0分 14% 10分未満 18% 10分以上 - 30分未満 28% 30分以上 - 60分未満 28% 60分以上 12% 削減時間(分/⽇) 開発⽣産性に関するアンケート結果 利⽤⽤途 フロントエンド・バックエンド・インフラ開発と幅広い領 域での利⽤が観測できた。 主な⽤途は以下の通り。 • コード補完 • デバッグ • 単体テストのコード作成 • コメント作成 • 設計書からコード作成
  13. 20 CONFIDENTIAL © 2023 Simplex, Inc. ⽣成AI専⾨チームの活動紹介3 • 社内活⽤PoCに向けて課題のヒアリング、技術検証を開始。 課題選定

    アプリ選定 セキュリティ設計 検証 • 各部署やプロジェクトメンバーの⽇々のスケジュール、業務内容、困りごとをヒアリング。 • ヒアリング内容を踏まえて課題を特定。 • 以下の⽣成AI適⽤観点から対応優先度を検討。 ビジネス効果、対応⼯数、求める精度/誤りの許容度、効果検証の容易さ、業務フローの適⽤/変更余地 • 課題にマッチするソリューションを各種SaaS(GitHub Copilot、Box AI、Notion AIなど)から選定。 • マッチするソリューションがない場合、⾃社によるアプリ作成を検討。 • 必要最低限の機能をユーザに公開し、PoCを実施。 • ビジネス効果、コストを精緻化し、業務フローへの組み込み可否を判断。 • PoC実施環境および本番運⽤を想定したデータアクセスやソリューション利⽤権限管理の⽅法を設計。 • 再学習含むデータ漏えいのリスク、およびその対策を検討。 • 利⽤状況の監視の仕組みを設計。
  14. ü ⽇本⽣命にて⼤規模システム開発(顧客関係構築、顧客体験向上領域)に⻑年従事 2015年には構築に従事した営業⽀援システムにて特許取得 ü 2019年より現職。同年よりスタートした全社DXプロジェクト「⽇本⽣命デジタル5カ年計画」を推進 RPA全社展開、先端技術の調査・活⽤を統括 とりわけ近年は全社データ利活⽤推進に向け、案件組成、データマネジメント、分析基盤構築、⼈材育成に注⼒ ü ⼤規模エンタープライズ開発の経験をベースに、既存IT・データと先端技術利活⽤の融合を進めている ⽇本⽣命保険相互会社

    デジタル推進室 阪本雅義 2002年 ⽇本⽣命保険相互会社 ⼊社 ニッセイ情報テクノロジー 出向 2015年 ニッセイ情報テクノロジー 経営企画部 2019年 ⽇本⽣命保険相互会社 デジタル推進室(現職) 2023年- FDUA*「標準化委員会」検討委員 「⽣成AI検討WG」WG⻑代⾏ 順天堂⼤学院医学研究科産学連携講座 講師 2023年度より順天堂院の産学連携講座(15コマ)をデジタル推進室にて実施 *Financial Data Utilizing Association ⼀般社団法⼈⾦融データ活⽤推進協会 ⾃⼰紹介
  15. Copyright © 2023 SambaNova Systems スパース性に強く、⼤容量メモリが利⽤できるデータフローアーキテクチャは 基盤モデル時代のアーキテクチャ DGX A100 •

    1システム当り8GPU • 320GBメモリ 6倍⾼速なGPT学習時間 DGX A100 スピードアップ DataScale® SN30 • 1システム当り8RDU • 8TBメモリ DGX A100のGPT 13B学習をSOTAの精度で凌駕 8倍の学習効率 演算性能のためではなく、⼤規模 パラメーターを載せるメモリのために 多数のGPUが必要 1台の クォーターラック サーバー
  16. Copyright © 2023 SambaNova Systems ⽣成AIモデルを所有する必要性 特徴 サービスとしてのモデル 顧客所有モデル ⽣成AIへの取り組み

    段階的 戦略的 展開 クラウドのみ オンプレまたはクラウド 公開データの正確性 組織内部のデータの正確性 安全かつ⾮公開でモデルを適応 モデルの重みの可視性 学習データと学習⽅法の可視性 異なるインフラへの モデル移動可能性 モデルの所有者 ベンダー 顧客 クラウドベースの ⽣成AIモデルプロバイダー 必要条件︓ 規制および透明性の要求 必要条件︓ ⻑期的な知的財産と 差別化の構築 必要条件︓ 組織内データを使⽤して 特定のプロセスのために モデルを安全に最適化
  17. Copyright © 2023 SambaNova Systems データの価値 ⾼い 低い 社内データ (⾮公開)

    特定領域固有データ (公開/⾮公開) インターネット上のデータ (公開) ⼀般的な⾔語構造 モデルが学習された時点での「知識」 お客様のビジネスに関する専⾨的かつ最新の知識 l 社内議事録、社内メール、 社内レポート、契約書、売上データ、特許、社史 l 電⼦カルテ、医⽤画像 特定領域に特化した⾔語と⽤語 企業⽤途 コンシューマー⽤途 ⽣成AIで最も有⽤なデータは最も秘匿性の⾼いデータ
  18. Copyright © 2023 SambaNova Systems ⼤規模コマーシャルカスタマー事例 ⼤規模⾔語モデルを実現する欧州のAIスーパーコンピュータにSambaNovaを採⽤ • 感情分析 •

    ⽂書分類 • 固有表現抽出 • ⽂書⽣成 • 複合⾔語処理 利⽤⽤途 データの価値 ⾼い 低い OTP銀⾏固有の製品仕様、 コールセンター履歴等の データの学習(⾮公開情報) ⾦融業界固有データの学習 (公開/⾮公開) インターネット上のデータに よる⼀般常識の学習 (公開) x
  19. Confidential © 2023 QUICK Corp. All Rights Reserved. ౉ลಙੜʢΘͨͳ΂ͱ͓͘ʣ גࣜձࣾ26*$,

    Πϊϕʔγϣϯਪਐຊ෦ ຊ෦௕ ݉άϧʔϓ౷ׅ$*0ิࠤ ɾ̓̍೥ ޿ౡੜ·Εɺ๺ւಓˠؔ੢ҭͪ ɾֶੜ࣌୅ʹ਺ཧ౷ܭͱ௨৴ʹڵຯΛ࣋ͭ ɾ̐̕೥ωοτϫʔΫٕज़ऀͱ̦̪̞̘̠ͯ͠ʹೖࣾ ɾ֤छ̖̥ɾ̙̗ઃܭɺઌ୺ٕज़ͳͲͷݕূɺܦӦاըࣨΛܦݧ ɾ̌̔೥ۚ༥ΦϯϥΠϯαʔϏεͰ͸ࠃ಺ॳͷେن໛Ծ૝Խ̥̟Λਪਐ ɾҎ߱ɺ%9ϓϩδΣΫτʢΫϥ΢υԽܭըʣ΍ݱ૊৫ͷ্ཱͪ͛ʹैࣄ ɾझຯɿΰϧϑɺ೔ຊञɺΨʔσχϯάɺνϫϫ ʮࣗ཯తͳಇ͖ํ͕νʔϜΛڧ͘͢Δʯະ஌΁ͷ௅ઓͱϦʔμʔγοϓ࿦ᴹXFWPY #-0( ࢘ձ঺հ