Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
生成AIの変革の時代に、直近1年で直面した課題とその解決策
Search
SomaWada
April 25, 2024
Technology
1
1.1k
生成AIの変革の時代に、 直近1年で直面した課題とその解決策
【緊急開催】生成AI革命期に挑んだ一年間の軌跡
にて発表した資料です。
https://generative-ai-conf.connpass.com/event/315163/
SomaWada
April 25, 2024
Tweet
Share
More Decks by SomaWada
See All by SomaWada
o1モデルのプロンプトエンジニアリングって?
ktc_wada
0
490
PromptyとVS Codeで プロンプトエンジニアリングの効率を 爆上げしよう!
ktc_wada
0
85
ChatGPT APIとLangChainハンズオン会@福岡 投影資料
ktc_wada
0
160
生成AI活用推進の為にやったこと/やらなかったこと
ktc_wada
0
600
2024/04/19_ChatGPT APIとLangChainハンズオン会@札幌 投影資料
ktc_wada
0
71
2024/02/02_ChatGPT APIとLangChainハンズオン会 投影資料
ktc_wada
0
91
生成AI新年会2024@GMO Yours・フクラス
ktc_wada
0
1k
2024/01/19_ChatGPT APIとLangChainハンズオン会 投影資料
ktc_wada
1
150
ChatGPT APIとLangChainハンズオン会 投影資料
ktc_wada
0
190
Other Decks in Technology
See All in Technology
SageMaker学習のツボ / The Key Points of Learning SageMaker
cmhiranofumio
0
190
クレジットカードを製造する技術
yutadayo
81
48k
Oracle Database 23ai 新機能#4 Application Continuity
oracle4engineer
PRO
0
120
見えづらい活動の成果の伝え方は日頃からめちゃくちゃ悩んでるけど、実際こんな取り組みをしな がら温度感を合わせにいってるよ / Conveying Hard-to-See Results
kakehashi
4
1.9k
マーケットプレイス版Oracle WebCenter Content For OCI
oracle4engineer
PRO
2
240
LINE-ChatGPT 倫理問題を整理する全力肯定彼氏くん [LuC4]に訪れたサービス開始以来の最大の危機
o_ob
2
160
ドキュメントとの付き合い方を考える
leveragestech
1
140
普通の Web エンジニアのための様相論理入門 #yapcjapan / YAPC Hakodate 2024
ytaka23
5
1.5k
Product Utilization of Large Language Models Starting Today
ymatsuwitter
3
1.4k
これはPerl? それともRuby? クイズ〜〜〜〜〜!!!- Perl or Ruby Quiz
moznion
2
1.8k
Oracle GoldenGate 23ai 導入Tips
oracle4engineer
PRO
1
280
【shownet.conf_】ShowNet伝送改めShowNet APN 2024
shownet
PRO
0
450
Featured
See All Featured
Java REST API Framework Comparison - PWX 2021
mraible
PRO
28
7.5k
Creatively Recalculating Your Daily Design Routine
revolveconf
217
12k
Done Done
chrislema
181
16k
Fight the Zombie Pattern Library - RWD Summit 2016
marcelosomers
231
17k
Intergalactic Javascript Robots from Outer Space
tanoku
268
27k
CoffeeScript is Beautiful & I Never Want to Write Plain JavaScript Again
sstephenson
159
15k
We Have a Design System, Now What?
morganepeng
49
7.2k
The Language of Interfaces
destraynor
154
24k
The Mythical Team-Month
searls
218
43k
Fantastic passwords and where to find them - at NoRuKo
philnash
50
2.8k
Debugging Ruby Performance
tmm1
73
12k
Agile that works and the tools we love
rasmusluckow
327
21k
Transcript
⽣成AIの変⾰の時代に、 直近1年で直⾯した課題とその解決策 KINTOテクノロジーズ株式会社 IT/IS部 ⽣成AI活⽤PJT 和⽥ 颯⾺ 2024/04/25 【緊急開催】⽣成AI⾰命期に挑んだ⼀年間の軌跡
©KINTO Corporation. All rights reserved. 2 今⽇はこんな⽅に向けて 社内の⽣成AI活⽤ 推進者/担当者 ⽣成AIを使った新規サービスや、業務改善が
できるシステムを開発したいエンジニア #gen_ai_conf #KINTOテクノロジーズ
©KINTO Corporation. All rights reserved. 3 プロフィール 2022年2⽉⼊社。データサイエンティスト。内製アプ リケーションのレコメンドアルゴリズム作成や、社内 外の分析レポート作成などに従事。
2024年1⽉の⽣成AI活⽤PJTを⽴ち上げて以降、社内の ⽣成AIリテラシーを⾼める研修活動や、⽣成AIを活⽤ したシステム開発の推進活動に従事。 KINTOテクノロジーズ株式会社 IT/IS部 ⽣成AI活⽤PJT 和⽥ 颯⾺(@cognac_n) #gen_ai_conf #KINTOテクノロジーズ
©KINTO Corporation. All rights reserved. 4 Index 1 KINTOテクノロジーズとは 2
⽣成AI活⽤PJTの役割 3 6 ⽬次 3 直⾯した課題とその解決策 おわりに 4
©KINTO Corporation. All rights reserved. 5 KINTOテクノロジーズとは 1
©KINTO Corporation. All rights reserved. 6 KINTOテクノロジーズ株式会社について(グループ組織) トヨタ⾃動⾞株式会社 トヨタファイナンシャルサービス株式会社(TFS) 海外販売⾦融
現地事業会社 世界40以上の国と地域で サービスを展開 KINTOテクノロジーズ 株式会社 株式会社KINTO トヨタファイナンス 株式会社 販売⾦融・クレジット カードなど
©KINTO Corporation. All rights reserved. 7 KINTO ONEとは? クルマにかかる諸費⽤がコミコミ! 他に必要なのは「ガソリン代・駐⾞場代・⾼速代」など
⾃動⾞税 ⾃動⾞保険 ⾞検 メンテナンス 消耗品 故障修理・代⾞ ⾞両代+登録諸費⽤
©KINTO Corporation. All rights reserved. 8 ⽣成AI活⽤PJTって? 2
9 2022 2023 2024 OpenAI KINTO テクノロジーズ 11/30 3月 11月
2月 7月 12月 4月 社内向け内製 生成AI Chat利用開始 2月 生成AI DXへの取り組み 生成AI活用PJT 立上げ Microsoft Meta Google 9月 3月 Llama公開 Llama2公開 Llama3公開 Microsoft365 Copilot発表 サムアルトマン 参画発表 Bard公開 Gemini公開 VideoPoet 発表 ScreenAI 発表 日本法人設立 GPT-4 Turbo公開 Sora 発表 サムアルトマン 復帰 GPT-4 公開 ChatGPT 公開 GPT-4V 公開 生成AI革命期1年間の軌跡 生成AI DXの 加速
©KINTO Corporation. All rights reserved. 10 ⽣成AI活⽤PJTについて – 役割 社内における⽣成AI活⽤のために・・・
種をまいて、芽を⾒つけ、育てて、価値を⽣み出す。 #gen_ai_conf #KINTOテクノロジーズ
©KINTO Corporation. All rights reserved. 11 ⽣成AI活⽤PJTについて – 役割 社内における⽣成AI活⽤のために・・・
種をまいて、芽を⾒つけ、育てて、価値を⽣み出す。 • 内製の⽣成AI研修(ビジネス向け/エンジニア向け) • ⽣成AIツールの社内整備 • ⽣成AI活⽤のガイドライン整備 #gen_ai_conf #KINTOテクノロジーズ 例えば
©KINTO Corporation. All rights reserved. 12 ⽣成AI活⽤PJTについて – 役割 社内における⽣成AI活⽤のために・・・
種をまいて、芽を⾒つけ、育てて、価値を⽣み出す。 • 定番のユースケース(要約、翻訳…)を社内から探す • 業務担当者⾃⾝が、⽣成AIを活⽤できる可能性に気づく • ⽣成AIを活⽤した新規サービスのアイデアを思いつく 例えば #gen_ai_conf #KINTOテクノロジーズ
©KINTO Corporation. All rights reserved. 13 ⽣成AI活⽤PJTについて – 役割 社内における⽣成AI活⽤のために・・・
種をまいて、芽を⾒つけ、育てて、価値を⽣み出す。 • アイデアの壁打ちを通じて、 より技術的不確実性の低い実現⽅法を提案する • 業務内容のヒアリングを通じて、より付加価値の⾼い活⽤絵姿を描く • ⾼速なPoC実施を通じて、リソースの適切な分配を促す 例えば #gen_ai_conf #KINTOテクノロジーズ
©KINTO Corporation. All rights reserved. 14 ⽣成AI活⽤PJTについて – 役割 社内における⽣成AI活⽤のために・・・
種をまいて、芽を⾒つけ、育てて、価値を⽣み出す。 • プロンプトエンジニアリングと業務への組み込み⽀援 Ø まずは伴⾛から。徐々に⾃⾛⽀援へ • ⽣成AIを活⽤したAPI開発やその⽀援 Ø ⾼速なPoCの完了と本番実装 • SaaSの選定とその普及活動 例えば #gen_ai_conf #KINTOテクノロジーズ
©KINTO Corporation. All rights reserved. 15 直⾯した課題とその解決策 3
©KINTO Corporation. All rights reserved. 16 直⾯した課題とその解決策 課題 限られたリソースで”やらないこと”を選ぶ 課題
乱⽴しがちなPoC。何をProofする? #gen_ai_conf #KINTOテクノロジーズ
©KINTO Corporation. All rights reserved. 17 課題:限られたリソースで”やらないこと”を選ぶ 課題 限られたリソースで”やらないこと”を選ぶ 課題
乱⽴しがちなPoC。何をProofする? #gen_ai_conf #KINTOテクノロジーズ
©KINTO Corporation. All rights reserved. 18 解決策:限られた⼯数の中で、⽣み出す価値を最⼤限にするには・・・ アイデアごとに価値の⾒積もりと適した⼯数配分を⾏う。 課題:限られたリソースで”やらないこと”を選ぶ #gen_ai_conf
#KINTOテクノロジーズ
©KINTO Corporation. All rights reserved. 19 課題:限られたリソースで”やらないこと”を選ぶ 解決策:限られた⼯数の中で、⽣み出す価値を最⼤限にするには・・・ アイデアごとに価値の⾒積もりと適した⼯数配分を⾏う。 Prompt
engineering RAG Agent Fine tuning Embedding Meta data Chunking Code interpreter LLM Ops Content filter Local LLM Model merge PTU Multi region ・・・ アイデアごとに、全て試すなんて無理! しかも、毎週のように新技術が出てくる! #gen_ai_conf #KINTOテクノロジーズ
©KINTO Corporation. All rights reserved. 20 課題:限られたリソースで”やらないこと”を選ぶ 解決策:限られた⼯数の中で、⽣み出す価値を最⼤限にするには・・・ アイデアごとに価値の⾒積もりと適した⼯数配分を⾏う。 #gen_ai_conf
#KINTOテクノロジーズ
©KINTO Corporation. All rights reserved. 21 課題:限られたリソースで”やらないこと”を選ぶ 解決策:限られた⼯数の中で、⽣み出す価値を最⼤限にするには・・・ アイデアごとに価値の⾒積もりと適した⼯数配分を⾏う。 事業価値の⾼いアイデアへ
リソースを集中する為に、 「どこまでやるか」を⾒極めながら進⾏する。 #gen_ai_conf #KINTOテクノロジーズ
©KINTO Corporation. All rights reserved. 22 課題:限られたリソースで”やらないこと”を選ぶ 解決策:限られた⼯数の中で、⽣み出す価値を最⼤限にするには・・・ アイデアごとに価値の⾒積もりと適した⼯数配分を⾏う。 レベル1~2の取り組みをどれだけ⼤量に、
⾼速に回せるかが競争⼒となる。 事業価値の⾼いアイデアへ リソースを集中する為に、 「どこまでやるか」を⾒極めながら進⾏する。 #gen_ai_conf #KINTOテクノロジーズ
©KINTO Corporation. All rights reserved. 23 課題:乱⽴しがちなPoC。何をProofする? 課題 限られたリソースで”やらないこと”を選ぶ 課題
乱⽴しがちなPoC。何をProofする? #gen_ai_conf #KINTOテクノロジーズ
©KINTO Corporation. All rights reserved. 24 課題:乱⽴しがちなPoC。何をProofする? 解決策:できる限り実プロダクトに近いPoCを速く⼤量に回す #gen_ai_conf #KINTOテクノロジーズ
©KINTO Corporation. All rights reserved. 25 課題:乱⽴しがちなPoC。何をProofする? 解決策:できる限り実プロダクトに近いPoCを速く⼤量に回す • 机上(ローカル環境/Notebook)の技術検証とPoCは分けて考える
Ø あるある:机上の実験をもとにMVPを作り、UXの低さに愕然とする Ø 机上でProofできたのは技術⾯だけ。ConceptのProofまでやり切る Ø 意外な技術的落とし⽳や、UXの低さに机上では気づけない Ø ⽣成AIを使ったサービスは、ちょっとした⼯夫でUXが⼤きく変わる #gen_ai_conf #KINTOテクノロジーズ
©KINTO Corporation. All rights reserved. 26 課題:乱⽴しがちなPoC。何をProofする? 解決策:できる限り実プロダクトに近いPoCを速く⼤量に回す • 机上(ローカル環境/Notebook)の技術検証とPoCは分けて考える
Ø あるある:机上の実験をもとにMVPを作り、UXの低さに愕然とする Ø 机上でProofできたのは技術⾯だけ。ConceptのProofまでやり切る Ø 意外な技術的落とし⽳や、UXの低さに机上では気づけない Ø ⽣成AIを使ったサービスは、ちょっとした⼯夫でUXが⼤きく変わる • PoCをするならば、2の⽮、3の⽮も⽤意する Ø あるある:PoCが半端な結果でも・・・代案がないので突っ切ってしまう Ø PJに対して複数のPoCを並列に実施できる効率の良い体制が必要 #gen_ai_conf #KINTOテクノロジーズ
©KINTO Corporation. All rights reserved. 27 課題:乱⽴しがちなPoC。何をProofする? 解決策:できる限り実プロダクトに近いPoCを速く⼤量に回す • 机上(ローカル環境/Notebook)の技術検証とPoCは分けて考える
Ø あるある:机上の実験をもとにMVPを作り、UXの低さに愕然とする Ø 机上でProofできたのは技術⾯だけ。ConceptのProofまでやり切る Ø 意外な技術的落とし⽳や、UXの低さに机上では気づけない Ø ⽣成AIを使ったサービスは、ちょっとした⼯夫でUXが⼤きく変わる • PoCをするならば、2の⽮、3の⽮も⽤意する Ø あるある:PoCが半端な結果でも・・・代案がないので突っ切ってしまう Ø PJに対して複数のPoCを並列に実施できる効率の良い体制が必要 • [番外編] 技術的不確実性と価値の不確実性のバランスをとる Ø あるある:技術的には可能そう。やってみる→できた!・・・で? Ø ⽣成AIをシステムに含めると、技術的不確実性が上がる。 並⾏して、価値の不確実性を下げる取り組みが必要 #gen_ai_conf #KINTOテクノロジーズ
©KINTO Corporation. All rights reserved. 28 おわりに 4
©KINTO Corporation. All rights reserved. 29 ⽣成AIカンファレンスへ向けて #gen_ai_conf #KINTOテクノロジーズ
Thank you !