生成AIの変革の時代に、直近1年で直面した課題とその解決策

Slide 1

Slide 1 text

⽣成AIの変⾰の時代に、直近1年で直⾯した課題とその解決策 KINTOテクノロジーズ株式会社 IT/IS部⽣成AI活⽤PJT 和⽥颯⾺ 2024/04/25 【緊急開催】⽣成AI⾰命期に挑んだ⼀年間の軌跡

Slide 2

Slide 2 text

Slide 3

Slide 3 text

©KINTO Corporation. All rights reserved. 3 プロフィール 2022年2⽉⼊社。データサイエンティスト。内製アプリケーションのレコメンドアルゴリズム作成や、社内外の分析レポート作成などに従事。 2024年1⽉の⽣成AI活⽤PJTを⽴ち上げて以降、社内の⽣成AIリテラシーを⾼める研修活動や、⽣成AIを活⽤したシステム開発の推進活動に従事。 KINTOテクノロジーズ株式会社 IT/IS部⽣成AI活⽤PJT 和⽥颯⾺（@cognac_n） #gen_ai_conf #KINTOテクノロジーズ

Slide 4

Slide 4 text

Slide 5

Slide 5 text

Slide 6

Slide 6 text

Slide 7

Slide 7 text

Slide 8

Slide 8 text

Slide 9

Slide 9 text

9 2022 2023 2024 OpenAI KINTO テクノロジーズ 11/30 3月 11月 2月 7月 12月 4月社内向け内製生成AI Chat利用開始 2月生成AI DXへの取り組み生成AI活用PJT 立上げ Microsoft Meta Google 9月 3月 Llama公開 Llama2公開 Llama3公開 Microsoft365 Copilot発表サムアルトマン参画発表 Bard公開 Gemini公開 VideoPoet 発表 ScreenAI 発表日本法人設立 GPT-4 Turbo公開 Sora 発表サムアルトマン復帰 GPT-4 公開 ChatGPT 公開 GPT-4V 公開生成AI革命期1年間の軌跡生成AI DXの加速

Slide 10

Slide 10 text

Slide 11

Slide 11 text

Slide 12

Slide 12 text

©KINTO Corporation. All rights reserved. 12 ⽣成AI活⽤PJTについて – 役割社内における⽣成AI活⽤のために・・・種をまいて、芽を⾒つけ、育てて、価値を⽣み出す。 • 定番のユースケース(要約、翻訳…)を社内から探す • 業務担当者⾃⾝が、⽣成AIを活⽤できる可能性に気づく • ⽣成AIを活⽤した新規サービスのアイデアを思いつく例えば #gen_ai_conf #KINTOテクノロジーズ

Slide 13

Slide 13 text

©KINTO Corporation. All rights reserved. 13 ⽣成AI活⽤PJTについて – 役割社内における⽣成AI活⽤のために・・・種をまいて、芽を⾒つけ、育てて、価値を⽣み出す。 • アイデアの壁打ちを通じて、より技術的不確実性の低い実現⽅法を提案する • 業務内容のヒアリングを通じて、より付加価値の⾼い活⽤絵姿を描く • ⾼速なPoC実施を通じて、リソースの適切な分配を促す例えば #gen_ai_conf #KINTOテクノロジーズ

Slide 14

Slide 14 text

©KINTO Corporation. All rights reserved. 14 ⽣成AI活⽤PJTについて – 役割社内における⽣成AI活⽤のために・・・種をまいて、芽を⾒つけ、育てて、価値を⽣み出す。 • プロンプトエンジニアリングと業務への組み込み⽀援 Ø まずは伴⾛から。徐々に⾃⾛⽀援へ • ⽣成AIを活⽤したAPI開発やその⽀援 Ø ⾼速なPoCの完了と本番実装 • SaaSの選定とその普及活動例えば #gen_ai_conf #KINTOテクノロジーズ

Slide 15

Slide 15 text

Slide 16

Slide 16 text

Slide 17

Slide 17 text

Slide 18

Slide 18 text

Slide 19

Slide 19 text

©KINTO Corporation. All rights reserved. 19 課題：限られたリソースで”やらないこと”を選ぶ解決策：限られた⼯数の中で、⽣み出す価値を最⼤限にするには・・・アイデアごとに価値の⾒積もりと適した⼯数配分を⾏う。 Prompt engineering RAG Agent Fine tuning Embedding Meta data Chunking Code interpreter LLM Ops Content filter Local LLM Model merge PTU Multi region ・・・アイデアごとに、全て試すなんて無理！しかも、毎週のように新技術が出てくる！ #gen_ai_conf #KINTOテクノロジーズ

Slide 20

Slide 20 text

Slide 21

Slide 21 text

Slide 22

Slide 22 text

©KINTO Corporation. All rights reserved. 22 課題：限られたリソースで”やらないこと”を選ぶ解決策：限られた⼯数の中で、⽣み出す価値を最⼤限にするには・・・アイデアごとに価値の⾒積もりと適した⼯数配分を⾏う。レベル1~2の取り組みをどれだけ⼤量に、⾼速に回せるかが競争⼒となる。事業価値の⾼いアイデアへリソースを集中する為に、「どこまでやるか」を⾒極めながら進⾏する。 #gen_ai_conf #KINTOテクノロジーズ

Slide 23

Slide 23 text

Slide 24

Slide 24 text

Slide 25

Slide 25 text

©KINTO Corporation. All rights reserved. 25 課題：乱⽴しがちなPoC。何をProofする？解決策：できる限り実プロダクトに近いPoCを速く⼤量に回す • 机上（ローカル環境/Notebook）の技術検証とPoCは分けて考える Ø あるある：机上の実験をもとにMVPを作り、UXの低さに愕然とする Ø 机上でProofできたのは技術⾯だけ。ConceptのProofまでやり切る Ø 意外な技術的落とし⽳や、UXの低さに机上では気づけない Ø ⽣成AIを使ったサービスは、ちょっとした⼯夫でUXが⼤きく変わる #gen_ai_conf #KINTOテクノロジーズ

Slide 26

Slide 26 text

©KINTO Corporation. All rights reserved. 26 課題：乱⽴しがちなPoC。何をProofする？解決策：できる限り実プロダクトに近いPoCを速く⼤量に回す • 机上（ローカル環境/Notebook）の技術検証とPoCは分けて考える Ø あるある：机上の実験をもとにMVPを作り、UXの低さに愕然とする Ø 机上でProofできたのは技術⾯だけ。ConceptのProofまでやり切る Ø 意外な技術的落とし⽳や、UXの低さに机上では気づけない Ø ⽣成AIを使ったサービスは、ちょっとした⼯夫でUXが⼤きく変わる • PoCをするならば、2の⽮、3の⽮も⽤意する Ø あるある：PoCが半端な結果でも・・・代案がないので突っ切ってしまう Ø PJに対して複数のPoCを並列に実施できる効率の良い体制が必要 #gen_ai_conf #KINTOテクノロジーズ

Slide 27

Slide 27 text

©KINTO Corporation. All rights reserved. 27 課題：乱⽴しがちなPoC。何をProofする？解決策：できる限り実プロダクトに近いPoCを速く⼤量に回す • 机上（ローカル環境/Notebook）の技術検証とPoCは分けて考える Ø あるある：机上の実験をもとにMVPを作り、UXの低さに愕然とする Ø 机上でProofできたのは技術⾯だけ。ConceptのProofまでやり切る Ø 意外な技術的落とし⽳や、UXの低さに机上では気づけない Ø ⽣成AIを使ったサービスは、ちょっとした⼯夫でUXが⼤きく変わる • PoCをするならば、2の⽮、3の⽮も⽤意する Ø あるある：PoCが半端な結果でも・・・代案がないので突っ切ってしまう Ø PJに対して複数のPoCを並列に実施できる効率の良い体制が必要 • [番外編] 技術的不確実性と価値の不確実性のバランスをとる Ø あるある：技術的には可能そう。やってみる→できた！・・・で？ Ø ⽣成AIをシステムに含めると、技術的不確実性が上がる。並⾏して、価値の不確実性を下げる取り組みが必要 #gen_ai_conf #KINTOテクノロジーズ