Slide 1

Slide 1 text

⽣成AI活⽤推進のために やったこと / やらなかったこと KINTOテクノロジーズ株式会社 IT/IS部 ⽣成AI活⽤PJT 和⽥ 颯⾺ 2024/05/17 製造業でも⽣成AI活⽤したい!名古屋LLM MeetUp

Slide 2

Slide 2 text

©KINTO Corporation. All rights reserved. 2 今⽇はこんな⽅に向けて 社内の⽣成AI活⽤ 推進者/担当者 ⽣成AIを使った新規サービスや、業務改善が できるシステムを開発したいエンジニア #nagoya_llm #KINTOテクノロジーズ

Slide 3

Slide 3 text

©KINTO Corporation. All rights reserved. 3 プロフィール 2022年2月入社。データサイエンティスト。内製アプ リケーションのレコメンドアルゴリズム作成や、社内 外の分析レポート作成などに従事。 2024年1月の生成AI活用PJTを立ち上げ以降、社内の生 成AIリテラシーを高める研修活動や、生成AIを活用し たシステム開発の推進活動に従事。 KINTOテクノロジーズ株式会社 IT/IS部 ⽣成AI活⽤PJT 和⽥ 颯⾺ #nagoya_llm #KINTOテクノロジーズ

Slide 4

Slide 4 text

©KINTO Corporation. All rights reserved. 4 Index 1 KINTOテクノロジーズとは 2 ⽣成AI活⽤PJTの役割 3 6 ⽬次 3 直⾯した課題とその解決策 おわりに 4

Slide 5

Slide 5 text

©KINTO Corporation. All rights reserved. 5 KINTOテクノロジーズとは 1

Slide 6

Slide 6 text

©KINTO Corporation. All rights reserved. 6 KINTOテクノロジーズ株式会社について(グループ組織) トヨタ⾃動⾞株式会社 トヨタファイナンシャルサービス株式会社 海外販売⾦融 現地事業会社 世界40以上の国と地域で サービスを展開 KINTOテクノロジーズ 株式会社 株式会社KINTO トヨタファイナンス 株式会社 販売⾦融・クレジット カードなど

Slide 7

Slide 7 text

©KINTO Corporation. All rights reserved. 7 KINTO ONEとは? クルマにかかる諸費⽤がコミコミ! 他に必要なのは「ガソリン代・駐⾞場代・⾼速代」など ⾃動⾞税 ⾃動⾞保険 ⾞検 メンテナンス 消耗品 故障修理・代⾞ ⾞両代+登録諸費⽤

Slide 8

Slide 8 text

©KINTO Corporation. All rights reserved. 8 KINTOテクノロジーズが関わっているプロダクト

Slide 9

Slide 9 text

©KINTO Corporation. All rights reserved. 9 ⽣成AI活⽤PJTって? 2

Slide 10

Slide 10 text

©KINTO Corporation. All rights reserved. 10 ⽣成AI活⽤PJTについて – これまでの歩み 2022 2023 2024 OpenAI 11/30 3月 11月 4月 2月 9月 ⽇本法⼈設⽴ GPT-4 Turbo公開 Sora 発表 サムアルトマン 復帰 GPT-4 公開 ChatGPT 公開 GPT-4V 公開 GPT-4o公開 5月 KINTO テクノロジーズ 社内向け内製 生成AI Chat利用開始 生成AI活用への取り組み 生成AI活用PJT 立上げ 生成AI活用 の加速 参考資料 ※1を元に加筆修正 1月 #nagoya_llm #KINTOテクノロジーズ

Slide 11

Slide 11 text

©KINTO Corporation. All rights reserved. 11 ⽣成AI活⽤PJTについて – 組織の⽴ち上げ 社内副業的に実施してきた ⽣成AI活⽤の取り組みが認められ、晴れて組織化! ・・・組織化すると、何が変わる? 数多ある組織のあり⽅の中で、 ⾃分たちはどんなスタンスを選択するのか? 社外の⽣成AI活⽤組織の事例を調べながら、 ⾃分たちのあり⽅をプロジェクト内で議論。 #nagoya_llm #KINTOテクノロジーズ

Slide 12

Slide 12 text

©KINTO Corporation. All rights reserved. 12 ⽣成AI活⽤PJTについて – 組織のあり⽅ ⼤切にしたいのは、 技術を通じて「会社の事業活動に貢献すること」。 ⽬指すのは、「課題解決型の組織」として 社内の課題を圧倒的な「スピード、質、量」で解決していくこと。 試して終わりの評論家となるのではなく、 あくまでも価値にこだわる組織として活動する。 #nagoya_llm #KINTOテクノロジーズ

Slide 13

Slide 13 text

©KINTO Corporation. All rights reserved. 13 ⽣成AI活⽤PJTについて – 役割 社内に眠る⽣成AI活⽤のために・・・ 種をまいて、芽を⾒つけ、育てて、価値を⽣み出す。 #nagoya_llm #KINTOテクノロジーズ

Slide 14

Slide 14 text

©KINTO Corporation. All rights reserved. 14 ⽣成AI活⽤PJTについて – 役割 社内に眠る⽣成AI活⽤のために・・・ 種をまいて、芽を⾒つけ、育てて、価値を⽣み出す。 • 内製の⽣成AI研修(ビジネス向け/エンジニア向け) • ⽣成AIツールの社内整備 • ⽣成AI活⽤のガイドライン整備 例えば #nagoya_llm #KINTOテクノロジーズ

Slide 15

Slide 15 text

©KINTO Corporation. All rights reserved. 15 ⽣成AI活⽤PJTについて – 役割 社内に眠る⽣成AI活⽤のために・・・ 種をまいて、芽を⾒つけ、育てて、価値を⽣み出す。 • 定番のユースケース(要約、翻訳…)を社内から探す • 業務担当者⾃⾝が、⽣成AIを活⽤できる可能性に気づく • ⽣成AIを活⽤した新規サービスのアイデアを思いつく 例えば #nagoya_llm #KINTOテクノロジーズ

Slide 16

Slide 16 text

©KINTO Corporation. All rights reserved. 16 ⽣成AI活⽤PJTについて – 役割 社内に眠る⽣成AI活⽤のために・・・ 種をまいて、芽を⾒つけ、育てて、価値を⽣み出す。 • アイデアの壁打ちを通じて、 より技術的不確実性の低い実現⽅法を提案する • 業務内容のヒアリングを通じて、より付加価値の⾼い活⽤絵姿を描く • ⾼速なPoC実施を通じて、リソースの適切な分配を促す 例えば #nagoya_llm #KINTOテクノロジーズ

Slide 17

Slide 17 text

©KINTO Corporation. All rights reserved. 17 ⽣成AI活⽤PJTについて – 役割 社内に眠る⽣成AI活⽤のために・・・ 種をまいて、芽を⾒つけ、育てて、価値を⽣み出す。 • プロンプトエンジニアリングと業務への組み込み⽀援 Ø まずは伴⾛から。徐々に⾃⾛⽀援へ • ⽣成AIを活⽤したAPI開発やその⽀援 Ø ⾼速なPoCの完了と本番実装 • SaaSの選定とその普及活動 例えば #nagoya_llm #KINTOテクノロジーズ

Slide 18

Slide 18 text

©KINTO Corporation. All rights reserved. 18 ⽣成AI活⽤PJTについて – 改めて、今⽇話すこと 種をまいて 芽を⾒つけ 育てて 価値を⽣み出す #nagoya_llm #KINTOテクノロジーズ

Slide 19

Slide 19 text

©KINTO Corporation. All rights reserved. 19 ⽣成AI活⽤PJTについて – 改めて、今⽇話すこと 種をまいて 芽を⾒つけ 育てて 価値を⽣み出す やったこと やらなかったこと #nagoya_llm #KINTOテクノロジーズ

Slide 20

Slide 20 text

©KINTO Corporation. All rights reserved. 20 ⽣成AI活⽤のために、やったこと 3

Slide 21

Slide 21 text

©KINTO Corporation. All rights reserved. 21 ⽣成AI活⽤のために、やったこと 課題 ⽣成AIツール導⼊!その後の活⽤は・・・? #nagoya_llm #KINTOテクノロジーズ

Slide 22

Slide 22 text

©KINTO Corporation. All rights reserved. 22 ⽣成AIツール導⼊!その後の活⽤は・・・? • ChatGPT APIで内製ツール開発 • AOAI(Azure OpenAI Service)で内製ツール開発 • Copilot(旧Bing Chat Enterprise) • ChatGPT Team/Enterprise • ⽣成AIが使えるSaaS etc… ここ1年間でツール導⼊の選択肢が広がり、 社員は⾃由に⽣成AIチャットが使えます︕という企業も多いのでは。 ⽣成AIツール、導⼊してますか︖ #nagoya_llm #KINTOテクノロジーズ

Slide 23

Slide 23 text

©KINTO Corporation. All rights reserved. 23 ⽣成AIツール導⼊!その後の活⽤は・・・? • ChatGPT APIで内製ツール開発 • AOAI(Azure OpenAI Service)で内製ツール開発 • Copilot(旧Bing Chat Enterprise) • ChatGPT Team/Enterprise Ø 現状はMS製品を優先 • ⽣成AIが使えるSaaS etc… 弊社も、⼿広くやっています︕ 内製の⽣成AIチャットに登壇の応援をしてもらう私 #nagoya_llm #KINTOテクノロジーズ

Slide 24

Slide 24 text

©KINTO Corporation. All rights reserved. 24 ⽣成AIツール導⼊!その後の活⽤は・・・? 反応は上々、Slackは⼤盛り上がり︕ 毎⽇、たくさんの⼈が使ってくれている︕ ツールは導⼊できた︕あとは任せた・・・︕ #nagoya_llm #KINTOテクノロジーズ

Slide 25

Slide 25 text

©KINTO Corporation. All rights reserved. 25 ⽣成AIツール導⼊!その後の活⽤は・・・? このまま事業貢献に繋がること間違いなし︕ ツールは導⼊できた︕あとは任せた・・・︕ #nagoya_llm #KINTOテクノロジーズ

Slide 26

Slide 26 text

©KINTO Corporation. All rights reserved. 26 ⽣成AIツール導⼊!その後の活⽤は・・・? 導⼊後、そのままでは”成果”⾒えず それもそのはず、導⼊から数ヶ⽉後・・・ Q. ⽣成AIツールについて、あなたの状況は︖ #nagoya_llm #KINTOテクノロジーズ

Slide 27

Slide 27 text

©KINTO Corporation. All rights reserved. 27 ⽣成AIツール導⼊!その後の活⽤は・・・? その後、やっていること① • 成果が出て当たり前、な課題を社内から探す • 要約、翻訳、⽂章校正 など • ツールのクオリティ以上に、⽣成AI向きの課題設定が⼤切 • ⽣成AI担当者が課題解決まで ”伴⾛” する • うまくいったら、社内に事例展開。次の課題が集まってくる • 質も⼤切だが、まずは量。⽣成AI活⽤を「当たり前」に • システム開発は最⼩限に。導⼊済ツールで解決可能な課題を優先。 • エンジニアから⾒ると「⼈が・・・そんな⾟い作業を・・・︖」という事例が 社内には眠っているはず(弊社はそうでした) #nagoya_llm #KINTOテクノロジーズ

Slide 28

Slide 28 text

©KINTO Corporation. All rights reserved. 28 ⽣成AIツール導⼊!その後の活⽤は・・・? その後、やっていること② • 全社員の⽣成AIリテラシーを⾼める活動 • 社内研修の枠組みを活⽤して、全社員向け⽣成AI研修を実施 →好評につき、グループ会社向けのセミナーへと発展 • 最初の印象が肝⼼。⽣成AIに親しみを感じられる、画像⽣成から • 研修には必ずハンズオンパートを⼊れる。できる感を演出 • ハンズオンの結果を参加者同⼠で共有する • 汎⽤的テーマ→具体的テーマへ。業務活⽤イメージを持ってもらう • ⽣成AI雑談チャンネルを作成し、識者が⾃然と集まり盛り上がる • ⽣成AIリテラシーが⾼まると、より良い芽がでてくる #nagoya_llm #KINTOテクノロジーズ

Slide 29

Slide 29 text

©KINTO Corporation. All rights reserved. 29 ⽣成AI活⽤のために、やらなかったこと 3

Slide 30

Slide 30 text

©KINTO Corporation. All rights reserved. 30 ⽣成AI活⽤のために、やらなかったこと 課題 限られたリソースで”やらないこと”を選ぶ #nagoya_llm #KINTOテクノロジーズ

Slide 31

Slide 31 text

©KINTO Corporation. All rights reserved. 31 解決策:限られた⼯数の中で、⽣み出す価値を最⼤限にするには・・・ アイデアごとに価値の⾒積もりと適した⼯数配分が必要。 課題:限られたリソースで”やらないこと”を選ぶ #nagoya_llm #KINTOテクノロジーズ

Slide 32

Slide 32 text

©KINTO Corporation. All rights reserved. 32 課題:限られたリソースで”やらないこと”を選ぶ 解決策:限られた⼯数の中で、⽣み出す価値を最⼤限にするには・・・ アイデアごとに価値の⾒積もりと適した⼯数配分が必要。 Prompt engineering RAG Agent Fine tuning Embedding Meta data Chunking Code interpreter LLM Ops Content filter Local LLM Model merge PTU Multi region ・・・ アイデアごとに、全て試すなんて無理! #nagoya_llm #KINTOテクノロジーズ

Slide 33

Slide 33 text

©KINTO Corporation. All rights reserved. 33 課題:限られたリソースで”やらないこと”を選ぶ 解決策:限られた⼯数の中で、⽣み出す価値を最⼤限にするには・・・ アイデアごとに価値の⾒積もりと適した⼯数配分が必要。 #nagoya_llm #KINTOテクノロジーズ

Slide 34

Slide 34 text

©KINTO Corporation. All rights reserved. 34 課題:限られたリソースで”やらないこと”を選ぶ 解決策:限られた⼯数の中で、⽣み出す価値を最⼤限にするには・・・ アイデアごとに価値の⾒積もりと適した⼯数配分が必要。 事業価値の⾼いアイデアへ リソースを集中する為に、 「どこまでやるか」を⾒極めながら進⾏する。 #nagoya_llm #KINTOテクノロジーズ

Slide 35

Slide 35 text

©KINTO Corporation. All rights reserved. 35 課題:限られたリソースで”やらないこと”を選ぶ 解決策:限られた⼯数の中で、⽣み出す価値を最⼤限にするには・・・ アイデアごとに価値の⾒積もりと適した⼯数配分が必要。 レベル1~2の取り組みをどれだけ⼤量に、 ⾼速に回せるかが競争⼒となる。 事業価値の⾼いアイデアへ リソースを集中する為に、 「どこまでやるか」を⾒極めながら進⾏する。 #nagoya_llm #KINTOテクノロジーズ

Slide 36

Slide 36 text

©KINTO Corporation. All rights reserved. 36 おわりに 4

Slide 37

Slide 37 text

©KINTO Corporation. All rights reserved. 37 おわりに 特に⼤切だと感じていること 「会社の⽂化醸成」+「横串組織の団結」 ・推進者⾃らが技術の未来を信じる、楽しむ! ・横串組織⾃体の⽬線を揃える。あとは前進あるのみ! #nagoya_llm #KINTOテクノロジーズ

Slide 38

Slide 38 text

©KINTO Corporation. All rights reserved. 38 おわりに ⽣成AIの活⽤を通じて、名古屋及び東海エリアを もっともっと盛り上げていきましょう!!!! #nagoya_llm #KINTOテクノロジーズ

Slide 39

Slide 39 text

Thank you !

Slide 40

Slide 40 text

No content

Slide 41

Slide 41 text

©KINTO Corporation. All rights reserved. 41 参考資料 ※1 ⽣成AIの変⾰の時代に、直近1年で直⾯した課題とその解決策 https://speakerdeck.com/ktc_wada/sheng-cheng-ainobian-ge-noshi-dai-ni-zhi-jin-1nian-dezhi-mian-sitake-ti-tosonojie-jue-ce