生成AI活用推進の為にやったこと/やらなかったこと

2024/5/17(金)
製造業でも生成AI活用したい！名古屋LLM MeetUp
にて使用した登壇スライドです。

イベントURL：https://kinto-technologies.connpass.com/event/314823/

Transcript

1. ⽣成AI活⽤推進のために やったこと / やらなかったこと KINTOテクノロジーズ株式会社 IT/IS部 ⽣成AI活⽤PJT 和⽥ 颯⾺ 2024/05/17 製造業でも⽣成AI活⽤したい！名古屋LLM MeetUp
2. ©KINTO Corporation. All rights reserved. 2 今⽇はこんな⽅に向けて 社内の⽣成AI活⽤ 推進者/担当者 ⽣成AIを使った新規サービスや、業務改善が できるシステムを開発したいエンジニア #nagoya_llm #KINTOテクノロジーズ
3. ©KINTO Corporation. All rights reserved. 3 プロフィール 2022年2月入社。データサイエンティスト。内製アプ リケーションのレコメンドアルゴリズム作成や、社内 外の分析レポート作成などに従事。 2024年1月の生成AI活用PJTを立ち上げ以降、社内の生 成AIリテラシーを高める研修活動や、生成AIを活用し たシステム開発の推進活動に従事。 KINTOテクノロジーズ株式会社 IT/IS部 ⽣成AI活⽤PJT 和⽥ 颯⾺ #nagoya_llm #KINTOテクノロジーズ
4. ©KINTO Corporation. All rights reserved. 4 Index 1 KINTOテクノロジーズとは 2 ⽣成AI活⽤PJTの役割 3 6 ⽬次 3 直⾯した課題とその解決策 おわりに 4
5. ©KINTO Corporation. All rights reserved. 5 KINTOテクノロジーズとは 1
6. ©KINTO Corporation. All rights reserved. 6 KINTOテクノロジーズ株式会社について（グループ組織） トヨタ⾃動⾞株式会社 トヨタファイナンシャルサービス株式会社 海外販売⾦融 現地事業会社 世界40以上の国と地域で サービスを展開 KINTOテクノロジーズ 株式会社 株式会社KINTO トヨタファイナンス 株式会社 販売⾦融・クレジット カードなど
7. ©KINTO Corporation. All rights reserved. 7 KINTO ONEとは？ クルマにかかる諸費⽤がコミコミ！ 他に必要なのは「ガソリン代・駐⾞場代・⾼速代」など ⾃動⾞税 ⾃動⾞保険 ⾞検 メンテナンス 消耗品 故障修理・代⾞ ⾞両代＋登録諸費⽤
8. ©KINTO Corporation. All rights reserved. 8 KINTOテクノロジーズが関わっているプロダクト
9. ©KINTO Corporation. All rights reserved. 9 ⽣成AI活⽤PJTって？ ２
10. ©KINTO Corporation. All rights reserved. 10 ⽣成AI活⽤PJTについて – これまでの歩み 2022 2023 2024 OpenAI 11/30 3月 11月 4月 2月 9月 ⽇本法⼈設⽴ GPT-4 Turbo公開 Sora 発表 サムアルトマン 復帰 GPT-4 公開 ChatGPT 公開 GPT-4V 公開 GPT-4o公開 5月 KINTO テクノロジーズ 社内向け内製 生成AI Chat利用開始 生成AI活用への取り組み 生成AI活用PJT 立上げ 生成AI活用 の加速 参考資料 ※1を元に加筆修正 1月 #nagoya_llm #KINTOテクノロジーズ
11. ©KINTO Corporation. All rights reserved. 11 ⽣成AI活⽤PJTについて – 組織の⽴ち上げ 社内副業的に実施してきた ⽣成AI活⽤の取り組みが認められ、晴れて組織化！ ・・・組織化すると、何が変わる？ 数多ある組織のあり⽅の中で、 ⾃分たちはどんなスタンスを選択するのか？ 社外の⽣成AI活⽤組織の事例を調べながら、 ⾃分たちのあり⽅をプロジェクト内で議論。 #nagoya_llm #KINTOテクノロジーズ
12. ©KINTO Corporation. All rights reserved. 12 ⽣成AI活⽤PJTについて – 組織のあり⽅ ⼤切にしたいのは、 技術を通じて「会社の事業活動に貢献すること」。 ⽬指すのは、「課題解決型の組織」として 社内の課題を圧倒的な「スピード、質、量」で解決していくこと。 試して終わりの評論家となるのではなく、 あくまでも価値にこだわる組織として活動する。 #nagoya_llm #KINTOテクノロジーズ
13. ©KINTO Corporation. All rights reserved. 13 ⽣成AI活⽤PJTについて – 役割 社内に眠る⽣成AI活⽤のために・・・ 種をまいて、芽を⾒つけ、育てて、価値を⽣み出す。 #nagoya_llm #KINTOテクノロジーズ
14. ©KINTO Corporation. All rights reserved. 14 ⽣成AI活⽤PJTについて – 役割 社内に眠る⽣成AI活⽤のために・・・ 種をまいて、芽を⾒つけ、育てて、価値を⽣み出す。 • 内製の⽣成AI研修（ビジネス向け/エンジニア向け） • ⽣成AIツールの社内整備 • ⽣成AI活⽤のガイドライン整備 例えば #nagoya_llm #KINTOテクノロジーズ
15. ©KINTO Corporation. All rights reserved. 15 ⽣成AI活⽤PJTについて – 役割 社内に眠る⽣成AI活⽤のために・・・ 種をまいて、芽を⾒つけ、育てて、価値を⽣み出す。 • 定番のユースケース(要約、翻訳…)を社内から探す • 業務担当者⾃⾝が、⽣成AIを活⽤できる可能性に気づく • ⽣成AIを活⽤した新規サービスのアイデアを思いつく 例えば #nagoya_llm #KINTOテクノロジーズ
16. ©KINTO Corporation. All rights reserved. 16 ⽣成AI活⽤PJTについて – 役割 社内に眠る⽣成AI活⽤のために・・・ 種をまいて、芽を⾒つけ、育てて、価値を⽣み出す。 • アイデアの壁打ちを通じて、 より技術的不確実性の低い実現⽅法を提案する • 業務内容のヒアリングを通じて、より付加価値の⾼い活⽤絵姿を描く • ⾼速なPoC実施を通じて、リソースの適切な分配を促す 例えば #nagoya_llm #KINTOテクノロジーズ
17. ©KINTO Corporation. All rights reserved. 17 ⽣成AI活⽤PJTについて – 役割 社内に眠る⽣成AI活⽤のために・・・ 種をまいて、芽を⾒つけ、育てて、価値を⽣み出す。 • プロンプトエンジニアリングと業務への組み込み⽀援 Ø まずは伴⾛から。徐々に⾃⾛⽀援へ • ⽣成AIを活⽤したAPI開発やその⽀援 Ø ⾼速なPoCの完了と本番実装 • SaaSの選定とその普及活動 例えば #nagoya_llm #KINTOテクノロジーズ
18. ©KINTO Corporation. All rights reserved. 18 ⽣成AI活⽤PJTについて – 改めて、今⽇話すこと 種をまいて 芽を⾒つけ 育てて 価値を⽣み出す #nagoya_llm #KINTOテクノロジーズ
19. ©KINTO Corporation. All rights reserved. 19 ⽣成AI活⽤PJTについて – 改めて、今⽇話すこと 種をまいて 芽を⾒つけ 育てて 価値を⽣み出す やったこと やらなかったこと #nagoya_llm #KINTOテクノロジーズ
20. ©KINTO Corporation. All rights reserved. 20 ⽣成AI活⽤のために、やったこと 3
21. ©KINTO Corporation. All rights reserved. 21 ⽣成AI活⽤のために、やったこと 課題 ⽣成AIツール導⼊！その後の活⽤は・・・？ #nagoya_llm #KINTOテクノロジーズ
22. ©KINTO Corporation. All rights reserved. 22 ⽣成AIツール導⼊！その後の活⽤は・・・？ • ChatGPT APIで内製ツール開発 • AOAI（Azure OpenAI Service）で内製ツール開発 • Copilot（旧Bing Chat Enterprise） • ChatGPT Team/Enterprise • ⽣成AIが使えるSaaS etc… ここ1年間でツール導⼊の選択肢が広がり、 社員は⾃由に⽣成AIチャットが使えます︕という企業も多いのでは。 ⽣成AIツール、導⼊してますか︖ #nagoya_llm #KINTOテクノロジーズ
23. ©KINTO Corporation. All rights reserved. 23 ⽣成AIツール導⼊！その後の活⽤は・・・？ • ChatGPT APIで内製ツール開発 • AOAI（Azure OpenAI Service）で内製ツール開発 • Copilot（旧Bing Chat Enterprise） • ChatGPT Team/Enterprise Ø 現状はMS製品を優先 • ⽣成AIが使えるSaaS etc… 弊社も、⼿広くやっています︕ 内製の⽣成AIチャットに登壇の応援をしてもらう私 #nagoya_llm #KINTOテクノロジーズ
24. ©KINTO Corporation. All rights reserved. 24 ⽣成AIツール導⼊！その後の活⽤は・・・？ 反応は上々、Slackは⼤盛り上がり︕ 毎⽇、たくさんの⼈が使ってくれている︕ ツールは導⼊できた︕あとは任せた・・・︕ #nagoya_llm #KINTOテクノロジーズ
25. ©KINTO Corporation. All rights reserved. 25 ⽣成AIツール導⼊！その後の活⽤は・・・？ このまま事業貢献に繋がること間違いなし︕ ツールは導⼊できた︕あとは任せた・・・︕ #nagoya_llm #KINTOテクノロジーズ
26. ©KINTO Corporation. All rights reserved. 26 ⽣成AIツール導⼊！その後の活⽤は・・・？ 導⼊後、そのままでは”成果”⾒えず それもそのはず、導⼊から数ヶ⽉後・・・ Q. ⽣成AIツールについて、あなたの状況は︖ #nagoya_llm #KINTOテクノロジーズ
27. ©KINTO Corporation. All rights reserved. 27 ⽣成AIツール導⼊！その後の活⽤は・・・？ その後、やっていること① • 成果が出て当たり前、な課題を社内から探す • 要約、翻訳、⽂章校正 など • ツールのクオリティ以上に、⽣成AI向きの課題設定が⼤切 • ⽣成AI担当者が課題解決まで ”伴⾛” する • うまくいったら、社内に事例展開。次の課題が集まってくる • 質も⼤切だが、まずは量。⽣成AI活⽤を「当たり前」に • システム開発は最⼩限に。導⼊済ツールで解決可能な課題を優先。 • エンジニアから⾒ると「⼈が・・・そんな⾟い作業を・・・︖」という事例が 社内には眠っているはず（弊社はそうでした） #nagoya_llm #KINTOテクノロジーズ
28. ©KINTO Corporation. All rights reserved. 28 ⽣成AIツール導⼊！その後の活⽤は・・・？ その後、やっていること② • 全社員の⽣成AIリテラシーを⾼める活動 • 社内研修の枠組みを活⽤して、全社員向け⽣成AI研修を実施 →好評につき、グループ会社向けのセミナーへと発展 • 最初の印象が肝⼼。⽣成AIに親しみを感じられる、画像⽣成から • 研修には必ずハンズオンパートを⼊れる。できる感を演出 • ハンズオンの結果を参加者同⼠で共有する • 汎⽤的テーマ→具体的テーマへ。業務活⽤イメージを持ってもらう • ⽣成AI雑談チャンネルを作成し、識者が⾃然と集まり盛り上がる • ⽣成AIリテラシーが⾼まると、より良い芽がでてくる #nagoya_llm #KINTOテクノロジーズ
29. ©KINTO Corporation. All rights reserved. 29 ⽣成AI活⽤のために、やらなかったこと 3
30. ©KINTO Corporation. All rights reserved. 30 ⽣成AI活⽤のために、やらなかったこと 課題 限られたリソースで”やらないこと”を選ぶ #nagoya_llm #KINTOテクノロジーズ
31. ©KINTO Corporation. All rights reserved. 31 解決策：限られた⼯数の中で、⽣み出す価値を最⼤限にするには・・・ アイデアごとに価値の⾒積もりと適した⼯数配分が必要。 課題：限られたリソースで”やらないこと”を選ぶ #nagoya_llm #KINTOテクノロジーズ
32. ©KINTO Corporation. All rights reserved. 32 課題：限られたリソースで”やらないこと”を選ぶ 解決策：限られた⼯数の中で、⽣み出す価値を最⼤限にするには・・・ アイデアごとに価値の⾒積もりと適した⼯数配分が必要。 Prompt engineering RAG Agent Fine tuning Embedding Meta data Chunking Code interpreter LLM Ops Content filter Local LLM Model merge PTU Multi region ・・・ アイデアごとに、全て試すなんて無理！ #nagoya_llm #KINTOテクノロジーズ
33. ©KINTO Corporation. All rights reserved. 33 課題：限られたリソースで”やらないこと”を選ぶ 解決策：限られた⼯数の中で、⽣み出す価値を最⼤限にするには・・・ アイデアごとに価値の⾒積もりと適した⼯数配分が必要。 #nagoya_llm #KINTOテクノロジーズ
34. ©KINTO Corporation. All rights reserved. 34 課題：限られたリソースで”やらないこと”を選ぶ 解決策：限られた⼯数の中で、⽣み出す価値を最⼤限にするには・・・ アイデアごとに価値の⾒積もりと適した⼯数配分が必要。 事業価値の⾼いアイデアへ リソースを集中する為に、 「どこまでやるか」を⾒極めながら進⾏する。 #nagoya_llm #KINTOテクノロジーズ
35. ©KINTO Corporation. All rights reserved. 35 課題：限られたリソースで”やらないこと”を選ぶ 解決策：限られた⼯数の中で、⽣み出す価値を最⼤限にするには・・・ アイデアごとに価値の⾒積もりと適した⼯数配分が必要。 レベル1~2の取り組みをどれだけ⼤量に、 ⾼速に回せるかが競争⼒となる。 事業価値の⾼いアイデアへ リソースを集中する為に、 「どこまでやるか」を⾒極めながら進⾏する。 #nagoya_llm #KINTOテクノロジーズ
36. ©KINTO Corporation. All rights reserved. 36 おわりに 4
37. ©KINTO Corporation. All rights reserved. 37 おわりに 特に⼤切だと感じていること 「会社の⽂化醸成」＋「横串組織の団結」 ・推進者⾃らが技術の未来を信じる、楽しむ！ ・横串組織⾃体の⽬線を揃える。あとは前進あるのみ！ #nagoya_llm #KINTOテクノロジーズ
38. ©KINTO Corporation. All rights reserved. 38 おわりに ⽣成AIの活⽤を通じて、名古屋及び東海エリアを もっともっと盛り上げていきましょう！！！！ #nagoya_llm #KINTOテクノロジーズ
39. Thank you !
41. ©KINTO Corporation. All rights reserved. 41 参考資料 ※1 ⽣成AIの変⾰の時代に、直近1年で直⾯した課題とその解決策 https://speakerdeck.com/ktc_wada/sheng-cheng-ainobian-ge-noshi-dai-ni-zhi-jin-1nian-dezhi-mian-sitake-ti-tosonojie-jue-ce