Generative AI Use Cases JP (略称:GenU)奮闘記

JAWS-UG AI/ML #22：Generative AI LT大会
https://jawsug-ai.connpass.com/event/333598/

「Generative AI Use Cases JP (略称:GenU)奮闘記」LT登壇資料です。

Transcript

1. Generative AI Use Cases JP (略称:GenU)奮闘記 JAWS-UG AI/ML #22：Generative AI LT大会 2024/10/29(火) 長田英幸
2. 目次 自己紹介 会社紹介 業務で生成AIを使っていますか？ 法人向け生成AIサービスが高かった。 GenUとは？ 社員全員が生成AIを触れる環境を作りたい 試練その1 ：1アカウントで2個のGenUを構築 試練その2 ：IPアドレス制限が出来ない 試練その3 ：説明会 GenUを触って得た気付き1： GenUを触って得た気付き2： GenUのカスタマイズで実現したい事 あるにゃ 直近の目標 既存プロダクトに生成AIを追加(EC2とAmazon Bedrock) まとめ
3. https://www.credly.com/users/hideyuki-nagata/badges https://www.openbadge- global.com/ns/portal/openbadge/public/assertions/detail/NFBleitqc0F0S21QNkhrZEU4QUZqdz09 長田英幸(ながたひでゆき) 趣味で、スマートスピーカーAmazon Alexa等のスキルを、 個人開発しています。大阪在住のWebプログラマ。 夢は会話型AIの開発。 noteアカウント https://note.com/hideyukinagata 大阪駆動開発コミュニティやJAWS-UGの 勉強会によく参加しています。 最近は、kintoneに興味を持っています。 2024年9月から、JAWS-UG AI/ML 支部の 運営メンバーになりました。 自己紹介
4. 会社紹介 デジタル総合印刷株式会社 https://www.dps-company.jp/ 印刷から始まった会社です。 マニュアルやドキュメント類の制作、 一般的なWEBサイト開発を始め、 WEBパーツリスト等の業務システム開発、 3Dソリューションも扱っています。 この生成AI時代、LLMの次は扱う「データ」こそが鍵になるそうです。 印刷物、ドキュメントを扱う会社ですので、伸びしろしかないと思っています (宣伝)。
5. 業務で生成AIを使っていますか？ 2022年11月30日に ChatGPTが出てからも う約2年経つのに、 いつになったら仕事で 使えるんだろう。 ドキュメント類、製造業のお客 様の図面や保険会社様の約款等 の文章など、生成AIを使えば、 より効率良く作業できそうなの に、なぜ誰も試さないの？ 個人スマホから生成AIで コードを調べるのが面倒 だ(シャドーAI) セキュリティ対策はとても大事だけど、このままではいけない。
6. 法人向け生成AIサービスが高かった。 プロンプトを入力しなくても、 目的に応じたボタンを押せばいいのは営 業の方には便利だろうけど、開発の人間 にしたら、ChatGPTみたいに自由に使え た方がコーディングにつかえるのに。 初期導入費と一人当たりの月額費用 を社員の人数をかけたら、たいそう な金額になりました。 ある程度安ければ試せるのですが「これでは会社に生成AIを導入できない！」と困り果てました。 ある日、いつものように生成AIの最新情報をX(旧Twitter)で見ていると、 AWSのソリューションアーティストアーキテクトの方のポストを拝見しました。
7. GenUとは？ より詳しい説明は、2024/05/15 AWS Expert Online for JAWS-UG #33や、前回2024/09/27の 「JAWS-UG AI/ML #21：Generative AI LT大会」のYouTube動画にてご確認ください。 Generative AI Use Cases JP 発音は「ジェンユー」です。 Generative AI（生成 AI）は、ビジネスの変革に革新的な可能性をもたらします。 GenU は、生成 AI を安全に業務活用するための、ビジネスユースケース集を備えた アプリケーション実装です。 https://github.com/aws-samples/generative-ai-use-cases-jp
8. 社員全員が生成AIを触れる環境を作りたい 検証しているドキュメントは全社員がアクセスしてほしくない。 RAGチャットやKendraチャットへのアクセスを 防止したいので、別環境で構築してほしい。 もちろんIPアドレス制限は必須です。 所属グループのみ利用可という条件でGenUを構築する許可をいただきました。 GenUの有用性が理解していただいたタイミングで、当初の目的である 「全社員に公開したいです」と伝えたところ・・・
9. 試練その1 ：1アカウントで2個のGenUを構築 生成 AI 体験ワークショップ https://catalog.workshops.aws/generative-ai-use-cases-jp/ja-JP 上記で最初のGenUを構築しました。続けて2個目を構築しようとするとエラーになりました。 構築するリージョンがかぶらないように、最終的に次のようにしました。 大阪リージョンにはAmazon Kendraがないので、2個目のGenUではKendraチャットが使えません。 本体 生成AI 1個目のGenU 東京リージョン バージニア北部リージョン 2個目のGenU 大阪リージョン オレゴンリージョン 同じリージョンに、本番環境、STG・開発環境のように構築できると最高に良いです。
10. 試練その2 ：IPアドレス制限が出来ない 生成 AI 体験ワークショップ https://catalog.workshops.aws/generative-ai-use-cases-jp/ja-JP AWS WAFでIP制限が出来るとの記述がありました。 全社員向けの2個目のGenUを先にしようとcdk.jsonを編集し反映しましたがエラーになります。 AWS WAFはオレゴンリージョンでは設定できないのでしょうか。 結局、CloudFrontの関数で、2個のGenU共にIPアドレス制限を実施しました。
11. 試練その3 ：説明会 説明資料のPDFを社内ポータルサイトに載せてもらっただけだったので、 GenU登録者が増えませんでした。そこで説明会を開催させてもらいました。 GenUの画像生成で作成したイラストの著作権は誰になりますか？ 万が一があったらお互い悲しいのでこの際、GenUを始めChatGPT チャットボットやPCのCopilot等の生成AIのルール作りを検討しては？ 明確に答える事が出来ませんでした。一旦ストップです。 確かに本質的な質問で、生成AIの業務利用を実現するには乗り越えな いといけません。「生成AIは全面禁止」から進めるように、たたき台 を作る事になりました。
12. GenUを触って得た気付き1： 内線番号 電話番号 氏名 命輝 大阪太郎 777 06-7777-7777 大阪花子 555 06-5555-5555 Kendraチャット、Ragチャット共にデータ構造によって、上手く検索できなかった事があります。 例だと「大阪の電話番号を教えて」で大阪太郎はヒットするけど、電話番号は表示されませんでした。 気付き：生成AIが理解しやすいように、ドキュメントを前処理で加工する業務が成り立つかも!?
13. GenUを触って得た気付き2： どんなに言葉を重ねても、実際に触ってもらって体験してもらう方が生成AIへの理解が 良くなると思いまいした。テストデータで色々と試しているのですが、この処理はこう 画像認識させて・・・、と色々とアイディアが浮かんできます。新規事業とまではいか ないと思いますが、業務改善のタネになる事を期待しています。 引用：生成AIユースケースを考え倒すためのGenerative AI Use Cases JP (GenU)の魅力と使い方
14. GenUのカスタマイズで実現したい事 同一リージョンに複数デプロイ出来るようにする。 ログイン画面に会社ロゴ等を入れる。 認証メールの英語を日本語にする。 Kendraチャット、RagチャットのアップロードをAWS マネジメントコンソール からではなく、GenUの専用画面からアップ出来るようにする。 機能追加で、会社のマスコットキャラがあたかも喋るようなAIエージェントを 作成したい。
15. あるにゃ 「あるにゃ」は、デジタル総合印刷の公式マスコットキャラクターです。
16. 直近の目標 カスタマイズしたGenU改め、「DPS AI」(あるにゃAI)を 社内ポータルサイト上にリンクしてもられるように、 課題を一つずつクリアしていきたい。 おしらせ 総務：11/9は、土曜出勤日です。 総務：11月の全体朝礼は・・・ 総務：エレベーター点検日のお知らせ。 ※ 社内ポータルサイトのイメージ
17. 既存プロダクトに生成AIを追加(EC2とAmazon Bedrock) AWS Cloud 東京リージョン Amazon Elastic Compute Cloud (Amazon EC2) Amazon Bedrock Users 既存プロダクト(EC2のLAMP環境)に、インターネットを出ずに生成AIを接続しようとすると、 この構成になるはずです。 参考：[Amazon Bedrock] 話題の Amazon Bedrock をインターフェイス型 VPC エンドポイントでプライベートに利用したい https://dev.classmethod.jp/articles/using-amazon-bedrock-privately-with-interface-type-vpc-endpoints/ お客様のドキュメント 情報を検索拡張生成 (RAG)で参照する生成AI
18. まとめ ①中小企業は、まずGenUの導入を目指そう！ ②カスタマイズがCDK初心者には難しすぎる！ ③ Amazon Bedrock万歳！ ご清聴ありがとうございました。