これからの EnterPrise GenAI / EnterPrise GenAI

by CyberAgent

Slide 1

Slide 1 text

これからの EnterPrise GenAI Powered by CyberAgent Google Cloudゼミ CyberAgent AI事業本部極事業部小林拓磨

Slide 2

Slide 2 text

自己紹介 ● 小林拓磨(@Cat_to_Love) ● ML PdM @CyberAgent ● Google Cloud PDE/PCA ● CADC2023 ”NEXT” DAY統括

Slide 3

Slide 3 text

Agenda ● GenAIをEnterpriseに持っていくための検討事項・要件 ● 生成物の所有・所在の証明 ● データの集約とマルチクラウド・ネットワーク・改善サイクル ● まとめ

Slide 4

Slide 4 text

GenAIをEnterprise に持っていくための検討事項・要件

Slide 5

Slide 5 text

GenAIをEnterpriseに持っていくための検討事項・要件 4 key enterprise readiness factors

Slide 6

Slide 6 text

GenAIをEnterpriseに持っていくための検討事項・要件 enterpriseに向けての4つのkey 今回はココ(Responsible) と＋αの部分(個人的な)

Slide 7

Slide 7 text

GenAIをEnterpriseに持っていくための検討事項・要件 Responsible AI(RAI)のBlueprint https://ai.google/responsibility/principles/ より

Slide 8

Slide 8 text

GenAIをEnterpriseに持っていくための検討事項・要件 Responsible AI(RAI)のBlueprint https://ai.google/responsibility/principles/ より

Slide 9

Slide 9 text

GenAIをEnterpriseに持っていくための検討事項・要件 Responsible AI(RAI)へのアプローチ

Slide 10

Slide 10 text

GenAIをEnterpriseに持っていくための検討事項・要件 Responsible AI(RAI)へのアプローチ

Slide 11

Slide 11 text

GenAIをEnterpriseに持っていくための検討事項・要件 Product & Usecase Review → 潜在リスクを見つけ緩和策を見つける

Slide 12

Slide 12 text

GenAIをEnterpriseに持っていくための検討事項・要件 Responsible AI(RAI)へのアプローチ

Slide 13

Slide 13 text

GenAIをEnterpriseに持っていくための検討事項・要件 RAI Toolを使っての検証・Safety filter →有害コンテンツのフィルタ (右図) ・Citation Check → コンテンツ複製のチェック

Slide 14

Slide 14 text

GenAIをEnterpriseに持っていくための検討事項・要件 Responsible AI(RAI)へのアプローチリサーチとかデータとかモデルとかとか！

Slide 15

Slide 15 text

GenAIをEnterpriseに持っていくための検討事項・要件果たして…？どんくらいResponsible？生成した物でなんか起きた時とか…🧐

Slide 16

Slide 16 text

GenAIをEnterpriseに持っていくための検討事項・要件そういえば…NEXT開催後に https://cloud.google.com/blog/products/ai-machine-learning/protecting-customers-with-generative-ai-indem niﬁcationにて

Slide 17

Slide 17 text

GenAIをEnterpriseに持っていくための検討事項・要件生成AIに対する責任姿勢を表明先ほど紹介したセッションと共に考えると RAI周りにはかなりの自信がある？ (業界的にその流れがあるという話もありそうだが)

Slide 18

Slide 18 text

GenAIをEnterpriseに持っていくための検討事項・要件 enterpriseに向けての4つのkey ここは本気そう ↓ ＋αの部分

Slide 19

Slide 19 text

生成物の所有・所在の証明

Slide 20

Slide 20 text

GenAIをEnterpriseに持っていくための検討事項・要件とはいえ気になるのは… 生成したものを、自分が生成したものだと証明できないと使うに至らない… どう証明するのか？

Slide 21

Slide 21 text

GenAIをEnterpriseに持っていくための検討事項・要件非常にRobustなwatermark

Slide 22

Slide 22 text

GenAIをEnterpriseに持っていくための検討事項・要件非常にRobustなwatermark Zack Akil Machine Learning Developer Advocate Google ・スクリーンショットのも検知できるし・Photoshopでなんか乗せて合成したりしたやつでも　検知できる！試して見て！　(これはAsk the speakerで伺いました)

Slide 23

Slide 23 text

GenAIをEnterpriseに持っていくための検討事項・要件ここまでで… ・RAIと生成物への補償の座組・生成物の所在の証明割とここまでで EnterPrise(企業)として導入検討できるラインが近くなってきている感覚

Slide 24

Slide 24 text

データの集約とマルチクラウドネットワーク・改善サイクル

Slide 25

Slide 25 text

GenAIをEnterpriseに持っていくための検討事項・要件とはいえやはり・Fine-tune, Prompting ・API化・Vector検索・運用・改善諸々するにしても各所分散している大きな EnterPriseのデータの統合や、ネットワーク、改善サイクル周りが気になる…

Slide 26

Slide 26 text

GenAIをEnterpriseに持っていくための検討事項・要件しっかり色々Session/Updateありました・各所分散しているデータの統合 →Petabyte-scale data migrations the Google Cloud way →Cross-cloud analytics workloads with BigQuery Omni and Looker ・ネットワーク(SaaSなどとも) →What's new in cloud networking: AI-optimized infrastructure, ML-powered security, and more ・サービス運用と改善サイクル →Predictive and generative AI projects with Vertex AI Feature Platform などなど

Slide 27

Slide 27 text

まとめ

Slide 28

Slide 28 text

まとめ ● EnterPrise向けのGenAIサービスはそう遠くない未来 ○ 必要な要素をいくつか一気に揃えてきた印象 ● そのほかあらゆる場所に点在するデータの統合や運用のためのアップデートも多数

Slide 29

Slide 29 text

Thank you for listening!