これからの EnterPrise GenAI / EnterPrise GenAI

Transcript

1. これからの EnterPrise GenAI Powered by CyberAgent Google Cloudゼミ CyberAgent AI事業本部 極事業部 小林拓磨
2. 自己紹介 • 小林 拓磨(@Cat_to_Love) • ML PdM @CyberAgent • Google Cloud PDE/PCA • CADC2023 ”NEXT” DAY統括
3. Agenda • GenAIをEnterpriseに持っていくための検討事項・要件 • 生成物の所有・所在の証明 • データの集約とマルチクラウド・ネットワーク・改善サイクル • まとめ
4. GenAIをEnterprise に持っていくための検討事項・要件
5. GenAIをEnterpriseに持っていくための検討事項・要件 4 key enterprise readiness factors
6. GenAIをEnterpriseに持っていくための検討事項・要件 enterpriseに向けての4つのkey 今回はココ(Responsible) と ＋αの部分(個人的な)
7. GenAIをEnterpriseに持っていくための検討事項・要件 Responsible AI(RAI)のBlueprint https://ai.google/responsibility/principles/ より
8. GenAIをEnterpriseに持っていくための検討事項・要件 Responsible AI(RAI)のBlueprint https://ai.google/responsibility/principles/ より
9. GenAIをEnterpriseに持っていくための検討事項・要件 Responsible AI(RAI)へのアプローチ
10. GenAIをEnterpriseに持っていくための検討事項・要件 Responsible AI(RAI)へのアプローチ
11. GenAIをEnterpriseに持っていくための検討事項・要件 Product & Usecase Review → 潜在リスクを見つけ緩和策を見つける
12. GenAIをEnterpriseに持っていくための検討事項・要件 Responsible AI(RAI)へのアプローチ
13. GenAIをEnterpriseに持っていくための検討事項・要件 RAI Toolを使っての検証 ・Safety filter →有害コンテンツのフィルタ (右図) ・Citation Check → コンテンツ複製のチェック
14. GenAIをEnterpriseに持っていくための検討事項・要件 Responsible AI(RAI)へのアプローチ リサーチとかデータとかモデルとかとか！
15. GenAIをEnterpriseに持っていくための検討事項・要件 果たして…？ どんくらいResponsible？ 生成した物でなんか起きた時とか…🧐
16. GenAIをEnterpriseに持っていくための検討事項・要件 そういえば…NEXT開催後に https://cloud.google.com/blog/products/ai-machine-learning/protecting-customers-with-generative-ai-indem nificationにて
17. GenAIをEnterpriseに持っていくための検討事項・要件 生成AIに対する責任姿勢を表明 先ほど紹介したセッションと共に考えると RAI周りにはかなりの自信がある？ (業界的にその流れがあるという話もありそうだが)
18. GenAIをEnterpriseに持っていくための検討事項・要件 enterpriseに向けての4つのkey ここは本気そう ↓ ＋αの部分
19. 生成物の所有・所在の証明
20. GenAIをEnterpriseに持っていくための検討事項・要件 とはいえ気になるのは… 生成したものを、 自分が生成したものだと証明できないと 使うに至らない… どう証明するのか？
21. GenAIをEnterpriseに持っていくための検討事項・要件 非常にRobustなwatermark
22. GenAIをEnterpriseに持っていくための検討事項・要件 非常にRobustなwatermark Zack Akil Machine Learning Developer Advocate Google ・スクリーンショットのも検知できるし ・Photoshopでなんか乗せて合成したりしたやつでも 　検知できる！試して見て！ 　(これはAsk the speakerで伺いました)
23. GenAIをEnterpriseに持っていくための検討事項・要件 ここまでで… ・RAIと生成物への補償の座組 ・生成物の所在の証明 割とここまでで EnterPrise(企業)として導入検討できるラインが 近くなってきている感覚
24. データの集約とマルチクラウド ネットワーク・改善サイクル
25. GenAIをEnterpriseに持っていくための検討事項・要件 とはいえ やはり ・Fine-tune, Prompting ・API化・Vector検索 ・運用・改善 諸々するにしても 各所分散している大きな EnterPriseのデータの統合や、 ネットワーク、改善サイクル 周りが気になる…
26. GenAIをEnterpriseに持っていくための検討事項・要件 しっかり色々Session/Updateありました ・各所分散しているデータの統合 →Petabyte-scale data migrations the Google Cloud way →Cross-cloud analytics workloads with BigQuery Omni and Looker ・ネットワーク(SaaSなどとも) →What's new in cloud networking: AI-optimized infrastructure, ML-powered security, and more ・サービス運用と改善サイクル →Predictive and generative AI projects with Vertex AI Feature Platform などなど
27. まとめ
28. まとめ • EnterPrise向けのGenAIサービスはそう遠くない未来 ◦ 必要な要素をいくつか一気に揃えてきた印象 • そのほかあらゆる場所に点在するデータの統合や運用のための アップデートも多数
29. Thank you for listening!