Gemini Enterprise を恐れない - Securityと監査-

月末 Tech Lunch Online#7 - Google Cloud を語る で発表させていただきました
https://jaguer-tech-lunch.connpass.com/event/362363/

1. Gemini Enterprise を恐れない - Securityと監査 - 月末 Tech Lunch Online#7 - Google Cloud を語る 株式会社スリーシェイク Sreake事業部 佐藤慧太 Copyright © 3-shake, Inc. All Rights Reserved.
2. 自己紹介 佐藤 慧太@SatohJohn • 2023/1 株式会社スリーシェイク入社 • Google Cloud Partner Top Engineer ’24、’25、’26 選出 • お客様の労苦 <Toil>を減らす • 娘のお世話を精一杯やっています
3. Copyright © 3-shake, Inc. All Rights Reserved. 会社名 株式会社スリーシェイク 設立日 2015/1/15 Mission: インフラをシンプルにして イノベーションが起こりやすい世界を作る confidential 3 About US Vision: 労苦〈Toil〉を無くすサービスを適正な価格で提供し続ける Value: エンジニアリングレイヤーに横たわる人、手法、ツールが サイロ化されて労苦が発生しているプロセスをシンプルにし サービス機能開発に集中できるソリューション （SRE、DevSecOps、DataOps、HROps）を提供する 2015 2016 2017 2018 2019 2020 2021 2022 0 50 100 従業員: 200名over Engineer 60% 所在地 東京都中央区銀座8丁目21番1号 　　 住友不動産汐留浜離宮ビル7F　 代表者 代表取締役社長　吉田 拓真 沿革 2021年1月 JAFCOから総額5億円の資金調達 2022年8月 自動脆弱性診断ツール「Securify Scan」をリ リース。JAFCO、MUCAPから総額8.48億円の資金調達 2025年9月29日 新オフィスに移転 Googleクラウド・AWSの両方のエンジニアリングに強みを持つ （2024年8月に国内2例目の、GoogleCloudのDevOpsスペシャライゼーションを取得） Google Cloud×SRE / GenAIにおいて、スリーシェイクは国内トップパートナー
4. SREを主軸にクラウドネイティブ化/エンジニアリング内製化を支援 SRE/DevOps SecOps BizOps HR ・SRE総合支援からセキュリティ対 策を全方位支援 ・Geminiを用いた生成AIの活用支援 ・ワンストップで脆弱性診断を行う セキュリティ対策SaaS ・クラウド型ETL/データパイプ ラインSaaSの決定版 ・あらゆるSaaSをノーコードで連携 ・ハイスキルフリーランスエンジニ ア紹介エージェント IT内製化 / 高度化 クラウドネイティブ化 モダナイゼーション ITアジリティ向上
5. SREを主軸にクラウドネイティブ化/エンジニアリング内製化を支援 SRE/DevOps SecOps BizOps HR ・SRE総合支援からセキュリティ対 策を全方位支援 ・Geminiを用いた生成AIの活用支援 ・ワンストップで脆弱性診断を行う セキュリティ対策SaaS ・クラウド型ETL/データパイプ ラインSaaSの決定版 ・あらゆるSaaSをノーコードで連携 ・ハイスキルフリーランスエンジニ ア紹介エージェント IT内製化 / 高度化 クラウドネイティブ化 モダナイゼーション ITアジリティ向上
6. 概要 1. 話すこと a. セキュリティ、監査の観点でどういうことができるか 2. 話さないこと a. Gemini Enterprise のプランについて b. AI Agent のセキュリティ
7. 概要 Gemini Enterprise 難しそう 何ができるのかわからん Gemini じゃだめなんか SaaSやんこれ どう構築すんの？ Agentspace…? DiscoveryEngine…? Agent Engine? Conversational Agent? Workforce Identity…?
8. Gemini Enterprise の紹介 01 Copyright © 3-shake, Inc. All Rights Reserved.
9. ざっくり機能 1. Google Identity or Workforce Identity 認証でのログイン 2. 認証結果踏まえた 3rd party 含めた横断検索 3. Default Assistant を使った回答 4. AI Agent を使った回答とアクション
10. 3rd party 含めた横断検索 コネクタを Google Cloud が作成してくれている • ログインアカウントが閲覧できる、データを検索してくれる • Ingested と Federated のタイプがある
11. Default Assistant, AI Agent • Gemini が動いていてどういうデータをコネクタから取得するか AI Agent に渡すかを考える a. 前は assistant に紐づく形で 設定していた
12. Default Assistant, AI Agent • AI Agent は現状以下が作成、接続できる a. Agent Designer b. Conversational Agent c. Agent Engine d. A2A Custom Agent
13. Default Assistant, AI Agent { "assistants": [ { "name": "projects/-------/locations/global/collections/default_collection/engines/-------/assistants/def ault_assistant", "displayName": "Default Assistant", "vertexAiAgentConfigs": [ { "displayName": "johnさんのてすとえーじぇんと ", "name": "", "toolDescription": "あなたは普通のエージェントです " } ] } ] } https://discoveryengine.googleapis.com/v1alpha/projects/$PROJECT_ID/locations/gl obal/collections/default_collection/engines/$APP_ID/assistants
14. Default Assistant, AI Agent { "agents": [ { "name": "", "displayName": "Agent_Name", "adkAgentDefinition": { "toolSettings": { "toolDescription": "業務に関係するエージェント " }, "provisionedReasoningEngine": { "reasoningEngine": "" } }, "state": "ENABLED" } ] } https://discoveryengine.googleapis.com/v1alpha/projects/$PROJECT_ID/locations/global/c ollections/default_collection/engines/$APP_ID/assistants/default_assistant/agents
15. Default Assistant, AI Agent
16. Gemini Enterprise の Security 02 Copyright © 3-shake, Inc. All Rights Reserved.
17. 1. プロンプト: Model Armor、禁止フレーズ、システム指示 2. コネクタ: VPC SC + Private Service Connect 3. データストア: 独自暗号鍵 セキュリティ
18. Model Armorでできること • プロンプトインジェクションや責任ある AIとしてのガードレールを配置できる • Security Command Center の機能を 利用することで機密データを判断
19. 禁止フレーズ、システム指示でできること • メッセージが出力がされた瞬間にエラーとなる(=NGワードを設定する機能) • Model Armor より簡易的なもの • システムプロンプトを使うことで Default Assistant の回答を変更できる • 現状 Agent を直接使うと Agent の プロンプトが優先される
20. コネクタでできること コネクタの接続先 IP による制限(Ingest コネクタでの設定)
21. コネクタでできること VPC SC + PSC によるアクセス制限(Federated コネクタでの設定) https://codelabs.developers.google.com/agentspace-psc-hybrid-neg-crosscloud?hl=ja#9 https://codelabs.developers.google.com/agentspace-psc-zonal-neg?hl=ja#3 https://cloud.google.com/gemini/enterprise/docs/introduction-to-self-hosted
22. Gemini Enterprise の 監査 03 Copyright © 3-shake, Inc. All Rights Reserved.
23. 監査 1. Audit Log によるデータ 2. BigQuery Exportにおけるプロンプトの監査
24. Audit Log でできること 内容 カラム いつ実行されたものか？ timestamp 誰が実行したのか (Google cloud に認証し ているユーザのだれか) protoPayload.authenticationInfo.p rincipalEmail or protoPayload.authenticationInfo.p rincipalSubject どのサービスか(Google Cloud における Service) resource.labels.service 内容 補足 リクエスト(検索文字やプロン プト、アタッチしたファイルな ど) 監査情報などにも乗らない Agent へのリクエスト(検索 文字やプロンプト、アタッチし たファイルなど) 検索結果の内容 document の ID しかわからない。 そして、この ID からドキュメントに はたどり着けない レスポンス(文字、画像など) Agent のレスポンス 見れるやつ 見れないやつ
25. Audit Log でできること https://docs.cloud.google.com/logging/docs/audit/configure-data-access?hl=ja https://docs.cloud.google.com/gemini/enterprise/docs/audit-logging?hl=ja resource.labels.service="discoveryengine.googleapis.com" protoPayload.methodName="google.cloud.discoveryengine.v1main.UserEventService .WriteUserEvent" protoPayload.response.eventType="search"
26. BigQuery Export でできること 1. Gemini の Log Request and Response a. 特定のリージョンのモデルと入力プロンプトと出力プロンプトが見れる b. Gemini Enterprise ででたものは取れない i. Agent Engine で Gemini を叩いたものは取れる https://docs.cloud.google.com/vertex-ai/generative-ai/docs/multimodal/request-response-logging publisher_model.set_request_response_logging_config( enabled=True, sampling_rate=1.0, bigquery_destination="bq://PROJECT_ID.DATASET_NAME.TABLE_NAME", enable_otel_logging=True )
27. まとめ 04 Copyright © 3-shake, Inc. All Rights Reserved.
28. まとめ 1. Security と監査を行う上で他のシステムと 組み合わせることで担保できる 2. 便利とはいえ進化が早い、ついていくのがたいへん 3. REST API から読み解くとデータのイメージが付きやすい
29. まとめ Gemini Enterprise を恐れない。に少し近づけた？