Iret-techlab-GC-data-transfer
by
sdhbciw197
Link
Embed
Share
Beginning
This slide
Copy link URL
Copy link URL
Copy iframe embed code
Copy iframe embed code
Copy javascript embed code
Copy javascript embed code
Share
Tweet
Share
Tweet
Slide 1
Slide 1 text
Google Cloud 「Storage Transfer Service」について IRET SHIMPEI CHIBA
Slide 2
Slide 2 text
自己紹介 • Infra / Cloud Engineer • iret スペシャリスト(2022) • 主にAWS,GC上で構築運用に従事 • 業務でよく使う技術 • Linux, Terraform, Datadog, Pagerduty, ELB, IAM
Slide 3
Slide 3 text
目次 • ・ARCHITECTURE • ・各リソースについて • ・まとめ
Slide 4
Slide 4 text
ARCHITECTURE
Slide 5
Slide 5 text
各リソースについて • セキュアにデータ転送を行うため、権限系のユーザーを作成するのではなく、ロールを作成し、 Computing Resourcesにアタッチ。これでStorage SrevicesのAPI Callを行った。 • Computing Resourcesには、Embulk,Fluentdをインストールし、各種DB,Storageに応じたプラグインを 使用する。 • Embulk https://github.com/orgs/embulk/repositories?type=all • Fluentd https://www.fluentd.org/datasources • Storage Srevicesの情報をTransfer Serviceに入力すれば、送信する準備はOK。送信するにあたって操 作が難しいとかはなかったです。
Slide 6
Slide 6 text
No content
Slide 7
Slide 7 text
No content
Slide 8
Slide 8 text
まとめ • 権限系で詰まることが多かった。 • →社内で事前にこの権限が欲しい、と申請しておくとスムーズに検証が進むかも • セキュアに転送する方法を模索するのは非常に楽しく、興味深かった。 • Storage Transfer Serviceは、APIでも使える。 https://cloud.google.com/storage-transfer/docs/reference/rest/v1/transferJobs • 今回は使用しなかったが、VPC Service Controlsを組み合わせれば、さらにセキュ アに転送ができそう。 https://cloud.google.com/vpc-service-controls/docs/overview