PHPからgoへの移行で分かったこと

Slide 1

Slide 1 text

Slide 2

Slide 2 text

Copyright © LIMIA, Inc. All Rights Reserved. ● グリーグループのリミア株式会社で、LIMIA という住まい領域のメディアを作っています。ゲーム会社ですが、最近はメディアに力を入れています。 ● 機械学習(RecSys)のエンジニアですが、iOS, Android,JSなどもやっている何でも屋です。5歳の娘のパパ。twitter: @mahiguch1 ● GCPのイベントでAWSの話をしたら、Googleの担当営業の方から呼び出されました。w ● https://limia.jp/ ● https://arine.jp/ ● https://aumo.jp/ ● https://www.mine-3m.com/mine/ Masahiro Higuchi/樋口雅拓 2

Slide 3

Slide 3 text

Slide 4

Slide 4 text

Slide 5

Slide 5 text

Copyright © LIMIA, Inc. All Rights Reserved. 弊社では、PHPシステムの一部をgoで書き換えました。その経験から学んだことについて、以下の構成で発表します。 • 移行前後のWebシステム構成 • Pythonからgoに移行した推薦システム • PHPエンジニアがgolangを学ぶ時にハマりがちなこと • golangに移行して良かった点 • 改めて分かったPHPの良さアジェンダ 5

Slide 6

Slide 6 text

Slide 7

Slide 7 text

Slide 8

Slide 8 text

Slide 9

Slide 9 text

Slide 10

Slide 10 text

Copyright © LIMIA, Inc. All Rights Reserved. • PHP vs go: 基本はPHP。goのマイクロサービスを作り少しづづ処理を寄せていく。 • https vs grpc: 型の問題が度々発生していたので、grpcで。 • EKS vs ECS: インフラ工数が取れないため、まずはお手軽なECSで。 • Envoy vs NLB: 同じく、まずはお手軽なECSで。 (比較レイヤーが異なるため、登壇後記載削除) 技術選定 10

Slide 11

Slide 11 text

Slide 12

Slide 12 text

Copyright © LIMIA, Inc. All Rights Reserved. ● PHPからMemcacheへは、ConsistentHashを使って直接アクセスしていた。 ● goからも同様にMemcacheへアクセスしたところ、ライブラリが異なるため、ConsistentHashが合わない！ → 仕方がないので、MemcacheへアクセスするだけのECS Service(go)を作って、必ずそこを通すようにした。システム構成ハマりポイント(1) MemcachedのConsistentHashが合わない 12

Slide 13

Slide 13 text

Slide 14

Slide 14 text

Copyright © LIMIA, Inc. All Rights Reserved. ● 基本文法は自習。書籍を読んだり、playgroundで試したり。 ● システム構成などを座学で毎日1時間x2週間。 ● Build用コンテナやMakefileを整備した。これで、書こうと思えば書けるレベルに。 (だけどPHPで書いた方が早い) Golangトレーニング PHPerのみでバックエンドを書いていた 14

Slide 15

Slide 15 text

Copyright © LIMIA, Inc. All Rights Reserved. ● UnitTestだけでなく、APIの結合テストもFuel phpのテストを書いていた。 ● レスポンスのIFをかなり網羅していたので、リファクタのときには重要。 ● GitのDevelop branchにmergeされるとJenkinsでテストが走り、成功したら結合テスト環境に配布していた。 —> 実装完了してmergeしたらテストが失敗。何故！？システム的なハマりポイント(2) テストが失敗する 15

Slide 16

Slide 16 text

Copyright © LIMIA, Inc. All Rights Reserved. ● Jenkins Slaveは、EC2にphpをインストールしてテストを実行していた。 ● 当然だがgolangコンテナが無いので、接続失敗でテストがコケる。 ● Jenkins Slave専用にECS Service建てるのは、もったいないよねー。 —> 開発環境用に作ったdocker-composeをJenkins Slaveの中に立ててしまおう！システム的なハマりポイント(2) テストが失敗した理由 16

Slide 17

Slide 17 text

Copyright © LIMIA, Inc. All Rights Reserved. Repository構成 ● docker: docker-compose.ymlなど ● app: PHPで書かれた本体 ● api: golangで書かれたマイクロサービスこれまでは、Jenkinsにgithubのtokenとrepository pathを登録しておくと、手元に展開されていた。 Repositoryが3つだとScriptの所でgit cloneを3行書く。—> Permission Denied... あれ? どうやってtoken渡そう。—> .netrcに書くことで解決！システム的なハマりポイント(2) 第1の関門: git tokenの渡し方 17

Slide 18

Slide 18 text

Copyright © LIMIA, Inc. All Rights Reserved. ● 1つ目のテストは成功したが、別のテストで失敗。 ● コンテナが立てっぱなしだったので、ポートを取れなかった。 ● 80/tcp —> 8080/tcp(dockerのNginxが動くport)に透過させていたのが原因。 —> テストの開始時にdocker-compose up、終了時にdocker-compose downすることで解決。システム的なハマりポイント(2) 第2の関門: コンテナの建て方 18

Slide 19

Slide 19 text

Copyright © LIMIA, Inc. All Rights Reserved. ● しばらくうまく動いていたが、突然テストが失敗するように。 ● Jenkins Slaveでコンテナの更新を行なっていなかった。 ● テスト開始前にdocker-compose pullしたが上手くいかない。あれ？ —> ecr loginしてなかったので、docker repos.にアクセスできていなかった。loginすることで解決。課題も解決し、処理の一部がgoで動き始めました。システム的なハマりポイント(2) 第3の関門: コンテナの更新 19

Slide 20

Slide 20 text

Slide 21

Slide 21 text

Slide 22

Slide 22 text

Slide 23

Slide 23 text

Slide 24

Slide 24 text

Copyright © LIMIA, Inc. All Rights Reserved. ユーザが記事を閲覧すると、その情報がKinesisに流れます。Lambdaで受け取り、直近30件の閲覧履歴をDynamoDBに保存します。その変更をDynamoDB Streamに流し、Lambdaで受け取って記事のベクトルの平均をユーザベクトルとしてDynamoDBに書き込みます。これで推薦システムもgolang化することができました。ユーザベクトル作成 24

Slide 25

Slide 25 text

Slide 26

Slide 26 text

Slide 27

Slide 27 text

Copyright © LIMIA, Inc. All Rights Reserved. type Person struct { Name string Age int } func (p Person) ToString() string { return fmt.Sprintf("%s: %d", p.Name, p.Age) } class xx {}みたいに書くのではなく、funcの直後に書く。関数名の先頭が小文字だとprivate、大文字だとpublic。 classをどう書けば良いのか interfaceに足を生やす 27

Slide 28

Slide 28 text

Copyright © LIMIA, Inc. All Rights Reserved. // 単純に投げると、待たずに終わってしまう。 concurrent := make(chan struct{}, 5) for i := start; i < end; i += step { concurrent <- struct{}{} go func(startAt uint64, endAt uint64) { service.CreateByRange(startAt, endAt) }(i, i+step) } 並列数制限こういうケースだと別ファイルにしてsystem()で起動していた。 28 // 当たり前だが、並列数制限して待つ必要がある。 var wg sync.WaitGroup concurrent := make(chan struct{}, 5) for i := start; i < end; i += step { wg.Add(1) concurrent <- struct{}{} go func(startAt uint64, endAt uint64) { defer func() { wg.Done() <-concurrent }() service.CreateByRange(startAt, endAt) }(i, i+step) } wg.Wait() // 待つだけだと、限界まで起動しちゃう。 var wg sync.WaitGroup for i := start; i < end; i += step { wg.Add(1) go func(startAt uint64, endAt uint64) { defer func() { wg.Done() }() service.CreateByRange(startAt, endAt) }(i, i+step) } wg.Wait()

Slide 29

Slide 29 text

Slide 30

Slide 30 text

Copyright © LIMIA, Inc. All Rights Reserved. 【コンテナサイズ】 ● PHP: 1,500MB ● go: 150MB 【インスタンスサイズ】 ● PHP: 4CPU/8GB ● go: 2CPU/8GB 開発系実験結果。コンテナサイズは小さくなる。CPUは少し軽くなってそう。メモリはキャッシュを載せているので、ほとんど変わらない。登壇後追記: 不要なファイルを削ればPHPのコンテナサイズは、200MB程度になりそう。コンテナサイズ/CPU使用量が小さい 30

Slide 31

Slide 31 text

Slide 32

Slide 32 text

Slide 33

Slide 33 text

Slide 34

Slide 34 text

Slide 35

Slide 35 text

Slide 36

Slide 36 text

Slide 37

Slide 37 text

Slide 38

Slide 38 text

Copyright © LIMIA, Inc. All Rights Reserved. ● WebはPHPで書いた方が早い。 ● 推薦システムはPythonで書いた方が早い。 ● 安定的なシステムを作る場合、golangが早い。当たり前だが適材適所に使うのが良い。 WebはPHP(Laravel)に、推薦システムはPythonに戻す予定。お気付きの点がございましたら懇親会で教えてください。まとめ 38

Slide 39

Slide 39 text

Copyright © LIMIA, Inc. All Rights Reserved. グリーグループ及びリミアでは、一緒にメディアを作っていく仲間を募集中です。興味のある方は、以下のサイトをご覧ください。 http://corp.gree.net/jp/ja/recruit/ https://www.wantedly.com/companies/limia ご静聴、ありがとうございました。 We are hiring! 39