Upgrade to Pro — share decks privately, control downloads, hide ads and more …

RDSプロキシは未来を変えるか

 RDSプロキシは未来を変えるか

Developers.IO 2020 CONNECTの発表資料です

119659c28d16f22d01eb48a6f3ee1391?s=128

TomoyaIwata

June 26, 2020
Tweet

Transcript

  1. RDS Proxyは世界を変えるか︖ 2020年6⽉26⽇ CX事業本部 岩⽥ 智哉

  2. ⾃⼰紹介 CX事業本部 ⻄⽇本チーム サーバーサイドエンジニア 2020 Japan APN Ambassadors 2020 APN

    ALL AWS Certifications Engineer 岩⽥ 智哉 2
  3. ⼤事なこと 資料作成時点でRDS Proxyは まだGAされていません なのでRDS Proxy⾃体の話はあまりしません…

  4. 2020年は サーバーレス元年︖

  5. 直近1年間でのLambda関連アップデート •VPC Lambdaのアーキテクチャ改善 •Lambda Destinations •並列化係数のサポート •Provisioned Concurrency •RDS Proxy(まだプレビュー)

    •EFS統合(NEW!!) 5
  6. Lambda×RDBはアンチパターン︖︖ •コールドスタートの問題 •IPアドレスやENIの枯渇問題 •スケールアップとスケールアウト の相性問題 6

  7. Lambda×RDBはアンチパターン︖︖ •コールドスタートの問題 •IPアドレスやENIの枯渇問題 •スケールアップとスケールアウトの 相性問題 7

  8. LambdaとRDSの ミスマッチを緩和する技術として RDS Proxyに期待

  9. そもそもコネクションプーリングとは︖ プログラムがデータベース管理システム(DBMS) へアクセスする際、アクセス要求のたびに接続や 切断を繰り返すのではなく、⼀度形成した 接続窓⼝(コネクション)を維持し続けて 使い回す⼿法。[1] [1]:IT⽤語辞典 e-Words より引⽤ http://e-words.jp/w/コネクションプーリング

    9
  10. • 各プログラミング⾔語のライブラリ アプリでプーリング • アプリとDBの間にプロキシを挟む • Ex)Pgpool-II,PgBouncer… ミドルウェアでプーリング コネクションプーリングざっくり分類 10

  11. アプリでプーリングするパターン コネクションプール connection worker worker connection connection worker connection Users

    Application Database 11
  12. ミドルウェアでプーリングするパターン コネクションプール connection worker worker worker connection connection Users Application

    Database Middle ware 12
  13. コネクションプーリングのメリット •接続のオーバーヘッド削減 •論理的接続と物理的接続の分離 13

  14. 接続の オーバーヘッド削減

  15. コネクションプーリング 無い時

  16. コネクションプーリングが無い時 16

  17. コネクションプーリングが無い時 リクエスト 17

  18. コネクションプーリングが無い時 接続要求 • TCPの3WAYハンドシェイク • DBユーザーの認証/認可 • …etc 18

  19. コネクションプーリングが無い時 接続確⽴ 19

  20. コネクションプーリングが無い時 SQL 20

  21. コネクションプーリングが無い時 切断 21

  22. コネクションプーリングが無い時 レスポンス 22

  23. コネクションプーリングが無い時 最初に戻る 23

  24. コネクションプーリング ある時

  25. コネクションプーリングがある時 未使⽤ 使⽤中 25

  26. コネクションプーリングがある時 未使⽤ 使⽤中 接続 26

  27. コネクションプーリングがある時 未使⽤ 使⽤中 connection プーリング 27

  28. コネクションプーリングがある時 未使⽤ 使⽤中 connection リクエスト 28

  29. コネクションプーリングがある時 未使⽤ 使⽤中 connection プール済のコネクションを チェックアウトして利⽤ SQL 29

  30. コネクションプーリングがある時 未使⽤ 使⽤中 connection 使⽤済みのコネクションは プールの未使⽤領域に戻る レスポンス 30

  31. 論理的接続と 物理的接続の分断

  32. コネクションプーリング ある時

  33. コネクションプーリングがある時 物理 論理 connection リクエスト 33

  34. コネクションプーリングがある時 物理 論理 connection connection 接続 34

  35. コネクションプーリングがある時 物理 論理 SQL connection connection 35

  36. コネクションプーリングがある時 物理 論理 connection connection DBアクセスを 伴わない処理 36

  37. コネクションプーリングがある時 物理 論理 connection connection リクエスト 37

  38. コネクションプーリングがある時 物理 論理 connection connection connection 接続 38

  39. コネクションプーリングがある時 物理 論理 connection SQL connection connection 39

  40. コネクションプーリングがある時 物理 論理 connection connection connection DBアクセスを 伴わない処理 40

  41. コネクションプーリングがある時 物理 論理 connection connection レスポンス 41

  42. コネクションプーリングがある時 物理 論理 connection レスポンス 42

  43. スパイク耐性の向上

  44. コネクションプーリング 無い時

  45. コネクションプーリングのメリット 25 30 35 40 45 50 55 60 リクエスト数

    接続エラー コネクションプーリングを使わない場合 最⼤同時接続数を超過した接続要求はエラー 45
  46. コネクションプーリングが無い時 46

  47. コネクションプーリングが無い時 リクエスト 47

  48. コネクションプーリングが無い時 接続要求 48

  49. コネクションプーリングが無い時 接続確⽴ connection 49

  50. コネクションプーリングが無い時 リクエスト connection 50

  51. コネクションプーリングが無い時 接続要求 connection 51

  52. コネクションプーリングが無い時 最⼤同時接続数超過エラー connection 52

  53. コネクションプーリングが無い時 DB接続エラー connection 53

  54. コネクションプーリング ある時 コネクションプーリング ある時

  55. コネクションプーリングのメリット プーリングレイヤがDBへの流量を制御 25 30 35 40 45 50 55 60

    プールへのリクエスト数 DBへのリクエスト数 55
  56. コネクションプーリングがある時 物理 論理 connection リクエスト 56

  57. コネクションプーリングがある時 物理 論理 connection connection 接続 57

  58. コネクションプーリングがある時 物理 論理 SQL connection connection 58

  59. コネクションプーリングがある時 物理 論理 リクエスト SQL connection connection 59

  60. コネクションプーリングがある時 物理 論理 connection 接続 SQL connection connection 60

  61. コネクションプーリングがある時 物理 論理 connection SQL SQL connection connection 61

  62. コネクションプーリングがある時 物理 論理 connection 利⽤可能な物理接続が無い場合はWAIT SQL SQL connection connection 62

  63. コネクションプーリングがある時 物理 論理 connection SQL 物理接続が利⽤可能になったら処理続⾏ connection connection 63

  64. コネクションプーリング 良い事づくめ︖︕

  65. よく⽿にする話… Lambdaは コネクションプーリングが 使えない︖︖

  66. Lambdaのアーキテクチャ • Lambda実⾏環境はコンテナ内に構築される • リクエストに応じてLambda実⾏環境を⽣成 • アイドル状態のLambda実⾏環境は破棄される • 1つのLambda実⾏環境に対して同時に ルーティングされるリクエストは1つだけ

    66
  67. アプリ側でプーリングしても有効活⽤されない Lambda 実⾏環境 Database Users connection worker connection Lambda 実⾏環境

    connection worker connection 無駄 無駄 67
  68. Lambdaの プログラミングモデル

  69. Lambdaのプログラミングモデル 関数・メソッド 実⾏ ランタイム 起動・初期化 コールドスタート時、 ウォームスタート時共に毎回実⾏ コールドスタート時のみ実⾏ 69

  70. Lambdaのプログラミングモデル 初期化処理の中でDBに接 続することで、ウォーム スタート時は接続処理を スキップ可能 ただし、接続クローズは Lambda 実⾏環境破棄の タイミングになる 70

  71. アイドル状態の実⾏環境がコネクションを消費する Lambda Function 2 Lambda 実⾏環境 connection Lambda Function 1

    Lambda 実⾏環境 connection Lambda 実⾏環境 connection Users Database 71
  72. アイドル状態の実⾏環境がコネクションを消費する Lambda 実⾏環境 connection Lambda Function 2 Lambda 実⾏環境 connection

    Lambda Function 1 Lambda 実⾏環境 connection Lambda 実⾏環境 connection Users Database 72
  73. Lambdaにおけるコネクションプーリング • 物理的接続と論理的接続を分割するメリットが薄い • 接続を永続化することに懸念事項が多い アプリでプーリング • ⾃前でEC2を⽴てるほどのメリットがあるのか︖ • サーバーレスとは︖

    ミドルウェアでプーリング 73
  74. Lambdaはコネクショ ンプーリングを活⽤ しづらい

  75. と思いきや… re:invent2019にて RDS Proxy発表

  76. RDSプロキシとは • RDS向けのフルマネージドなDBプロキシ • MySQLとPostgreSQLに対応(Aurora含む) • IAM認証にも対応 76

  77. 77 RDSプロキシのメリット •⼀般的なコネクションプーリングと 同様のメリット •フルマネージド •負荷に応じて⾃動的にスケール •フェイルオーバー時間の短縮

  78. 78 RDSプロキシのデメリット •料⾦が増える •5ms程度のレイテンシ増加 •障害点が増える

  79. RDSプロキシの料⾦体系 •基となるデータベースインスタンス のvCPU数に応じて課⾦ •0.018USD/時間 ※2020/6時点の東京リージョンにおける料⾦体系 79

  80. RDSプロキシが向いている ワークロード

  81. RDSプロキシが向いているワークロード • DBアクセスを伴わない処理が 多くの割合を占める場合 • トランザクションを使⽤しない 場合 81

  82. RDSプロキシが不向きな ワークロード

  83. RDSプロキシが不向きなワークロード • DBアクセスを伴う処理が 多くの割合を占める場合 • ロングトランザクション • リクエストが多すぎる場合 • 「ピン留め」を誘発するよう

    なワークロード 83
  84. RDSプロキシが無意味なパターン 25 30 35 40 45 50 55 60 リクエスト数

    接続エラー DBスペックに対してリクエスト数が 多すぎる場合はどうしようもない 84
  85. ロングトランザクション 物理 論理 BEGIN connection connection 85

  86. ロングトランザクション 物理 論理 connection connection Idle in transaction 86

  87. ロングトランザクション 物理 論理 リクエスト connection connection Idle in transaction 87

  88. ロングトランザクション 物理 論理 connection SQL connection connection Idle in transaction

    88
  89. ロングトランザクション 物理 論理 connection SQL connection connection Idle in transaction

    connection 89
  90. ピン留め • プールされた接続が特定のクライアントに固定され 複数のクライアント間で共有できない状況 • クライアントからのリクエストによりDBセッション 固有の情報が変更された場合、以後のリクエストは 変更後の状態に依存するため発⽣ 90

  91. ピン留めが発⽣する場合 物理 論理 SET WORK_MEM=‘1MB’ connection connection WORK_MEM=‘2MB’ 91

  92. ピン留めが発⽣する場合 物理 論理 connection connection connection WORK_MEM=‘1MB’ リクエスト 92

  93. ピン留めが発⽣する場合 物理 論理 connection connection connection connection WORK_MEM=‘1MB’ WORK_MEM=‘2MB’ パラメータが更新されており、再利⽤できない

    93
  94. ピン留めが発⽣するケース https://docs.aws.amazon.com/ja_jp/AmazonRDS/latest/AuroraUserGuide/rds-proxy.html#rds-proxy-pinning Amazon RDS Proxy (プレビュー) による接続の管理 ピン留めを回避する • ⼀時テーブルを作成した場合

    • プリペアドステートメント • 拡張クエリプロトコルの使⽤(PostgreSQLの場合) …etc 94
  95. RDSプロキシ以外の 選択肢は無いのか︖

  96. RDS Proxy以外に検討したいポイント •DBエンジンは適切なのか︖ •RDBという選択肢は適切なのか︖ •そもそもLambdaは適切なのか︖ 96

  97. まとめ まとめ

  98. 98 まとめ RDS ProxyによってLambdaとRDSの相性の 悪さを緩和することができる。 緩和はあくまで緩和 まずはDynamoDBから検討したい

  99. 99 まとめ • RDS Proxyが有効に機能するかは ワークロードに依存 • 思考停⽌的に導⼊するのではなく 事前分析と検証を •

    場合によってはアプリの改修も
  100. None