Share
Embed
1年間のポストモーテム運用とそこから生まれたツール sre-advisor / SRE NEXT 2022
SRE NEXT 2022
2022-05-14 14:45〜15:15
https://sre-next.dev/2022/schedule#jp15
FUJIWARA Shunichiro
May 14, 2022
Transcript
32 slides
-
@fujiwara SREチーム 自社サービスを主に担当 ISUCON 11優勝 / ISUCON 12出題 github.com/kayac/ecspresso Amazon
ECS デプロイツール github.com/fujiwara/lambroll AWS Lambda デプロイツール -
「非難をしない」こと ポストモーテムで批判を行わないことは、SRE の文化における信条です。ポストモーテ ムが本当に非難を伴わないようにするためには、悪い行動や不適切な行動をもって特定 の個人やチームを糾弾することなく、インシデントに影響を及ぼした原因を特定するこ とに集中しなければなりません。非難なくポストモーテムを書くための前提となるの は、インシデントに関わりを持ったすべての人々が善意の下で、知り得た情報をもって 正しい行動をとったものと考えることです。個人やチームの「間違った」行いに対する 指弾と不名誉の文化が広がってしまえば、人々は処罰を恐れて問題を公表しようとしな くなります。
O'Reilly SRE サイトアビリティエンジニアリング 15章 これは特に取り決めも心配もしなかった 元々社内の文化として、特定の個人を非難するような風潮はない -
【例】とあるポストモーテムより 根本原因 ***の情報取得の権限確認の部分がN+1クエリ状態になっていた。その結果、***管理サ ービスの前にいるAppMesh Envoyで接続数が増大してファイルディスクリプタが枯渇 し、***管理サービスのECSタスクが終了するという状態が起きた。 N+1クエリ状態になっていた。 ECS Taskの各コンテナにulimitを設定していなかったため、ファイルディスクリプ タが枯渇しやすい状態だった。
「ulimit がデフォルト(nofiles 1024)だと高負荷時に足りないことがある」 対策「ECSタスク定義を確認する」……だれがどうやって? -
sre-advisor 社内ツールを作った AWS SDK for Go v2を使用 アカウントに存在している各種リソースの設定を取得、問題がある内容を検出 結果を text
/ markdown で出力する CLI ツール -
sre-advisorが検出する項目(例) Amazon ECS のタスク定義で、コンテナにulimitが定義されていない デフォルトのnofiles 1024では足りないことがある ALB のデフォルトアクションで forward を指定
IPアドレスなどによる直接アクセスが意図せず貫通する デフォルトアクションでは静的に404を返却 forwardはHostヘッダ条件などのルールで行うのを推奨 AWS Lambda の呼び出しで alias や revision を指定していない デプロイ中に$LATESTを呼び出すとエラーが発生する可能性(2021年〜) Amazon RDS でデフォルトのパラメータグループを使っている デフォルトパラメータグループは編集できない 変更する際に再起動が必要になる -
検出結果(例) [Critical] ECS のタスク定義『example:1 』内のコンテナ nginx にはulimits の設定が足りていません。 [Warning] ELB
ロードバランサー『web 』のデフォルトアクションに"forward" タイプが使用されています。 [Warning] Lambda 関数『foo 』の$LATEST は『arn:aws:events:ap-northeast-1:123456789012:rule/bar 』 からのlambda:InvokeFunction の許可が与えられてます。 [Warning] DB インスタンス『db1 』のDB パラメータグループが『default.aurora-mysql5.7 』です。 -
どう直せばいいのか推奨も表示する [Critical] ECS のタスク定義『example:1 』内のコンテナ nginx にulimits の設定を追加してください。 nofile,nproc に関して以下のように設定してください。
"ulimits": [ { "name": "nofile", "softLimit": 10000, "hardLimit": 10000 }, { "name": "nproc", "softLimit": 10000, "hardLimit": 10000 } ], ECS Fargate タスクでのデフォルトのnofile のソフト制限は1024 です。 設定していない場合、Too many open files のようなファイルディスクリプタの上限に達して ECS タスクが突然終了するような現象が起きる可能性があります。 -
AWS Trusted Advisor の警告も一緒に取得 AWSコンソールを見に行くのが面倒なのでついでにAPIで取得して表示 [Warning] Trusted Advisor[cost_optimizing 関連付けられていない Elastic
IP Address] CheckID:Z4AUBRNSmz [Critical] Trusted Advisor[fault_tolerance Amazon EBS スナップショット] CheckID:H7IgTzjTYb -
Trusted Advisorの推奨はAPIで返ってくるものを表示 DescribeTrustedAdvisorChecks APIが親切にHTMLで文字列を返してくれる 適当にtext化 ───────────── 推奨アクション1────────────── [Warning] Trusted Advisor[cost_optimizing
利用頻度の低い Amazon EBS ボリューム] をOK にしてください。CheckID:DAvU99Dc4C Amazon Elastic Block Store (Amazon EBS) ボリュームの設定をチェックして、 ボリュームが十分に使用されていない可能性を警告します。課金はボリューム作成時に開始します。 ボリュームがしばらくの間アタッチされないままになっているか書き込みアクティビティが非常に少ない ( ブートボリュームを除く) 場合、そのボリュームはおそらく使用されていません。 ...( 略) -
指摘されても無視したいことはある [Warning] Trusted Advisor[fault_tolerance Amazon RDS Multi-AZ] がOK ではありません。 CheckID:f2iK5R6Dep
「開発用のRDSしかないのでMulti-AZにはしていないんですよ」 設定ファイルでIDを指定すると指摘されなくなる rules: trusted_advisor: suppression_rules: - check_id: f2iK5R6Dep -
結果を GitHub Flavored Markdown で出力できる $ advisor run --reporter github
GitHub Actionsで実行 → gh issue create でissueにできる Advisor が完走しました。: 0 Critical, 1 Warning, 2 Suppressed, 30 Good 1 箇所の推奨アクションがあります。 <details> <summary> 動作ログ </summary> ```properties [Warning] ELB ロードバランサー『web 』のデフォルトアクションに"forward" タイプが使用されています。 `` ` </details> ## 推奨アクション - [ ] [Warning] ELB ロードバランサー『web 』のデフォルトアクションには"forward" タイプを使用しないでください。 -
定期的に指摘潰し祭り GitHub Actions workflow ポチ sre-advisor が issue 作成 推奨アクションを分担して解消
無視したいものは設定ファイルで 人が見慣れた警告を無視する習慣を付け ないように運用 -
社内ツールの配布方法 sre-advisor は現在 internal repo private/internal repo の GitHub Release
を取得するのはちょっと面倒 (このためにpersonal access tokenを用意するのは…) GitHub Actionsでビルド → Amazon S3へ配置する Organization の AWSアカウントで認証済みなら取得できるようにしてみた -
S3 Bucket Policy の設定でできます Condition で "aws:PrincipalOrgID" に AWS Organization
ID を指定する → その Organization のアカウントからのみアクセスを許可できる { "Version": "2012-10-17", "Statement": [{ "Sid": "DelegateS3Access", "Effect": "Allow", "Principal": "*", "Action": ["s3:GetObject", "s3:ListBucket"], "Resource": ["arn:aws:s3:::example-bucket", "arn:aws:s3:::example-bucket/*"], "Condition": { "StringEquals": { "aws:PrincipalOrgID": "o-999999999" // ← ここがポイント } } }] } -
まとめ カヤックではSREチーム主導でポストモーテムを1年半運用してみました ポストモーテムを書くことには利点がたくさんあります ポストモーテムで得られた運用上の知見を共有するため sre-advisor というツールを作りました インシデント → ポストモーテム →
sre-advisor → 事前検出 → インシデントから得られた知見をコード化して平和を目指しましょう -
LICENSE Twemoji by Copyright 2021 Twitter, Inc and other contributors
is licensed under CC-BY 4.0