ISUCON入門

目次【概要】【環境構築】【問題解く】

【概要】

ISUCONとは • Iikannjini Speed Up Contest（いい感じにスピードアップコンテスト） ◦ お題として、わざと性能を悪くしたアプリサーバが渡される ◦ 参加者はシステムのボトルネックを見つけて改善をする
◦ ベンチマーカーという速度計測サーバで点数が出る ◦ 点数が一番高いチームが勝ち

どんなお題が出る？ • 写真投稿サイト「Iscogram」を早くせよ ◦ 一番有名な練習問題 ◦ 定番の改善方法を適用していく ▪ DBに目次番号を振って検索を早くする ▪
使ってないCPUコアを使って負荷分散する ↓ 実際に解いてみたのでやったことを共有します

【環境構築】

【環境構築】 1. AWSでサーバを用意する a. Iscogram本体が動くサーバ b. ベンチマーク用サーバ 2. 自分のPCからサーバに接続する 3.
ベンチマークを動かしてみる

1. AWSでサーバを用意する[1/10] 作成するサーバ名を決める ①

1. AWSでサーバを用意する[2/10] Iscogram作者が公開してるサーバテンプレートを選択 ① ②

1. AWSでサーバを用意する[3/10] 2コア4GBメモリのスペックを選択 ① ②

1. AWSでサーバを用意する[4/10] キーペアを作成（サーバにログインするときに使う） ① ②

1. AWSでサーバを用意する[5/10] セキュリティグループを作成 ① ② ③ ④ ⑤ ※PCからサーバにログインする用（SSH） ※PCからIscogramのwebページを見る用（HTTP）

1. AWSでサーバを用意する[6/10] サーバを作成 ①

1. AWSでサーバを用意する[7/10] サーバに振られたIPアドレスをメモ ①

1. AWSでサーバを用意する[8/10] ブラウザを開いて、IPで検索するとIscogramがみれる ①

1. AWSでサーバを用意する[9/10] 同じ要領で2台目のサーバを作成する（ベンチマーク用） • 名前：test-isu-bench • テンプレート：ベンチマーク用に公開されてるテンプレート • スペック：2コア4GBメモリ •
キーペア：1台目で作ったやつ使いまわす • セキュリティグループ：1台目で作ったやつ使いまわす ※赤文字が1台目と違う部分

1. AWSでサーバを用意する[10/10] サーバを2台用意できた

2. 自分のPCからサーバに接続する[1/3] TeraTermからベンチマーク用サーバのIPに接続 ① ②

2. 自分のPCからサーバに接続する[2/3] ユーザ名：ubuntu、秘密鍵：さっき作成したキーペア ① ② ③

2. 自分のPCからサーバに接続する[3/3] ログイン出来た

3. ベンチマークを動かしてみる[1/3] IscogramサーバのIPを指定してベンチマークを実行 ① ②

3. ベンチマークを動かしてみる[2/3] 点数が出た

3. ベンチマークを動かしてみる[3/3] 内容を確認 { "pass":true, →ステータス：合格 "score":626, →点数：626点 "success":582, "fail":3,
"messages":[ "リクエストがタイムアウトしました (POST /login)", "リクエストがタイムアウトしました (POST /register)" ] }

【問題解く】

【問題解く】 1. ベンチマーク中の負荷を見る 2. MySQLを早くする 3. 再度ベンチマークを回す

1. ベンチマーク中の負荷を見る[1/5] IscogramサーバとベンチサーバでTeraTermを2個開いておく Iscogramサーバ topコマンド打ってる状態ベンチサーバなにもしてない

1. ベンチマーク中の負荷を見る[2/5] 実行前

1. ベンチマーク中の負荷を見る[3/5] 実行中

1. ベンチマーク中の負荷を見る[4/5] 実行終了後

1. ベンチマーク中の負荷を見る[5/5] • MySQLがボトルネックになっていそう ◦ CPUを100%近く使っている

2. MySQLを早くする[1/8] • MySQLのログ出力を有効化 ◦ MySQLの設定ファイル（/etc/mysql/mysql.conf.d/mysqld.cnf）に追記 slow_query_log = 1 #
ログ出力を有効化 slow_query_log_file = /var/log/mysql/mysql-slow.log # ログの保存場所を指定 long_query_time = 0 # 0秒以上かかる処理（＝全部）を出力

2. MySQLを早くする[2/8] 処理に時間がかかった順にログを簡略に表示 isucon@main:/var/log/mysql$ sudo mysqldumpslow /var/log/mysql/mysql-slow.log Reading mysql slow
query log from /var/log/mysql/mysql-slow.log Count: 1315 Time=0.04s (53s) Lock=0.00s (0s) Rows=2.7 (3576), isuconp[isuconp]@localhost SELECT * FROM `comments` WHERE `post_id` = N ORDER BY `created_at` DESC LIMIT N →この処理が重いとわかる Count: 17 Time=0.04s (0s) Lock=0.00s (0s) Rows=7.1 (121), isuconp[isuconp]@localhost SELECT * FROM `comments` WHERE `post_id` = N ORDER BY `created_at` DESC Count: 1 Time=0.02s (0s) Lock=0.00s (0s) Rows=0.0 (0), isuconp[isuconp]@localhost DELETE FROM posts WHERE id > N Count: 2 Time=0.02s (0s) Lock=0.00s (0s) Rows=9982.0 (19964), isuconp[isuconp]@localhost SELECT `id`, `user_id`, `body`, `mime`, `created_at` FROM `posts` WHERE `created_at` <= 'S' ORDER BY `created_at` DESC ～以下略～

2. MySQLを早くする[3/8] さっきの簡略版で見つけた重い処理を詳細に表示 ↓ 3行の結果を得るために100003回も処理をしてる # Time: 2024-08-25T14:23:36.761267Z # User@Host:
isuconp[isuconp] @ localhost [] Id: 9 # Query_time: 0.040491 Lock_time: 0.000002 Rows_sent: 3 Rows_examined: 100003 SET timestamp=1724595816; SELECT * FROM `comments` WHERE `post_id` = 9998 ORDER BY `created_at` DESC LIMIT 3;

2. MySQLを早くする[5/8] commentテーブルの作りを見る ↓ 目次（KEY）がidしか設定されてない目次（KEY）にpost_idも必要 mysql> show create table
comments¥G *************************** 1. row *************************** Create Table: CREATE TABLE `comments` ( ～略～ PRIMARY KEY (`id`) )

2. MySQLを早くする[6/8] commentテーブルに目次（post_id）を追加 mysql> alter table comments add index index_post_id
(post_id); Query OK, 0 rows affected (0.60 sec) Records: 0 Duplicates: 0 Warnings: 0

2. MySQLを早くする[7/8] 改めて、commentテーブルの作りを見る mysql> show create table comments¥G ▪前 ***************************
1. row *************************** Create Table: CREATE TABLE `comments` ( PRIMARY KEY (ìd`) ) ▪後 *************************** 1. row *************************** Create Table: CREATE TABLE `comments` ( PRIMARY KEY (ìd`), KEY ìndex_post_id` (`post_id`) ) ↓ 目次（KEY）が追加された

2. MySQLを早くする[8/8] 改めて、処理（DBのクエリ）がどのように実行されるのか見る mysql> explain SELECT * FROM `comments` WHERE
`post_id` = 9998 ORDER BY `created_at` DESC LIMIT 3; ▪前 | id | table | possible_keys | key | rows | —--------------------------------------------------------------------- | 1 | comments | NULL | NULL | 99666| ▪後 | id | table | possible_keys | key | rows | —---------------------------------------------------------------------- | 1 | comments |index_post_id | index_post_id | 4 | ↓ 99666ページみてたのが4ページになった

3. 再度ベンチマークを回す[1/5] 実行前

3. 再度ベンチマークを回す[2/5] 実行中

3. 再度ベンチマークを回す[3/5] 実行終了後

3. 再度ベンチマークを回す[4/5] • MySQLのボトルネックが解消した ◦ CPU使用率が100%から40%程度まで減った • ベンチマークの点数が上がった ◦ 点数が626点から9060点になった

3. 再度ベンチマークを回す[5/5] Iscogram、まだ出来ることが沢山ある • 初期状態（約650点） • commentテーブルにインデックスを追加する（約7000点） • unicorn workerプロセスを4にする（約15,000点）
• 静的ファイルをnginxで配信する（約17,000点） • アップロード画像を静的ファイル化する（約22,000点） • GET / を解析する（約点） • postとuserをJOINして必要な行数だけ取得する（約90,000点） • ベンチマーカーが使用するファイルディスクリプタ上限を増加させる • プリペア度ステートメントを改善する（約110,000点） • commentテーブルにインデックスを追加する（約115,000点） • postからのN+1クエリ結果をキャッシュする（約180,000点） • 適切なインデックスが使えないクエリを解決する（約200,000点） • 外部コマンドの呼び出しをやめる（約240,000点） • MySQLの設定を調整する（約255,000点） • memcachedへのN+1を解消する（約300,000点） • RubyのYJITを有効にする（約320,000点） ※今日やったのはココ ※ISUCON本参照

Appendix 明日から選んでやってみて欲しいこと • Iscogramを解く ◦ 環境構築：https://qiita.com/masayasviel/items/353024f7f2e292572942 ◦ 目次貼るやつ：https://qiita.com/kaito_399/items/e1d8a383bacd534db641 • ISUCON過去13回の過去問を解く
• 9月に実施予定の公式ハンズオンに参加する • ベッドでYouTubeショートを見て、変わらない日を過ごす

ISUCON入門

ISUCON入門

More Decks by てとらぽ

Featured

Transcript