BCC Developer Tutorial 副読本

Transcript

1. PEPABO SUMMER INTERN VERSION 近藤うちお / GMO Pepabo, Inc. 2020.09.08 bcc Python
 Developer Tutorial 徹 底 解 説 ！
2. この資料は何 •Python版「bcc Python Developer Tutorial」を通しでやってみる 際に参考になるかもしれない解説スライドです •@udzura の独断と偏見が含まれます •@udzura はRuby版BCCポート(*)を開発した人で、TutorialもRuby に移植した経験がありますが、それでも間違ったことを言っている可 能性はあります。
   IUUQTHJUIVCDPNVE[VSBSCCDD
   
3. 全体の攻略方針 •三分割できる •Lesson 1〜6: 第一章 BCCプログラミングの基本 •Lesson 7〜11: 第二章 収集したデータの出力方法 •Lesson 12〜16: 第三章 様々なるProbe •とにかく第一章が重要で難しい。 •ここさえ乗り切れば後はAPIを覚えていくフェーズになる。 •インターンの半分でLesson 6までやり切れば、ツールは何とか作れるはず？
4. 環境について •Ubuntu Bionic で大丈夫 •カーネル 5.3 あたりを明示的に入れたければどうぞ。
 その場合、linux-libc-dev パッケージを先のバージョンから
 ダウンロードして入れても良いかも。 •Focal はなんか不安定な印象がまだあるが、挑戦はいいんでは •Vagrant を使えば十分、むしろコンテナでは如何ともし難い •Linux の人も、いちおうVMを挟んでおきましょう
5. 第一章 BCCプログラミングの基本
6. 1. Hello World
7. BCCの動作確認 •やってることは: clone(2) のトレース •clone(2) は要するにfork()で、プロセスを作ったら呼ばれるsyscall •fork() -> exec() -> exit() の流れを復習しよう
8. 2. sys_sync()
9. 対象システムコールの変更 •kprobe__sys_BAR(...) という関数名をBCCで定義すると、
 自動でkprobeにアタッチされる。 •sys_BAR kprobe はシステムコール BAR(2) に対応する ※ hello_world.py を改修する ※kprobe = カーネルのシンボルに紐づくフック
10. 3. hello_fields.py
11. プログラムの基本形を覚える ※ printk() したら msg で取れる
12. 4. sync_timing.py
13. BPF Mapの基本的な使い方
14. BPF Mapの基本的な使い方
15. BPF Mapの基本的な使い方
16. 5. sync_count.py
17. 前のコードを改修しよう • ヒントなど: • key に 0 以外を指定すればストアする 値を増やせるよ（不要か？） • lookup()してNULLなら初期値、
 そうでなければ +1 した値を保存すれ ばカウンターになるのでは？ • もう差を取る必要は実はない • outputの手段は今のとこprintk()しか ありませんね...
18. 6. disksnoop.py
19. ブロックデバイスI/Oのトレース例 •押さえるべきこと: •trace_start()からtrace_completion()までの差分を計測している •struct request * のアドレスをキーがわりにする •一回一回のリクエスト構造体はカーネルのメモリ上では別々の位置 にあるはず（アドレスの使い回しはあるが、同時にはない） •printk() で無理やり3つの値を送っている
20. 自力でゆっくり 読んでみましょう
21. 第二章 収集したデータの出力方法
22. 7. hello_perf_output.py
23. Perf buffer の使い方 •コツ: •trace_fields() 系はtracefsの一つのファイルをtailしてるだけで、 複数同時にアウトプットできなくて混ざる •Perf bufferにデータを送り込む専用のデータ構造
 BPF_PERF_OUTPUT() •open_perf_buffer() はデータが来たときのコールバックの登録 •perf_buffer_poll() で待つ
24. 8. sync_perf_output.py
25. 4. の書き換え。 •コツ: •7. のコード構造を頭に叩き込んで落ち着いて頑張る。
26. 9. bitehist.py
27. ヒストグラムの出し方 •コツ: •ヒストグラム専用のデータ構造とヘルパーがあって便利ですね •struct request のメンバの確認の仕方などを押さえとくといい
28. 10. disklatency.py
29. disksnoop.py のリライト •コツ: •レイテンシ計測のパターンを思い出す •あとはレイテンシをヒストグラムに登録するだけ
30. 11. vfsreadlat.py
31. 定期表示系のトレーサの実装 •コツ: •CとPythonのファイル分割、b["dist"].clear() の2つの方法を
 覚えるためのレッスン。 •他は新しいことはないので復習。
32. 第三章 様々なるProbe、そして伝説へ...
33. 12. urandomread.py
34. tracepoint の利用 •コツ: •普通にtracepointを使う場合専用のマクロがある •マクロ経由の場合明示的なアタッチは不要 •tracepoint のフォーマット確認の仕方を押さえる
35. ちなみに •@udzura が雑に書いたtracepoint補完確認コマンドがある。 • https://gist.github.com/udzura/6d40a3f010aff2a4a58f632627ab7f89
36. 13. disksnoop.py fixed
37. kprobe → tracepoint の書き換え •コツというか...: •trepo() を使って当該tracepointの確認を... •してもよくわからんとなった場合は、 @udzura のRuby実装を眺め てもいいと思います。 •トレースポイント、ドキュメントがないよね...。
38. 14. strlen_count.py
39. uprobe の利用 •コツ: •地味に初めて「文字列をキーとしたハッシュ」を扱うので注意 •その他は既存のProbeと扱いは変わらない •get_table() で取れるテーブルはdict風のインタフェースがある
40. uprobe の確認方法 •1) readelf -s •2) bpftrace （ただし、snap版は使えない）
41. 15. nodejs_http_server.py
42. USDTの利用... •コツというか...: •node.jsをUSDT有効で用意するのが大変。頑張って •ヒント: “同じディレクトリにあるnode.jsのサーバプログラムを、 USDTを有効にした(--enable-dtrace)ビルドのnode.jsバイナリ で実行して計測する必要があります” •nodebrew はビルドオプションを渡せる。もしくは自分でbuild •USDT有効になっても、さらにusdt系の関数は癖があって大変。
43. USDTの確認方法 •1) readelf -n
44. USDTの確認方法 •2) bpftrace
45. 16. task_switch.c
46. ここまでの総集編 •コツというか...: •finish_task_switch() の定義をちゃんとカーネルソースコードを見て 確認するといいと思う •eBPF C側の関数の第2引数以降は、元の関数の引数がスライドする •後は、今までの知識で！
47. 17. Further Study
48. 登り始めた ばかりだからな...（AA略）