SMTPでのOpenTelemetryの可能性を考えてみる

1. 1 SMTPでのOpenTelemetryの可能性を考えてみる 渡部 ⿓⼀ Pepabo Tech Conference #22 春のSREまつり 2024.05.09
2. 技術部プラットフォームグループ 2021年 中途入社 2 自己紹介 渡部 龍一 Watanabe Ryuichi • ロール: SRE、メールエンジニア(自称) • SNS: @ryuichi_1208 • 好きなこと: EOL対応、障害対応
3. メールの仕組みのおさらい 3
4. 4 イントロダクション 届いた！ メール送信！
5. 5 送信者 MTA MDA MTA MDA SMTP SMTP MXレコード 問い合わせ DNSサーバ 宛先: test@exmaple.com 送信元サーバ 送信先サーバ mail box 受信者
6. 6 これ以外にも複数の登場⼈物がいる
7. 7 SMTPのシーケンス図
8. 割と複雑！ 8
9. 9 テストで送ってみたメールが届かないんですが ...
10. 10 どこで落ちてるのか調べるのが⼤変
11. 11 • 送信⽤メールクライアント⾃体がバグっている • アプリケーションのバグ • ウイルス判定されている • リレー設定のミス • メールサーバのサービスが⽌まっている • IPレピュテーションの低下によって送信先で拒否されている • 送信先のメールサーバで拒否する設定になっている 考えられる原因
12. メールサービスでも分散トレースしたい！ 12
13. そうだOpenTelemetryだ！ 13
14. trace/log/metricsをどう実装するか 14
15. 15 • アプリケーションでtrace idを発⾏してヘッダーに挿⼊する ◦ traceparentをメールヘッダーに⼊れる • Postfixでは、Milterと呼ばれるAPIが提供されている ◦ 「mail filter」の略 ▪ Rspamd / clamav-milter ◦ SMTPプロトコル処理の各段階をフックできる ▪ DATAコマンドやMAIL FROMコマンドの各フェーズでトレースの送信ができる ◦ Milterでアトリビュートを⼊れつつtraceを送信 trace
16. 16 • Postfixではメールヘッダーをログに書き出すことができる ◦ /etc/postfix/header_checksあたりに追記 ▪ /^Received:/ PREPEND traceparent: $traceparen ▪ td-agentからlokiなりのOtel Backendに送信して連携 • Milterでログを出⼒して送信する⽅針でも良い ◦ 送信元や送信ステータスを属性として出⼒ log
17. 17 • kumina/postfix_exporterあたりを使⽤ • open-telemetry/opentelemetry-collector-contribにはメール関連のサーバは ない ◦ コントリビューションのチャンス..?? • メールのステータスコード40xとか50xとかとトレースやログに紐づけられたら 便利そう metrics
18. 実装⽅針(現在作業中) 18
19. 19 • Pythonで使えるpymilterを⽤いて実装 ◦ Milterプロトコルを喋れれば実装⾔語⾃体に制限はないが情報が多そうな Pythonを選定 • OtelでPythonはTrace/MetricsはstableだがlogsはExperimental ◦ Postfix + fluent-bitの組み合わせで考えてる Milterで実装していく
20. まとめと今後やりたいこと 20
21. 21 • メールサービスでもトレースやログがあると便利 • PostfixではMilterを⽤いることでSMTPの各処理でフックできるのでトレースを埋め込 みやすい • 「SMTP OpenTelemetry」とか「Postfix OpenTelemetry」でググってもヒット数0な ので取り組むのは結構⾯⽩そう まとめと今後やりたいこと
22. 22 ご静聴ありがとうございました