運用を犠牲にせずコストを制御し事業成長を支える B2B SaaS ID管理基盤におけるS3 Tableのログストレージ活用
by
株式会社カミナシ
×
Copy
Open
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
Slide 1
Slide 1 text
AWS AI Ready Platform Day Tokyo 運⽤を犠牲にせずコストを制御し事業成⻑を⽀える B2B SaaS ID管理基盤におけるS3 Tableのログストレージ活⽤ 株式会社カミナシ ⾼井 真⼈
Slide 2
Slide 2 text
⾃⼰紹介 高井 真人 博士(工学) 株式会社カミナシでID管理・認証認 可基盤の開発をしています。 好きなRFCは8628。 X:@manaty0226
Slide 3
Slide 3 text
今⽇話すこと AI Readyなデータ基盤であること ● ● 蓄積し続けるデータに対して、予測可能かつ制御されたコストによる運⽤ AIモデルが効率的にデータを処理できるよう読み出しやすい形式の提供 オブザーバビリティにおける AI Readyなデータ基盤の価値 ● ● 機械だけでなく⼈にも親和性の⾼いデータでシステムの推測可能性を⾼める 制御されたコストによるエージェントの閉ループ構築
Slide 4
Slide 4 text
カミナシとは
Slide 5
Slide 5 text
Mission ノンデスクワーカーの 才能を解き放つ
Slide 6
Slide 6 text
⽇本における 労働⼈⼝の割合 ノンデスクワーカーは⽇本の労働⼈⼝の半数以上。 私たちの⽣活は、あらゆる場⾯で ノンデスクワーカーに⽀えられている デスク ワーカー 43% 製造業 飲⾷店 スーパー‧⼩売 設備‧清掃 福祉施設 旅客‧運輸 ノンデスク ワーカー 57% ※ 独⽴⾏政法⼈労働政策研究‧研修機構「職業別就業者数」より当社算出
Slide 7
Slide 7 text
ノンデスクワーカーの働く環境 私たちの当たり前が 当たり前ではない世界。 プライベートではスマホを使いこなす⼈が、職場に⾏くととなぜか 紙とペンの世界にタイムスリップしてしまいます。
Slide 8
Slide 8 text
“現場の基盤” カミナシ 3つの領域をまたぐデジタルインフラに Method 作業 電⼦帳票 Men マニュアル‧研修 ⼈ Machine コミュニケーション 設備 設備カルテ 1つのアカウントで複数のシステムを利⽤。運⽤の負担軽減とセキュリティ向上
Slide 9
Slide 9 text
「カミナシ ID管理」プロダクトビジョン 地球上でもっとも ノンデスクワーカーに寄り添った アイデンティティプロバイダーへ
Slide 10
Slide 10 text
なぜID管理基盤のコストはサービス成⻑にクリティカルに影響するのか ID管理基盤はすべてのサービスがあらゆる場⾯で依存するため、サービス全体の成⻑ に⽐例して受け⼊れるべきリクエスト量が増加する テナント#1 … ログイン/ログアウト アクセストークン検証、更新 ユーザーやマスタ情報の参照 認証認可 ユーザー管理 テナント#n 組織マスタ管理 …
Slide 11
Slide 11 text
オブザーバビリティとコスト
Slide 12
Slide 12 text
オブザーバビリティの捉え⽅ Kalmanは1960年の論⽂で、ある特徴をオブザーバビリティ と名付け、数学的制御システムを説明しました。制御理論で は、オブザーバビリティとは、外部出⼒の知識からシステム の内部状態をどれだけうまく推測できるかの尺度として定義 されています。 引用:C. Majors, Liz Fong-Jones, G. Miranda 「オブザーバビリティエンジニアリング」O’Reilly, Jan. 2023,
Slide 13
Slide 13 text
Software Engineer as a Kalman Filter オブザーバビリティシグナル e.g. トレース‧メトリクス‧ログ 真の 出力 真のシステム状態 e.g. ユーザーリクエスト 入力 推定誤差 できるだけ一致させたい 推定した システム状態 推定した 出力 誤差が小さくなるようにフィードバック
Slide 14
Slide 14 text
オブザーバビリティシグナルのコスト要因 シグナルの取り込み シグナルの検索 ストレージ シグナルの保管
Slide 15
Slide 15 text
オブザーバビリティシグナルのコスト要因 ● ● 取得条件の絞り込み ダウンサンプリング シグナルの取り込み シグナルの検索 ストレージ ● ● シグナルの保管 保管期間の短縮 ストレージティアの調整 ● ● ● インデックス設定 検索期間の限定 データ量制限
Slide 16
Slide 16 text
主要なオブザーバビリティシグナルのコスト削減⽅法 メトリクス ディメンションの削減 ダウンサンプリング トレース ヘッド/テールサンプリング スパンフィルタリング ログは事象のwhyを⽰すことが多く重要な情報を含むため他の2つに⽐べて サンプリングすることが難しい ログ 重複ログの削減 ログレベルによるフィルタ ログの保存期間削減
Slide 17
Slide 17 text
CloudWatch Logsのコスト要因 CloudWatch Logsにログを取り込む たびにかかるコストで回避が困難 シグナルの取り込み シグナルの検索 ストレージ 検索期間によってコストが 跳ね上がる可能性 シグナルの保管 保存期間の調整やIntelligent-Tieringの利⽤でコ スト制御可能
Slide 18
Slide 18 text
ログストレージへのS3 Tables活⽤
Slide 19
Slide 19 text
Amazon S3 TablesとCloudWatch Logsをアプリケーションログストレージとして利⽤する際の⽐較 CloudWatch Logs コスト ログボリュームと保管期間に ⽐例して急峻に増加 スキーマ定義 不要 パイプライン ログルーターから直接投⼊ ストレージ運⽤ ストレージ運⽤の必要なし Amazon S3 Tables CloudWatch Logsと⽐較して 取り込み‧保管ともに価格を 抑えられる 必要 S3 Tablesへの投⼊や コンパクション運⽤は基本的 にマネージドで完結
Slide 20
Slide 20 text
ログパイプライン構成の⽐較 CloudWatch Logs ログルーターから直接 CloudWatch Logsに配信 ログルーター CloudWatch Logs S3 Tables+Firehose Data Firehoseなどを経由して 投⼊ログファイルが⼩さくな りすぎないよう バッファリングしながら S3 Tablesに配信 ログルーター Data Firehose S3 Tables Athena
Slide 21
Slide 21 text
Amazon S3 TablesとCloudWatch Logsのコスト⽐較 ログの取り込みコスト CloudWatch Logs ログの保管コスト 標準 標準 $0.76 / GB $0.033 / GB Archive Instant Access $0.0066 / GB 取り込みコストの差が⼤きい S3 Tables+Firehose Direct PUT + pinback compaction $0.098 / GB 標準 $0.0288 / GB Archive Instant Access $0.0058 / GB ※ 2026年7⽉時点の公式ページ記載の価格情報(東京リージョン)です。実際の価格は適宜ご確認下さい。
Slide 22
Slide 22 text
CloudWatch Logsから S3 Tablesへの移⾏
Slide 23
Slide 23 text
実運⽤も踏まえた段階的な移⾏ S3 Tablesに移⾏した後に実運⽤で致命的な運⽤⾯やコスト⾯での想定外事象が 発⽣した場合、S3 Tablesへ投⼊したログを再度CloudWatch Logsに移⾏して切 り戻すコストが⼤きい。 そこで、CloudWatch LogsとS3 Tablesに並⾏書き込みしながら実運⽤を経て段 階的に移⾏。 切り戻しのために ⼆重書き込み CloudWatch Logs ログルーター Data Firehose S3 Tables Athena
Slide 24
Slide 24 text
CloudWatch LogsとS3 Tablesの適材適所 すべてのログをS3 Tablesだけに送るのではなく、エラーレベル以上のログは CloudWatch Logsに送り即時確認したり、CloudWatch Alarmと連携してSlack にアラートする。 CloudWatch Logs CloudWatch Alarm Grafana S3 Tables Athena ID管理 API ログルーター サーバー Data Firehose
Slide 25
Slide 25 text
S3 Tablesへの移⾏効果
Slide 26
Slide 26 text
S3 Tablesへの移⾏に伴うコスト最適化効果 事前の試算のとおりコストの主要因であったCloudWatch Logsへの取り込みコスト をFirehoseとS3 Tablesへの移⾏で⼤幅に削減することができた
Slide 27
Slide 27 text
オブザーバビリティ基盤を利⽤したAIによるパフォーマンス改善サイクル クエリコストの低いS3 TablesとAthenaのスキャンバイト制限によって、予測可能で 制御されたコストによるエージェントループが可能となり、Grafanaへ安全にアクセ スするskillsをつくったことでチームの誰もが簡単にログ‧トレース‧メトリクスを横 断的に探索できるようになった。 IAM一時認証情報からGrafanaサービスアカウント の短生存期間トークンを取得してアクセス メトリクス トレース OpenTelemetry Collector Grafana ID管理 APIサーバー ログルーター Data Firehose S3 Tables Athena
Slide 28
Slide 28 text
AIエージェントの⽀援を得たことによって近づくオブザーバビリティの理想像 もっとも⻑く在籍する⼈が最⾼のデバッガーであるという ことはなくなりました。 もっとも好奇⼼が強く、最も粘り強く、新しい分析ツールを もっとも使いこなす⼈が最⾼のデバッガーになりました。 引用:C. Majors, Liz Fong-Jones, G. Miranda 「オブザーバビリティエンジニアリング」O’Reilly, Jan. 2023,
Slide 29
Slide 29 text
まとめ ● AI Readyなデータ基盤の1つの要件はコストが予測可能で制御されていること ● オブザーバビリティにおいては、機械可読性だけでなく⼈間にとってもあつか いやすい形式であることが望ましい ● CloudWatch Logsでは取り込みコストが⽀配的なため、取り込みコスト最適化 が⾒込めるS3 Tablesをアプリケーションログストレージとして採⽤ ● コスト削減したことでAIエージェントを存分に活⽤してシステムのボトルネッ クを探索できるようになった
Slide 30
Slide 30 text
株式会社カミナシ https://kaminashi.jp