AI によってシステム障害が増える!? ～AI エージェント時代だからこそ必要な、インシデントとの向き合い方～

AWS Summit 2025で発表した資料です。

資料内の動画URL
https://youtu.be/mZ_SLpwFHcs?si=dDg7_VgaBx22JnNd
https://youtu.be/CG7DqWmwYgg?si=mALU7l1HZ8u6wDqP
https://youtu.be/PmC735-3c2I?si=qeXcnFLkLdTUXeG2

Transcript

1. AI によってシステム障害が増える !? AI エージェント時代だからこそ必要な、 インシデントとの向き合い方 PagerDuty Product Evangelist Kazuto Kusama @jacopen
2. Kazuto Kusama @jacopen Product Evangelist @PagerDuty Japan Organizer @Platform Engineering Meetup Founder @Cloud Native Innovators Association
3. 2025年 AIエージェント元年 って言われてるのを メディアで見たことある人も多いでしょう
4. AIエージェントの活用方法 コーディング Cursor Cline Devin など 複雑なリサーチ Deep Research 業務プロセス 自動化 カスタマー サポート自動化 Proprietary & Confidential ぱっと思い浮かぶのはこんな感じですが、 他にも無限に活用方法がありますね
5. AIエージェントに対する期待値 出典『PagerDuty 2025 State of Digital Operations report』 (N=1,103) 質問「今後1〜2年以内にAIエージェントが運⽤⾯でどれくらい重要になると思いますか？」 38% 50% 10% 1% 重要ではない 判断は時期尚早 部分導⼊ 本格導⼊ 今後1〜2年以内に AIエージェントを 導⼊予定と回答した 企業の割合 88%
6. 企業のシステム開発に 何が起きるのか
7. アプリケーション開発の高速化 AIエージェントがコーディング作業の大半を代 行してくれることにより、アプリケーション開発 が格段に高速化。 ⇨ 生み出されるアプリケーションの数が増大 する
8. 少数精鋭のチーム構成に アプリケーション開発に必要な人数が減少、少 数精鋭によるチーム構成に これまでは7〜8人程度のチームで開発に当た るのが最も効率が良いとされてきた (Two-pizza rule) AIエージェントがコーディングを担うことで、 AI に適切な指示を下せる2, 3人のチームになっ ていく可能性 ⇨ 多数のチームに分割され、多くのアプリ ケーションが開発されるようになる
9. アプリケーション開発の民主化 知識を持つ人に限られていたアプリケーション 開発 ノーコード・ローコードツールも多数存在した が、ツールの枠は超えられず、自由度は低 かった。 AIエージェントによって、作りたいものの概要 を伝えるだけで、自律的に開発が進むように。 ⇨ アプリケーションの作り手が非エンジニア まで拡大する
10. 結果として起こること Proprietary & Confidential チームの分割 これまで手が回らず作れ なかったものが作れるよう になる 開発の高速化 必要な時に必要なものが 素早く生み出されるように なる 作り手の層の拡大 ドメイン知識を持った非エ ンジニアによって、より業 務に即したものが作られ るようになる 総じて良い効果があるように思います。 いずれも、アプリケーションの数やデプロイ頻度が急 増する理由になるでしょう
11. 全体的には、すごく良いこと しかし・・・
12. 障害のほとんどはデプロイによって引き起こされる “障害のほとんどはデプロイによって引き起こされる。した がって、デプロイが増えると障害も増え、結果としてインシデ ント管理、軽減策、ポストモーテムが必要となる ” エレガントパズル　エンジニアのマネジメントという難問にあなたはどう立ち向かうのか より引用 https://www.amazon.co.jp/dp/4296070916 ⇨ 開発が高速化するとデプロイも増え、インシデントが増え る アプリケーションのデプロイ回数が増えると言うこと は、障害が増えることを意味しているのです
13. 複雑性の増加 少数精鋭のチームによって生み出されたサービ スは、それぞれがAPI等で連携する。いわゆるマ イクロサービスアーキテクチャ スケーラブルなアプリケーションにするためには 重要なことだが、複雑性が増しインシデントが増 える
14. 人の目を通さないコードの増加 エンジニア、非エンジニアどちらにおいても、人の 目を通さないコードが増加する。 専門的知識が無くても開発出来る時代だが、必 ずしもセキュアで、スケーラビリティが担保され、 バグのないコードとは限らない 専門知識を持った人の目を通さないコードがデプ ロイされることで、予期せぬ障害やセキュリティ 侵害が起きてインシデントになる
15. つまり、AIエージェント時代になる とインシデントが増える！
16. ではどうするか Proprietary & Confidential アプリケーションの 数を制限 高速開発を諦めて 従来の方法に戻す 非エンジニアによる 開発を辞めさせる じゃあ、AIやめますか 高速開発諦めて、アプリケーションの数は減らしてシン プルに、そして専門家のみによる開発に
17. ではどうするか Proprietary & Confidential アプリケーションの 数を制限 高速開発を諦めて 従来の方法に戻す 非エンジニアによる 開発を辞めさせる それは違う
18. AIエージェントによる恩恵は 最大限受けるべき ではどうするか
19. 障害のほとんどはデプロイによって引き起こされる “障害のほとんどはデプロイによって引き起こされる。 したがって、デプロイが増えると障害も増え、結果として インシデ ント管理、軽減策、ポストモーテムが必要となる ” エレガントパズル　エンジニアのマネジメントという難問にあなたはどう立ち向かうのか より 引用 https://www.amazon.co.jp/dp/4296070916 この一節にはこうも書いてあるのです
20. そこで そして、それができるのがPagerDutyなのです
21. 1. 検知 2. トリアージ 3. 動員 4. 協⼒/解決 5. 学習/予防 ライフサイクル全体を通して、インシデントの状況をリアルタイムで可視化 インシデントを特定 ⾃動処理 運⽤改善のための 知⾒を提供 最適な担当者に通知 迅速な解決を⽀援 あらゆるツールから イベントを受信 架電、 SMS、メール Appプッシュ通知、チャット ⾃動エスカレーション スケジュール管理 診断‧修復作業の⾃動化 チーム内外と円滑に連携 クラウド コンテナ マイクロサービス ネットワーク アプリ‧サービス セキュリティ データベース サーバー ソーシャル PagerDuty Operations Cloud インシデントをより早く‧少ないリソースで解決 / 将来のインシデントを未然に防ぐ 担当者が最適な 通知⽅法を選択 対応履歴 MTTA/MTTR 分析 担当者の負荷状況 ポストモーテム 解決のヒントを提⽰ • 過去の類似インシデント • 直近の構成/コード変更 ...etc. 80%-99% ノイズ削減 700+ Integrations
22. まずは基本をしっかりと Proprietary & Confidential インシデント対応 プロセス構築 初動対応から復旧、事後 分析までの標準化された フロー オブザーバビリティ メトリクス、ログ、トレース が整備され、異常の検知 と原因追跡が可能な状態 情報共有と 連絡手段 コミュニケーションチャネ ル整備、ステークホル ダーとの定期報告や広報 プロトコル AIエージェント時代に必要なこと。派手な新技術でどう にかしたくなりますが、まずは基本に忠実になることが 大事です。基本が無ければ、新技術も活用できませ ん。
23. インシデントが起きたときには 必要なアラートだけに絞り込み 電話やSMS、プッシュ通知、Slack など、人それぞれ適した通知 一次対応者 (応答がなければ) 二次対応者 オンコールの ローテーション Amazon CloudWatch
24. かしこくスケジュール 必要なアラートだけに絞り込み 電話やSMS、プッシュ通知、Slack など、人それぞれ適した通知 9:00-17:00 GMT グローバルな連携 JP EU US 17:00-1:00 GMT 1:00-9:00 GMT Amazon CloudWatch
25. AIエージェント時代だからこそ、振り返りが必要 起きてしまったインシデントは、きちんと分析して 改善に繋げる AIエージェントによる問題？人為的なミス？ イン フラの障害？ 障害によって対処すべき方法が異なる。きちん と振り返り「インシデントが繰り返し起きないよう 対処」することが重要
26. PagerDuty によるエンドツーエンドのインシデント管理 MOBILIZE RESOLVE DOCUMENT MITIGATE LEARN DETECT アラート発⽣ ＆ チームの招集 学習 インシデント 復旧作業 インシデント 事後レビュー インシデント 対応 重要な コミュニケーションの 維持 改善 インシデント分析
27. インシデント分析 インシデントからの学びを⽀援 • タイムラインを⾃動⽣成 • Slackチャンネル、DM、スレッド の情報を取り込み可能 • インシデント解決に繋がった重要 なきっかけを特定 • 関係者向けにレポートをエクス ポート可能 Confidential *GenAI is a separate opt-in
28. インシデント間の関連 性から気づきを得る パターンを可視化 • オンコール対応がどのように機 能しているかを理解する • ツールや関係者全体のパターン を特定する • よりレジリエントなシステムと 運⽤チームを⽬指して継続的に 改善する Confidential *GenAI is a separate opt-in
29. 開発・運用に分ける考え方の限界 AIエージェント時代では、開発と運用に役割を分 けること自体が困難になる。 アプリが障害を起こしたとき、運用の人に対して 「AIが書いたコードだから仕方ないね」と言った らどう思うか そもそもたくさんのアプリを運用チームが面倒見 るのは困難だし、対応が難しい
30. フルサービスオーナーシップの適用 「コードを書いた者が、その責任を負う」 設計と実装の点から見て、テクノロジーに最も精 通した人が製品開発ライフサイクル全体の責任 を引き受ける運用モデル 本番環境において自分が書いたコードの責任を 負うよう、最もシンプルな形でエンジニアに権限 を与える Build Test Ship Run You build it, you run it.
31. 「開発者に運用もやらせる」ではなく 「ライフサイクルに責任を持たせる」 Build Test Ship Run スケールアウトがしやすい実装 (コンテナオーケストレーターの自 律復旧に委ねる) ビルドやパッケージングの自 動化 素早いビルドの工夫 実行パラメータの外部注 入(環境依存の排除) トラブルシュートしやす いログの工夫 インフラのコード化 フィードバックループで改善を続け、呼び出しの頻度を減らす
32. AIエージェント時代のインシデント には、AIエージェントで対応 ということで、新技術の話もしていきましょう。 自律的に動くAIエージェントならば、 インシデント対応も行わせることができるのです
33. PagerDuty AIエージェント AIエージェントで業務をよりスマートに、効果的に、迅速に Shiftエージェント SREエージェント Insightsエージェント ここには書かれていませんが、Scribe Agentという書 記エージェントで、ZoomやTeamsの文字起こしもでき るようになります
34. さまざまな業界のユースケース LLM Ops Data Ops ⾦融サービス テクノロジー および電気通信 旅⾏および ホスピタリティ 公的機関 Fin Ops ⼩売 メディアおよび エンターテインメ ント Operations Cloud セキュリティ インシデント 管理 DORA コンプライアンス クライシス オペレーション ソリューション サービスオーナーシップの拡張 デジタル運⽤レジリエンス 顧客体験運⽤ 遠隔オペレーションの⾃動化 インシデント管理のトランスフォーム 運⽤センターの現代化 ⾃動化の標準化 広範な API と インテグレーション 独⾃の基礎データモデル ノーコードからプロコード までを⾃動化 メンテナンス時間帯ゼロ 埋め込みAI∕ML、⽣成AI
35. インシデントの類型 ⼗分理解 している チームはこのシナリオを 経験済みで、何をすべきか を熟知している 100% AIと⾃動化 AIと⾃動化 + 対応者によるアシスト 対応者主導+ AIと⾃動化 部分的に 理解している チームはこのような事態を経 験済みで、潜在的な修復⼿段 を知っている。 未知で新しい 新規、または専⾨家の 注意が必要なインシデント
36. 未知で新しい インシデントへの 対応
37. https://youtu.be/mZ_SLpwFHcs?si=_u_Z4HfcsT2WwKRi 未知で新しいインシデントを、AIの支援を 受けながら人間が対応。 無事解消した後は、AIの推奨に従って自 動化を実装するという内容の動画です
38. 部分的に 理解している インシデントへの 対応
39. https://youtu.be/CG7DqWmwYgg?si=3ubTHjQb8N2HpmRV 決済サービスでのインシデント発生から AI エージェントと人の連携による復旧、そし て今後はAIによる自動化で、より迅速か つスマートな対応が期待されるという内容 の動画です
40. ⼗分理解している インシデントへの 対応
41. https://youtu.be/PmC735-3c2I?si=Eb_4OovAatgwT91H 朝起きたらインシデントがSRE Agentに よって自動修復されていました。さらに、 Insightエージェントが過去のパフォーマン スを分析し、通知の削減などの最適化提 案を行うことで、チームがより重要な業務 に集中できるようになることを説明してい ます。
42. まとめ • AIエージェントによって多くの恩恵が得られる一方、 新たなインシデントも産まれる可能性がある • 恩恵を受けつつインシデントへの体制を作っていくことが重要 • AIエージェントによるインシデントを、 AIエージェントで対応していくことも • PagerDutyを活用して、AI時代の体制を作っていきましょう • このセッションに興味をもったら、是非 PagerDutyブースへ！