K8sGPTでクラスタのAI分析やってみた

Kubernetes Novice Tokyo #28 LT2の登壇資料です。

Transcript

1. K8sGPTでクラスタのAI分析やってみた Kubernetes Novice Tokyo #28 Matsui @blaaackard
2. 自己紹介 • 名前：松井 僚太郎 (社会人3年目) • 会社：某SIer • 業務：非機能改善/インフラのメンテナンス等 • 技術：GoogleCloud ,Kubernetes(GKE) • 趣味：ウイスキー、サウナ、旅行、阪神 etc.
3. 登壇の経緯 • 外部登壇してみたいという想い • 逆井さんの煽り後押しを受けて
4. 本日お話する内容 • K8sGPTとは • K8sGPT使って実際にクラスタの分析してみた • 使ってみた感想
5. K8sGPTとは • Kubernetes クラスタ内の問題を探索し、評価、解説するためのツール • SREの専門知識が組み込まれている • 実行自体はシンプルで`k8sgpt analyze`というコマンドを叩くだけ • k8sgpt-operatorをクラスタにデプロイすることもできる(自動で分析可能) ※Canvaの画像生成AIで作成したイラスト
6. K8sGPTとは • CNDF2023でスリーシェイクのnwiizo さんが詳細に説明している • AIOｐｓについての説明もあり、とても 分かりやすいです https://event.cloudnativedays.jp/cndf2023/talks/1885
7. 積極的なリリース https://github.com/k8sgpt-ai/k8sgpt
8. 利用可能なAnalyzers 下記コマンドで使用可能 ❯ k8sgpt filters add HorizontalPodAutoScaler ❯ k8sgpt filters add PodDisruptionBudget ❯ k8sgpt filters add NetworkPolicy
9. 実際に使ってみる 1. ChatGPTに問題を含んだマニフェストファイルを作成してもらう 2. 上記ファイルをクラスタに適用する 3. K8sGPTで分析する 4. 分析結果からマニフェストファイルを修正する 5. 再度K8sGPTで分析する
10. 実際に使ってみる プロンプトエンジニアリング 頑張りたい…
11. 実際に使ってみる • Namespaceで絞り込み • Solution表示 • 日本語化
12. 実際に使ってみる • 問題を修正して適用 • 再度K8sGPTで分析
13. 実際に使ってみる • PersistentVolumeClaim • 存在しないStrageClassを指定 • Deployment • ノードのリソースが不足するようにlimits/requestsを指定
14. 複雑な問題はどうか • 業務で実際にあった問い合わせ あるpodがPending状態で起動してないペン… Describeで見るとスケジューリングが問題ぽいけど原因が分からないペン… そのリソースはStatefulSetとして定義されているペン 紐づくPersistentVolumeと同じゾーンで起動しているノードに乗せてあげる 必要があるんだけど、対象ノードのリソースが全て埋まっているペン… 対象ノードのpodを一旦他ノードに移して対処するペン
15. 複雑な問題はどうか • 検証クラスタで事象を再現 • K8sGPTで分析 Podのスケジュールは提案してくれている 初心者目線だとStatefulsetとPersistentVolumeのZoneについて 触れてくれた方が親切だな…
16. 使ってみた感想 • 単純な問題についての解析は容易にできる • 問題があるリソースの洗い出しに便利 • わざわざdescribeする必要がない • k8sgpt-operatorを導入して継続的なリソース監視は有効そう • Prometheus や Alertmanager などとの統合も可能 • 商用環境で使うのはハードル高そう • AI Providerに対する信頼 • 今後の機能追加や性能向上に期待！
17. ご清聴ありがとうございました