ナレッジイネイブリングにAIを活用してみる ゆるSRE勉強会 #9

ゆるSRE勉強会 #9 〜最近始めた取り組み共有大会〜
https://yuru-sre.connpass.com/event/342085/

Transcript

1. NEALLE ナレッジイネイブリングに AIを活用してみる 1 2025/02/21 ゆるSRE勉強会#9 株式会社ニーリー 宮後 啓介 @miya10kei
2. 2023年にニーリーにジョイン SREとしてサービスの信頼性やアジリティ向上の施策を実施。 最近はほぼSREとは別にAIや機械学習系のことにチャレンジ中 2 自己紹介 @miya10kei 株式会社ニーリー プラットフォーム開発G SREチーム リーダー Keisuke Miyaushiro 宮後 啓介
3. 3 • 開発チーム内からSREに対して、日々問い合わせが飛んでくる💦 ◦ 例：〇〇に繋がらないんだけど ◦ 例：〇〇っての挙動ってこれであってますか？ ◦ 例：システムの〇〇の状態って確認できます？ • 問い合わせの中にはその場で即答できるものも割とあったりする ◦ 直接的な原因は回答できなくても、いくつか予測はついたりする 背景・課題
4. • ドキュメントはあるけど、問い合わせがくる 　→　形式知にはなっているが、たどり着けていない • ドキュメントはないけど、問い合わせに即答できる 　→　個人の暗黙知になっていて、他者が活用できない 4 背景・課題
5. SREは広範囲にシステムを見ていて多くの知識を蓄積しているので それを広める責務があるのでは？ 5 背景・課題
6. 6 「蓄えたナレッジ（知識）」を誰でも「活用できる」ようにする ＝ 「ナレッジイネイブリング」 背景・課題
7. 7 まずは、形式知に誰でもたどり着けるようにすることで知識の活用を目指す →　暗黙知を形式知にするインセンティブを生み出していく 取り組み
8. 8 取り組み RAG（検索拡張生成）を用いたチャットボット • 既存のドキュメントを活用することができる ◦ 社内のナレッジはConfluenceに蓄積されている • 知りたいことを文章で尋ねることができる（脱キーワード検索） • チャット形式でやりとりの往復が可能 • クラウドベンダー／AIベンダーがRAGを構築する仕組みを提供しており、低コス トで実現可能
9. 9 取り組み Amazon Bedrock Knowledge Baseを使って構築 • （プレビューだが）データソースとしてConfluenceをサポートしている
10. 10 取り組み Slackからチャットベースでやりとり • スレッド単位で会話をメモリーに記録 ◦ チャットのやりとりが可能 • 参照ソースを合わせて提示 ◦ 利用者による詳細の確認が可能
11. 一定回答はしてくれるが、期待通りの精度にはまだなっていない • ドキュメントフォーマットをAIフレンドリーに整える • ドキュメント長とチャンクサイズの調整 • プロンプトエンジニアリング 回答できる範囲がまだまだ限定的 • まずは（気合で）ドキュメントを整備 💪 ◦ 有効性を示して、暗黙知 -> 形式知にする流れを作りたい • Slackでの過去の問い合せなど、フロー情報をストック情報に変換していく 11 取り組んでみての所感
12. Thank you 12