$30 off During Our Annual Pro Sale. View Details »

Amazon Bedrock Agents と Chatbot で無敵のOpsになる

Ryo Yoshii
October 17, 2024

Amazon Bedrock Agents と Chatbot で無敵のOpsになる

2024年10月15日に開催された Toranomon Tech Hub 第一回 ~好きなクラウドサービス紹介 LT大会~ で発表した資料を公開します。

https://toranomon-tech-hub.connpass.com/event/331981/

Ryo Yoshii

October 17, 2024
Tweet

More Decks by Ryo Yoshii

Other Decks in Technology

Transcript

  1. 2 ©MIXI 吉井 亮 (YOSHII RYO) • 経歴 HWエンジニア →

    中⼩SIer → ERPコンサル → AWS パートナー → 株式会社MIXI (2023年7⽉〜) • Community OpsJAWS (AWS Community Builder) • 好きな⾔葉 No human labor is no human error. Follow Me https://my.prairie.cards/u/YoshiiRyo1 ⾃⼰紹介
  2. ©MIXI エモーションと コミュニケーションで 「心もつながる」場と機会を 創造し続けます。 MIXI GROUPは、 ただ「つながればいい」という効率的な機能の提供ではなく、 歓喜や興奮、温かな思い、幸せ、居心地の良さの共有を通じて、 その先に、もっと深くて濃く豊かな、心のつながりを生み出すような、

    サービスの開発・提供を目指しています。 現在、スポーツ・ライフスタイル・デジタルエンターテインメント の3つの領域で事業を展開しており、 それぞれの主な事業内容は右の通りです。 また、近年の投資活動の拡大と重要性を勘案し、 FY2023からはスタートアップやファンド出資等の投資活動を事業化しました。 スポーツ事業 プロスポーツチーム運営および 公営競技ビジネスの推進 ライフスタイル事業 インターネットを活用し、 人々の生活に密着したサービスの提供 デジタルエンターテインメント事業 スマホゲームを中心としたゲームの提供 MIXI GROUPの事業領域 
 3つの領域で “「心もつながる」 場と機会” を創造する事業を推進
  3. 55 ©MIXI MIXI GROUPについて 豊かなコミュニケーションを広げ、 世界を幸せな驚きで包む。 PURPOSE 創業以来大切にしてきた豊かなコミュニケーションで幸せな驚きに包まれ た世界を目指し、ただ「つながればいい」という効率的な機能の提供では なく、あたたかい心のつながりを生み出すようなサービスの開発・提供を

    行っています。 3つの事業領域で「心もつながる」場と機会の創 造 ─ スポーツ、ライフスタイル、デジタルエンターテインメント ─ BUSINESS スポーツ領域ではチーム・選手・ユーザーのつながり、ライフスタイル領 域では人々の生活がより豊かになるような身近なコミュニケーション、デ ジタルエンターテインメント領域では親しい友人達と一緒に遊んだり、リ アルイベントで盛り上がれる場や機会の提供など、「心もつなぐコミュニ ケーション」を軸とした事業展開を行っています。 ユーザーサプライズファースト、発明・夢中・誠実 大胆な発想と情熱と何事にも真摯に向きあう文化 CULTURE/PEOPLE ユーザーの驚きを最優先に考えるという想いのこもった「ユーザーサプライ ズファースト」という言葉を胸に、一人ひとりが、ユーザーや仲間、自分に 対して真摯に向き合い、夢中になって、それぞれの専門領域や経験を活かし たこれまでにない新しい視点の発想でものごとに取り組む組織文化です。 多様な働き方を実現する 「マーブルワークスタイル」制度 WORKING STYLE 多様な人材が活躍できる環境づくりを目指し、働き方や休み方の制度も拡充 されています。リモートワークとオフィスワークを融合した「マーブルワー クスタイル」制度は、対面でのコミュニケーション機会も重要であると考 え、両方の働き方を融合したような制度です。 WE ARE HIRING! MIXIではコミュニケーションを一緒につくる仲間を募集中! MIXI 採用
  4. 10 ©MIXI Slack Chatbot Bedrock Agent Lambda CW Logs Athena

    X-Ray CloudTrail (S3) VPC Flow Logs (S3) LB Logs (S3) WAF Logs (S3) Other Services AWS 構成
  5. 11 ©MIXI 2024年9⽉17⽇のアップデートで、Chatbot による Slack または Teams から Bedrock Agent

    と対話可能に 最近のアップデート https://aws.amazon.com/jp/about-aws/whats-new/2024/09/aws-chatbot-amazon-bedrock-agent-microsoft-teams-slack/
  6. 13 ©MIXI 例 • Amazon Pinpoint のプッシュ開封率を取得 • LLM で過去平均を計算

    • ⼀般的なスマートフォンアプリの平均と⽐較、対策をサジェスト • トラブル発⽣時に複数のログを取得 • アプリケーションログ • DB スロークエリログ • CloudTrail ログ • LoadBalancer ログ • LLM がすべてのログを総なめして分析を⼿助けしてくれる • ネットワーク通信ログを取得 • WAF ログ • VPC Flow ログ • LLM が攻撃の痕跡を分析 LLM に与えたいデータを Lambda 関数で取る
  7. 15 ©MIXI • Agent から Lambda 関数に渡す Input • Lambda

    関数から Agent へ返す Response が定義されている。 この通り受け取って、返せば OK! 右の「JSON-formatted string」を 頑張って記述するだけ! https://docs.aws.amazon.com/bedrock/latest/userguide/agents-lambda.html Input と Response { "messageVersion": "1.0", "response": { "actionGroup": "Inputから貰う", "function": "Inputから貰う", "functionResponse": { "responseBody": { "TEXT": { "body": "JSON-formatted string" } } } } }
  8. 17 ©MIXI 1. 誰でも実⾏できる a. AWS の知識が無くてもオペレーション可能 b. 好き勝⼿やられちゃうのでは? i.

    仕組み⾃体は SRE or Infra が作る ガードレールしっかりしていれば問題ない 2. Slack で実⾏できる a. 休⽇に PC 開きたくない⼀⼼で実装した b. Slack なら休⽇外出先でも軽く実⾏できる ChatOps は最⾼
  9. 18 ©MIXI ※ ハルシネーション = AI が事実に基かない回答をする はい。ある前提で使⽤する気持ちが⼤切。 完璧な答えを求めるのではなく、最初の⼿掛かりを掴む⽤途。 LLM

    ならではの鋭い洞察は実際助かっている。 ⼈間も初⼿の調査は誤ることもあるので、 AI だから悪いというバイアスは無いほうが幸せ。 ハルシネーションありますよね?
  10. 19 ©MIXI Slack Chatbot Bedrock Agent Lambda CW Logs Athena

    X-Ray CloudTrail (S3) VPC Flow Logs (S3) LB Logs (S3) WAF Logs (S3) Other Services 汎⽤性が⾼い ここの関数を 書き換えるだけで 横展開可能 プロンプトは センスの⾒せ所