JAWS DAYS 2026 ExaWizards_20260307

JAWS DAYS 2026用に作成した資料になります。

Transcript

1. JAWS DAYS 2026 Mashup for the Future [B5]MLエンジニアだらけの組織が、 AWSアドバンスドティアになって変わったこと 〜 「理想の育成」と「運用の現実」 の両輪で進む組織変革 〜 堺勇人、長谷川裕一 1
3. #jawsug #jawsdays2026 #jawsdays2026_x Mission A I を 用 い た 社 会 課 題 解 決 を 通 じ て 、 幸 せ な 社 会 を 実 現 す る
4. #jawsug #jawsdays2026 #jawsdays2026_x 個社の経営課題解決とAIプロダクト/AIエージェントによる課題解決を両輪で回していく データを蓄積 AIソリューションサービス 個社の経営課題解決 AIプロダクト/AIエージェントに よる生産性向上 汎用課題を 解決する プロダクト AIエージェント化 個社の 課題 産業毎の ユースケース AIエージェント を使いこなせる 人材の育成 業界全体の 生産性向上 各産業の データ AIアルゴリズム/ AIエージェント 4
5. #jawsug #jawsdays2026 #jawsdays2026_x 経営課題・事業における重要課題に対して様々な領域でインパクトを創出 経営課題・事業における重要課題 金融/保険/通信×exaBase Studio ヘルスケア×R&D 電力×最適化 業務提携/アライアンス 5
6. #jawsug #jawsdays2026 #jawsdays2026_x エンタープライズ領域/ソーシャル領域でサービスを広範に展開 エンタープライズ領域 ソーシャル領域 業界問わず 多様な課題に対応 特定業務に対する 効率化を実現 DX/AXを推進する 人材育成を支援 認知症診断支援AI AX人材育成ソリューション 営業 コーポレート コールセンター 生成AI AI×RPA アセスメント 人事戦略 育成・伴走 超高齢化社会における 2大課題を解決 フレイル予防 認知症予防 AIと仕組みで、多様性の ある超高齢社会を実現 汎用 医療 人材育成 業務特化 介護 6
7. #jawsug #jawsdays2026 #jawsdays2026_x AWSに関する取り組み 7 2024年に「AWS アドバンストティアサービスパートナー」に認定 「AWS Partner Award – Rising Star of the Year Japan」を受賞
8. #jawsug #jawsdays2026 #jawsdays2026_x AWSに関する取り組み 8 2026年度： • AWS Community Builders に2名選出！ New! 2025年度： • AWS ALL Certifications Engineers に5名選出！ • AWS Jr. Champions に１名選出！
9. #jawsug #jawsdays2026 #jawsdays2026_x ◼ 前半 ⚫ 新卒育成担当：堺 ⚫ エクサウィザーズのML組織での新卒研修で行ったことやその成果について ◼ 後半 ⚫ 新卒エンジニア：長谷川 ⚫ 新卒研修に参加して得た経験をもとにインフラ部で活動していく中で 感じた現実とのギャップを実例を通して紹介 9
10. AWS 研修を通じた 若手エンジニアの成長のステップ 10
11. #jawsug #jawsdays2026 #jawsdays2026_x 株式会社エクサウィザーズ 堺 勇人（Hayato Sakai） 部署： AIプラットフォーム事業本部 担当業務：医療向けアプリケーションのアルゴリズム開発 好きなAWSサービス：Lambda 取得済みAWS資格： 自己紹介 11
12. #jawsug #jawsdays2026 #jawsdays2026_x 創業時はAIのPoC（検証）の開発が多かったが、 機械学習サービスを開発・運用する場面が増えてきました。 そこで近年はインフラ開発力向上に力を入れ、 昨年AWSアドバンストティアに認定されました。 そんな当社の新卒育成環境の紹介をします！ 12 PoC 実運用
13. #jawsug #jawsdays2026 #jawsdays2026_x 研修の対象者 AWS未経験の新卒エンジニア クラウド自体が初めて / インフラの知識も少ない 伝えたいこと AWS実務使用経験ゼロの新卒が、研修でどこまで成長できたか 話すこと 研修の取り組み 13 研修内のAWSに関する取り組みについてご紹介します
14. #jawsug #jawsdays2026 #jawsdays2026_x 研修の概要と目的 概要 AWS初学者向けの実践型研修 新卒1年目を対象に、AWSの実務スキルを習得 研修の目的 PoC（概念実証）だけでなく、運用フェーズまで考えられるエンジニアの育成 インフラ構築 クラウド基盤の設計・構築力 可用性、冗長性 障害に強いシステム設計 コスト最適化 コストを考えたシステム設計 14 運営体制 2〜3年目の若手が主体で運営 発表者の堺も運営の中心メンバーの一人として参画
15. 15 研修の取り組み 研修の取り組み 全体像 AWS未経験の新卒が、研修でどこまで成長できたか ① AWS 環境 ハンズオン 社内デモ環境で EC2・ALB・VPNを 実際に触って学ぶ ② AWS JumpStart AWSの2日間研修で 多様なサービスと アーキテクティングを学ぶ ③ AWSへ デプロイ 自分のアプリを AWSにデプロイ 先輩レビューで改善 ④ 資格試験 受験 AWS Cloud Practitioner 全員合格！
16. #jawsug #jawsdays2026 #jawsdays2026_x その過程で学ぶ ▼ この環境を使って ▼ 取り組み① AWS 環境ハンズオン 研修の取り組み 前提 社内デモ環境 • 「試す」、「壊す」、「直す」という実践を行うことのできるAWS環境 • 社内ネットワークからVPN接続により、ALBにアクセス可能 実行 メインミッション：アプリを公開する STEP1 EC2立ち上げ インスタンス作成 アプリ配置 STEP2 ALB設定 ターゲットグループ 紐付け STEP3 動作確認 VPN経由で ブラウザアクセス 学び セキュリティ面の学び 01 SSM管理 SSHでポートに穴を開けずに 安全に操作 02 最小権限 SG・IAMで権限の管理 16 作成した構成図
17. #jawsug #jawsdays2026 #jawsdays2026_x 取り組み① AWS 環境ハンズオン 研修の取り組み Before 研修前の状態 AWSが何もわからない ✖EC2、ALB等が暗号に見える ✖クラウド＝誰かがやるもの ✖インフラは自分の領域外 研修を 通じて After 研修後の状態 クラウドへの理解が深まる ALB、VPC、SG、IAMを説明できる クラウド上にサーバを立てて動かせる ✔EC2を立ててアプリを動かせる 17
18. #jawsug #jawsdays2026 #jawsdays2026_x ハンズオン後の壁 研修の取り組み EC2でサーバーは立てられた...でも次にどうすれば？ 悩み ① 使ったサービスがEC2だけ ▸S3、RDS、Lambda…名前は聞くけど ▸何がどう便利なのか分からない 悩み ② デプロイの設計が分からない ▸自分のアプリをAWSに載せるには？ ▸サービスの組み合わせ方が不明 浮かんだ疑問 「AWSのサービスって他にどんなものがあるんだろう？」 「自分のアプリをデプロイするとき、どう考えればいい？」 18
19. #jawsug #jawsdays2026 #jawsdays2026_x 取り組み② AWS JumpStartへの参加 研修の取り組み 概要 AWS主催のAWS初学者向けの実践的な2日間の研修プログラム ▸「クラウドネイティブなテックリード人材」育成の第一歩 ▸全日程オンライン開催（参加費無料） カリキュラム 事前学習 オンライン教材でAWSの 基礎を予習 1日目 座学＋ハンズオン ペアプロ形式で実践 2日目 実践アーキテクティング 構成図を自ら作成 形式 全日程オンライン（無料） 対象 AWS初学者・新卒エンジニア https://aws.amazon.com/jp/blogs/news/aws-jumpstart-2026/ 学び 01 様々なサービスの理解 座学・ハンズオンを通じて 様々なAWSサービスを知れる 02 アーキテクチャ図の作成 自力で実践的なアーキテクチャ図を設 計できる 19
20. #jawsug #jawsdays2026 #jawsdays2026_x JumpStartで学んだことで、視野が一気に広がった！ 学び ① AWS の多様なサービスを知れた！ ▸S3、RDS、Lambdaなどの役割を理解 ▸EC2以外の選択肢が見えてきた 学び ② デプロイの設計方法を知れた！ ▸サービスの組み合わせ方を学んだ ▸アーキテクチャ図を自分で描けた 次にやりたいこと 自分で作った実際の課題を解決するアプリを AWS にデプロイしてみたい！ 研修の取り組み AWS JumpStartを経て 20
21. #jawsug #jawsdays2026 #jawsdays2026_x 取り組み③ AWS へデプロイしてみよう 研修の取り組み プロセス ▸新卒メンバーが構成図の作成 → 先輩社員がレビュー ▸社内デモ環境へのデプロイ レビューの観点 新卒の傾向 「動くこと」（機能要件）に 意識が向きがち 先輩のフィードバック セキュリティ観点で指摘 ▸API GW前にWAFを導入 ▸シークレットキーは Secrets Managerで管理 成果 構成図をもとに、実際のデプロイまで完遂 21 入って3ヶ月の新卒が作成した構成図
22. #jawsug #jawsdays2026 #jawsdays2026_x 取り組み④ 資格試験受験 研修の取り組み きっかけ 自分のアプリをAWSにデプロイし、自信がついた ▸ハンズオン・JumpStart・実践デプロイを経てAWSの知識が定着 資格受験 自信がついたなら、資格試験を受けてみよう！ 対象：AWS Certified Cloud Practitioner 成果 参加メンバー全員合格！ 22
23. #jawsug #jawsdays2026 #jawsdays2026_x まとめ • 本研修により、AWS実務未経験のエンジニアが、 自分で考えたサービスの構成図を作成しデプロイできるようになりました！ • 構成図作成では、先輩社員など詳しい人からレビューをもらえることが 良い経験になったとの意見がありました！ 23
24. #jawsug #jawsdays2026 #jawsdays2026_x 研修の取り組み このあとは、 インフラエンジニアとして入社し、 新卒研修を経て AWSにより興味を持った 長谷川さんからの発表です 24
25. Amazon Bedrock オンデマンド推論の使用量 監視について 25
26. #jawsug #jawsdays2026 #jawsdays2026_x 株式会社エクサウィザーズ 長谷川 裕一（Yuichi Hasegawa） 部署：インフラ部 Cloud Operations グループ 担当業務：EKSプラットフォーム上のアプリケーションの インフラ構築・運用 好きなAWSサービス：Amazon Bedrock 取得済みAWS資格： 自己紹介 26
27. #jawsug #jawsdays2026 #jawsdays2026_x エンタープライズ領域/ソーシャル領域でサービスを広範に展開 エンタープライズ領域 ソーシャル領域 業界問わず 多様な課題に対応 特定業務に対する 効率化を実現 DX/AXを推進する 人材育成を支援 認知症診断支援AI AX人材育成ソリューション 営業 コーポレート コールセンター 生成AI AI×RPA アセスメント 人事戦略 育成・伴走 超高齢化社会における 2大課題を解決 フレイル予防 認知症予防 AIと仕組みで、多様性の ある超高齢社会を実現 汎用 医療 人材育成 業務特化 介護 27
28. #jawsug #jawsdays2026 #jawsdays2026_x エンタープライズ領域/ソーシャル領域でサービスを広範に展開 エンタープライズ領域 ソーシャル領域 業界問わず 多様な課題に対応 特定業務に対する 効率化を実現 DX/AXを推進する 人材育成を支援 認知症診断支援AI AX人材育成ソリューション 営業 コーポレート コールセンター 生成AI AI×RPA アセスメント 人事戦略 育成・伴走 超高齢化社会における 2大課題を解決 フレイル予防 認知症予防 AIと仕組みで、多様性の ある超高齢社会を実現 汎用 医療 人材育成 業務特化 介護 28 複数のプロダクトでAmazon Bedrockを使用しており 現場でも触れることが多いサービス
29. #jawsug #jawsdays2026 #jawsdays2026_x 29 研修が終わり、数ヶ月経った頃 Bedrockの業務を担当 Bedrockは全くの未経験からの スタート 導入
30. #jawsug #jawsdays2026 #jawsdays2026_x 30 Amazon Bedrock is 何？ 導入
31. #jawsug #jawsdays2026 #jawsdays2026_x いろんなすごいモデルを サーバー管理なしで フルマネージドで使える すごいやつ 31 導入
32. #jawsug #jawsdays2026 #jawsdays2026_x Amazon Bedrockのエコシステム を活用して、 LLMを使ったアプリケーション が簡単に作れる 32 導入
33. #jawsug #jawsdays2026 #jawsdays2026_x サーバーレスな一方、想定外にスケールする可能性がある。 想定外の請求を避けるために監視をしよう！ 33 導入
34. #jawsug #jawsdays2026 #jawsdays2026_x 料金の監視 • コストの増加や予実管理 • Cost Explorer, CUR (Cost Usage Report) 使用量の監視 • リアルタイムな増加やクオータに到達しないかの監視ができる • CloudWatch Metrics 34 導入
35. #jawsug #jawsdays2026 #jawsdays2026_x ◼ 話すこと ⚫ Amazon Bedrockのオンデマンド推論の使用量分配について ⚫ 料金・使用量の監視 ◼ 話さないこと ⚫ レイテンシなどのその他のメトリクスの監視 ⚫ PTUなどオンデマンド以外の推論方法 ◼ 前提 ⚫ Model invocation logging 機能は利用しない 35 話すこと / 話さないこと / 前提
36. オンデマンド推論の 使用量分配 36
37. #jawsug #jawsdays2026 #jawsdays2026_x 使用量の分配 オンデマンド推論はアカウント×リージョン固有の エンドポイントを直接呼び出す形 37
38. #jawsug #jawsdays2026 #jawsdays2026_x 使用量の分配 エンドポイントが１つしかないので、 使用量が集約されてしまう 38
39. #jawsug #jawsdays2026 #jawsdays2026_x 使用量の分配 Application Inference Profile 基盤モデルや推論プロファイルを一つ紐づけて、新しい推論プロファイルを 作成する。新しく作成した推論プロファイルはタグ付け可能 39
40. #jawsug #jawsdays2026 #jawsdays2026_x 使用量の分配 Application Inference Profile 既存のエンドポイントを一つ紐づけて、新しいエンドポイントを作成する 新しく作成したエンドポイントはタグ付け可能 40 ARN: arn:aws:bedrock:ap-northeast-1:123456789012: application-inference-profile/7kbgmegmpwf
41. #jawsug #jawsdays2026 #jawsdays2026_x 使用量の分配 AWS コンソールでの管理ができないため、AWS SDK や AWS CLI で管理。以下はTerraformでの例 41
42. オンデマンド推論の 使用量分配の結果 42
43. #jawsug #jawsdays2026 #jawsdays2026_x コストの監視 43 Cost Explorerにて Tagを用いてコストの分割ができるように No tag key: app_name • No tag key: app_name • app_1 • app_2 • …
44. #jawsug #jawsdays2026 #jawsdays2026_x 使用量の監視 44 CloudWatch Metricsでメトリクスがモデル ID ごとに 監視できるように (InputTokenCount や OutputTokenCount など) 7kbgmegmpawfe niuzg37dorvq 7kbgmegmpawfe niuzg37dorvq Application Inference Profileの Model IDごとに確認できる
45. 実際に構築・運用する上で 直面した課題２選 45
46. #jawsug #jawsdays2026 #jawsdays2026_x 46 • 適切な IAM ポリシーの設定 • モデルごとの使用量を集計 実際に構築・運用する上で直面した課題２選
47. ①適切な IAM ポリシーの 設定 47
48. #jawsug #jawsdays2026 #jawsdays2026_x アプリケーションが利用する許可ポリシーには 元のモデルに対する権限も必要 課題① 適切なIAMポリシーの設定 48
49. #jawsug #jawsdays2026 #jawsdays2026_x 課題① 適切なIAMポリシーの設定 49 許可ポリシーの Resource にApplication Inference Profile の ARN だけでなく、元のモデルの ARN も追加する
50. #jawsug #jawsdays2026 #jawsdays2026_x 先ほどのポリシーでは直接の推論も可能な状態に 課題① 適切なIAMポリシーの設定 50
51. #jawsug #jawsdays2026 #jawsdays2026_x 対策：Application Inference Profileを経由する 推論のみを許可する 課題① 適切なIAMポリシーの設定 51
52. 課題②モデルごとの使用量を 集計 52
53. #jawsug #jawsdays2026 #jawsdays2026_x 課題②モデルごとの使用量を集計 53 呼び出し元のモデルの合計使用量が生成されず、 クオータとの比較ができない
54. #jawsug #jawsdays2026 #jawsdays2026_x 対策 1 :CloudWatchのMetric Mathを利用して メトリクスを集計する 54 7kbgmegmpawfe niuzg37dorvq 課題②モデルごとの使用量を集計
55. #jawsug #jawsdays2026 #jawsdays2026_x 対策 2 : カスタムメトリクスを作成する → 外部モニタリングツールにデータを取り込む際に事前に 処理しておきたいケースなど 2.1: API Gateway + Lambdaを利用して Bedrockの呼び出し前に処理する 2.2: CloudWatchのメトリクスを集計するLambda関数を 定期実行する 55 課題②モデルごとの使用量を集計
56. #jawsug #jawsdays2026 #jawsdays2026_x 対策 2.1: API Gateway + Lambdaを利用して Bedrockの呼び出し前に処理する 56 https://aws.amazon.com/blogs/machine-learning/build-a-proactive-ai-cost-management-system-for-amazon-bedrock-part-2/ 課題②モデルごとの使用量を集計
57. #jawsug #jawsdays2026 #jawsdays2026_x 対策 2.2 : CloudWatch のメトリクスを集計する Lambda 関数を定期実行する 57 課題②モデルごとの使用量を集計
58. #jawsug #jawsdays2026 #jawsdays2026_x • 対策１ • システムの運用が不要 • 外部モニタリングツールとの連携には限界 • 対策2.1 • より詳細なメトリクスが収集できる • 呼び出しを拒否する処理が行える • 若干のレイテンシー増加 • 既存システムへの変更が必要 • 運用コスト増 58 • 対策2.2 • 比較的シンプル • 多少のラグがある 課題②モデルごとの使用量を集計
59. #jawsug #jawsdays2026 #jawsdays2026_x まとめ Application Inference Profile • オンデマンド推論の使用量を分割し、アプリケーションごとに使用量の 監視ができる • AWSコンソールでは管理できず、AWS SDKやAWS CLIで管理する • 元のモデルを直接呼び出しさせないよう、許可ポリシーには 工夫が必要 • CloudWatch Metricsで元のモデルの使用量は提供されなくなるため、 クオータに対する使用率を分析するためには追加の構築が必要 59
60. #jawsug #jawsdays2026 #jawsdays2026_x まとめ 60 監視ができるようになった！
61. #jawsug #jawsdays2026 #jawsdays2026_x まとめ 参考文献 • https://docs.aws.amazon.com/ja_jp/bedrock/latest/userguide/inference -profiles-create.html • https://zenn.dev/winteryukky/articles/b51ba6d63cf15e • https://registry.terraform.io/providers/hashicorp/aws/latest/docs/resou rces/bedrock_inference_profile • https://aws.amazon.com/blogs/machine-learning/build-a-proactive-ai- cost-management-system-for-amazon-bedrock-part-2/ 61
62. #jawsug #jawsdays2026 #jawsdays2026_x 全体まとめ 新卒研修が活きた点 • 構成図を書いてアーキテクチャを整理する技術がついた • よくある構成のシステム構築を通して、エラーとの向き合い方などを 習得でき、比較的情報が少ないサービスでも応用してスムーズに対応できた 業務で直面した現実 • 想定している動きをするとは限らず、細かい仕様を整理することが重要 • アーキテクチャを決定する際に運用コストという軸を 重要視するようになった。サーバレスであれば良いというわけではなく、 要件に沿ってうまく活用することが重要 62
63. #jawsug #jawsdays2026 #jawsdays2026_x 63 Thank you! 一緒に働く仲間を募集しています！ エクサウィザーズ Tech Blog 最近のおすすめ記事 インフラ • SageMaker Unified Studioを本気で検証してみた ── MLエンジニアの標準環境にできるか？ • AWS Trainium/Inferentiaで言語モデルの訓練と推論 • AWS×Terraformでステートファイルにシークレットを残さないために AI・ML • SAM Audioでも話者分離がしたい！ • LLMは言語をどう扱うか: 言語間で矛盾した回答をするケースを例とした研究の紹介 • PostgreSQLで作る商用利用も安心なGraph RAG入門：前編・後編 その他 • re:Invent 2025 にエクサウィザーズ社員3名で参加しました！(Tech編) • コーディングエージェントを自由に暴れさせるためのサンドボックス環境