Amazon Bedrock Agents (基本編)

Slide 1

Slide 1 text

AWS活用 Amazon Bedrock #1 Amazon Bedrock Agents 基本編株式会社BLUEISH 代表取締役CEO兼CTO 為藤アキラ @AkiraTameto

Slide 2

Slide 2 text

為藤アキラ (Akira Tameto) 株式会社BLUEISH 代表取締役 CEO兼CTO ・AWS歴12年・直近のAIプロジェクト　・画像を中心とした機械学習とLLM のハイブリッドのアーキテクト自己紹介

Slide 3

Slide 3 text

基本的な1日のスケジュール

Slide 4

Slide 4 text

今回の基礎編でのゴール・AI Agentを知ること・Amazon Bedrockを知ること

Slide 5

Slide 5 text

今回の基礎編でのゴール・AI Agentを知ること・Amazon Bedrockを知ること・迷わずにBedrock Agentsで作業が出来ること

Slide 6

Slide 6 text

AI Agentとは？

Slide 7

Slide 7 text

自立型の生成AI？

Slide 8

Slide 8 text

AI Agentとは？出典：日経クロステック「有能人材｢AIエージェント｣とは　宿泊予約や商談資料作成」より特定のタスクを自動的かつ自律的に実行するシステム

Slide 9

Slide 9 text

AI Agentとは？ AI Agentは、環境と対話し、データを収集し、そのデータを使用して自己決定タスクを実行して、事前に決められた目標を達成するためのソフトウェアプログラムです。  目標は人間が設定しますが、その目標を達成するために実行する必要がある最適なアクションは AI エージェントが独自に選択します。

Slide 10

Slide 10 text

AI Agentを6段階で考える

Slide 11

Slide 11 text

AI Agentを6段階で考える・L0 (No AI) 　　 AIによる学習・推論なし。単なるツール＋行動のみ・L1 (Rule-based AI) 　　あらかじめ設定したルール（if-then）に基づいて動くAI ・L2 (IL/RL-based AI) 　　模倣学習(IL)や強化学習(RL)などを活用し、試行錯誤を通じて推論・意思決定をするAI ・L3 (LLM-based AI) 　　大規模言語モデル（LLM）を中核に据え、言語理解や高度な推論が可能・L4 　　 L3を踏まえたうえで自律学習と汎化能力を付与し、新しい状況に柔軟に適応するAI ・L5 　　 L4をさらに拡張し感情や性格（パーソナリティ）を持ち複数エージェント同士で協調・連携できるAI

Slide 12

Slide 12 text

AI Agentを6段階で考える・L0 (No AI) 　　 AIによる学習・推論なし。単なるツール＋行動のみ・L2 (IL/RL-based AI) 　　模倣学習(IL)や強化学習(RL)などを活用し、試行錯誤を通じて推論・意思決定をするAI ・L3 (LLM-based AI) 　　大規模言語モデル（LLM）を中核に据え、言語理解や高度な推論が可能・L4 　　 L3を踏まえたうえで自律学習と汎化能力を付与し、新しい状況に柔軟に適応するAI ・L5 　　 L4をさらに拡張し感情や性格（パーソナリティ）を持ち複数エージェント同士で協調・連携できるAI ・L1 (Rule-based AI) 　　あらかじめ設定したルール（if-then）に基づいて動くAI

Slide 13

Slide 13 text

AI Agentに向いているもの出典：AWS Black BeltOnline Seminar より

Slide 14

Slide 14 text

AI Agentに向いているもの出典：AWS Black BeltOnline Seminar より

Slide 15

Slide 15 text

Amazon Bedrock Agentsの歴史 2023年9月28日　 Amazon Bedrockが正式リリース 2023年11月28日　 Amazon Bedrock Agentsが一般リリース 2024年4月5日　 Amazon Bedrock AgentsがCloudFormationに対応 2024年4月23日　ユーザーからの必要なパラメータでを定義 2024年4月23日　機能がリリース〜 Action Group Return of Control

Slide 16

Slide 16 text

Amazon Bedrock Agentsでの流れ出典：AWS Black BeltOnline Seminar より全体の処理の流れのイメージ

Slide 17

Slide 17 text

Amazon Bedrock Agentsでの流れ対話形式での処理の流れ

Slide 18

Slide 18 text

Amazon Bedrock Agentsでの流れ Input Output 前処理 (1) オーケストレーション (n) ターン後処理 (1) ターンからの処理の流れ基盤モデルの呼び出し

Slide 19

Slide 19 text

デモンストレーション

Slide 20

Slide 20 text

Amazon Bedrock Agentsの作成 (TOP)

Slide 21

Slide 21 text

Amazon Bedrock Agentsの作成 (エージェント TOP)

Slide 22

Slide 22 text

Amazon Bedrock Agentsの作成 (エージェント TOP) マルチエージェントは今回はやらない

Slide 23

Slide 23 text

Amazon Bedrock Agentsの作成 (エージェント詳細)

Slide 24

Slide 24 text

Amazon Bedrock Agentsの作成 (モデルを選択)

Slide 25

Slide 25 text

Amazon Bedrock Agentsの作成 (全体説明)

Slide 26

Slide 26 text

Amazon Bedrock Agentsの作成 (全体説明)

Slide 27

Slide 27 text

Amazon Bedrock Agentsの作成 (全体説明)

Slide 28

Slide 28 text

Amazon Bedrock Agentsでの流れ出典：AWS Black BeltOnline Seminar より全体の処理の流れのイメージ

Slide 29

Slide 29 text

Amazon Bedrock Agentsでの流れ出典：AWS Black BeltOnline Seminar より全体の処理の流れのイメージ

Slide 30

Slide 30 text

Amazon Bedrock Agentsの作成 (全体説明)

Slide 31

Slide 31 text

Amazon Bedrock Agentsでの流れ対話形式での処理の流れ

Slide 32

Slide 32 text

Amazon Bedrock Agentsでの流れ対話形式での処理の流れセッションを保持

Slide 33

Slide 33 text

Amazon Bedrock Agentsの作成 (全体説明)

Slide 34

Slide 34 text

Amazon Bedrock Agentsでの流れ出典：AWS Black BeltOnline Seminar より全体の処理の流れのイメージ

Slide 35

Slide 35 text

Amazon Bedrock Agentsでの流れ出典：AWS Black BeltOnline Seminar より全体の処理の流れのイメージ

Slide 36

Slide 36 text

Amazon Bedrock Agentsの作成 (全体説明)

Slide 37

Slide 37 text

Amazon Bedrock Agentsでの流れ Input Output 前処理 (1) オーケストレーション (n) ターン後処理 (1) ターンからの処理の流れ基盤モデルの呼び出し

Slide 38

Slide 38 text

Amazon Bedrock Agentsでの流れ Input Output 前処理 (1) オーケストレーション (n) ターン後処理 (1) ターンからの処理の流れ基盤モデルの呼び出し

Slide 39

Slide 39 text

Amazon Bedrock Agentsでの流れ出典：AWS Black BeltOnline Seminar より

Slide 40

Slide 40 text

Amazon Bedrock Agentsの作成 (全体説明)

Slide 41

Slide 41 text

Amazon Bedrock Agentsでの流れ Input Output 前処理 (1) オーケストレーション (n) ターン後処理 (1) ターンからの処理の流れ基盤モデルの呼び出し

Slide 42

Slide 42 text

Amazon Bedrock Agentsでの流れ出典：AWS Black BeltOnline Seminar より

Slide 43

Slide 43 text

Amazon Bedrock Agentsの作成 (全体説明)

Slide 44

Slide 44 text

Amazon Bedrock Agentsの作成 (アクショングループの作成)

Slide 45

Slide 45 text

Amazon Bedrock Agentsの作成 (アクショングループの作成)

Slide 46

Slide 46 text

Amazon Bedrock Agentsの作成 (アクショングループの作成) Return of Control

Slide 47

Slide 47 text

Amazon Bedrock Agentsの作成 (アクショングループの作成)

Slide 48

Slide 48 text

Return of control AWS Lambda 関数の使用をスキップして、エージェントを呼び出すアプリケーションに制御を返すことができます。このようにして、アプリケーションは、必要なネットワークおよびセキュリティ設定をLambda関数と統合することなく、AWS外のシステムと直接統合したり、Amazon Virtual Private Cloud(Amazon VPC)でホストされている内部エンドポイントを呼び出したりできます。 Amazon Bedrock Agentsの作成 (アクショングループの作成)

Slide 49

Slide 49 text

Return of control AWS Lambda 関数の使用をスキップして、エージェントを呼び出すアプリケーションに制御を返すことができます。このようにして、アプリケーションは、必要なネットワークおよびセキュリティ設定をLambda関数と統合することなく、AWS外のシステムと直接統合したり、Amazon Virtual Private Cloud(Amazon VPC)でホストされている内部エンドポイントを呼び出したりできます。 Lambda関数の使用をスキップ出来る。 Lambda関数を呼び出す方式と違い、AWS外のシステムと直接統合できる。 Amazon Bedrock Agentsの作成 (アクショングループの作成)

Slide 50

Slide 50 text

Amazon Bedrock Agentsの作成 (アクショングループの作成)

Slide 51

Slide 51 text

Amazon Bedrock Agentsの作成 (アクショングループの作成)

Slide 52

Slide 52 text

Amazon Bedrock Agentsの作成 (アクショングループの作成)

Slide 53

Slide 53 text

Amazon Bedrock Agentsの作成 (アクショングループの作成)

Slide 54

Slide 54 text

Amazon Bedrock Agentsの作成 (アクショングループの作成)

Slide 55

Slide 55 text

Amazon Bedrock Agentsの作成 (アクショングループの作成)

Slide 56

Slide 56 text

Amazon Bedrock Agentsの作成 (アクショングループの作成)

Slide 57

Slide 57 text

Amazon Bedrock Agentsの作成 (アクショングループの作成)

Slide 58

Slide 58 text

Amazon Bedrock Agentsの作成 (アクショングループの作成)

Slide 59

Slide 59 text

Amazon Bedrock Agentsの作成完了

Slide 60

Slide 60 text

Amazon Bedrock Agentsのテスト (Lambda)

Slide 61

Slide 61 text

Amazon Bedrock Agentsのテスト (Lambda)

Slide 62

Slide 62 text

Amazon Bedrock Agentsのテスト (Lambda)

Slide 63

Slide 63 text

Amazon Bedrock Agentsのテスト (Return of Control)

Slide 64

Slide 64 text

Amazon Bedrock Agentsのテスト (Return of Control)

Slide 65

Slide 65 text

Amazon Bedrock Agentsのテスト (Return of Control)

Slide 66

Slide 66 text

Amazon Bedrock Agentsのテスト (Return of Control)

Slide 67

Slide 67 text

Amazon Bedrock Agentsのテスト (Return of Control)

Slide 68

Slide 68 text

Amazon Bedrock Agentsのテスト (Return of Control)

Slide 69

Slide 69 text

Amazon Bedrock Agentsのテスト (Return of Control)

Slide 70

Slide 70 text

Amazon Bedrock Agentsのテスト (Return of Control)

Slide 71

Slide 71 text

Amazon Bedrock Agentsのテスト (Return of Control)

Slide 72

Slide 72 text

Amazon Bedrock Agentsのテスト (Return of Control)

Slide 73

Slide 73 text

Amazon Bedrock Agentsでの流れ出典：AWS Black BeltOnline Seminar より全体の処理の流れのイメージ

Slide 74

Slide 74 text

Thank You!