Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
週刊AWSキャッチアップ~週刊生成AI with AWS – 2024/5/6週~
Search
Sunny Cloud
May 17, 2024
Business
0
84
週刊AWSキャッチアップ~週刊生成AI with AWS – 2024/5/6週~
#jawsug #週刊awsキャッチアップ
Sunny Cloud
May 17, 2024
Tweet
Share
More Decks by Sunny Cloud
See All by Sunny Cloud
ここまでできるAWSコスト削減
kanakokodera
1
25
#41 JAWS-UG主催 週刊AWSキャッチアップ (2024/7/15週)
kanakokodera
0
16
#41 JAWS-UG主催 週刊AWSキャッチアップ (2024/7/15週):[週刊生成AI with AWS – 2024/7/15週
kanakokodera
0
23
2024年7月16日開催【オンラインイベント】セキュリティリスクの把握・評価・軽減からみるAWSセキュリティの具体策
kanakokodera
0
52
JAWS-UG福岡 #18: JAWS-UGクラウド女子会共催スペシャル【ハイブリッド開催】
kanakokodera
0
29
週刊AWSキャッチアップ(2024年6月24日週)
kanakokodera
0
36
女性でエンジニア以外も楽しめる支部活動を
kanakokodera
2
150
webinar20240529.pdf
kanakokodera
0
24
週刊AWSキャッチアップ~週刊生成AI with AWS – 2024/5/13週~
kanakokodera
0
93
Other Decks in Business
See All in Business
ポート株式会社_会社紹介資料(2024/08/13更新)
portpr
1
520
Re:youth提案資料_20211010
knot
0
250
事業家になる道のり比較.pdf
canvas_recruit
1
320
アジャイル何も知らん人事がアジャイル大好きお兄さんの引き出しを使い倒したら「変化に立ち向かえるチーム」に成長できた件
pokotyamu
1
760
VISASQ: ABOUT US
eikohashiba
15
450k
merpay-Overview
mercari_inc
5
150k
株式会社タンプ 会社紹介資料 / TANP Inc. Company Profile
gracia
2
930
会社説明資料
tanashu
0
29k
会社説明資料
open8_recruit
0
49k
エンジニア組織30人の壁を超えるための 評価システムとマネジメントのスケール / Scaling evaluation system and management
yoshikiiida
10
3k
ユートニック 会社紹介資料
yukiimai
0
460
Think and Dialogue 採用資料
thinkanddialogue
0
310
Featured
See All Featured
A Modern Web Designer's Workflow
chriscoyier
690
190k
Save Time (by Creating Custom Rails Generators)
garrettdimon
PRO
23
580
Designing the Hi-DPI Web
ddemaree
278
34k
Stop Working from a Prison Cell
hatefulcrawdad
267
20k
How GitHub (no longer) Works
holman
310
140k
Making the Leap to Tech Lead
cromwellryan
128
8.8k
Design by the Numbers
sachag
277
19k
Become a Pro
speakerdeck
PRO
22
4.9k
Designing with Data
zakiwarfel
98
5k
Robots, Beer and Maslow
schacon
PRO
157
8.1k
Building Applications with DynamoDB
mza
89
5.9k
How to train your dragon (web standard)
notwaldorf
85
5.6k
Transcript
2024年5月17日 JAWS-UG事務局 週刊生成AI with AWS キャッチアップ (2024/5/6週)
1/8 Amazon Qの一般利用開始に際して、Andy JassyがXにコメントをポスト
AWSが設立された当初の目的は、開発者がインフラストラクチャを 管理する時間と顧客体験に取り組む時間のバランスを改善 Amazon Qのローンチにより、開発者が70%の時間を 繰り返しのタスクに費やす時間を同様に改善することを目指す
GenAIによって支えられたQが以下のタスクを実行 コードの生成 テスト デバッグ 内部データリポジトリへのアクセス ソフトウェア開発と内部データタスクの支援を行います
2/8 Adam SelipskyもAmazon Qの一般利用開始についてXにポスト
【導入効果】 開発者と従業員の退屈な作業が大幅に軽減されます。 【実現できること】 コードのテスト、デバッグ、作成を支援 機能の実装からソフトウェア アップグレードの実行まで、 さまざまなタスクを自律的に実行 Q を使用すると、コーディングだけでなく、 点在する内部データ
ソースから洞察に簡単にアクセスでき、 質問に答え、傾向を分析 Amazon Q アプリの導入により、ユーザーはコーディングの経験が なくても、組織データに基づいて AI アプリを作成できるようになり ます。
Werner VogelsがブログでAIによる 会議の議事録取得アーキテクチャを紹介 3/8
オープンソースDistillでできること 会議の音声録音 (MP3、FLAC、WAV などの形式) を取得して分析し、 ToDo 項目のリストとともにサマリーが作成される オプションとして作られたTo DoやサマリーをSlackへ
アーキテクチャ図 https://github.com/aws-samples/amazon-bedrock-audio-summarizer
Distillの特徴 会議の要約を実行する AI モデルを選択可能! デフォルトでは、Anthropic の Claude 3 Sonnet #
bedrock-inference/lambda_function.py ... body = json.dumps( { "anthropic_version": "bedrock-2023-05-31", ... } ... response = bedrock_client.invoke_model( modelId="anthropic.claude-3-sonnet-20240229-v1:0", body=body ) ...
新モデルAmazon Titan Text Premierが Amazon Bedrockから利用可能に 4/8
https://aws.amazon.com/jp/blogs/aws/build-rag-and-agent-based-generative-ai-applications-with-new-amazon-titan-text- premier-model-available-in-amazon-bedrock/ Amazon Titan Text Premierの他モデル比較
Amazon Titan Text Premierを有効化
・RAG、エージェント、チャット、オープンエンドテキスト生成 ブレーンストーミング、要 約、コード生成、テーブル作成、 データの書式設定など ユースケース 32K トークン数 英語のみ 言語
Amazon Titan Text Premierの特徴
生成AIアプリケーション開発のためのWebインタフェース、 Amazon Bedrock Studioをプレビュー提供開始 5/8
Amazon Bedrock Studioとは 組織ユーザーに Bedrock のプレイグラウンドや、ナレッジベ ースやエージェントなどのコンポーネントを使って Bedrock アプリケーションのプロトタイプを作成、評価したり組織内の ユーザーへ共有することができる
Amazon Bedrock Studioの使いどころ 簡単にエージェント、ナレッジベース、ガードレールなど一部 の機能の自動デプロイにより簡単に試すことができる点
ワークスペース作成を始めるには IAM Identity Centerを利用して元々の組織のSSOが利用可能
ワークスペースが作成できた後 ログインして各種機能を利用できる
Agents for Amazon Bedrockが プロビジョンドスループット料金モデルに対応 6/8
Amazon Bedrock で、モデルをデプロイするため 「専用キャパシティを確保するために」 トークンベースではない時間ベースの「プロビジョンドスループット」あり 「プロビジョンドスループット」について Amazon Bedrock for エージェントでも同様に「特定の
基本モデルのモデル ユニット」が購入可能に 1 分あたりに処理される入力または出力トークンの最大数によって 測定される、一定の保証されたスループットが保証
アップデート前にエイリアスを作成 エージェントのエイリアスを作成したら、そのエイリアスに関する情報を 表示したり、編集したり、削除したりできます。
スループットの料金について 1 分あたりに処理される入力トークンまたは出力トークンの 最大数によって測定される特定のスループットが提供。 料金はモデル単位ごとに時間単位で請求 オンデマンド 【スループット契約期間】 1ヶ月利用 6ヵ月利用
Amazon SageMaker NotebooksがG6インスタンスをサポート 7/8
Amazon EC2 G6 インスタンスの特徴 24 GB のメモリ(GPUあたり) 最大 8 つの
NVIDIA L4 Tensor コア GPU 第 3 世代 AMD EPYC プロセッサを搭載 G4dnインスタンスと比較してディープラーニング用途で最大2倍の パフォーマンス ユースケース: G6 インスタンスを使用して、モデルのデプロイのテスト 生成 AI の微調整と推論ワークロード、自然言語処理、 言語翻訳、コンピューター ビジョン、 レコメンダー エンジンなどのユースケースの対話型モデル トレーニング
Amazon SageMakerとAmzon DataZoneが統合され、 データとML資産の統合管理が容易に 8/8
Amazon DataZone でのデータ統合 プロデューサーデータソース AWS Glue データカタログと Amazon Redshift の組み込みデ
ータソースからデータを公開 分析ツール Amazon Athena や Amazon Redshift クエリエディタなどのサ ービスと連携して、クエリエディタ からのデータを直接操作できる アクセスフルフィルメント AWS Glue データカタログと Amazon Redshift の組み込みデ ータソースからデータを公開 機械学習 (ML) ツール Amazon SageMaker を使用するこ とで、データアセットや ML アセッ トに簡単にアクセスします。
SageMakerがDataZoneと統合され、MLインフラストラクチャ、データ、アセッ トのアクセス制御 【アップデートのメリット】 データやアセットをSageMaker StudioやCanvasで利用および共有でき、チーム やパートナーとの共同作業が促進されます。
ご清聴ありがとうございます。