Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Sign up for free
Menu
Search
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Pricing
Search
Sign in
Sign up for free
DeepSeek-R1をカスタムモデルとしてAmazon Bedrockにインポートし活用
Search
為藤アキラ
January 29, 2025
Technology
290
0
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
DeepSeek-R1をカスタムモデルとしてAmazon Bedrockにインポートし活用
為藤アキラ
January 29, 2025
Transcript
29 slides
AWS活用 AI/ML/LLM #2 大規模言語モデル(LLM)のモデル開発 DeepSeek-R1をカスタムモデルとして Amazon Bedrockにインポートし活用 株式会社BLUEISH 代表取締役CEO兼CTO 為藤アキラ
@AkiraTameto
為藤 アキラ (Akira Tameto) 株式会社BLUEISH 代表取締役 CEO兼CTO ・AWS歴12年 ・直近のAIプロジェクト
・画像を中心とした機械学習とLLM のハイブリッドのアーキテクト 自己紹介
今回のゴール ・Amazon Bedrockをカスタムモデルを構築すること
デモンストレーション
Hugging Face DeepSeek
DeepSeekのダウンロード pip install huggingface_hub from import model_id = (repo_id=model_id, local_dir=f
) huggingface_hub snapshot_download snapshot_download # model_id = "deepseek-ai/DeepSeek-R1-Distill-Llama-8B" # snapshot_download(repo_id=model_id, local_dir=f"./DeepSeek-R1-Distill-Llama-8B") "deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B" "./DeepSeek-R1-Distill-Qwen-1.5B" 1.Huggingfaceからダウンロードを行うのでライブラリーのインストール 2.Huggingfaceからモデルをライブラリーのインストール
DeepSeekのダウンロード ダウンロード中 ダウンロードできている事を確認
モデルを格納する為のバケット作成
モデルを格納する為のバケット作成
モデルを格納する為のバケット作成
バケットにアップロード
バケットにアップロード
バケットにアップロード
バケットにアップロード
モデルのインポート
モデルのインポート
モデルのインポート
モデルのインポート
モデルのインポート
モデルのインポート
モデルのインポート
モデルのインポート
InvokeModel APIで実行
InvokeModel APIで実行
InvokeModel APIで実行 import import = . = = = \n
= . = = = =2 = json boto3 client boto3 ( ) model_id prompt formatted_prompt prompt response client ( modelId model_id, body json. ( { :prompt, } ), ) response_body json. (response[ ]. ()) (json. (response_json, indent , ensure_ascii False)) client invoke_model dumps loads read print dumps "bedrock-runtime", region_name="us-east-1" "arn:aws:bedrock:us-west-1:{先ほどのモデル}" "東京都の歴史を説明してください" "prompt" "body" f"""<s>[INST] Human: { }[/INST] Assistant: """
InvokeModel APIで実行 { “generation”: “嗯,用户让我解释东京都的历史,我需要先理清思路。首先,东京都 现在是一个大都市,但它的历史可能从古代开始。我记得江户时代之前,东京可能只 是个小渔村或者不太重要的地方。然后德川家康在江户建立幕府,这应该是东京发展 的转折点。江户时代持续了大约260年,直到明治维新。明治时期,首都从京都迁到 江户,改名东京,成为日本的政治经济中心。接下来是近代的发展,关东大地震和二 战的影响可能也很重要,特别是战后重建和经济高速增长期。现在东京都是全球重要
的城市,可能还需要提到行政区划的变化,比如23特别区的设立。用户可能想知道关 键的历史事件和时期,以及它们如何塑造了今天的东京。需要确保时间线清晰,重要 事件不遗漏。可能还需要简要提到古代部分,比如平安时代或更早的时期,是否有相 关历史。另外,东京都的成立时间,可能是在1943年,合并了东京府和东京市。”
Hugging Face DeepSeek
Hugging Face サイバーエージェントさんのDeepSeek
Thank You!
More Decks by 為藤アキラ
See All by 為藤アキラ
【書籍出版記念】 10周回って、エージェント開発は RAGがすべてだった。〜RAGの歴史と開発現場で見えた実践知〜
akiratameto
25
11k
Agent ServerはWeb Serverではない。ADKで考えるAgentOps
akiratameto
0
360
AI Agent Vertex AI Agent Builder × A2A × ADKで繋げるマルチエージェント
akiratameto
1
210
[OpsJAWS Meetup33 AIOps] Amazon Bedrockガードレールで守る安全なAI運用
akiratameto
2
480
Amazon Bedrockで実現する堅牢なデータエンジニアリング
akiratameto
1
170
Bedrock カスタムモデルvs汎用モデルの比較
akiratameto
1
210
Vertex AIで実現するLLMデータアノテーションの効率化と自動化
akiratameto
0
280
Amazon Bedrock Agents (ナレッジベースの種類)
akiratameto
1
440
Amazon Bedrock Agents (基本編)
akiratameto
0
330
Other Decks in Technology
See All in Technology
Terraform 0 to 100:100個以上のリポジトリを常に最新にし続けるための自動化
sue445
2
1.2k
統制されたID・権限をどう利用するか : DPoP/FAPIによるAPIセキュリティ強化
oidfj
1
230
メルカリの小規模チーム「Pod」で、 エンジニアがデータアナリストなしで、 AIを使ってデータ分析の自走を目指す取り組み
jackojacko_
0
290
OCI Artifact による自動運転タクシーに向けた OTA 基盤の構築
biwashi
1
180
Del vibe coding a un Desarrollo (agéntico) fiable
jcabot
0
190
AIエージェントのアーキテクチャ設計
nsatoh
0
350
Platform Engineering をベースとした Agentic Software Factory の実践
110y
1
450
PHPで家庭用ゲーム機の専用コントローラーをMIDIデバイスとして扱ってみる
wind111
0
170
マネージャーをエスパーにしない マネジメントされる側から始める、働きやすい現場づくり
comi190327
1
830
AWS Blocksで AIエージェント作れるの知ってます?
kmiya84377
1
130
その修正で本当に速くなったのか? k6とOpenTelemetryで確かめる性能改善 / Performance review with k6 and OpenTelemetry
ymotongpoo
3
350
IP重複は"ランディングVPC"で受け止める ― PrivateLink と Transit Gatewayによるマルチテナント接続基盤の設計
hatahata021
3
250
Featured
See All Featured
Embracing the Ebb and Flow
colly
88
5.2k
Automating Front-end Workflow
addyosmani
1370
210k
Build your cross-platform service in a week with App Engine
jlugia
234
19k
How STYLIGHT went responsive
nonsquared
100
6.4k
The Spectacular Lies of Maps
axbom
PRO
1
1.1k
StorybookのUI Testing Handbookを読んだ
zakiyama
31
7.1k
Skip the Path - Find Your Career Trail
mkilby
1
290
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
35
3.9k
Making Projects Easy
brettharned
120
6.9k
Well, that’s weird…
csswizardry
1
150
From π to Pie charts
rasagy
1
450
Money Talks: Using Revenue to Get Sh*t Done
nikkihalliwell
0
570