Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
AVXって何だ?
Search
kkojima
September 15, 2020
Technology
1
770
AVXって何だ?
GPUなしでもここまでできるAI構築シリーズ2020.9.17
https://ibm-developer.connpass.com/event/187302/
kkojima
September 15, 2020
Tweet
Share
More Decks by kkojima
See All by kkojima
Dojo ++ 「GPUなしでもここまでできるAI構築シリーズ Part 4」カスタムAIモデルの作成からモデルのデプロイまで
kkojima
0
220
最終回、オープンソースの話します
kkojima
1
210
AIデータはどうためる、テープアーカイブの復権
kkojima
0
150
AIに必要なデータをどう送るか、ネットワークを考える
kkojima
0
310
x86 CPUで動くAIアプリ作成で知っていると便利な基礎知識
kkojima
0
730
Dojo ++ 「GPUなしでもここまでできるAI構築シリーズ Part 3」事前準備
kkojima
0
260
Dojo ++ 「GPUなしでもここまでできるAI構築シリーズ Part 2」インテルがチューンしたPythonとTensorFlow
kkojima
0
1.4k
Dojo ++ 「GPUなしでもここまでできるAI構築シリーズ Part 2」環境構築手順
kkojima
0
370
Other Decks in Technology
See All in Technology
株式会社Awarefy(アウェアファイ)会社説明資料 / Awarefy-Company-Deck
awarefy
3
12k
役員・マネージャー・著者・エンジニアそれぞれの立場から見たAWS認定資格
nrinetcom
PRO
4
6.8k
AI Agent時代なのでAWSのLLMs.txtが欲しい!
watany
3
370
JAWS DAYS 2025 アーキテクチャ道場 事前説明会 / JAWS DAYS 2025 briefing document
naospon
0
2.8k
Global Databaseで実現するマルチリージョン自動切替とBlue/Greenデプロイ
j2yano
0
160
Amazon Athenaから利用時のGlueのIcebergテーブルのメンテナンスについて
nayuts
0
110
入門 PEAK Threat Hunting @SECCON
odorusatoshi
0
180
2025/3/1 公共交通オープンデータデイ2025
morohoshi
0
110
RaspberryPi CM4(CM5も)面白いぞ!
nonnoise
0
110
AI自体のOps 〜LLMアプリの運用、AWSサービスとOSSの使い分け〜
minorun365
PRO
9
1k
AIエージェント時代のエンジニアになろう #jawsug #jawsdays2025 / 20250301 Agentic AI Engineering
yoshidashingo
9
4.1k
"TEAM"を導入したら最高のエンジニア"Team"を実現できた / Deploying "TEAM" and Building the Best Engineering "Team"
yuj1osm
1
240
Featured
See All Featured
Practical Tips for Bootstrapping Information Extraction Pipelines
honnibal
PRO
13
1k
The Myth of the Modular Monolith - Day 2 Keynote - Rails World 2024
eileencodes
21
2.5k
Stop Working from a Prison Cell
hatefulcrawdad
268
20k
個人開発の失敗を避けるイケてる考え方 / tips for indie hackers
panda_program
100
18k
[RailsConf 2023 Opening Keynote] The Magic of Rails
eileencodes
28
9.3k
Practical Orchestrator
shlominoach
186
10k
Embracing the Ebb and Flow
colly
84
4.6k
Writing Fast Ruby
sferik
628
61k
Documentation Writing (for coders)
carmenintech
68
4.6k
The Psychology of Web Performance [Beyond Tellerrand 2023]
tammyeverts
46
2.4k
Save Time (by Creating Custom Rails Generators)
garrettdimon
PRO
29
1.1k
We Have a Design System, Now What?
morganepeng
51
7.4k
Transcript
GPUなしでもここまでできるAI構築シリーズ 2020.9.17 「AVXってなんだ?」
「GPUなしでもここまでできるAI構築」 今回のシリーズでの範囲は: 出荷数が圧倒的に多いインテル x86 CPU を対象とします (Macユーザ、⼤歓迎) IBM Cloud でも利⽤できる
AVX-512 搭載機種がベスト でも AVX2 でもそれなりに実感できるはず
全4回あります (初回は座学のみ 第2,3,4回はハンズオンあり) 1回 9⽉17⽇ 14:00 座学 2回 10⽉29⽇ 14:00
座学, ハンズオン 3回 11⽉12⽇ 14:00 座学, ハンズオン 4回 12⽉10⽇ 14:00 座学, ハンズオン 「GPUなしでもここまでできるAI構築」
わたしたちの環境
計算⽅法によって機械には向き不向きがある JAMSTEC 地球シュミレータ ベクトル演算専⽤機 (おそらく現⾏では唯⼀) シミュレーションモデルが使うメモリが⼤きなベクトル演算に特化
AVX ってなんだ? ベクトル演算ってなんだ? CPUはハードウェアだけど、必ずソフトウェアが命令を出している AIやシミュレーションで重要な命令にSIMDがある SIMDを使った演算をベクトル演算という SIMD: Single Instruction Multiple
Data AVX: Advanced Vector Extensions
AVX ってなんだ? AIと関係あるの? シミュレーションではモデル(本物の特徴を掴んだ枠)をつくる ⽔や空気、物体などは3次元以上の要素でモデルを計算する必要がある GPU: 重要な要素だけ選択的に計算して表⽰することが得意(ゲーム映像など) CPU: 緻密に再現することが得意 (AVXはこの密度を⾼める)
Deep Learningではシミュレーションと同じベクトル演算が使われる
AVX ってなんだ? どれくらい強⼒なの? コンピュータの能⼒の尺度に FLOPS (⼀秒に何回浮動⼩数点 演算ができるか)があります AVXなし 1 FLOPS/クロック
AVXあり 8 FLOPS/クロック AVX2あり 16 FLOPS/クロック もし性能が⼗分にひきだせるソフトを利⽤するならばAVXなし に⽐較するとAVX2は16倍の性能がクロックあたり出せるかも
AVX ってなんだ? インテルだけ? AVXはAMDのCPUにも⼊っている AVX2, AVX-512と進化している (こちらはインテルが先⾏)
AVX ってなんだ? CPUが対応していればOK? AVXはハードウェアの機能 (CPUに埋め込まれている) でもほんとうに⼤事なのは開発環境(ソフトウェア) このシリーズではここを深掘りします
AI 専⽤機だとどうなっているの? おすすめ資料: CQ出版社 ⽉刊インターフェース 10⽉号 ほとんどの製品、コンセプトが網羅されている (DLU はあったけど SX-Aurora
がなかったのは残念) 過渡期の今、われわれがどこにいるかわかる
本⽇の⽬⽟ この事実にあなたはおどろく。。 「インテル製 TensorFlow があるなんて」
次回以降の環境 Mac sysctl machdep.cpu.brand_string Windows 10 (PowerShell) @((Get-WmiObject Win32_Processor).Name)[0] Linux
lscpu | grep "Model name” (仮想環境だとうまく表⽰されないので lscpu 出⼒の Flags:を確認) 1. Google、Qwant など検索エンジンで出⼒を調べる (Intel製だったら) Intel Ark というCPUスペック表がみつかるはず 2. AVX2, AVX-512 が記載されていれば当たりです もし表⽰がなくてもこのシリーズの⼿順は素振り練習としてできます お⼿元の環境を次回までにご確認ください
例: Macが該当しているか調べる kojima@mac ~ % sysctl machdep.cpu.brand_string machdep.cpu.brand_string: Intel(R) Core(TM)
i5-4278U CPU @ 2.60GHz i5-4278U を Web 検索 さらに ark.intel.comの該当ページで “AVX” を検索 すると “Instruction Set Extensions Intel® SSE4.1, Intel® SSE4.2, Intel® AVX2” AVX2 当たり!
まずは楽しんでください !