Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
ぼくのかんがえたさいきょうCPU 2018 DATA
Search
Sponsored
·
SiteGround - Reliable hosting with speed, security, and support you can count on.
→
houmei
April 19, 2018
Technology
0
160
ぼくのかんがえたさいきょうCPU 2018 DATA
houmei
April 19, 2018
Tweet
Share
More Decks by houmei
See All by houmei
ぼくのかんがえたさいきょうCPU 2018 ベクトル演算
houmei
0
180
ぼくのかんがえたさいきょうCPU 2018 スカラ演算
houmei
0
150
2018-BKSC-ALU
houmei
0
290
2017 CPU Architeciture
houmei
0
320
Other Decks in Technology
See All in Technology
「ヒットする」+「近い」を同時にかなえるスマートサジェストの作り方.pdf
nakasho
0
140
LLM活用の壁を超える:リクルートR&Dの戦略と打ち手
recruitengineers
PRO
1
270
わたしがセキュアにAWSを使えるわけないじゃん、ムリムリ!(※ムリじゃなかった!?)
cmusudakeisuke
1
350
Introduction to Sansan for Engineers / エンジニア向け会社紹介
sansan33
PRO
6
72k
ビズリーチにおける検索・推薦の取り組み / DEIM2026
visional_engineering_and_design
1
110
トップマネジメントとコンピテンシーから考えるエンジニアリングマネジメント
zigorou
4
680
Claude Cowork Plugins を読む - Skills駆動型業務エージェント設計の実像と構造
knishioka
0
280
Master Dataグループ紹介資料
sansan33
PRO
1
4.5k
A Gentle Introduction to Transformers
keio_smilab
PRO
2
880
Databricksアシスタントが自分で考えて動く時代に! エージェントモード体験もくもく会
taka_aki
0
340
Oracle Database@Azure:サービス概要のご紹介
oracle4engineer
PRO
4
1.1k
男(監査)はつらいよ - Policy as CodeからAIエージェントへ
ken5scal
5
770
Featured
See All Featured
[RailsConf 2023] Rails as a piece of cake
palkan
59
6.4k
Taking LLMs out of the black box: A practical guide to human-in-the-loop distillation
inesmontani
PRO
3
2.1k
Keith and Marios Guide to Fast Websites
keithpitt
413
23k
The State of eCommerce SEO: How to Win in Today's Products SERPs - #SEOweek
aleyda
2
9.8k
The Straight Up "How To Draw Better" Workshop
denniskardys
239
140k
Making the Leap to Tech Lead
cromwellryan
135
9.8k
Raft: Consensus for Rubyists
vanstee
141
7.3k
brightonSEO & MeasureFest 2025 - Christian Goodrich - Winning strategies for Black Friday CRO & PPC
cargoodrich
3
120
Building a Modern Day E-commerce SEO Strategy
aleyda
45
8.8k
Marketing to machines
jonoalderson
1
5k
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
PRO
199
73k
How to train your dragon (web standard)
notwaldorf
97
6.5k
Transcript
΅͘ͷ͔Μ͕͑ͨ ͍͖͞ΐ͏CPU 2018.4.19 @houmei DATA 184݄19༵
༰ • ΅͘ͷ͔Μ͕͍͖͑ͨ͞ΐ͏CPUͷղઆ • σʔλܗࣜʹ͍ͭͯ twitter : @houmei blog :
ԼੈքౝͷܭࢉػΑ· 184݄19༵
σʔλαΠζ ɾ̎ⁿόΠτ୯Ґ(n≧0)ɺ1όΠτ=8bit 7 0 15 31 63 bit 184݄19༵
ුಈখܕ ɾIEEE754-2008४ڌ 0 15 31 63 bit FP16 FP32 FP64
127 FP128 184݄19༵
ेਐුಈখܕ ɾIEEE754-2008४ڌ 0 31 63 bit DP32 DP64 127 DP128
184݄19༵
ͦͷଞͷσʔλܕ • BCDܕ(≠ेਐුಈখܕ) • จࣈྻ • ಛघͳුಈখܕʢػցֶश͚ʣ • Ҏ্ະݕ౼ 184݄19༵
Ϩʔϯ • σʔλશମΛ̎ⁿόΠτ୯ҐͰ෯ʹׂ͢Δ • ׂͨ۠͠ըϨʔϯͱݺͿ • Ϩʔϯ͕ͻͱ͔ͭ͠ͳ͍ͷεΧϥͱݺͿ • Ϩʔϯͯ͢ಉ͡ܕ FP32
FP32 FP32 FP32 lane 0 lane 1 lane 2 lane 3 0 31 63 95 127 184݄19༵
ܕϨʔϯͷѻ͍ • ϩʔυετΞ໋ྩͰσʔλͷαΠζͷΈѻ͏ • ϩʔυ͞Εͨ࣌Ͱܕͱͯ͠ѻ͏ • ුಈখܕϨʔϯ໋ྩͰ໌ʹ༩͑Δ • σʔλαΠζ͕҉ͷʹมΘΔ͜ͱͳ͍ 184݄19༵
ܕΛѻ͏ࢉज़ԋࢉ໋ྩ • σʔλܕʹΑΓಈ࡞͕มΘΔͷࢉज़ԋࢉ໋ྩ • ුಈখ↔ͷܕมࢉज़ԋࢉ໋ྩͰߦ͏ • ཧԋࢉ/Ϗοτԋࢉܕʹؔͳ͘࡞༻͢Δ • ৄࡉผ్ 184݄19༵
ɹ ͭͮ͘ ΅͘ͷ͔Μ͕͍͖͑ͨ͞ΐ͏CPU 184݄19༵