Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
ぼくのかんがえたさいきょうCPU 2018 DATA
Search
houmei
April 19, 2018
Technology
0
150
ぼくのかんがえたさいきょうCPU 2018 DATA
houmei
April 19, 2018
Tweet
Share
More Decks by houmei
See All by houmei
ぼくのかんがえたさいきょうCPU 2018 ベクトル演算
houmei
0
180
ぼくのかんがえたさいきょうCPU 2018 スカラ演算
houmei
0
150
2018-BKSC-ALU
houmei
0
290
2017 CPU Architeciture
houmei
0
320
Other Decks in Technology
See All in Technology
Context Engineeringが企業で不可欠になる理由
hirosatogamo
PRO
3
650
Amazon Bedrock Knowledge Basesチャンキング解説!
aoinoguchi
0
160
AWS Network Firewall Proxyを触ってみた
nagisa53
1
240
AzureでのIaC - Bicep? Terraform? それ早く言ってよ会議
torumakabe
1
590
クレジットカード決済基盤を支えるSRE - 厳格な監査とSRE運用の両立 (SRE Kaigi 2026)
capytan
6
2.8k
【Ubie】AIを活用した広告アセット「爆速」生成事例 | AI_Ops_Community_Vol.2
yoshiki_0316
1
110
SREチームをどう作り、どう育てるか ― Findy横断SREのマネジメント
rvirus0817
0
330
Agile Leadership Summit Keynote 2026
m_seki
1
660
OWASP Top 10:2025 リリースと 少しの日本語化にまつわる裏話
okdt
PRO
3
830
AIと新時代を切り拓く。これからのSREとメルカリIBISの挑戦
0gm
2
3k
M&A 後の統合をどう進めるか ─ ナレッジワーク × Poetics が実践した組織とシステムの融合
kworkdev
PRO
1
490
Greatest Disaster Hits in Web Performance
guaca
0
280
Featured
See All Featured
How To Stay Up To Date on Web Technology
chriscoyier
791
250k
The Pragmatic Product Professional
lauravandoore
37
7.1k
Build your cross-platform service in a week with App Engine
jlugia
234
18k
Building Better People: How to give real-time feedback that sticks.
wjessup
370
20k
The Director’s Chair: Orchestrating AI for Truly Effective Learning
tmiket
1
98
Un-Boring Meetings
codingconduct
0
200
Deep Space Network (abreviated)
tonyrice
0
64
Building Applications with DynamoDB
mza
96
6.9k
A Tale of Four Properties
chriscoyier
162
24k
Mind Mapping
helmedeiros
PRO
0
89
Writing Fast Ruby
sferik
630
62k
WENDY [Excerpt]
tessaabrams
9
36k
Transcript
΅͘ͷ͔Μ͕͑ͨ ͍͖͞ΐ͏CPU 2018.4.19 @houmei DATA 184݄19༵
༰ • ΅͘ͷ͔Μ͕͍͖͑ͨ͞ΐ͏CPUͷղઆ • σʔλܗࣜʹ͍ͭͯ twitter : @houmei blog :
ԼੈքౝͷܭࢉػΑ· 184݄19༵
σʔλαΠζ ɾ̎ⁿόΠτ୯Ґ(n≧0)ɺ1όΠτ=8bit 7 0 15 31 63 bit 184݄19༵
ුಈখܕ ɾIEEE754-2008४ڌ 0 15 31 63 bit FP16 FP32 FP64
127 FP128 184݄19༵
ेਐුಈখܕ ɾIEEE754-2008४ڌ 0 31 63 bit DP32 DP64 127 DP128
184݄19༵
ͦͷଞͷσʔλܕ • BCDܕ(≠ेਐුಈখܕ) • จࣈྻ • ಛघͳුಈখܕʢػցֶश͚ʣ • Ҏ্ະݕ౼ 184݄19༵
Ϩʔϯ • σʔλશମΛ̎ⁿόΠτ୯ҐͰ෯ʹׂ͢Δ • ׂͨ۠͠ըϨʔϯͱݺͿ • Ϩʔϯ͕ͻͱ͔ͭ͠ͳ͍ͷεΧϥͱݺͿ • Ϩʔϯͯ͢ಉ͡ܕ FP32
FP32 FP32 FP32 lane 0 lane 1 lane 2 lane 3 0 31 63 95 127 184݄19༵
ܕϨʔϯͷѻ͍ • ϩʔυετΞ໋ྩͰσʔλͷαΠζͷΈѻ͏ • ϩʔυ͞Εͨ࣌Ͱܕͱͯ͠ѻ͏ • ුಈখܕϨʔϯ໋ྩͰ໌ʹ༩͑Δ • σʔλαΠζ͕҉ͷʹมΘΔ͜ͱͳ͍ 184݄19༵
ܕΛѻ͏ࢉज़ԋࢉ໋ྩ • σʔλܕʹΑΓಈ࡞͕มΘΔͷࢉज़ԋࢉ໋ྩ • ුಈখ↔ͷܕมࢉज़ԋࢉ໋ྩͰߦ͏ • ཧԋࢉ/Ϗοτԋࢉܕʹؔͳ͘࡞༻͢Δ • ৄࡉผ్ 184݄19༵
ɹ ͭͮ͘ ΅͘ͷ͔Μ͕͍͖͑ͨ͞ΐ͏CPU 184݄19༵