Lock in $30 Savings on PRO—Offer Ends Soon! ⏳
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
ぼくのかんがえたさいきょうCPU 2018 DATA
Search
houmei
April 19, 2018
Technology
0
150
ぼくのかんがえたさいきょうCPU 2018 DATA
houmei
April 19, 2018
Tweet
Share
More Decks by houmei
See All by houmei
ぼくのかんがえたさいきょうCPU 2018 ベクトル演算
houmei
0
170
ぼくのかんがえたさいきょうCPU 2018 スカラ演算
houmei
0
150
2018-BKSC-ALU
houmei
0
290
2017 CPU Architeciture
houmei
0
310
Other Decks in Technology
See All in Technology
JEDAI認定プログラム JEDAI Order 2026 エントリーのご案内 / JEDAI Order 2026 Entry
databricksjapan
0
140
チーリンについて
hirotomotaguchi
6
2.1k
AWS Security Agentの紹介/introducing-aws-security-agent
tomoki10
0
310
AI時代のワークフロー設計〜Durable Functions / Step Functions / Strands Agents を添えて〜
yakumo
3
320
打 造 A I 驅 動 的 G i t H u b ⾃ 動 化 ⼯ 作 流 程
appleboy
0
360
AWSを使う上で最低限知っておきたいセキュリティ研修を社内で実施した話 ~みんなでやるセキュリティ~
maimyyym
2
1.7k
学習データって増やせばいいんですか?
ftakahashi
2
480
ChatGPTで論⽂は読めるのか
spatial_ai_network
11
29k
RAG/Agent開発のアップデートまとめ
taka0709
0
190
re:Invent2025 コンテナ系アップデート振り返り(+CloudWatchログのアップデート紹介)
masukawa
0
390
20251219 OpenIDファウンデーション・ジャパン紹介 / OpenID Foundation Japan Intro
oidfj
0
140
マイクロサービスへの5年間 ぶっちゃけ何をしてどうなったか
joker1007
14
6.5k
Featured
See All Featured
Code Review Best Practice
trishagee
74
19k
Site-Speed That Sticks
csswizardry
13
1k
How to Ace a Technical Interview
jacobian
281
24k
Bootstrapping a Software Product
garrettdimon
PRO
307
120k
Speed Design
sergeychernyshev
33
1.4k
Facilitating Awesome Meetings
lara
57
6.7k
How GitHub (no longer) Works
holman
316
140k
What’s in a name? Adding method to the madness
productmarketing
PRO
24
3.8k
Six Lessons from altMBA
skipperchong
29
4.1k
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
danielanewman
231
22k
Building a Modern Day E-commerce SEO Strategy
aleyda
45
8.3k
[SF Ruby Conf 2025] Rails X
palkan
0
540
Transcript
΅͘ͷ͔Μ͕͑ͨ ͍͖͞ΐ͏CPU 2018.4.19 @houmei DATA 184݄19༵
༰ • ΅͘ͷ͔Μ͕͍͖͑ͨ͞ΐ͏CPUͷղઆ • σʔλܗࣜʹ͍ͭͯ twitter : @houmei blog :
ԼੈքౝͷܭࢉػΑ· 184݄19༵
σʔλαΠζ ɾ̎ⁿόΠτ୯Ґ(n≧0)ɺ1όΠτ=8bit 7 0 15 31 63 bit 184݄19༵
ුಈখܕ ɾIEEE754-2008४ڌ 0 15 31 63 bit FP16 FP32 FP64
127 FP128 184݄19༵
ेਐුಈখܕ ɾIEEE754-2008४ڌ 0 31 63 bit DP32 DP64 127 DP128
184݄19༵
ͦͷଞͷσʔλܕ • BCDܕ(≠ेਐුಈখܕ) • จࣈྻ • ಛघͳුಈখܕʢػցֶश͚ʣ • Ҏ্ະݕ౼ 184݄19༵
Ϩʔϯ • σʔλશମΛ̎ⁿόΠτ୯ҐͰ෯ʹׂ͢Δ • ׂͨ۠͠ըϨʔϯͱݺͿ • Ϩʔϯ͕ͻͱ͔ͭ͠ͳ͍ͷεΧϥͱݺͿ • Ϩʔϯͯ͢ಉ͡ܕ FP32
FP32 FP32 FP32 lane 0 lane 1 lane 2 lane 3 0 31 63 95 127 184݄19༵
ܕϨʔϯͷѻ͍ • ϩʔυετΞ໋ྩͰσʔλͷαΠζͷΈѻ͏ • ϩʔυ͞Εͨ࣌Ͱܕͱͯ͠ѻ͏ • ුಈখܕϨʔϯ໋ྩͰ໌ʹ༩͑Δ • σʔλαΠζ͕҉ͷʹมΘΔ͜ͱͳ͍ 184݄19༵
ܕΛѻ͏ࢉज़ԋࢉ໋ྩ • σʔλܕʹΑΓಈ࡞͕มΘΔͷࢉज़ԋࢉ໋ྩ • ුಈখ↔ͷܕมࢉज़ԋࢉ໋ྩͰߦ͏ • ཧԋࢉ/Ϗοτԋࢉܕʹؔͳ͘࡞༻͢Δ • ৄࡉผ్ 184݄19༵
ɹ ͭͮ͘ ΅͘ͷ͔Μ͕͍͖͑ͨ͞ΐ͏CPU 184݄19༵