Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
ぼくのかんがえたさいきょうCPU 2018 DATA
Search
houmei
April 19, 2018
Technology
160
0
Share
ぼくのかんがえたさいきょうCPU 2018 DATA
houmei
April 19, 2018
More Decks by houmei
See All by houmei
ぼくのかんがえたさいきょうCPU 2018 ベクトル演算
houmei
0
180
ぼくのかんがえたさいきょうCPU 2018 スカラ演算
houmei
0
150
2018-BKSC-ALU
houmei
0
290
2017 CPU Architeciture
houmei
0
320
Other Decks in Technology
See All in Technology
ブラックボックス化したMLシステムのVertex AI移行 / mlops_community_62
visional_engineering_and_design
1
280
Goビルドを理解し、 CI/CDの高速化に挑む
satoshin
0
120
AWSで2番目にリリースされたサービスについてお話しします(諸説あります)
yama3133
0
120
バックオフィスPJのPjMをコーポレートITが担うとうまくいく3つの理由
yueda256
1
270
【AWS】CloudTrail LakeとCloudWatch Logs Insightsの使い分け方針
tsurunosd
0
130
Oracle Cloud Infrastructure:2026年3月度サービス・アップデート
oracle4engineer
PRO
0
380
会社紹介資料 / Sansan Company Profile
sansan33
PRO
16
410k
Data Enabling Team立ち上げました
sansantech
PRO
0
270
40代からのアウトプット ― 経験は価値ある学びに変わる / 20260404 Naoki Takahashi
shift_evolve
PRO
5
830
スクラムを支える内部品質の話
iij_pr
0
250
Tour of Agent Protocols: MCP, A2A, AG-UI, A2UI with ADK
meteatamel
0
200
GitHub Actions侵害 — 相次ぐ事例を振り返り、次なる脅威に備える
flatt_security
13
7.5k
Featured
See All Featured
The untapped power of vector embeddings
frankvandijk
2
1.7k
The Power of CSS Pseudo Elements
geoffreycrofte
82
6.2k
Balancing Empowerment & Direction
lara
5
1k
The Impact of AI in SEO - AI Overviews June 2024 Edition
aleyda
5
780
The #1 spot is gone: here's how to win anyway
tamaranovitovic
2
1k
How STYLIGHT went responsive
nonsquared
100
6k
The Mindset for Success: Future Career Progression
greggifford
PRO
0
300
Code Reviewing Like a Champion
maltzj
528
40k
The MySQL Ecosystem @ GitHub 2015
samlambert
251
13k
RailsConf 2023
tenderlove
30
1.4k
Kristin Tynski - Automating Marketing Tasks With AI
techseoconnect
PRO
0
210
sira's awesome portfolio website redesign presentation
elsirapls
0
210
Transcript
΅͘ͷ͔Μ͕͑ͨ ͍͖͞ΐ͏CPU 2018.4.19 @houmei DATA 184݄19༵
༰ • ΅͘ͷ͔Μ͕͍͖͑ͨ͞ΐ͏CPUͷղઆ • σʔλܗࣜʹ͍ͭͯ twitter : @houmei blog :
ԼੈքౝͷܭࢉػΑ· 184݄19༵
σʔλαΠζ ɾ̎ⁿόΠτ୯Ґ(n≧0)ɺ1όΠτ=8bit 7 0 15 31 63 bit 184݄19༵
ුಈখܕ ɾIEEE754-2008४ڌ 0 15 31 63 bit FP16 FP32 FP64
127 FP128 184݄19༵
ेਐුಈখܕ ɾIEEE754-2008४ڌ 0 31 63 bit DP32 DP64 127 DP128
184݄19༵
ͦͷଞͷσʔλܕ • BCDܕ(≠ेਐුಈখܕ) • จࣈྻ • ಛघͳුಈখܕʢػցֶश͚ʣ • Ҏ্ະݕ౼ 184݄19༵
Ϩʔϯ • σʔλશମΛ̎ⁿόΠτ୯ҐͰ෯ʹׂ͢Δ • ׂͨ۠͠ըϨʔϯͱݺͿ • Ϩʔϯ͕ͻͱ͔ͭ͠ͳ͍ͷεΧϥͱݺͿ • Ϩʔϯͯ͢ಉ͡ܕ FP32
FP32 FP32 FP32 lane 0 lane 1 lane 2 lane 3 0 31 63 95 127 184݄19༵
ܕϨʔϯͷѻ͍ • ϩʔυετΞ໋ྩͰσʔλͷαΠζͷΈѻ͏ • ϩʔυ͞Εͨ࣌Ͱܕͱͯ͠ѻ͏ • ුಈখܕϨʔϯ໋ྩͰ໌ʹ༩͑Δ • σʔλαΠζ͕҉ͷʹมΘΔ͜ͱͳ͍ 184݄19༵
ܕΛѻ͏ࢉज़ԋࢉ໋ྩ • σʔλܕʹΑΓಈ࡞͕มΘΔͷࢉज़ԋࢉ໋ྩ • ුಈখ↔ͷܕมࢉज़ԋࢉ໋ྩͰߦ͏ • ཧԋࢉ/Ϗοτԋࢉܕʹؔͳ͘࡞༻͢Δ • ৄࡉผ్ 184݄19༵
ɹ ͭͮ͘ ΅͘ͷ͔Μ͕͍͖͑ͨ͞ΐ͏CPU 184݄19༵