Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
ぼくのかんがえたさいきょうCPU 2018 DATA
Search
houmei
April 19, 2018
Technology
0
150
ぼくのかんがえたさいきょうCPU 2018 DATA
houmei
April 19, 2018
Tweet
Share
More Decks by houmei
See All by houmei
ぼくのかんがえたさいきょうCPU 2018 ベクトル演算
houmei
0
170
ぼくのかんがえたさいきょうCPU 2018 スカラ演算
houmei
0
150
2018-BKSC-ALU
houmei
0
290
2017 CPU Architeciture
houmei
0
310
Other Decks in Technology
See All in Technology
Node.js 2025: What's new and what's next
ruyadorno
0
350
[Codex Meetup Japan #1] Codex-Powered Mobile Apps Development
korodroid
2
870
HR Force における DWH の併用事例 ~ サービス基盤としての BigQuery / 分析基盤としての Snowflake ~@Cross Data Platforms Meetup #2「BigQueryと愉快な仲間たち」
ryo_suzuki
0
220
Data Hubグループ 紹介資料
sansan33
PRO
0
2.2k
そのWAFのブロック、どう活かす? サービスを守るための実践的多層防御と思考法 / WAF blocks defense decision
kaminashi
0
200
Introduction to Sansan Meishi Maker Development Engineer
sansan33
PRO
0
310
OAuthからOIDCへ ― 認可の仕組みが認証に拡張されるまで
yamatai1212
0
130
WEBサービスを成り立たせるAWSサービス
takano0131
1
170
コンテキストエンジニアリング入門〜AI Coding Agent作りで学ぶ文脈設計〜
kworkdev
PRO
3
1.4k
ガバメントクラウド(AWS)へのデータ移行戦略の立て方【虎の巻】 / 20251011 Mitsutosi Matsuo
shift_evolve
PRO
2
200
AWS Control Tower に学ぶ! IAM Identity Center 権限設計の第一歩 / IAM Identity Center with Control Tower
y___u
0
170
ビズリーチ求職者検索におけるPLMとLLMの活用 / Search Engineering MEET UP_2-1
visional_engineering_and_design
1
130
Featured
See All Featured
Thoughts on Productivity
jonyablonski
70
4.9k
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
danielanewman
230
22k
Visualization
eitanlees
149
16k
Git: the NoSQL Database
bkeepers
PRO
431
66k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
37
2.6k
Build your cross-platform service in a week with App Engine
jlugia
232
18k
Building a Modern Day E-commerce SEO Strategy
aleyda
44
7.8k
Understanding Cognitive Biases in Performance Measurement
bluesmoon
31
2.7k
Java REST API Framework Comparison - PWX 2021
mraible
34
8.9k
Bash Introduction
62gerente
615
210k
Testing 201, or: Great Expectations
jmmastey
45
7.7k
Unsuck your backbone
ammeep
671
58k
Transcript
΅͘ͷ͔Μ͕͑ͨ ͍͖͞ΐ͏CPU 2018.4.19 @houmei DATA 184݄19༵
༰ • ΅͘ͷ͔Μ͕͍͖͑ͨ͞ΐ͏CPUͷղઆ • σʔλܗࣜʹ͍ͭͯ twitter : @houmei blog :
ԼੈքౝͷܭࢉػΑ· 184݄19༵
σʔλαΠζ ɾ̎ⁿόΠτ୯Ґ(n≧0)ɺ1όΠτ=8bit 7 0 15 31 63 bit 184݄19༵
ුಈখܕ ɾIEEE754-2008४ڌ 0 15 31 63 bit FP16 FP32 FP64
127 FP128 184݄19༵
ेਐුಈখܕ ɾIEEE754-2008४ڌ 0 31 63 bit DP32 DP64 127 DP128
184݄19༵
ͦͷଞͷσʔλܕ • BCDܕ(≠ेਐුಈখܕ) • จࣈྻ • ಛघͳුಈখܕʢػցֶश͚ʣ • Ҏ্ະݕ౼ 184݄19༵
Ϩʔϯ • σʔλશମΛ̎ⁿόΠτ୯ҐͰ෯ʹׂ͢Δ • ׂͨ۠͠ըϨʔϯͱݺͿ • Ϩʔϯ͕ͻͱ͔ͭ͠ͳ͍ͷεΧϥͱݺͿ • Ϩʔϯͯ͢ಉ͡ܕ FP32
FP32 FP32 FP32 lane 0 lane 1 lane 2 lane 3 0 31 63 95 127 184݄19༵
ܕϨʔϯͷѻ͍ • ϩʔυετΞ໋ྩͰσʔλͷαΠζͷΈѻ͏ • ϩʔυ͞Εͨ࣌Ͱܕͱͯ͠ѻ͏ • ුಈখܕϨʔϯ໋ྩͰ໌ʹ༩͑Δ • σʔλαΠζ͕҉ͷʹมΘΔ͜ͱͳ͍ 184݄19༵
ܕΛѻ͏ࢉज़ԋࢉ໋ྩ • σʔλܕʹΑΓಈ࡞͕มΘΔͷࢉज़ԋࢉ໋ྩ • ුಈখ↔ͷܕมࢉज़ԋࢉ໋ྩͰߦ͏ • ཧԋࢉ/Ϗοτԋࢉܕʹؔͳ͘࡞༻͢Δ • ৄࡉผ్ 184݄19༵
ɹ ͭͮ͘ ΅͘ͷ͔Μ͕͍͖͑ͨ͞ΐ͏CPU 184݄19༵