Взгляд в кремний 

МФТИ - ФОПФ’19, ФПМИ’21 tech-проекты, Аргентина, РФ фин.сектор Преподавание: МФТИ, (ВШЭ, Иннополис) - CPython Internals - classic ML (sems) CPython music 

Из последнего 

October: ● Finland ● Sweden December: Indonesia September: Ghana November: Ireland 

No content

автор tg: @PyotrAndreev 6 Marketing Internals Each year: faster: 20% energy: less consumption 

автор tg: @PyotrAndreev 7 Transistor Internals silicon wafer / crystal manufacturing SMT / SIMD GPU +industry +future Что сегодня на обед ? >>> print('Hello World!') Hello World! +ecosystem 

автор tg: @PyotrAndreev 8 Transistor Internals more visualization & explanation short overview the next 20 slides 

автор tg: @PyotrAndreev 9 Transistor Internals silicon wafer / crystal manufacturing / sand -> wafer / time / crystalline silicon to Instagram: ● Time: days-month ● 1420°C ● 265kg ≈ 300mm x 2m 

автор tg: @PyotrAndreev 10 Transistor Internals silicon wafer / crystal manufacturing / sand -> wafer 

автор tg: @PyotrAndreev 11 Transistor Silicon wafer: ● ultra clean, выращенная ● 30 sm ● ≈$100 buy here Internals making micro-chip 

автор tg: @PyotrAndreev 12 Photo-lithograph Internals making micro-chip / videos: TSMC, ASML, Carl Zeiss SMT TSMC Netherlands Germany Taiwan $170M <- ASML: EUV-сканеры <- Carl Zeiss SMT: оптика 

автор tg: @PyotrAndreev 13 Photo-lithograph Internals ASML videos / EUV explanation Вы не захотите это потрогать ! x40 of surface sun temperature ≈220,000°C олово Как порождается EUV ? ≈25kW - light energy (initial) 

автор tg: @PyotrAndreev 14 Photo-lithograph Internals ASML videos / EUV explanation Давайте посмотрим на этот процесс 

автор tg: @PyotrAndreev 15 Photo-lithograph Internals making micro-chip / chip manufacturing ● 13.5nm – EUV ● $300th – photo mask cost ● 8nm resolution ● 0.5–2% EUV dropped into wafer chips on 300mm wafer: (in the end) ● or ≈100 GPUs ● or ≈200 CPUs ● or ≈1000 DRAM 

автор tg: @PyotrAndreev 16 Photo-lithograph Internals making micro-chip / chip manufacturing / more about the process super precision If EUV mirror is size of Russia, then the largest unevenness < 4.8mm high 

автор tg: @PyotrAndreev 17 Photo-lithograph Internals Посмотрим на процесс 

автор tg: @PyotrAndreev 18 Photo-lithograph Internals 

автор tg: @PyotrAndreev 19 Photo-lithograph Internals Посмотрим ближе 

автор tg: @PyotrAndreev 20 Photo-lithograph Internals ≈ 100$ ≈ 150 000$ wafer 125 gram ≈ gold gram x10 ≈ 1kg of gold PRICE: 3 months ≈1000steps ≈200 CPUs 1 CPU: ≈26B transistors monthly: 50th wafers ≈ $7.5B 

автор tg: @PyotrAndreev 21 Transistor Internals silicon wafer / crystal manufacturing 

22 Look at the industry автор tg: @PyotrAndreev 

автор tg: @PyotrAndreev 23 TSMC In time infestor report / A14 process / specialty technology / 3D fabric Technology: ● tech-process И куда мы движемся? 

No content

автор tg: @PyotrAndreev 25 Transistor Future

автор tg: @PyotrAndreev 26 TSMC History TSMC Tech Symposium Produce chips ≥ min тех.процесс Страшный график: 

автор tg: @PyotrAndreev 27 TSMC RoadMap TSMC Tech Symposium Source маркетинга: Each year: faster: 20% energy: less consumption 

28 Transistor under a microscope автор tg: @PyotrAndreev 

автор tg: @PyotrAndreev 29 Transistor Internals silicon wafer / crystal manufacturing SMT / SIMD GPU +industry +future >>> print('Hello World!') Hello World! +ecosystem 

автор tg: @PyotrAndreev 30 Transistor Sizes image Вафля, что в чипе? Когда вы купили свой компьютер? 

автор tg: @PyotrAndreev 31 Transistor Sizes CPU inners Transisor vs. daily objects 

автор tg: @PyotrAndreev 32 Transistor Sizes CPU inners Transisor vs. daily objects 

автор tg: @PyotrAndreev 33 Transistor Sizes CPU inners Transisor vs. daily objects 

автор tg: @PyotrAndreev 34 Transistor Principles transistors in CPU How it works? 

автор tg: @PyotrAndreev 35 Transistor Principles transistors in CPU 

автор tg: @PyotrAndreev 36 Transistor Architectures transistor evolution / GAA FET types / <10nm / CFET 

Logic Gates: transistor combinations автор tg: @PyotrAndreev 37 Transistor Architectures transistors in CPU / simple CPU Transistors: Chip: elementary Math: sum, mul, … Units: logic gate combinations IP Core: unit combinations Core: IP Core combinations Всё для чего? 

автор tg: @PyotrAndreev 38 Marketing Internals Each year: faster: 20% energy: less consumption Простой слайд: 

автор tg: @PyotrAndreev 39 processing units Internals ● ≤ 128 ядер – решение общих задача ● сильные ядра + предсказание ветвлений, большие кеши ● параллельность: ядра + векторизация + … ● лучше для: одной большой задачи за раз CPU architecture / CPU works / G/CPU schemes ● ~ 100 спец.ядер: ● оптимизация: пропускная способность ● параллельность: ~ 10th потоков ● лучше для: many the same independent simple tasks GPU: много, просто, одновременно CPU: мало, сложно, быстро 

автор tg: @PyotrAndreev 40 CPU Internals elementary Math: sum, mul, … Units: logic gate combinations IP Core: unit combinations Core: IP Core combinations $ python3 -c 'print(1+1)' 2 $ python3 -m timeit -s 'int(1000)' 50000000 loops, best of 5: 5.31 nsec per loop Byte-codes ISA Instruction Set Architecture = CPU language micro-ops CPU decodes ISA to µ-ops C compiled CPython for CPU 

автор tg: @PyotrAndreev 41 CPU SMT/Hyper-Threading in core 1 core – many logical cores. Each logical has independent: ● счётчики команд, физ.регистры но общие: ● исполнительные блоки, кэши, буферы Площадь кристалла ограничена: -дублирование и межъядерная инфра энергопотребление/выделение тепла в рамках logical cores is 10–40% compute power: ● L2/L3-miss, TLB-miss, mispredict, … Оба лог.ядра конкурируют за общие ресурсы. два аппаратных контекста и общий исполнительный тракт SMT ● прячет латентности ● физически реализованная многопоточность внутри одного ядра logic core SP: указатель стека IP: счётчик команд GPR, флаги/статус, контекст предсказателя, … core logic core SP: указатель стека IP: счётчик команд GPR, флаги/статус, контекст предсказателя, … scheduler, branch predictor, TLB, блоки исполнения, кэши, шины, частота, термобюджет, Load/Store Unit, SIMD* cache-miss 

автор tg: @PyotrAndreev 42 CPU: SIMD AVX/SVE Сколько «чисел» влезает в вектор (примерно, зависит от выбранного формата) ● 128 бит (NEON/XMM): 16×int8, 8×int16, 4×float32, 2×float64 ● 256 бит (YMM): 32×int8, 16×int16, 8×float32, 4×float64 ● 512 бит (ZMM): 64×int8, 32×int16, 16×float32, 8×float64 ● SVE 2048 бит: 256×int8 или 32×float64. где SIMD упирается в память и когда стоит идти в кластер/шардинг применение одной и той же операции ко множеству элементов векторного регистра и возвращает вектор результата 

автор tg: @PyotrAndreev 43 GPU Internals 

автор tg: @PyotrAndreev 44 Benchmarks maths out = sin(a*b + c) + sqrt(|a-b|) pure_python.py 0.043s / N=2*105 / float32 numba_simd.py 0.012s / N=107 / float32 

автор tg: @PyotrAndreev 45 CuPy High performance with GPU doc: cupy.dev out = sin(a*b + c) + sqrt(|a-b|) 

автор tg: @PyotrAndreev 46 PyCuda Internals 1. от сообщества: А.Клекнер 2. питонячая обёртка над CUDA -> верхнеуровневый доступ к API CUDA pycuda: github / doc 

автор tg: @PyotrAndreev 47 t.me/py_up Python Powers