丸め誤差 発生の仕組みと向き合い方

https://xvi-pea.hatenablog.com/entry/2024/10/19/211254

Transcript

1. 丸め誤差 発⽣の仕組みと向き合い⽅ =千歳ゆるい勉強会vol.4=
2. ⾃⼰紹介 • えび🦐 • エンジニア2年⽣ • Swiftが好き…最近触らせてもらえていない… 最近の関⼼ • TDD : Swiftで⾊々いじっています。まだ腹落ちしていない。 • コンピュータはなぜ動いているのか
3. •以下の計算を試してください：
4. 0.3 ？
5. 答え： 0.30000000000000004
6. これが丸め誤差
7. 今⽇は、丸め誤差発⽣の仕 組みと 向き合い⽅について お話しします。
8. ⽬次 •浮動⼩数点数とはなにか •基数変換の⽅法をおさらい •浮動⼩数点数の優位性 •丸め誤差と付き合っていく •まとめ
9. Double = 浮動⼩数点数型の⼀種
10. 浮動⼩数点数とは
11. 浮動⼩数点数とは： 10進数の実数を、有限桁の2進数 の近似値で表現する⽅法
12. 基数変換の⽅法をおさらい
13. 整数部：整数を2で割り、余りを下から上へ並べる
14. ⼩数部：⼩数部分に2を掛け、積の整数部分 を順に取り出す
15. 0.1を⼆進数にする：
16. 循環している…？
17. 浮動⼩数点数： 10進数の実数を、有限桁の2進数 の近似値で表現する⽅法
18. 丸め誤差は、⼩数を有限桁の⼆進 数で表現できない時に発⽣する
19. 浮動⼩数点数の優位性
20. 浮動⼩数点数の優位性： 効率的なメモリ利⽤と ⾼速な演算が可能
21. ベンチマークを取ってみる
23. •Double： 0.00000003327274322509766秒 •Decimal: 0.000000044722795486450195秒 確かに、 Doubleのほうが(若⼲)早い
24. 丸め誤差と付き合う
25. 丸め誤差を回避する⽅法： •整数で計算した後、10で割る •Decimalを使⽤する
26. 整数で計算した後、10で割る： •10進数の整数を2進数に変換する際は常に正 確に基数変換できる •なぜなら、任意の値を2の累乗の組み合わせ として表現するだけで済むから
27. (補⾜) 2の累乗：
28. Decimalを使⽤する： •10進数で計算すれば、何も問題ないよね！！
29. 丸め誤差を許容する： •数値の正確さが必須ではない時は、許容する
30. まとめ： •丸め誤差は、10進数を2進数で表現する際に 発⽣する計算誤差です。 •浮動⼩数点数は、誤差を伴うものの、⾼速で メモリ効率が良いため、広く使⽤されていま す。 •丸め誤差の回避⽅法として、整数で計算後に 10で割る⽅法や、Decimal型を使⽤する⼿段 があります。
32. ②以降で話したいこと •なぜ浮動⼩数点数は速いのか •丸め誤差を許容する 内部の動き •IEEE 754標準について