浮動小数点数の話

Transcript

1. 浮動小数点数の話 Hiroki Kato 2018/11/28 PHP勉強会
2. 軽く自己紹介 Kato Hiroki @kato_dev Ｃ言語でデジカメ開発 組み込みOSのテクニカルサポート Webサービスのプログラマ とある会社で、web api 作ってます PHP, Postgresql
3. 浮動小数点数に関する出来事
4. 環境 AWS の Redshift (PostgreSQL互換) 月次、日次レポートの値ズレてない？
5. float_A 19.99 29.99 39.99 とあるテーブル CAST(flot_A * 100 AS INTEGER) 浮動小数点数に100かけて、INTEGERでキャスト result 1998 2999 3999
6. float_A 19.99 29.99 39.99 result 1998 2999 3999 19.99 が 1998 ?
7. 浮動小数点数って近似だっけ？
8. 2進数での小数表現 10進数 2進数 0.5 0.1 2-1 0.25 0.01 2-2 0.3 0.010011001100110011… 0.29999999999999998889776975 近似
9. 19.99は？ 10進数 2進数 19.99 10011.11111101… 19.989999999999998436… 近似
10. 19.99 * 100 の INTEGER型 1998.9999999999998436 の INTEGER型 小数点以下の切り捨て 1998
11. PHPにおいての浮動小数点数 http://php.net/manual/ja/language.types.float.php から引用 浮動小数点数の精度 浮動小数点数の精度は有限です。 … さらに、十進数では正確な小数で表せる有理数、たとえば 0.1 や 0.7 は、 二進数の浮動小数点 数としては正確に表現できません。したがって、それを内部的な二進数表現に変換する際 には、どうしても多少精度が落ちてしまいます。
12. <?php $a = 1.6; $b = 8 – 6.4; echo $a == $b ? 'equal' : 'not equal'; php 7.2.12 on windows10 64bit not equal
13. <?php ini_set(‘precision’, 23);  浮動小数点数に関して表示される最大桁数 $a = 1.6; $b = 8 – 6.4; echo $a . "¥n"; echo $b . "¥n"; php 7.2.12 on windows10 64bit 1.6000000000000000888178 1.5999999999999996447286 $a : $b :
14. 浮動小数点数の性質 (IEEE 754) 0に近い値は精度が高い 0から離れる程、精度が低い
15. <?php ini_set(‘precision’, 53);  浮動小数点数に関して表示される最大桁数 $a = pow(2, 63);  2の63乗 $b = pow(2, 63) + 1;  2の63乗＋1 echo $a . "¥n"; echo $b . "¥n"; php 7.2.12 on windows10 64bit 9223372036854775808 9223372036854775808 $a : $b : 精度が悪くなる例 ２の6３乗 等しい pow(2, 63) + 1025 : 9223372036854777856
16. 浮動小数点数は近似 ご清聴ありがとうございました