16進数は何型

16進数の数値を変数に格納したい、という初心者にありがちな勘違い(?)について説明してみました。

Transcript

1. 16進数は何型? LTDD 2024-1 #1 すごい広島558 with IT初心者の会 @tsuda_ahr
2. 定期的に聞く問い。 • 16進数って何型ですか？
3. 問いの前に・・・ • 16進数って何かわかりますか？ • 型って何かわかりますか？
4. 答え）16進数は型ではありません。 • では何か？ → 表示形式です。
5. 型と表示形式は何が違うのか？ • 内部表現が同じかどうか。
6. たとえば 27 は? • 10進 では 27 • 16進 では 1B • 2進 では 11011 • Base 64 では b
7. だけれども内部表現は一緒 • 27 の場合、Int16 で表すと、どの表現でも内部表現は 0x001b。 • なので、27 を代入しても 0x1b を代入しても、出力結果は同じになる。 Python での例
8. 現実世界に例えると • 単位の変換に似ている。 （以下はすべて同じ圧力を示しています） 1 kgf/cm2 980.665 hPa 735.561 mmHg 10000 mmH2O
9. なんだけれども • 初心者が陥りがちな罠として、16進数で代入するけど、10進に自動変換さ れてしまって(?)、混乱することがあります。 • そんなとき、引用符で囲むと 16 進で代入できるので(?)、そうしてしまった りします。 Javascript での例 なぜか 10 進になる 引用符で囲めば 16 進で代入できる？
10. そして • 代入はいいけど、演算すると期待したものと違うものが出力されるので 困ったりします（汗 なぜか 10 進になる ？？？？？
11. なので • 16 進数 と 10 進数は表示の仕方が違うだけで、中身は同じものです。 • 16 進数は数値であり、文字列ではありません。 （なので引用符で囲まないでください）
12. ところで「型が違う」とは？ • 例えば以下はそれぞれ 0.1 を代入していますが、型（内部表現）が違います。 単精度実数型(32bit) 倍精度実数型(64bit) 10進型
13. 比較してみる • たとえば比較すると、同じ値のはずなのに違う値として評価される場合があ ります。 $a>$b が True なので、$a と $b が同じ値でない。
14. 1000 回足してみる • 1000 回くらい足すと結果の違いが見えたりします。 単精度実数型(32bit) 倍精度実数型(64bit) 10進型
15. こちらからは以上です（汗 表示は違うけど中身は同じ、という例と、表示は同じだけど中身が違う、とい う例を説明してみました。