浮動小数点と固定小数点の違い
2011/03/18
大まかな部分(概念?)だけ知りたかった。
浮動小数点 | 固定小数点 | |
---|---|---|
記述 | (仮数部)×(基数)(指数部) | (整数部).(小数部) |
記述例 | 1.234×10^2 1.23×10^(-2) |
123.4 0.0123 |
プログラム的な意味
- 浮動小数点
- 「仮数」の枠と「10^2」とかの枠を用意。
- 固定小数点
- 「整数部」と「小数部」の枠を用意。
10個の文字枠があった場合の例
細かいことは気にしない。大雑把にいうと「浮動小数点」の方がより多くの桁数を取り扱うことができる。
- 浮動小数点
-
10枠のうち、4枠を「10^2」とかで使う。残り6枠を「仮数」で使う。
この場合、4枠では「10^1」~「10^9」までが使え、残り6枠では「000000」~「999999」までが使えることになる。
そのため、「0」~「999,999×10^9」までの「100兆個」ぐらいが表現可能。 - 固定小数点
-
10枠のうち、4枠を「整数部」で使う。残り6枠を「小数部」で使う。
この場合、4枠では「0000」~「9999」までが使え、残り6枠では「000000」~「999999」までが使えることになる。
そのため、「0.0」~「9,999.999999」までの「10億個」ぐらいが表現可能。