浮動小数点と固定小数点の違い

2011/03/18

大まかな部分(概念?)だけ知りたかった。

浮動小数点 固定小数点
記述 (仮数部)×(基数)(指数部) (整数部).(小数部)
記述例 1.234×10^2
1.23×10^(-2)
123.4
0.0123

プログラム的な意味

浮動小数点
「仮数」の枠と「10^2」とかの枠を用意。
固定小数点
「整数部」と「小数部」の枠を用意。

10個の文字枠があった場合の例

細かいことは気にしない。大雑把にいうと「浮動小数点」の方がより多くの桁数を取り扱うことができる。

浮動小数点
10枠のうち、4枠を「10^2」とかで使う。残り6枠を「仮数」で使う。
この場合、4枠では「10^1」~「10^9」までが使え、残り6枠では「000000」~「999999」までが使えることになる。
そのため、「0」~「999,999×10^9」までの「100兆個」ぐらいが表現可能。
固定小数点
10枠のうち、4枠を「整数部」で使う。残り6枠を「小数部」で使う。
この場合、4枠では「0000」~「9999」までが使え、残り6枠では「000000」~「999999」までが使えることになる。
そのため、「0.0」~「9,999.999999」までの「10億個」ぐらいが表現可能。

新着(ニュース関連以外)

2018-07-26
年賀状で「新春」とか書くけど・・・何故なんだろうと8月を目前にした今、疑問に思った。
2018-05-16
PHPで画像のヘッダ情報(?)の「Orientation」を元に画像回転させたい。
2018-03-05
Android Studioをインストール。エミュレータを軽くするトコまで終わらせたかったけど、挫折した。
2018-02-23
プッシュ通知について調べてた時にでてきたServiceWorker。そのServiceWorkerについてのメモ。
2017-12-13
jqueryで取得したDOM要素をオブジェクトじゃなくて、配列で受け取りたい