2005年9月16日金曜日

よせやい照れるじゃねえか

○今日のBGM「Face of Fact (feel arrange ver.)」(佐藤裕美)

♪float型浮動小数のデータ格納方法(real4形式)
浮動小数を1以上2未満の仮数部と、2のべき乗の指数部に分ける。
32ビットの領域に上位から順に次のデータを入れる。
 1ビット:値の正負
 8ビット:指数部の指数に127を加えた符号なし整数値
 23ビット:仮数部の小数部分を頭づめで
値の範囲は正負とも1e-38~1e38程度。精度は10進7桁程度。

(例)10.0f をfloat型領域に格納する場合
10.0 = 1.25 * 2 ^ 3
正値なので先頭1ビットは0。
指数3に127を加えると130となり、指数部8ビットは10000010。
1.25(10進)→1.01(2進)なので、仮数部23ビットは010000…。
すべて合わせると01000001 00100000 00000000 00000000。

♪double型浮動小数のデータ格納方法(real8形式)
形式はfloatと同様。
指数部の領域が11ビット、仮数部が52ビットで、計64ビット。
指数に加算するオフセット値は1023。
値の範囲は1e-308~1e308程度。精度は10進15桁程度。

0 件のコメント :

コメントを投稿