入力した10進数を正確な有理数として解釈し、IEEE 754のbinary32またはbinary64へ変換します。JavaScriptの数値変換を経由しないため、各丸め方向の違いも確認できます。
入力と形式
例: 2.35、-0、1.25e-10、Infinity、NaN
入力例:
ビット表現
最近接偶数丸め
0100000000000010110011001100110011001100110011001100110011001101
符号 (1 bit)指数 (11 bits)仮数部 (52 bits)
16進表現
0x4002CCCCCCCCCCCD分類正規化数
非バイアス指数1
入力との関係入力より大きい
格納される値
短い10進表現
2.35丸め後の格納値の正確な10進表現
2.3500000000000000888178419700125232338905334472656252進仮数
1.0010110011001100110011001100110011001100110011001101短い10進表現は、最近接偶数丸めで同じ浮動小数点値へ戻せる簡潔な表示です。「丸め後の格納値の正確な10進表現」は入力値の再表示ではなく、選択した形式へ丸めた後のビット列が表す値を、10進数で省略せず示したものです。
丸め方向の比較
double (binary64)（精度 53 ビット）での結果です。行を選ぶと詳細表示を切り替えられます。
| 丸め方向 | 短い10進表現 | 入力との関係 | 16進表現 |
|---|---|---|---|
2.35 | 入力より大きい | 0x4002CCCCCCCCCCCD | |
2.35 | 入力より大きい | 0x4002CCCCCCCCCCCD | |
2.35 | 入力より大きい | 0x4002CCCCCCCCCCCD | |
2.3499999999999996 | 入力より小さい | 0x4002CCCCCCCCCCCC | |
2.3499999999999996 | 入力より小さい | 0x4002CCCCCCCCCCCC |