Tools / Number Systems
Radix Converter
2・8・10・16進数を相互変換し、小数の循環や負数の2の補数、IEEE 754の内部表現まで確認できます。
通常の進数変換
整数と小数を入力すると、2・8・10・16進数の結果を同時に表示します。循環部分は括弧で表します。
Examples
Binary2進数
Octal8進数
Decimal10進数
Hexadecimal16進数
整数のビット表現・2の補数
上で入力した値を、指定したビット幅の符号付き/符号なし整数として表示します。
表現可能な範囲:
Binary
Hexadecimal
`0b`・`0o`・`0x`の接頭辞、空白・アンダースコアによる桁区切りにも対応します。括弧は循環小数を示し、省略記号「…」は選択した最大桁数で表示を打ち切ったことを示します。
IEEE 754 浮動小数点
10進数から内部表現を求めるだけでなく、ビット列または16進数から10進数へ戻すこともできます。
Examples
Sign / 符号部
—
Exponent / 指数部
—
Fraction / 仮数部
—
Bit pattern
Hexadecimal
Big endian上位バイトから配置
Little endian下位バイトから配置
Stored value実際に保存される値
Classification数値の分類
Actual exponentバイアスを除いた指数
Rounding error保存値 − 入力値
変換過程
保存される値を2進数へ直し、正規化、指数へのバイアス加算、最終的な構成式まで順に表示します。
- 2進数へ変換
- 正規化
- 指数にバイアスを加算
- 構成式
前後の表現可能な値
浮動小数点数は連続ではありません。現在値の直前・直後にある値と、次の値までの間隔(ULP)を表示します。
Previous / 一つ前
—Current / 現在値
—Next / 一つ次
—ULP(次の値までの間隔)
各ビットを押すと0と1を反転でき、そのビット列を保ったまま逆変換モードへ切り替わります。binary16は符号1・指数5・仮数10 bit、binary32は1・8・23 bit、binary64は1・11・52 bitです。
固定小数点(Q形式)
小数点位置を固定して整数として保存するQ形式を計算します。解像度、表現範囲、量子化誤差も確認できます。
Examples
Q format
Resolution / 最小刻み
Range / 表現範囲
Scaling2の小数部ビット数乗を掛ける
Stored integer保存する整数
Binary
Hexadecimal
Decoded valueビット列から戻した値
Quantization error復元値 − 入力値
Q8.8は16 bitのうち8 bitを小数部に使います。小数部の最小刻みは1/256です。符号付き形式では最上位ビットを符号として2の補数で保存します。