Hatena Blog Tags

固定小数点数

(コンピュータ)
こていしょうすうてんすう

小数を表現する方法。
固定小数点数は、本質的には、実数に1より大きい定数*1を乗じた上で丸めた整数値である。この定数を乗じることを俗にゲタを履かせるという。
小数の演算を、整数の演算として行うことができるため、浮動小数点数より計算速度、演算器構成の簡易さの点で有利である。

*1:2の冪数か10の冪数であることが多い

このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。

関連ブログ