|丸め誤差とは? |丸め誤差を軽減させるには? ここでは、丸め誤差(浮動小数点形式の仮数部で発生する誤差)について解説します。 amprime.hatenablog.com |丸め誤差とは? 浮動小数点形式では、実数を近似的に表現するため、仮数部のビット数に制約があります。この制約により、一部の実数は正確に表現できず、丸め誤差と呼ばれる誤差が生じることがあります。 丸め誤差は、実数を浮動小数点形式に変換する際に、仮数部のビット数に収まらない部分を切り捨てることによって生じます。例えば、0.1という実数を2進数の浮動小数点形式で表現しようとすると、限られたビット数で近似的に表現されます。その結果…