スマートフォン用の表示で見る

数値計算

コンピュータ

数値計算

すうちけいさん

コンピュータを使って,物理,数学,工学上の問題を解く手法.解が解析的手法では得られない場合や厳密解の直感的意味が良く分からないときなどに威力を発揮する.

パソコン生活の中で通常出会うようなソフトウェアと違って、誤差を小さくすることに細心の注意が払われる。また、しばしば膨大なステップ数の計算を行うため精度を下げずに早くする方法も求められている。効率の良い計算を行うための手法の研究それ自身が一つの学問分野を成している。