K-fix Learning & Playing

基礎理論


誤差

丸め誤差 指定された有効桁数で演算結果を表すために、切り捨て、切り上げ、四捨五入などで下位の桁を削除することによって発生する。
情報落ち 絶対値の非常に大きな数と小さな数の足し算や引き算を行った時に、小さい数が試算結果に反映されないために発生する。
桁落ち 絶対値のほぼ等しい二つの数の絶対値の差を求めた時、有効桁が減るために発生する。
うちきり誤差 計算処理を打ち切ることによって生じる。
桁あふれ 浮動小数点の計算処理の打ち切りと、指定した規則で行うことによって発生する。