のんびりやろう!情報処理試験! TOPメールマガジンWeb講座試験情報ラウンジその他
Contents

用語集

INDEX

ア行 / カ行 / サ行

タ行 / ナ行 / ハ行

マ行 / ヤ行 / ラ行

ワ行 / 英字 / 数字


 


丸め誤差

rounding error


(基本情報平成13年秋問7イ)
数表現のけた数に限度があるので,最小けたより小さい部分について四捨五入や切上げ,切捨てを行うことによって生じる誤差である。

(2種平成11年春問10ア)
指定された有効けた数で演算結果を表すために,切捨て,切上げ,四捨五入などで下位のけたを削除することによって発生する誤差

(2種平成11年秋問10イ)
数表現のけた数に限度があることによって,最小けたより小さい部分について四捨五入や切上げ,切捨てを行うために生じる誤差である。


丸め誤差とは,指定された有効けた数で演算結果を表すために,切捨て,切上げ,四捨五入などで下位のけたを削除することによって発生する誤差のことを言います。

「丸める」というのは,わかりやすく省略してしまうことです。

つまり,「円周率を 3.141592・・・ でなく 3.14 にしよう!」と言うように,意図的に下位のけたを削除することを言います。

丸めには四捨五入や切り捨て,切り上げなどがあります。




「丸め誤差」に関連する書籍一覧(by Amazon/人気順)
▼さらに調べる! by Google  


免責事項 - 広告掲載について - お問い合わせ

Copyright (c)1999 - 2006 shunzei. All rights reserved.