のんびりやろう!情報処理試験! TOPメールマガジンWeb講座試験情報ラウンジその他
Contents

用語集

INDEX

ア行 / カ行 / サ行

タ行 / ナ行 / ハ行

マ行 / ヤ行 / ラ行

ワ行 / 英字 / 数字


 


情報落ち誤差

loss of trailing digit


(2種平成11年秋問10エ)
浮動小数点の加減算において,指数部が小さい方の数値の仮数部の下位部分が失われることによって生じる誤差である。

(2種平成11年春問10イ)
絶対値の非常に大きな数と小さな数の足し算や引き算を行ったとき,小さい数が計算結果に反映されないために発生する誤差


たとえば,プログラムで数値を扱うときに有効数字(有効けた)が4桁だとしましょう。 そのとき,a = 1.234 * 102 と b = 1.234 * 10-2 という2つの数 a , b の和を考えてみます。 まず,手計算をしてみると

  a = 1.234 * 102 = 123.4
  b = 1.234 * 10-2 = 0.01234
  a + b = 123.4123

ここで,a + b = 123.4123 となりますが,これを上のコンピューターのプログラムで行った場合は,有効数字(有効けた)が4桁なので

  a + b = 1.234 * 10^2

と表現されてしまいます。つまり,実際との誤差が 0.01234 ですね。

このような情報が落ちる(無くなる)誤差を情報落ち誤差といいます。




「情報落ち誤差」に関連する書籍一覧(by Amazon/人気順)
▼さらに調べる! by Google  


免責事項 - 広告掲載について - お問い合わせ

Copyright (c)1999 - 2006 shunzei. All rights reserved.