桁落ち

 コンピューターで小数の計算をするとき、小数第何位まで正確に計算できるのでしょうか。大抵のプログラム言語や表計算ソフトでは、第何位という決め方ではなくて、上の桁から何桁正確かという見方をします。そしてその桁数のことを有効数字といいます。
 ではその有効数字はどのくらいかというと、普通は7桁、よくて15桁程度なのです。でも円周率を何万桁も計算するとかいいますよね。あれは、特別に作ったプログラムを使った場合の話なんです。通常はそんなに精密には計算しません。
 ですから、計算をしていくうちにどうしても誤差が出てしまいます。誤差の原因はたとえば3分の1が 0.3333333 と切り捨てられてしまうように、桁数が限られていることが主な原因なのです。それでも足し算、掛け算、割り算などをやっている限りでは誤差が急に大きくなるということはありません。
 ところが、引き算は要注意なんです。それは、ほとんど同じ大きさの数の引き算をしたときに起こります。たとえば、
  0.1234567-0.1234566=0.0000001
はじめは有効数字が7桁だったのが、計算後は一挙に1桁に減ってしまいました。これが桁落ちという現象です。数学の式で扱っている限りは誤差のことは気にならないのですが、コンピューターで科学計算をする人にとってはとても深刻な問題なんです。--- Y.O. ---



→ IT用語 もくじ       → TOP へ