分散の定義は
でしたが、下の式でも求まることが知られています。
これにより、 で前計算しておけば、各クエリが で求まります。
このとき、計算途中で 64bit 整数におさまらない数がでてくるので、double を使おうとすると、誤差が大きくなり正しく求まりません。
大きな数からほとんど同じ大きな数を引くと有効桁数が減る、桁落ちという現象が知られています。
このような現象が起きるのは が大きく、分散が小さいときであるので、あらかじめ から平均に近い値を引いておき、 からもその値を引くことで、精度よく答えが求まります。