数式上は全く同じ結果になるはずが、計算機誤差のために全く違う結果になる例として、分散の計算をDave Gilesが示している。その内容は概ね以下の通り。 データの平均を X* = [Σ(Xi)] / n とした場合、分散の式として最初に習うのは、以下の(1)式であろう。 …