BlueLunchboxのブログ

エクセルは「1.2-1.1」が計算できない!?

新型コロナがいよいよ目の前にまで迫ってきた。

会社の同じチームの社員が続けざまに2人陽性になってしまった。

恐らく別ルートだ。

陽性者が出たことの報告やら止めることができない仕事の代行やらバタバタだった。

まだ見通しは立っていない。

 

さて、

インターネットを見ていたらタイトルの記事を見かけた。

表計算ソフトであるエクセルは仕事でとてもお世話になっている。

エクセルなしじゃ仕事にならない。

扱いやすいし信頼性も高い。・・と思っていたのに、

小数点の簡単な引き算もできないだって!?なんだそりゃ?と思って見てみると、

 

例えばセル番号A1に「1.2」と入力する。

次に、となりのセル番号B1に「1.1」と入力する。

そしてさらにとなりのセル番号C1には計算式「=A1-B1」を入力する。

するとC1には1.2-1.1の答えである「0.1」が表示される。ふむふむ。

 

ところが、このセルC1の表示桁数をどんどん大きくして

「0.10」「0.100」ってやっていって、小数第16位ぐらいになると、

0.1ではなく「0.0999999999999999」と表示されるのだ。

 

これは驚いたな。

かけたり割ったり、小数のところで変な結果になりそうなのがわかっていたりすると

四捨五入とかの端数処理を計算式に入れたりはしてたけど、

単純な引き算でこうも簡単に人間でもわかるような間違いが出るとは。

 

どうやらエクセルとかコンピューターって、

思ったよりずっと遠回りしてがんばっていろんなことをやっているようで、

がんばってもこうなっちゃうことがあるらしい。

そんな難しく考えるなって。