いにしえのプログラミング 14 コンピューターは計算が苦手か
(続く)コンピューターは計算が苦手と書くと、「そんなバカな」と言うかもしれません。多くの人は「コンピューターは電子計算機と言うのではないか」という反応かもしれません。しかし、コンピューターは「0」と「1」の二進法です。つまり、123×123を計算する時は、01111011×01111011となります。これが整数同士の掛け算ならば特に問題ないかもしれませんが、小数点がある計算になると、やっかいなことになります。たとえば1.23×1.23という計算です。このような場合は、誤差が出