興味の源泉

自分が興味を起こせるようなネタを雑多に書き綴るブログ

float

変数の精度には気をつけろ!【プログラミング】

注意※この話はC#を元にしますが、どの言語でも同じ概念があります。 有効数字の桁数 変数には扱える数が決まっています。int なら -2,147,483,648 ~ 2,147,483,647 float なら ±1.5 x 10−45 ~ ±3.4 x 1038扱える数値の桁数を有効数字の桁数と呼びます。 ※…