注意※この話はC#を元にしますが、どの言語でも同じ概念があります。 有効数字の桁数 変数には扱える数が決まっています。int なら -2,147,483,648 ~ 2,147,483,647 float なら ±1.5 x 10−45 ~ ±3.4 x 1038扱える数値の桁数を有効数字の桁数と呼びます。 ※…
引用をストックしました
引用するにはまずログインしてください
引用をストックできませんでした。再度お試しください
限定公開記事のため引用できません。