プレイ日記
In Japan rajimaru
0.333333333*3=1と出てきて以来大きな桁の計算が正しいのかわからなくなってきた。 これ、あっていますか?
2そうだね
プレイ済み
返信[1]
親投稿
MIKI ifconfig
print や str$ は 6 桁で丸めちゃうので 0.333333333 * 3 = 0.999999999 -> 6桁で丸め -> 1.00000 と表示します。実際は有効数字 16桁くらいなので ? format$("%.20f", 0.333333333*3) 0.99999999900000003000 となっています。 10^32 だと有効数字 16 桁しかないから、10^16 程度に満たない数値を足しても引いても無意味になります。「情報落ち」と言ったりするみたいですね。
0そうだね
プレイ済み