プレイ日記
say sayer.exe
限界遊びをしてみる 表示された結果自体が疑わしい 信用できるのは、やはり己の目
4そうだね
プレイ済み
返信[1]
親投稿
say sayer.exe
終いにゃこうなった PRINT文は、上位17桁の表示まで対応しているのだろう 変数は2の1023乗までは有効くさい まだ調べ中
0そうだね
プレイ済み
返信[2]
親投稿
MIKI ifconfig
おそらく IEEE 754 形式の倍精度浮動小数点表現を採用しているはずで、 有効数字は約 15 桁となります。 「倍精度浮動小数点数」ぐぐってちょ
1そうだね
プレイ済み
返信[3]
親投稿
say sayer.exe
どのみち遊びなのでググる気なんぞ微塵もない と、いうことで数値自体がどこらまで有効かを手で調べてみたら 9007199254740992 ということでした 超えてオーバーフローしないので「表示限界」ということにします
0そうだね
プレイ済み
返信[4]
親投稿
say sayer.exe
加算で有効数値を調べてみたので、今度は減算可能な数値を調べてみました 9007199254740994 のようです +1した場合、「丸め」が起こるのか 9007199254740996 となって減算がされないようです
0そうだね
プレイ済み