プチコン3号 SmileBASIC コミュニティプレイ日記say sayer.exe2016/03/02 16:50:21限界遊びをしてみる 表示された結果自体が疑わしい 信用できるのは、やはり己の目4そうだね 4返信プレイ済み2017/11/03 14:11:04に取得
プチコン3号 SmileBASIC コミュニティ返信[1]親投稿say sayer.exe2016/3/2 17:14終いにゃこうなった PRINT文は、上位17桁の表示まで対応しているのだろう 変数は2の1023乗までは有効くさい まだ調べ中0そうだね プレイ済み2017/11/03 14:11:04に取得
プチコン3号 SmileBASIC コミュニティ返信[2]親投稿MIKI ifconfig2016/3/2 23:58おそらく IEEE 754 形式の倍精度浮動小数点表現を採用しているはずで、 有効数字は約 15 桁となります。 「倍精度浮動小数点数」ぐぐってちょ 1そうだね プレイ済み2017/11/03 14:11:04に取得
プチコン3号 SmileBASIC コミュニティ返信[3]親投稿say sayer.exe2016/3/3 2:53 どのみち遊びなのでググる気なんぞ微塵もない と、いうことで数値自体がどこらまで有効かを手で調べてみたら 9007199254740992 ということでした 超えてオーバーフローしないので「表示限界」ということにします0そうだね プレイ済み2017/11/03 14:11:04に取得
プチコン3号 SmileBASIC コミュニティ返信[4]親投稿say sayer.exe2016/3/3 5:05加算で有効数値を調べてみたので、今度は減算可能な数値を調べてみました 9007199254740994 のようです +1した場合、「丸め」が起こるのか 9007199254740996 となって減算がされないようです0そうだね プレイ済み2017/11/03 14:11:04に取得