投稿
くろんぬ C.ROD205
プチコン3号で電卓のようなものを作っているのですが、有効数字が6桁になってしまいます。ダイレクトモードではそんなことにはならないのですが、何故でしょうか。改善方法はありますか?
6そうだね
プレイ済み
返信[1]
親投稿
くろんぬ C.ROD205
ちなみに今は上に注意書きをつけて妥協していますが、これだと微妙…
0そうだね
プレイ済み
返信[2]
親投稿
ねこはち neko80001
STR$をやめてFORMAT$を使ってください たぶん、それが原因です
0そうだね
プレイ済み
返信[3]
親投稿
ねこはち neko80001
A=1234567:?STR$(A)とすれば、ダイレクトモードでも実行結果は1.23457e+06となります STR$は内部で精度を落として計算しているようです
1そうだね
プレイ済み
返信[4]
親投稿
くろんぬ C.ROD205
なるほど…STR$が原因でしたか… アドバイスありがとうございます。
0そうだね
プレイ済み
返信[5]
親投稿
る…ルートがある…… まさかこれはアカノテの影きょ((
0そうだね
プレイ済み