プレイ日記
じゅげむ SC221IL4
0であって0でないもの
3そうだね
プレイ済み
返信[1]
親投稿
1.表示する桁数より小さい数(PRINTやSTR$()では内部で保持されているすべての桁を表示できない。おちゃめさんのPSTR$()も参考に。)
4そうだね
プレイ済み
返信[2]
親投稿
とりあえず 掛ける1E9 でもすると隠れてる桁が見えるかもしれない
3そうだね
プレイ済み
返信[3]
親投稿
じゅげむ SC221IL4
0.1引いていったりしただけでこんなことになったりするのか… 助かりました、ありがとうございます(^^)
1そうだね
プレイ済み
返信[4]
親投稿
あーそれやっちゃたのね 0.1は1/10じゃないので注意 基本、内部では変な数だから
1そうだね
プレイ済み
返信[5]
親投稿
おちゃめ ochame_nako
プチコン3号はすべての数を内部では2進数で保持していますが、0.1という小数は2進数に変換すると無限に続く循環小数になってしまいます。 プチコン3号では実数型は2進数で52桁しか格納できないため切り捨てられた分が誤差になるというわけです。 詳しくは下記の私のトピックスを参考にしてみてください。 https://miiverse.nintendo.net/posts/AYIHAAAEAAASVZKdAWi67g ちなみに0.1がプチコン3号上では正しくはどのようになっているかは私の自作関数PSTR$を使えばPRINT PSTR$(0.1)とするだけで分かります。 https://miiverse.nintendo.net/posts/AYIHAAAEAABEVRTp-ZVMIg
4そうだね
プレイ済み