プチコン3号 SmileBASIC コミュニティプレイ日記じゅげむ SC221IL42016/11/18 18:42:520であって0でないもの3そうだね 5返信プレイ済み2017/11/03 01:37:37に取得
プチコン3号 SmileBASIC コミュニティ返信[1]親投稿あまさと しおん ShionAmasato2016/11/18 18:451.表示する桁数より小さい数(PRINTやSTR$()では内部で保持されているすべての桁を表示できない。おちゃめさんのPSTR$()も参考に。)4そうだね プレイ済み2017/11/03 01:37:37に取得
プチコン3号 SmileBASIC コミュニティ返信[2]親投稿あまさと しおん ShionAmasato2016/11/18 18:47とりあえず 掛ける1E9 でもすると隠れてる桁が見えるかもしれない3そうだね プレイ済み2017/11/03 01:37:37に取得
プチコン3号 SmileBASIC コミュニティ返信[3]親投稿じゅげむ SC221IL42016/11/18 18:520.1引いていったりしただけでこんなことになったりするのか… 助かりました、ありがとうございます(^^)1そうだね プレイ済み2017/11/03 01:37:37に取得
プチコン3号 SmileBASIC コミュニティ返信[4]親投稿あまさと しおん ShionAmasato2016/11/18 18:54あーそれやっちゃたのね 0.1は1/10じゃないので注意 基本、内部では変な数だから1そうだね プレイ済み2017/11/03 01:37:37に取得
プチコン3号 SmileBASIC コミュニティ返信[5]親投稿おちゃめ ochame_nako2016/11/18 20:24プチコン3号はすべての数を内部では2進数で保持していますが、0.1という小数は2進数に変換すると無限に続く循環小数になってしまいます。 プチコン3号では実数型は2進数で52桁しか格納できないため切り捨てられた分が誤差になるというわけです。 詳しくは下記の私のトピックスを参考にしてみてください。 https://miiverse.nintendo.net/posts/AYIHAAAEAAASVZKdAWi67g ちなみに0.1がプチコン3号上では正しくはどのようになっているかは私の自作関数PSTR$を使えばPRINT PSTR$(0.1)とするだけで分かります。 https://miiverse.nintendo.net/posts/AYIHAAAEAABEVRTp-ZVMIg4そうだね プレイ済み2017/11/03 01:37:37に取得