ただし、プチコン3号の内部ではすべての数値は2進数で表現されています。
したがって、0.1でさえ循環小数となっているためAの値が小数第3位まであれば十分という場合であっても小数第3位までを文字列化すれば十分というわけではありません。
プチコン3号の有効桁数を考慮する必要があるためです。プチコン3号の有効桁数は52bit分あり、これは約15.6桁分の有効桁数になります。
ちなみに2進数で小数がどのように表現されるかはあらゆる数値(プチコン3号の実数型で扱うことができるすべての数値)を2進数に変換できる私の自作関数BIN64$を使いBIN64$(0.1)とすれば分かります。
1そうだね プレイ済み