プチコン3号 SmileBASIC コミュニティ投稿mirto wiiz1129112015/01/15 15:33:02はじめまして。SQR命令を使いました。なお、円周率は、無理数(正確には、超越数)です。円周率が無理数だ。つまり、分数表示出来ないこと。 それは、ピタゴラスの時代から、知られていましたようです。正方形の対角線の計算が行われていたため。 「SQR(2)」ですね。 数学の歴史は、面白いですね!10そうだね 6返信プレイ済み2017/11/04 00:15:20に取得
プチコン3号 SmileBASIC コミュニティ返信[1]親投稿とうどうしゅんすけ. ShunsukeTodo2015/1/15 16:06ちなみに、2の平方根の近似値は、577÷408で求まります。1そうだね プレイ済み2017/11/04 00:15:20に取得
プチコン3号 SmileBASIC コミュニティ返信[2]親投稿mirto wiiz1129112015/1/15 17:16はじめめまして。 関数電卓で調べてみました。 1.414215686 とのこと。 一度、分数を小数に直すプログラムを作りたいですね!0そうだね プレイ済み2017/11/04 00:15:20に取得
プチコン3号 SmileBASIC コミュニティ返信[3]親投稿とうどうしゅんすけ. ShunsukeTodo2015/1/15 17:21 これは絶版になったブルーバックス«電卓につよくなる»にあった、開平キーがないときに平方根を求める近似値を紹介しました。1そうだね プレイ済み2017/11/04 00:15:20に取得
プチコン3号 SmileBASIC コミュニティ返信[4]親投稿mirto wiiz1129112015/1/15 17:28おそらく、小数4桁まで一致してますね? ただし、一回プチコンプログラムでも、誤差がないのか?調べてみます。1そうだね プレイ済み2017/11/04 00:15:20に取得
プチコン3号 SmileBASIC コミュニティ返信[5]親投稿とうどうしゅんすけ. ShunsukeTodo2015/1/15 19:57小数点以下5桁まで一致しています。 sqr(2)=1.41421356237......0そうだね プレイ済み2017/11/04 00:15:20に取得
プチコン3号 SmileBASIC コミュニティ返信[6]親投稿bigslope bigslope2015/1/15 20:24コンピュータの世界では、内部的に2進数で計算を行っている事が多く、10進数では普通に扱える数字も、2進数だと正確に表現できないのが厄介な所です。 例えば、10進数で0.1は、2進数だと0.0001100110011…というような循環無限小数となるので、どこかで打ち切らなければならず、それが誤差の原因となってしまいます。 プチコンの取扱説明書にも、『内部で扱われている数値は、倍精度実数型、または整数型です。2進数計算による誤差が発生することがありますので、厳密な数値計算が必要な用途には適しません。』とあるので、過信は禁物です。1そうだね プレイ済み2017/11/04 00:15:20に取得