プチコン 非公式コミュニティ
トピック
チゲ
◆WZeL9z8yLqFX
2021/1/16 13:23
2021/1/16 13:23
質問
MODの謎動作
小数第二位を取り出す処理を作っていたら、こんな謎動作を見つけました
PRINT 4.06*100 MOD 10
結果:5
これは単なるバグでしょうか？それとも、自分が知らないMODの機能が働いたんでしょうか？
ちなみに、1の位を4未満にすると6が出力されて、4以上にすると5が出力されました
PRINT 4.06*100 MOD 10
結果:5
これは単なるバグでしょうか？それとも、自分が知らないMODの機能が働いたんでしょうか？
ちなみに、1の位を4未満にすると6が出力されて、4以上にすると5が出力されました
コメント
さすらいの名無し
2021/1/16 14:23
◆LWMA5UzCJb3e
小数演算による誤差？
406 MOD 10だとしても6だし、4.06*0だとしても0だし。
MODは小数点以下は切り捨てられるはずなので406じゃなくて405.99999みたいになっててその結果5になったとか？
406 MOD 10だとしても6だし、4.06*0だとしても0だし。
MODは小数点以下は切り捨てられるはずなので406じゃなくて405.99999みたいになっててその結果5になったとか？
チゲ
2021/1/16 14:48
◆WZeL9z8yLqFX
なるほど、調べてみて初めて知りましたが、小数って誤差出やすいんですね。
ありがとうございました。
ありがとうございました。
コメントを書く
この投稿にはコメントできません。
- WEB PATIO -