プチコン 非公式コミュニティ
プレイ日記
あまさとしおん
◆mzDKTVUAtwqE
2019/5/11 16:00
2019/5/11 16:00
【御子神ツインエディター】
STR$が勝手に指数化するため、絶対値が大きな数を扱うとおかしな計算結果になる現象が判明。
絶対値が大きい数はFORMAT$("%D",数)に変更して対策することにします。
その影響で、次回アップデートで仕様が変更されます。（返信に続く）
STR$が勝手に指数化するため、絶対値が大きな数を扱うとおかしな計算結果になる現象が判明。
絶対値が大きい数はFORMAT$("%D",数)に変更して対策することにします。
その影響で、次回アップデートで仕様が変更されます。（返信に続く）
コメント
あまさとしおん
2019/5/11 16:03
◆mzDKTVUAtwqE
・絶対値が約21億を超える数は（どうあがいても）使用できなくなります。
・絶対値が9999を超える場合、演算の種類に関わらず小数点以下を無視します。
絶対値9999まで小数に対応するのは、作者自身が使うからです
（謎理由）
・絶対値が9999を超える場合、演算の種類に関わらず小数点以下を無視します。
絶対値9999まで小数に対応するのは、作者自身が使うからです
（謎理由）
あまさとしおん
2019/5/11 16:05
◆mzDKTVUAtwqE
FORMAT$("%F",数)だと小数にも対応できるのですが、余計なゼロが付き処理に支障があるため%Dを使うことになりました。
あまさとしおん
2019/5/11 16:13
◆mzDKTVUAtwqE
おちゃめさんのPSTR$のように、「用途に合う関数を自作する」というのも一案なのですが「これ以上遅くなると使いづらい」という理由により不可能（DEFで作ると組み込み関数よりはるかに遅い）なのです。
コメントを書く
- こちらは「プチコン3号」「プチコンBIG」など、プチコンシリーズに関する話題を扱ったコミュニティです
- プチコンシリーズにまったく関係ない書き込みはご遠慮下さい。削除の対象となります
- こちらにはその他のゲームや雑談のコミュニティはなく、作る予定もありません (ひとりで管理できないため)。ごめんなさい
- ユーザー登録なしで書き込みができます
- 秘密の合い言葉は成りすましの防止 (トリップ機能)、書き込みの編集時の本人認証に使用します
- 秘密の合い言葉に他人に推測されやすい言葉、他サービスと同じパスワードは入力しないでください。
- 書き込むと、投稿時に入力したお名前と秘密の暗号が記憶され、ログイン状態になります