2015年08月27日

hgimg3の計算精度

#include "hgimg3.as"
hgini
a=0.1
a+=0.0
if a=0.1:mes "?"

HGIMGを使うと0.0足しただけで計算が狂う、これはまじで勘弁…
対策はhgsetreq SYSREQ_FPUPRESERVE,1で計算精度を変えないように設定すること
posted by 26℃ at 02:06| 福岡 ☀| Comment(0) | hspメモ | このブログの読者になる | 更新情報をチェックする
この記事へのコメント
コメントを書く
お名前: [必須入力]

メールアドレス:

ホームページアドレス:

コメント: [必須入力]

認証コード: [必須入力]


※画像の中の文字を半角で入力してください。