2015年08月27日

float

hgimg3は単精度(float)で計算しているっぽいのでfloatについて調べてみると値の == 比較はしちゃだめだったのか…
<= >= で誤差に対応できるようにしないといけないっぽい
floatじゃなくdoubleで計算させるオプションはありますが、doubleで動かすと処理はやっぱり重くなるのかな

追記
floatとdoubleについて調べてみると、floatだから処理が速くなるってわけじゃないっぽいな
posted by 26℃ at 10:09| 福岡 ☀| Comment(0) | hspメモ | このブログの読者になる | 更新情報をチェックする
この記事へのコメント
コメントを書く
お名前: [必須入力]

メールアドレス:

ホームページアドレス:

コメント: [必須入力]

認証コード: [必須入力]


※画像の中の文字を半角で入力してください。