- PR -

Fix関数で結果値が違う場合がある？

1
投稿者投稿内容
ケイ
大ベテラン
会議室デビュー日: 2004/04/20
投稿数: 100
投稿日時: 2006-01-06 14:02
現在 VB6 で開発を行っています。

Fixの関数についてよく分からない事が起こっているので、
教えて下さい。

dim d1 as Double
dim d2 as Double
dim keka as Double

d1 = 0.57
d2=400
keka = d1*d2
上記の計算の結果は0.57*400=228ですが、
上記の時にfix(keka)の値は227になります。
しかし、fix(228)とした場合の値は、228になるのです。

どうして、このような値の変化があるのでしょうか？

何かお分かりの方は教えて下さい。
お願いします。
でっち６号
大ベテラン
会議室デビュー日: 2005/01/31
投稿数: 176
お住まい・勤務地: Kawasaki
投稿日時: 2006-01-06 14:27
Doubleを使ってるからです。

ご参考
http://www.atmarkit.co.jp/bbs/phpBB/viewtopic.php?topic=26141&forum=7&70
1

スキルアップ／キャリアアップ（JOB@IT）