
<html><head><meta http-equiv="Content-Type" content="text/html; charset=UTF-8" /></head><body style='font-size: 10pt; font-family: Verdana,Geneva,sans-serif'>

<p>thanks Roman for replying</p>

<p>i had the, apparently, wrong idea that it were the big numbers giving problems when using floating point arithmetic.</p>

<p>now, after reading up about the 'perils of floating point' i have to rethink my method of calculation.</p>

<p><br /></p>

<p>rolf</p>

<p style="padding-left: 30px;"><span style="white-space: nowrap;">Roman Haefeli wrote:</span></p>

<p style="padding-left: 30px;">>>The intricacies of 32bit floating point numbers have been discussed up</p>

<p style="padding-left: 30px;">>>and down on this list.<br /> <br /> >>tldr; many decimal numbers do not have an exact floating point<br /> >>representation. Incrementing with such numbers increases the error on<br /> >>each iteration<br /> <br /> >>Suggestion: Count with integer numbers and scale afterwards.<br /> <br /> >>Roman</p>


</body></html>