<div dir="ltr">> <span style="font-size:12.8000001907349px">it's a limitation of 32 bit float</span><div><span style="font-size:12.8000001907349px"><br></span></div><div><span style="font-size:12.8000001907349px">I thought so, but same happens when I use the new Pd Vanilla 64 bits...</span></div><div><span style="font-size:12.8000001907349px"><br></span></div><div><span style="font-size:12.8000001907349px">what now? :)</span></div></div><div class="gmail_extra"><br><div class="gmail_quote">2015-01-28 14:41 GMT-02:00 Cyrille Henry <span dir="ltr"><<a href="mailto:ch@chnry.net" target="_blank">ch@chnry.net</a>></span>:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><br>
<br>
Le 28/01/2015 17:20, Alexandre Torres Porres a écrit :<div><div class="h5"><br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
howdy, check the attached patch.<br>
<br>
1e+06 + 1 is not equal to 1e+06<br>
<br>
but 1e+09 + 1 is equal to 1e+09<br>
<br>
meaning it didn't add 1 to 1e+09! Meaning there's a limit where it stops adding 1 to something.<br>
<br>
how's that and why?<br>
</blockquote>
<br></div></div>
it's a limitation of 32 bit float.<br>
since 1 bit is used for the sign, 8 for the exponent, 23 bit are left for the significant.<br>
this mean that you can't have more precision in the significant than 2^24 -1 (a bit less than 1.7*10^7)<br>
<br>
cheers<br>
c<br>
<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<br>
cheers<span class=""><br>
<br>
<br>
______________________________<u></u>_________________<br>
<a href="mailto:Pd-list@lists.iem.at" target="_blank">Pd-list@lists.iem.at</a> mailing list<br>
UNSUBSCRIBE and account-management -> <a href="http://lists.puredata.info/listinfo/pd-list" target="_blank">http://lists.puredata.info/<u></u>listinfo/pd-list</a><br>
<br>
</span></blockquote><div class="HOEnZb"><div class="h5">
<br>
______________________________<u></u>_________________<br>
<a href="mailto:Pd-list@lists.iem.at" target="_blank">Pd-list@lists.iem.at</a> mailing list<br>
UNSUBSCRIBE and account-management -> <a href="http://lists.puredata.info/listinfo/pd-list" target="_blank">http://lists.puredata.info/<u></u>listinfo/pd-list</a><br>
</div></div></blockquote></div><br></div>