On Wednesday, April 22, 2015, Jamie Bullock <<a href="mailto:jamie@jamiebullock.com">jamie@jamiebullock.com</a>> wrote:<br>><br>> Pd is 32-bit *floating point*, so you have 32-bit resolution between -1 and 1. <br><br>I don't think that's right. <br><br>The range of a single precision floating point number is from <br><br>-3.4028234 × 10E38 to 3.4028234 × 10E38 (not from -1 to 1)<br><br>There are only 23 bits of precision for the mantissa + 1 for sign in a single precision float. <br><br>-- <br><div dir="ltr">--<br>
May you, and all beings<br>
be happy and free from suffering :)<br>
-- ancient Buddhist Prayer (Metta)<br><div><br>Don't forget to sign the <br><font size="4"><b>Pledge to Resist<br></b></font></div><div><font size="4"><b>the Constitution Pipeline:<br></b></font><ul><li><b>The Pledge: <a href="http://TinyURL.com/Pledge2ResistCP" target="_blank">TinyURL.com/Pledge2ResistCP</a></b></li><li><b>More info: <a href="http://TinyURL.com/Pledge2ResistCP1" target="_blank">TinyURL.com/Pledge2ResistCP1</a></b></li></ul></div></div><br>