<div dir="ltr">Nice. Thanks Chuck, I learnt something.<br></div><div class="gmail_extra"><br><div class="gmail_quote">On 22 April 2015 at 23:45, Charles Z Henry <span dir="ltr"><<a href="mailto:czhenry@gmail.com" target="_blank">czhenry@gmail.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><span class="">On Wed, Apr 22, 2015 at 5:11 PM, Alexandre Torres Porres<br>
<<a href="mailto:porres@gmail.com">porres@gmail.com</a>> wrote:<br>
<br>
> So I start with this idea that the audio (values from -1 to 1) can't be in<br>
> full 32 bit float resolution, it's less. I don't see why that is "wrong".<br>
> And then, from it, my first question here was: "what is the audio resolution<br>
> then?". I'm still clueless here about this answer.<br>
><br>
> Moreover, is it more or less than what 24 bit audio cards handle?<br>
<br>
</span>Let me try:<br>
<br>
32-bit floating point numbers have 24 bits of precision.  Always.  The<br>
remaining 8 bits are just for the sign and exponent.  When the<br>
amplitude of the signals decrease, you don't lose any precision in<br>
floating-point.  The value of the least significant bit (LSB) gets<br>
proportionally smaller.<br>
<br>
However, the output of a 24-bit soundcard always has a fixed<br>
quantization.  The LSB is always the same size.  Smaller numbers have<br>
less precision.<br>
<br>
The mismatch occurs when converting from the 32-bit floats to the<br>
24-bit fixed point numbers.  Now, the smaller numbers aren't as<br>
precise anymore.  They get rounded to the nearest number in the 24-bit<br>
fixed point system.<br>
<br>
So, yes, the resolution (of small numbers) in floating point (internal<br>
to Pd) is finer than the resolution of those numbers when output<br>
(driver/DAC).<br>
<br>
Also, the 24-bit fixed point format is for values between -1 and 1.<br>
That means that numbers between 0 and 1 have just 23 bits.  In 32-bit<br>
math, the numbers between 0.5 and 1 still have 24 bits of precision<br>
(the sign is held elsewhere).  That means that Pd's internal<br>
resolution is finer than the soundcard resolution for all numbers<br>
between -1 and 1.<br>
<br>
Chuck<br>
<div class="HOEnZb"><div class="h5"><br>
_______________________________________________<br>
<a href="mailto:Pd-list@lists.iem.at">Pd-list@lists.iem.at</a> mailing list<br>
UNSUBSCRIBE and account-management -> <a href="http://lists.puredata.info/listinfo/pd-list" target="_blank">http://lists.puredata.info/listinfo/pd-list</a><br>
</div></div></blockquote></div><br></div>