<div dir="ltr">Yep, nice indeed, I guess I learned - i<span style="font-size:12.8000001907349px">n short and in layman's undetailed terms - that audio output is ~24bits (a bit higher, but much higher for smaller numbers). </span><div><span style="font-size:12.8000001907349px"><br></span></div><div><span style="font-size:12.8000001907349px">Moreover, digital audio cards won't likely have more than 24 bit precision for many years to come, so it's just way more than enough.</span><div><div style="font-size:12.8000001907349px"><br></div><div style="font-size:12.8000001907349px">thanks</div></div><div><br></div></div></div><div class="gmail_extra"><br><div class="gmail_quote">2015-04-23 6:43 GMT-03:00 Julian Brooks <span dir="ltr"><<a href="mailto:jbeezez@gmail.com" target="_blank">jbeezez@gmail.com</a>></span>:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr">Nice. Thanks Chuck, I learnt something.<br></div><div class="gmail_extra"><br><div class="gmail_quote"><div><div class="h5">On 22 April 2015 at 23:45, Charles Z Henry <span dir="ltr"><<a href="mailto:czhenry@gmail.com" target="_blank">czhenry@gmail.com</a>></span> wrote:<br></div></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><div class="h5"><span>On Wed, Apr 22, 2015 at 5:11 PM, Alexandre Torres Porres<br>
<<a href="mailto:porres@gmail.com" target="_blank">porres@gmail.com</a>> wrote:<br>
<br>
> So I start with this idea that the audio (values from -1 to 1) can't be in<br>
> full 32 bit float resolution, it's less. I don't see why that is "wrong".<br>
> And then, from it, my first question here was: "what is the audio resolution<br>
> then?". I'm still clueless here about this answer.<br>
><br>
> Moreover, is it more or less than what 24 bit audio cards handle?<br>
<br>
</span>Let me try:<br>
<br>
32-bit floating point numbers have 24 bits of precision.  Always.  The<br>
remaining 8 bits are just for the sign and exponent.  When the<br>
amplitude of the signals decrease, you don't lose any precision in<br>
floating-point.  The value of the least significant bit (LSB) gets<br>
proportionally smaller.<br>
<br>
However, the output of a 24-bit soundcard always has a fixed<br>
quantization.  The LSB is always the same size.  Smaller numbers have<br>
less precision.<br>
<br>
The mismatch occurs when converting from the 32-bit floats to the<br>
24-bit fixed point numbers.  Now, the smaller numbers aren't as<br>
precise anymore.  They get rounded to the nearest number in the 24-bit<br>
fixed point system.<br>
<br>
So, yes, the resolution (of small numbers) in floating point (internal<br>
to Pd) is finer than the resolution of those numbers when output<br>
(driver/DAC).<br>
<br>
Also, the 24-bit fixed point format is for values between -1 and 1.<br>
That means that numbers between 0 and 1 have just 23 bits.  In 32-bit<br>
math, the numbers between 0.5 and 1 still have 24 bits of precision<br>
(the sign is held elsewhere).  That means that Pd's internal<br>
resolution is finer than the soundcard resolution for all numbers<br>
between -1 and 1.<br>
<br>
Chuck<br>
</div></div><div><div><br><span class="">
_______________________________________________<br>
<a href="mailto:Pd-list@lists.iem.at" target="_blank">Pd-list@lists.iem.at</a> mailing list<br>
UNSUBSCRIBE and account-management -> <a href="http://lists.puredata.info/listinfo/pd-list" target="_blank">http://lists.puredata.info/listinfo/pd-list</a><br>
</span></div></div></blockquote></div><br></div>
</blockquote></div><br></div>