Slightly increase the safety margin for opus_pcm_soft_clip() v1.1.3
authorJean-Marc Valin <jmvalin@jmvalin.ca>
Fri, 15 Jul 2016 18:29:16 +0000 (14:29 -0400)
committerJean-Marc Valin <jmvalin@jmvalin.ca>
Fri, 15 Jul 2016 18:29:16 +0000 (14:29 -0400)
No values outside of +/-1 detected now.

src/opus.c

index 2b47cda..f76f125 100644 (file)
@@ -104,10 +104,10 @@ OPUS_EXPORT void opus_pcm_soft_clip(float *_x, int N, int C, float *declip_mem)
 
          /* Compute a such that maxval + a*maxval^2 = 1 */
          a=(maxval-1)/(maxval*maxval);
-         /* Slightly boost "a" by 2^-24. This is just enough to ensure -ffast-math
+         /* Slightly boost "a" by 2^-22. This is just enough to ensure -ffast-math
             does not cause output values larger than +/-1, but small enough not
             to matter even for 24-bit output.  */
-         a += a*6e-8;
+         a += a*2.4e-7;
          if (x[i*C]>0)
             a = -a;
          /* Apply soft clipping */