fixed-point: initial support for using the fixed-point MDCT (rest is still all
[opus.git] / libcelt / mdct.c
index 5dfd548..3355a4c 100644 (file)
    and scaling in many places. 
 */
 
+#ifdef HAVE_CONFIG_H
+#include "config.h"
+#endif
+
 #include "mdct.h"
 #include "kiss_fft.h"
 #include <math.h>
 #include "os_support.h"
+#include "_kiss_fft_guts.h"
 
 #ifndef M_PI
 #define M_PI 3.14159263
@@ -61,9 +66,18 @@ void mdct_init(mdct_lookup *l,int N)
    l->kfft = kiss_fft_alloc(N4, NULL, NULL);
    l->trig = celt_alloc(N2*sizeof(float));
    /* We have enough points that sine isn't necessary */
+#if defined(FIXED_POINT)
+#if defined(DOUBLE_PRECISION) & !defined(MIXED_PRECISION)
+   for (i=0;i<N2;i++)
+      l->trig[i] = SAMP_MAX*cos(2*M_PI*(i+1./8.)/N);
+#else
+   for (i=0;i<N2;i++)
+      l->trig[i] = TRIG_UPSCALE*celt_cos_norm(DIV32(ADD32(SHL32(i,17),16386),N));
+#endif
+#else
    for (i=0;i<N2;i++)
       l->trig[i] = cos(2*M_PI*(i+1./8.)/N);
-   l->scale = 1./N4;
+#endif
 }
 
 void mdct_clear(mdct_lookup *l)
@@ -72,35 +86,36 @@ void mdct_clear(mdct_lookup *l)
    celt_free(l->trig);
 }
 
-void mdct_forward(mdct_lookup *l, float *in, float *out)
+void mdct_forward(mdct_lookup *l, kiss_fft_scalar *in, kiss_fft_scalar *out)
 {
    int i;
    int N, N2, N4, N8;
+   VARDECL(kiss_fft_scalar *f);
    N = l->n;
    N2 = N/2;
    N4 = N/4;
    N8 = N/8;
-   float f[N2];
+   ALLOC(f, N2, kiss_fft_scalar);
    
    /* Consider the input to be compused of four blocks: [a, b, c, d] */
    /* Shuffle, fold, pre-rotate (part 1) */
    for(i=0;i<N8;i++)
    {
-      float re, im;
+      kiss_fft_scalar re, im;
       /* Real part arranged as -d-cR, Imag part arranged as -b+aR*/
-      re = -in[N2+N4+2*i] - in[N2+N4-2*i-1];
-      im = -in[N4+2*i]    + in[N4-2*i-1];
-      out[2*i]   = re*l->trig[i]  -  im*l->trig[i+N4];
-      out[2*i+1] = im*l->trig[i]  +  re*l->trig[i+N4];
+      re = -.5*(in[N2+N4+2*i] + in[N2+N4-2*i-1]);
+      im = -.5*(in[N4+2*i]    - in[N4-2*i-1]);
+      out[2*i]   = S_MUL(re,l->trig[i])  -  S_MUL(im,l->trig[i+N4]);
+      out[2*i+1] = S_MUL(im,l->trig[i])  +  S_MUL(re,l->trig[i+N4]);
    }
    for(;i<N4;i++)
    {
-      float re, im;
+      kiss_fft_scalar re, im;
       /* Real part arranged as a-bR, Imag part arranged as -c-dR */
-      re =   in[2*i-N4] - in[N2+N4-2*i-1];
-      im = -(in[N4+2*i] + in[N+N4-2*i-1]);
-      out[2*i]   = re*l->trig[i]  -  im*l->trig[i+N4];
-      out[2*i+1] = im*l->trig[i]  +  re*l->trig[i+N4];
+      re =  .5*(in[2*i-N4] - in[N2+N4-2*i-1]);
+      im = -.5*(in[N4+2*i] + in[N+N4-2*i-1]);
+      out[2*i]   = S_MUL(re,l->trig[i])  -  S_MUL(im,l->trig[i+N4]);
+      out[2*i+1] = S_MUL(im,l->trig[i])  +  S_MUL(re,l->trig[i+N4]);
    }
 
    /* N/4 complex FFT, which should normally down-scale by 4/N (but doesn't now) */
@@ -109,27 +124,28 @@ void mdct_forward(mdct_lookup *l, float *in, float *out)
    /* Post-rotate and apply the scaling if the FFT doesn't to it itself */
    for(i=0;i<N4;i++)
    {
-      out[2*i]      = l->scale * (-f[2*i+1]*l->trig[i+N4] + f[2*i]  *l->trig[i]);
-      out[N2-1-2*i] = l->scale * (-f[2*i]  *l->trig[i+N4] - f[2*i+1]*l->trig[i]);
+      out[2*i]      = -S_MUL(f[2*i+1],l->trig[i+N4]) + S_MUL(f[2*i]  ,l->trig[i]);
+      out[N2-1-2*i] = -S_MUL(f[2*i]  ,l->trig[i+N4]) - S_MUL(f[2*i+1],l->trig[i]);
    }
 }
 
 
-void mdct_backward(mdct_lookup *l, float *in, float *out)
+void mdct_backward(mdct_lookup *l, kiss_fft_scalar *in, kiss_fft_scalar *out)
 {
    int i;
    int N, N2, N4, N8;
+   VARDECL(kiss_fft_scalar *f);
    N = l->n;
    N2 = N/2;
    N4 = N/4;
    N8 = N/8;
-   float f[N2];
+   ALLOC(f, N2, kiss_fft_scalar);
    
    /* Pre-rotate */
    for(i=0;i<N4;i++) 
    {
-      out[2*i]   = -in[N2-2*i-1] * l->trig[i]    - in[2*i]*l->trig[i+N4];
-      out[2*i+1] =  in[N2-2*i-1] * l->trig[i+N4] - in[2*i]*l->trig[i];
+      out[2*i]   = -S_MUL(in[N2-2*i-1], l->trig[i])    - S_MUL(in[2*i],l->trig[i+N4]);
+      out[2*i+1] =  S_MUL(in[N2-2*i-1], l->trig[i+N4]) - S_MUL(in[2*i],l->trig[i]);
    }
 
    /* Inverse N/4 complex FFT. This one should *not* downscale even in fixed-point */
@@ -138,11 +154,12 @@ void mdct_backward(mdct_lookup *l, float *in, float *out)
    /* Post-rotate */
    for(i=0;i<N4;i++)
    {
-      float re, im;
+      kiss_fft_scalar re, im;
       re = f[2*i];
       im = f[2*i+1];
-      f[2*i]   = re*l->trig[i] + im*l->trig[i+N4];
-      f[2*i+1] = im*l->trig[i] - re*l->trig[i+N4];
+      /* We'd scale up by 2 here, but instead it's done when mixing the windows */
+      f[2*i]   = S_MUL(re,l->trig[i]) + S_MUL(im,l->trig[i+N4]);
+      f[2*i+1] = S_MUL(im,l->trig[i]) - S_MUL(re,l->trig[i+N4]);
    }
    /* De-shuffle the components for the middle of the window only */
    for(i = 0; i < N4; i++)