Moved mdct state and window to the mode so it can be shared between multiple
[opus.git] / libcelt / mdct.c
1 /* (C) 2008 Jean-Marc Valin, CSIRO
2 */
3 /*
4    Redistribution and use in source and binary forms, with or without
5    modification, are permitted provided that the following conditions
6    are met:
7    
8    - Redistributions of source code must retain the above copyright
9    notice, this list of conditions and the following disclaimer.
10    
11    - Redistributions in binary form must reproduce the above copyright
12    notice, this list of conditions and the following disclaimer in the
13    documentation and/or other materials provided with the distribution.
14    
15    - Neither the name of the Xiph.org Foundation nor the names of its
16    contributors may be used to endorse or promote products derived from
17    this software without specific prior written permission.
18    
19    THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
20    ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
21    LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
22    A PARTICULAR PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE FOUNDATION OR
23    CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
24    EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
25    PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
26    PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF
27    LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING
28    NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS
29    SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
30 */
31
32 /* This is a simple MDCT implementation that uses a N/4 complex FFT
33    to do most of the work. It should be relatively straightforward to
34    plug in pretty much and FFT here.
35    
36    This replaces the Vorbis FFT (and uses the exact same API), which 
37    was a bit too messy and that was ending up duplicating code 
38    (might as well use the same FFT everywhere).
39    
40    The algorithm is similar to (and inspired from) Fabrice Bellard's
41    MDCT implementation in FFMPEG, but has differences in signs, ordering
42    and scaling in many places. 
43 */
44
45 #ifdef HAVE_CONFIG_H
46 #include "config.h"
47 #endif
48
49 #include "mdct.h"
50 #include "kiss_fft.h"
51 #include <math.h>
52 #include "os_support.h"
53 #include "_kiss_fft_guts.h"
54 #include "mathops.h"
55
56 #ifndef M_PI
57 #define M_PI 3.141592653
58 #endif
59
60 void mdct_init(mdct_lookup *l,int N)
61 {
62    int i;
63    int N2, N4;
64    l->n = N;
65    N2 = N/2;
66    N4 = N/4;
67    l->kfft = kiss_fft_alloc(N4, NULL, NULL);
68    l->trig = (kiss_twiddle_scalar*)celt_alloc(N2*sizeof(kiss_twiddle_scalar));
69    /* We have enough points that sine isn't necessary */
70 #if defined(FIXED_POINT)
71 #if defined(DOUBLE_PRECISION) & !defined(MIXED_PRECISION)
72    for (i=0;i<N2;i++)
73       l->trig[i] = SAMP_MAX*cos(2*M_PI*(i+1./8.)/N);
74 #else
75    for (i=0;i<N2;i++)
76       l->trig[i] = TRIG_UPSCALE*celt_cos_norm(DIV32(ADD32(SHL32(i,17),16386),N));
77 #endif
78 #else
79    for (i=0;i<N2;i++)
80       l->trig[i] = cos(2*M_PI*(i+1./8.)/N);
81 #endif
82 }
83
84 void mdct_clear(mdct_lookup *l)
85 {
86    kiss_fft_free(l->kfft);
87    celt_free(l->trig);
88 }
89
90 void mdct_forward(const mdct_lookup *l, kiss_fft_scalar *in, kiss_fft_scalar *out)
91 {
92    int i;
93    int N, N2, N4;
94    VARDECL(kiss_fft_scalar *f);
95    SAVE_STACK;
96    N = l->n;
97    N2 = N/2;
98    N4 = N/4;
99    ALLOC(f, N2, kiss_fft_scalar);
100    
101    /* Consider the input to be compused of four blocks: [a, b, c, d] */
102    /* Shuffle, fold, pre-rotate (part 1) */
103    for(i=0;i<N/8;i++)
104    {
105       kiss_fft_scalar re, im;
106       /* Real part arranged as -d-cR, Imag part arranged as -b+aR*/
107       re = -.5*(in[N2+N4+2*i] + in[N2+N4-2*i-1]);
108       im = -.5*(in[N4+2*i]    - in[N4-2*i-1]);
109       out[2*i]   = S_MUL(re,l->trig[i])  -  S_MUL(im,l->trig[i+N4]);
110       out[2*i+1] = S_MUL(im,l->trig[i])  +  S_MUL(re,l->trig[i+N4]);
111    }
112    for(;i<N4;i++)
113    {
114       kiss_fft_scalar re, im;
115       /* Real part arranged as a-bR, Imag part arranged as -c-dR */
116       re =  .5*(in[2*i-N4] - in[N2+N4-2*i-1]);
117       im = -.5*(in[N4+2*i] + in[N+N4-2*i-1]);
118       out[2*i]   = S_MUL(re,l->trig[i])  -  S_MUL(im,l->trig[i+N4]);
119       out[2*i+1] = S_MUL(im,l->trig[i])  +  S_MUL(re,l->trig[i+N4]);
120    }
121
122    /* N/4 complex FFT, which should normally down-scale by 4/N (but doesn't now) */
123    kiss_fft(l->kfft, (const kiss_fft_cpx *)out, (kiss_fft_cpx *)f);
124
125    /* Post-rotate and apply the scaling if the FFT doesn't to it itself */
126    for(i=0;i<N4;i++)
127    {
128       out[2*i]      = -S_MUL(f[2*i+1],l->trig[i+N4]) + S_MUL(f[2*i]  ,l->trig[i]);
129       out[N2-1-2*i] = -S_MUL(f[2*i]  ,l->trig[i+N4]) - S_MUL(f[2*i+1],l->trig[i]);
130    }
131    RESTORE_STACK;
132 }
133
134
135 void mdct_backward(const mdct_lookup *l, kiss_fft_scalar *in, kiss_fft_scalar *out)
136 {
137    int i;
138    int N, N2, N4, N8;
139    VARDECL(kiss_fft_scalar *f);
140    SAVE_STACK;
141    N = l->n;
142    N2 = N/2;
143    N4 = N/4;
144    N8 = N/8;
145    ALLOC(f, N2, kiss_fft_scalar);
146    
147    /* Pre-rotate */
148    for(i=0;i<N4;i++) 
149    {
150       out[2*i]   = -S_MUL(in[N2-2*i-1], l->trig[i])    - S_MUL(in[2*i],l->trig[i+N4]);
151       out[2*i+1] =  S_MUL(in[N2-2*i-1], l->trig[i+N4]) - S_MUL(in[2*i],l->trig[i]);
152    }
153
154    /* Inverse N/4 complex FFT. This one should *not* downscale even in fixed-point */
155    kiss_ifft(l->kfft, (const kiss_fft_cpx *)out, (kiss_fft_cpx *)f);
156    
157    /* Post-rotate */
158    for(i=0;i<N4;i++)
159    {
160       kiss_fft_scalar re, im;
161       re = f[2*i];
162       im = f[2*i+1];
163       /* We'd scale up by 2 here, but instead it's done when mixing the windows */
164       f[2*i]   = S_MUL(re,l->trig[i]) + S_MUL(im,l->trig[i+N4]);
165       f[2*i+1] = S_MUL(im,l->trig[i]) - S_MUL(re,l->trig[i+N4]);
166    }
167    /* De-shuffle the components for the middle of the window only */
168    for(i = 0; i < N4; i++)
169    {
170       out[N4+2*i]   =-f[2*i];
171       out[N4+2*i+1] = f[N2-2*i-1];
172    }
173
174    /* Mirror on both sides for TDAC */
175    for(i = 0; i < N4; i++)
176    {
177       out[i]     =-out[N2-i-1];
178       out[N-i-1] = out[N2+i];
179    }
180    RESTORE_STACK;
181 }
182
183