f08bdef4661503e7958faf20ac7474e95f94d857
[opus.git] / libcelt / mdct.c
1 /* (C) 2008 Jean-Marc Valin, CSIRO
2 */
3 /*
4    Redistribution and use in source and binary forms, with or without
5    modification, are permitted provided that the following conditions
6    are met:
7    
8    - Redistributions of source code must retain the above copyright
9    notice, this list of conditions and the following disclaimer.
10    
11    - Redistributions in binary form must reproduce the above copyright
12    notice, this list of conditions and the following disclaimer in the
13    documentation and/or other materials provided with the distribution.
14    
15    - Neither the name of the Xiph.org Foundation nor the names of its
16    contributors may be used to endorse or promote products derived from
17    this software without specific prior written permission.
18    
19    THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
20    ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
21    LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
22    A PARTICULAR PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE FOUNDATION OR
23    CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
24    EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
25    PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
26    PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF
27    LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING
28    NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS
29    SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
30 */
31
32 /* This is a simple MDCT implementation that uses a N/4 complex FFT
33    to do most of the work. It should be relatively straightforward to
34    plug in pretty much and FFT here.
35    
36    This replaces the Vorbis FFT (and uses the exact same API), which 
37    was a bit too messy and that was ending up duplicating code 
38    (might as well use the same FFT everywhere).
39    
40    The algorithm is similar to (and inspired from) Fabrice Bellard's
41    MDCT implementation in FFMPEG, but has differences in signs, ordering
42    and scaling in many places. 
43 */
44
45 #ifdef HAVE_CONFIG_H
46 #include "config.h"
47 #endif
48
49 #include "mdct.h"
50 #include "kfft_double.h"
51 #include <math.h>
52 #include "os_support.h"
53 #include "mathops.h"
54 #include "stack_alloc.h"
55
56 #ifndef M_PI
57 #define M_PI 3.141592653
58 #endif
59
60 void mdct_init(mdct_lookup *l,int N)
61 {
62    int i;
63    int N2;
64    l->n = N;
65    N2 = N>>1;
66    l->kfft = cpx32_fft_alloc(N>>2);
67 #ifndef ENABLE_TI_DSPLIB55
68    if (l->kfft==NULL)
69      return;
70 #endif
71    l->trig = (kiss_twiddle_scalar*)celt_alloc(N2*sizeof(kiss_twiddle_scalar));
72    if (l->trig==NULL)
73      return;
74    /* We have enough points that sine isn't necessary */
75 #if defined(FIXED_POINT)
76 #if defined(DOUBLE_PRECISION) & !defined(MIXED_PRECISION)
77    for (i=0;i<N2;i++)
78       l->trig[i] = SAMP_MAX*cos(2*M_PI*(i+1./8.)/N);
79 #else
80    for (i=0;i<N2;i++)
81       l->trig[i] = TRIG_UPSCALE*celt_cos_norm(DIV32(ADD32(SHL32(EXTEND32(i),17),16386),N));
82 #endif
83 #else
84    for (i=0;i<N2;i++)
85       l->trig[i] = cos(2*M_PI*(i+1./8.)/N);
86 #endif
87 }
88
89 void mdct_clear(mdct_lookup *l)
90 {
91    cpx32_fft_free(l->kfft);
92    celt_free(l->trig);
93 }
94
95 void mdct_forward(const mdct_lookup *l, kiss_fft_scalar *in, kiss_fft_scalar * restrict out, const celt_word16_t *window, int overlap)
96 {
97    int i;
98    int N, N2, N4;
99    VARDECL(kiss_fft_scalar, f);
100    SAVE_STACK;
101    N = l->n;
102    N2 = N>>1;
103    N4 = N>>2;
104    ALLOC(f, N2, kiss_fft_scalar);
105    
106    /* Consider the input to be compused of four blocks: [a, b, c, d] */
107    /* Window, shuffle, fold */
108    {
109       /* Temp pointers to make it really clear to the compiler what we're doing */
110       const kiss_fft_scalar * restrict xp1 = in+(overlap>>1);
111       const kiss_fft_scalar * restrict xp2 = in+N2-1+(overlap>>1);
112       kiss_fft_scalar * restrict yp = out;
113       const celt_word16_t * restrict wp1 = window+(overlap>>1);
114       const celt_word16_t * restrict wp2 = window+(overlap>>1)-1;
115       for(i=0;i<(overlap>>2);i++)
116       {
117          /* Real part arranged as -d-cR, Imag part arranged as -b+aR*/
118          *yp++ = MULT16_32_Q15(*wp2, xp1[N2]) + MULT16_32_Q15(*wp1,*xp2);
119          *yp++ = MULT16_32_Q15(*wp1, *xp1)    - MULT16_32_Q15(*wp2, xp2[-N2]);
120          xp1+=2;
121          xp2-=2;
122          wp1+=2;
123          wp2-=2;
124       }
125       wp1 = window;
126       wp2 = window+overlap-1;
127       for(;i<N4-(overlap>>2);i++)
128       {
129          /* Real part arranged as a-bR, Imag part arranged as -c-dR */
130          *yp++ = *xp2;
131          *yp++ = *xp1;
132          xp1+=2;
133          xp2-=2;
134       }
135       for(;i<N4;i++)
136       {
137          /* Real part arranged as a-bR, Imag part arranged as -c-dR */
138          *yp++ =  -MULT16_32_Q15(*wp1, xp1[-N2]) + MULT16_32_Q15(*wp2, *xp2);
139          *yp++ = MULT16_32_Q15(*wp2, *xp1)     + MULT16_32_Q15(*wp1, xp2[N2]);
140          xp1+=2;
141          xp2-=2;
142          wp1+=2;
143          wp2-=2;
144       }
145    }
146    /* Pre-rotation */
147    {
148       kiss_fft_scalar * restrict yp = out;
149       kiss_fft_scalar *t = &l->trig[0];
150       for(i=0;i<N4;i++)
151       {
152          kiss_fft_scalar re, im;
153          re = yp[0];
154          im = yp[1];
155          *yp++ = -S_MUL(re,t[0])  +  S_MUL(im,t[N4]);
156          *yp++ = -S_MUL(im,t[0])  -  S_MUL(re,t[N4]);
157          t++;
158       }
159    }
160
161    /* N/4 complex FFT, down-scales by 4/N */
162    cpx32_fft(l->kfft, out, f, N4);
163
164    /* Post-rotate */
165    {
166       /* Temp pointers to make it really clear to the compiler what we're doing */
167       const kiss_fft_scalar * restrict fp = f;
168       kiss_fft_scalar * restrict yp1 = out;
169       kiss_fft_scalar * restrict yp2 = out+N2-1;
170       kiss_fft_scalar *t = &l->trig[0];
171       /* Temp pointers to make it really clear to the compiler what we're doing */
172       for(i=0;i<N4;i++)
173       {
174          *yp1 = -S_MUL(fp[1],t[N4]) + S_MUL(fp[0],t[0]);
175          *yp2 = -S_MUL(fp[0],t[N4]) - S_MUL(fp[1],t[0]);
176          fp += 2;
177          yp1 += 2;
178          yp2 -= 2;
179          t++;
180       }
181    }
182    RESTORE_STACK;
183 }
184
185
186 void mdct_backward(const mdct_lookup *l, kiss_fft_scalar *in, kiss_fft_scalar * restrict out, const celt_word16_t * restrict window, int overlap)
187 {
188    int i;
189    int N, N2, N4;
190    VARDECL(kiss_fft_scalar, f);
191    VARDECL(kiss_fft_scalar, f2);
192    SAVE_STACK;
193    N = l->n;
194    N2 = N>>1;
195    N4 = N>>2;
196    ALLOC(f, N2, kiss_fft_scalar);
197    ALLOC(f2, N2, kiss_fft_scalar);
198    
199    /* Pre-rotate */
200    {
201       /* Temp pointers to make it really clear to the compiler what we're doing */
202       const kiss_fft_scalar * restrict xp1 = in;
203       const kiss_fft_scalar * restrict xp2 = in+N2-1;
204       kiss_fft_scalar * restrict yp = f2;
205       kiss_fft_scalar *t = &l->trig[0];
206       for(i=0;i<N4;i++) 
207       {
208          *yp++ = -S_MUL(*xp2, t[0])  - S_MUL(*xp1,t[N4]);
209          *yp++ =  S_MUL(*xp2, t[N4]) - S_MUL(*xp1,t[0]);
210          xp1+=2;
211          xp2-=2;
212          t++;
213       }
214    }
215
216    /* Inverse N/4 complex FFT. This one should *not* downscale even in fixed-point */
217    cpx32_ifft(l->kfft, f2, f, N4);
218    
219    /* Post-rotate */
220    {
221       kiss_fft_scalar * restrict fp = f;
222       kiss_fft_scalar *t = &l->trig[0];
223
224       for(i=0;i<N4;i++)
225       {
226          kiss_fft_scalar re, im;
227          re = fp[0];
228          im = fp[1];
229          /* We'd scale up by 2 here, but instead it's done when mixing the windows */
230          *fp++ = S_MUL(re,*t) + S_MUL(im,t[N4]);
231          *fp++ = S_MUL(im,*t) - S_MUL(re,t[N4]);
232          t++;
233       }
234    }
235    /* De-shuffle the components for the middle of the window only */
236    {
237       const kiss_fft_scalar * restrict fp1 = f;
238       const kiss_fft_scalar * restrict fp2 = f+N2-1;
239       kiss_fft_scalar * restrict yp = f2;
240       for(i = 0; i < N4; i++)
241       {
242          *yp++ =-*fp1;
243          *yp++ = *fp2;
244          fp1 += 2;
245          fp2 -= 2;
246       }
247    }
248
249    /* Mirror on both sides for TDAC */
250    {
251       kiss_fft_scalar * restrict fp1 = f2+N4-1;
252       kiss_fft_scalar * restrict xp1 = out+N2-1;
253       kiss_fft_scalar * restrict yp1 = out+N4-overlap/2;
254       const celt_word16_t * restrict wp1 = window;
255       const celt_word16_t * restrict wp2 = window+overlap-1;
256       for(i = 0; i< N4-overlap/2; i++)
257       {
258          *xp1 = *fp1;
259          xp1--;
260          fp1--;
261       }
262       for(; i < N4; i++)
263       {
264          kiss_fft_scalar x1;
265          x1 = *fp1--;
266          *yp1++ +=-MULT16_32_Q15(*wp1, x1);
267          *xp1-- += MULT16_32_Q15(*wp2, x1);
268          wp1++;
269          wp2--;
270       }
271    }
272    {
273       kiss_fft_scalar * restrict fp2 = f2+N4;
274       kiss_fft_scalar * restrict xp2 = out+N2;
275       kiss_fft_scalar * restrict yp2 = out+N-1-(N4-overlap/2);
276       const celt_word16_t * restrict wp1 = window;
277       const celt_word16_t * restrict wp2 = window+overlap-1;
278       for(i = 0; i< N4-overlap/2; i++)
279       {
280          *xp2 = *fp2;
281          xp2++;
282          fp2++;
283       }
284       for(; i < N4; i++)
285       {
286          kiss_fft_scalar x2;
287          x2 = *fp2++;
288          *yp2--  = MULT16_32_Q15(*wp1, x2);
289          *xp2++  = MULT16_32_Q15(*wp2, x2);
290          wp1++;
291          wp2--;
292       }
293    }
294    RESTORE_STACK;
295 }
296
297