Cleaning up the folding code.
[opus.git] / libcelt / bands.c
1 /* Copyright (c) 2007-2008 CSIRO
2    Copyright (c) 2007-2009 Xiph.Org Foundation
3    Copyright (c) 2008-2009 Gregory Maxwell 
4    Written by Jean-Marc Valin and Gregory Maxwell */
5 /*
6    Redistribution and use in source and binary forms, with or without
7    modification, are permitted provided that the following conditions
8    are met:
9    
10    - Redistributions of source code must retain the above copyright
11    notice, this list of conditions and the following disclaimer.
12    
13    - Redistributions in binary form must reproduce the above copyright
14    notice, this list of conditions and the following disclaimer in the
15    documentation and/or other materials provided with the distribution.
16    
17    - Neither the name of the Xiph.org Foundation nor the names of its
18    contributors may be used to endorse or promote products derived from
19    this software without specific prior written permission.
20    
21    THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
22    ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
23    LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
24    A PARTICULAR PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE FOUNDATION OR
25    CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
26    EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
27    PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
28    PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF
29    LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING
30    NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS
31    SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
32 */
33
34 #ifdef HAVE_CONFIG_H
35 #include "config.h"
36 #endif
37
38 #include <math.h>
39 #include "bands.h"
40 #include "modes.h"
41 #include "vq.h"
42 #include "cwrs.h"
43 #include "stack_alloc.h"
44 #include "os_support.h"
45 #include "mathops.h"
46 #include "rate.h"
47
48
49 #ifdef FIXED_POINT
50 /* Compute the amplitude (sqrt energy) in each of the bands */
51 void compute_band_energies(const CELTMode *m, const celt_sig *X, celt_ener *bank, int _C, int M)
52 {
53    int i, c, N;
54    const celt_int16 *eBands = m->eBands;
55    const int C = CHANNELS(_C);
56    N = M*m->eBands[m->nbEBands+1];
57    for (c=0;c<C;c++)
58    {
59       for (i=0;i<m->nbEBands;i++)
60       {
61          int j;
62          celt_word32 maxval=0;
63          celt_word32 sum = 0;
64          
65          j=M*eBands[i]; do {
66             maxval = MAX32(maxval, X[j+c*N]);
67             maxval = MAX32(maxval, -X[j+c*N]);
68          } while (++j<M*eBands[i+1]);
69          
70          if (maxval > 0)
71          {
72             int shift = celt_ilog2(maxval)-10;
73             j=M*eBands[i]; do {
74                sum = MAC16_16(sum, EXTRACT16(VSHR32(X[j+c*N],shift)),
75                                    EXTRACT16(VSHR32(X[j+c*N],shift)));
76             } while (++j<M*eBands[i+1]);
77             /* We're adding one here to make damn sure we never end up with a pitch vector that's
78                larger than unity norm */
79             bank[i+c*m->nbEBands] = EPSILON+VSHR32(EXTEND32(celt_sqrt(sum)),-shift);
80          } else {
81             bank[i+c*m->nbEBands] = EPSILON;
82          }
83          /*printf ("%f ", bank[i+c*m->nbEBands]);*/
84       }
85    }
86    /*printf ("\n");*/
87 }
88
89 /* Normalise each band such that the energy is one. */
90 void normalise_bands(const CELTMode *m, const celt_sig * restrict freq, celt_norm * restrict X, const celt_ener *bank, int _C, int M)
91 {
92    int i, c, N;
93    const celt_int16 *eBands = m->eBands;
94    const int C = CHANNELS(_C);
95    N = M*m->eBands[m->nbEBands+1];
96    for (c=0;c<C;c++)
97    {
98       i=0; do {
99          celt_word16 g;
100          int j,shift;
101          celt_word16 E;
102          shift = celt_zlog2(bank[i+c*m->nbEBands])-13;
103          E = VSHR32(bank[i+c*m->nbEBands], shift);
104          g = EXTRACT16(celt_rcp(SHL32(E,3)));
105          j=M*eBands[i]; do {
106             X[j+c*N] = MULT16_16_Q15(VSHR32(freq[j+c*N],shift-1),g);
107          } while (++j<M*eBands[i+1]);
108       } while (++i<m->nbEBands);
109    }
110 }
111
112 #else /* FIXED_POINT */
113 /* Compute the amplitude (sqrt energy) in each of the bands */
114 void compute_band_energies(const CELTMode *m, const celt_sig *X, celt_ener *bank, int _C, int M)
115 {
116    int i, c, N;
117    const celt_int16 *eBands = m->eBands;
118    const int C = CHANNELS(_C);
119    N = M*m->eBands[m->nbEBands+1];
120    for (c=0;c<C;c++)
121    {
122       for (i=0;i<m->nbEBands;i++)
123       {
124          int j;
125          celt_word32 sum = 1e-10;
126          for (j=M*eBands[i];j<M*eBands[i+1];j++)
127             sum += X[j+c*N]*X[j+c*N];
128          bank[i+c*m->nbEBands] = sqrt(sum);
129          /*printf ("%f ", bank[i+c*m->nbEBands]);*/
130       }
131    }
132    /*printf ("\n");*/
133 }
134
135 #ifdef EXP_PSY
136 void compute_noise_energies(const CELTMode *m, const celt_sig *X, const celt_word16 *tonality, celt_ener *bank, int _C, int M)
137 {
138    int i, c, N;
139    const celt_int16 *eBands = m->eBands;
140    const int C = CHANNELS(_C);
141    N = M*m->eBands[m->nbEBands+1];
142    for (c=0;c<C;c++)
143    {
144       for (i=0;i<m->nbEBands;i++)
145       {
146          int j;
147          celt_word32 sum = 1e-10;
148          for (j=M*eBands[i];j<M*eBands[i+1];j++)
149             sum += X[j*C+c]*X[j+c*N]*tonality[j];
150          bank[i+c*m->nbEBands] = sqrt(sum);
151          /*printf ("%f ", bank[i+c*m->nbEBands]);*/
152       }
153    }
154    /*printf ("\n");*/
155 }
156 #endif
157
158 /* Normalise each band such that the energy is one. */
159 void normalise_bands(const CELTMode *m, const celt_sig * restrict freq, celt_norm * restrict X, const celt_ener *bank, int _C, int M)
160 {
161    int i, c, N;
162    const celt_int16 *eBands = m->eBands;
163    const int C = CHANNELS(_C);
164    N = M*m->eBands[m->nbEBands+1];
165    for (c=0;c<C;c++)
166    {
167       for (i=0;i<m->nbEBands;i++)
168       {
169          int j;
170          celt_word16 g = 1.f/(1e-10f+bank[i+c*m->nbEBands]);
171          for (j=M*eBands[i];j<M*eBands[i+1];j++)
172             X[j+c*N] = freq[j+c*N]*g;
173       }
174    }
175 }
176
177 #endif /* FIXED_POINT */
178
179 void renormalise_bands(const CELTMode *m, celt_norm * restrict X, int _C, int M)
180 {
181    int i, c;
182    const celt_int16 *eBands = m->eBands;
183    const int C = CHANNELS(_C);
184    for (c=0;c<C;c++)
185    {
186       i=0; do {
187          renormalise_vector(X+M*eBands[i]+c*M*eBands[m->nbEBands+1], Q15ONE, M*eBands[i+1]-M*eBands[i], 1);
188       } while (++i<m->nbEBands);
189    }
190 }
191
192 /* De-normalise the energy to produce the synthesis from the unit-energy bands */
193 void denormalise_bands(const CELTMode *m, const celt_norm * restrict X, celt_sig * restrict freq, const celt_ener *bank, int _C, int M)
194 {
195    int i, c, N;
196    const celt_int16 *eBands = m->eBands;
197    const int C = CHANNELS(_C);
198    N = M*m->eBands[m->nbEBands+1];
199    if (C>2)
200       celt_fatal("denormalise_bands() not implemented for >2 channels");
201    for (c=0;c<C;c++)
202    {
203       celt_sig * restrict f;
204       const celt_norm * restrict x;
205       f = freq+c*N;
206       x = X+c*N;
207       for (i=0;i<m->nbEBands;i++)
208       {
209          int j, end;
210          celt_word32 g = SHR32(bank[i+c*m->nbEBands],1);
211          j=M*eBands[i];
212          end = M*eBands[i+1];
213          do {
214             *f++ = SHL32(MULT16_32_Q15(*x, g),2);
215             x++;
216          } while (++j<end);
217       }
218       for (i=M*eBands[m->nbEBands];i<M*eBands[m->nbEBands+1];i++)
219          *f++ = 0;
220    }
221 }
222
223 int compute_pitch_gain(const CELTMode *m, const celt_sig *X, const celt_sig *P, int norm_rate, int *gain_id, int _C, celt_word16 *gain_prod, int M)
224 {
225    int j, c;
226    celt_word16 g;
227    celt_word16 delta;
228    const int C = CHANNELS(_C);
229    celt_word32 Sxy=0, Sxx=0, Syy=0;
230    int len = M*m->pitchEnd;
231    int N = M*m->eBands[m->nbEBands+1];
232 #ifdef FIXED_POINT
233    int shift = 0;
234    celt_word32 maxabs=0;
235
236    for (c=0;c<C;c++)
237    {
238       for (j=0;j<len;j++)
239       {
240          maxabs = MAX32(maxabs, ABS32(X[j+c*N]));
241          maxabs = MAX32(maxabs, ABS32(P[j+c*N]));
242       }
243    }
244    shift = celt_ilog2(maxabs)-12;
245    if (shift<0)
246       shift = 0;
247 #endif
248    delta = PDIV32_16(Q15ONE, len);
249    for (c=0;c<C;c++)
250    {
251       celt_word16 gg = Q15ONE;
252       for (j=0;j<len;j++)
253       {
254          celt_word16 Xj, Pj;
255          Xj = EXTRACT16(SHR32(X[j+c*N], shift));
256          Pj = MULT16_16_P15(gg,EXTRACT16(SHR32(P[j+c*N], shift)));
257          Sxy = MAC16_16(Sxy, Xj, Pj);
258          Sxx = MAC16_16(Sxx, Pj, Pj);
259          Syy = MAC16_16(Syy, Xj, Xj);
260          gg = SUB16(gg, delta);
261       }
262    }
263 #ifdef FIXED_POINT
264    {
265       celt_word32 num, den;
266       celt_word16 fact;
267       fact = MULT16_16(QCONST16(.04f, 14), norm_rate);
268       if (fact < QCONST16(1.f, 14))
269          fact = QCONST16(1.f, 14);
270       num = Sxy;
271       den = EPSILON+Sxx+MULT16_32_Q15(QCONST16(.03f,15),Syy);
272       shift = celt_zlog2(Sxy)-16;
273       if (shift < 0)
274          shift = 0;
275       if (Sxy < MULT16_32_Q15(fact, MULT16_16(celt_sqrt(EPSILON+Sxx),celt_sqrt(EPSILON+Syy))))
276          g = 0;
277       else
278          g = DIV32(SHL32(SHR32(num,shift),14),ADD32(EPSILON,SHR32(den,shift)));
279
280       /* This MUST round down so that we don't over-estimate the gain */
281       *gain_id = EXTRACT16(SHR32(MULT16_16(20,(g-QCONST16(.5f,14))),14));
282    }
283 #else
284    {
285       float fact = .04f*norm_rate;
286       if (fact < 1)
287          fact = 1;
288       g = Sxy/(.1f+Sxx+.03f*Syy);
289       if (Sxy < .5f*fact*celt_sqrt(1+Sxx*Syy))
290          g = 0;
291       /* This MUST round down so that we don't over-estimate the gain */
292       *gain_id = floor(20*(g-.5f));
293    }
294 #endif
295    /* This prevents the pitch gain from being above 1.0 for too long by bounding the 
296       maximum error amplification factor to 2.0 */
297    g = ADD16(QCONST16(.5f,14), MULT16_16_16(QCONST16(.05f,14),*gain_id));
298    *gain_prod = MAX16(QCONST32(1.f, 13), MULT16_16_Q14(*gain_prod,g));
299    if (*gain_prod>QCONST32(2.f, 13))
300    {
301       *gain_id=9;
302       *gain_prod = QCONST32(2.f, 13);
303    }
304
305    if (*gain_id < 0)
306    {
307       *gain_id = 0;
308       return 0;
309    } else {
310       if (*gain_id > 15)
311          *gain_id = 15;
312       return 1;
313    }
314 }
315
316 void apply_pitch(const CELTMode *m, celt_sig *X, const celt_sig *P, int gain_id, int pred, int _C, int M)
317 {
318    int j, c, N;
319    celt_word16 gain;
320    celt_word16 delta;
321    const int C = CHANNELS(_C);
322    int len = M*m->pitchEnd;
323
324    N = M*m->eBands[m->nbEBands+1];
325    gain = ADD16(QCONST16(.5f,14), MULT16_16_16(QCONST16(.05f,14),gain_id));
326    delta = PDIV32_16(gain, len);
327    if (pred)
328       gain = -gain;
329    else
330       delta = -delta;
331    for (c=0;c<C;c++)
332    {
333       celt_word16 gg = gain;
334       for (j=0;j<len;j++)
335       {
336          X[j+c*N] += SHL32(MULT16_32_Q15(gg,P[j+c*N]),1);
337          gg = ADD16(gg, delta);
338       }
339    }
340 }
341
342 #ifndef DISABLE_STEREO
343
344 static void stereo_band_mix(const CELTMode *m, celt_norm *X, celt_norm *Y, const celt_ener *bank, int stereo_mode, int bandID, int dir, int M)
345 {
346    int i = bandID;
347    const celt_int16 *eBands = m->eBands;
348    int j;
349    celt_word16 a1, a2;
350    if (stereo_mode==0)
351    {
352       /* Do mid-side when not doing intensity stereo */
353       a1 = QCONST16(.70711f,14);
354       a2 = dir*QCONST16(.70711f,14);
355    } else {
356       celt_word16 left, right;
357       celt_word16 norm;
358 #ifdef FIXED_POINT
359       int shift = celt_zlog2(MAX32(bank[i], bank[i+m->nbEBands]))-13;
360 #endif
361       left = VSHR32(bank[i],shift);
362       right = VSHR32(bank[i+m->nbEBands],shift);
363       norm = EPSILON + celt_sqrt(EPSILON+MULT16_16(left,left)+MULT16_16(right,right));
364       a1 = DIV32_16(SHL32(EXTEND32(left),14),norm);
365       a2 = dir*DIV32_16(SHL32(EXTEND32(right),14),norm);
366    }
367    for (j=0;j<M*eBands[i+1]-M*eBands[i];j++)
368    {
369       celt_norm r, l;
370       l = X[j];
371       r = Y[j];
372       X[j] = MULT16_16_Q14(a1,l) + MULT16_16_Q14(a2,r);
373       Y[j] = MULT16_16_Q14(a1,r) - MULT16_16_Q14(a2,l);
374    }
375 }
376
377
378 #endif /* DISABLE_STEREO */
379
380 int folding_decision(const CELTMode *m, celt_norm *X, celt_word16 *average, int *last_decision, int _C, int M)
381 {
382    int i, c, N0;
383    int NR=0;
384    celt_word32 ratio = EPSILON;
385    const int C = CHANNELS(_C);
386    const celt_int16 * restrict eBands = m->eBands;
387    
388    N0 = M*m->eBands[m->nbEBands+1];
389
390    for (c=0;c<C;c++)
391    {
392    for (i=0;i<m->nbEBands;i++)
393    {
394       int j, N;
395       int max_i=0;
396       celt_word16 max_val=EPSILON;
397       celt_word32 floor_ener=EPSILON;
398       celt_norm * restrict x = X+M*eBands[i]+c*N0;
399       N = M*eBands[i+1]-M*eBands[i];
400       for (j=0;j<N;j++)
401       {
402          if (ABS16(x[j])>max_val)
403          {
404             max_val = ABS16(x[j]);
405             max_i = j;
406          }
407       }
408 #if 0
409       for (j=0;j<N;j++)
410       {
411          if (abs(j-max_i)>2)
412             floor_ener += x[j]*x[j];
413       }
414 #else
415       floor_ener = QCONST32(1.,28)-MULT16_16(max_val,max_val);
416       if (max_i < N-1)
417          floor_ener -= MULT16_16(x[(max_i+1)], x[(max_i+1)]);
418       if (max_i < N-2)
419          floor_ener -= MULT16_16(x[(max_i+2)], x[(max_i+2)]);
420       if (max_i > 0)
421          floor_ener -= MULT16_16(x[(max_i-1)], x[(max_i-1)]);
422       if (max_i > 1)
423          floor_ener -= MULT16_16(x[(max_i-2)], x[(max_i-2)]);
424       floor_ener = MAX32(floor_ener, EPSILON);
425 #endif
426       if (N>7)
427       {
428          celt_word16 r;
429          celt_word16 den = celt_sqrt(floor_ener);
430          den = MAX32(QCONST16(.02f, 15), den);
431          r = DIV32_16(SHL32(EXTEND32(max_val),8),den);
432          ratio = ADD32(ratio, EXTEND32(r));
433          NR++;
434       }
435    }
436    }
437    if (NR>0)
438       ratio = DIV32_16(ratio, NR);
439    ratio = ADD32(HALF32(ratio), HALF32(*average));
440    if (!*last_decision)
441    {
442       *last_decision = (ratio < QCONST16(1.8f,8));
443    } else {
444       *last_decision = (ratio < QCONST16(3.f,8));
445    }
446    *average = EXTRACT16(ratio);
447    return *last_decision;
448 }
449
450 /* Quantisation of the residual */
451 void quant_bands(const CELTMode *m, int start, celt_norm * restrict X, const celt_ener *bandE, int *pulses, int shortBlocks, int fold, int resynth, int total_bits, int encode, void *enc_dec, int LM)
452 {
453    int i, j, remaining_bits, balance;
454    const celt_int16 * restrict eBands = m->eBands;
455    celt_norm * restrict norm;
456    VARDECL(celt_norm, _norm);
457    int B;
458    int M;
459    int spread;
460    SAVE_STACK;
461
462    M = 1<<LM;
463    B = shortBlocks ? M : 1;
464    spread = fold ? B : 0;
465    ALLOC(_norm, M*eBands[m->nbEBands+1], celt_norm);
466    norm = _norm;
467    /* Just in case the first bands attempts to fold -- shouldn't really happen */
468    for (i=0;i<M;i++)
469       norm[i] = 0;
470
471    balance = 0;
472    for (i=start;i<m->nbEBands;i++)
473    {
474       int tell;
475       int N;
476       int q;
477       const celt_int16 * const *BPbits;
478       
479       int curr_balance, curr_bits;
480       
481       N = M*eBands[i+1]-M*eBands[i];
482       BPbits = m->bits[LM];
483
484       if (encode)
485          tell = ec_enc_tell(enc_dec, BITRES);
486       else
487          tell = ec_dec_tell(enc_dec, BITRES);
488       if (i != start)
489          balance -= tell;
490       remaining_bits = (total_bits<<BITRES)-tell-1;
491       curr_balance = (m->nbEBands-i);
492       if (curr_balance > 3)
493          curr_balance = 3;
494       curr_balance = balance / curr_balance;
495       q = bits2pulses(m, BPbits[i], N, pulses[i]+curr_balance);
496       curr_bits = pulses2bits(BPbits[i], N, q);
497       remaining_bits -= curr_bits;
498       while (remaining_bits < 0 && q > 0)
499       {
500          remaining_bits += curr_bits;
501          q--;
502          curr_bits = pulses2bits(BPbits[i], N, q);
503          remaining_bits -= curr_bits;
504       }
505       balance += pulses[i] + tell;
506       
507
508       if (encode)
509          alg_quant(X+M*eBands[i], N, q, spread, norm+eBands[start], resynth, enc_dec);
510       else
511          alg_unquant(X+M*eBands[i], N, q, spread, norm+eBands[start], enc_dec);
512       if (resynth)
513       {
514          celt_word16 n;
515          n = celt_sqrt(SHL32(EXTEND32(N),22));
516          for (j=M*eBands[i];j<M*eBands[i+1];j++)
517             norm[j] = MULT16_16_Q15(n,X[j]);
518       }
519    }
520    RESTORE_STACK;
521 }
522
523 #ifndef DISABLE_STEREO
524
525 void quant_bands_stereo(const CELTMode *m, int start, celt_norm *_X, const celt_ener *bandE, int *pulses, int shortBlocks, int fold, int resynth, int total_bits, ec_enc *enc, int LM)
526 {
527    int i, j, remaining_bits, balance;
528    const celt_int16 * restrict eBands = m->eBands;
529    celt_norm * restrict norm;
530    VARDECL(celt_norm, _norm);
531    int B;
532    celt_word16 mid, side;
533    int M;
534    int spread;
535    SAVE_STACK;
536
537    M = 1<<LM;
538    B = shortBlocks ? M : 1;
539    spread = fold ? B : 0;
540    ALLOC(_norm, M*eBands[m->nbEBands+1], celt_norm);
541    norm = _norm;
542    /* Just in case the first bands attempts to fold -- not that rare for stereo */
543    for (i=0;i<M;i++)
544       norm[i] = 0;
545
546    balance = 0;
547    for (i=start;i<m->nbEBands;i++)
548    {
549       int tell;
550       int q1, q2;
551       const celt_int16 * const *BPbits;
552       int b, qb;
553       int N;
554       int curr_balance, curr_bits;
555       int imid, iside, itheta;
556       int mbits, sbits, delta;
557       int qalloc;
558       celt_norm * restrict X, * restrict Y;
559       
560       X = _X+M*eBands[i];
561       Y = X+M*eBands[m->nbEBands+1];
562       BPbits = m->bits[LM];
563
564       N = M*eBands[i+1]-M*eBands[i];
565       tell = ec_enc_tell(enc, BITRES);
566       if (i != start)
567          balance -= tell;
568       remaining_bits = (total_bits<<BITRES)-tell-1;
569       curr_balance = (m->nbEBands-i);
570       if (curr_balance > 3)
571          curr_balance = 3;
572       curr_balance = balance / curr_balance;
573       b = IMIN(remaining_bits+1,pulses[i]+curr_balance);
574       if (b<0)
575          b = 0;
576
577       qb = (b-2*(N-1)*(QTHETA_OFFSET-log2_frac(N,BITRES)))/(32*(N-1));
578       if (qb > (b>>BITRES)-1)
579          qb = (b>>BITRES)-1;
580       if (qb<0)
581          qb = 0;
582       if (qb>14)
583          qb = 14;
584
585       stereo_band_mix(m, X, Y, bandE, qb==0, i, 1, M);
586
587       mid = renormalise_vector(X, Q15ONE, N, 1);
588       side = renormalise_vector(Y, Q15ONE, N, 1);
589 #ifdef FIXED_POINT
590       itheta = MULT16_16_Q15(QCONST16(0.63662f,15),celt_atan2p(side, mid));
591 #else
592       itheta = floor(.5f+16384*0.63662f*atan2(side,mid));
593 #endif
594       qalloc = log2_frac((1<<qb)+1,BITRES);
595       if (qb==0)
596       {
597          itheta=0;
598       } else {
599          int shift;
600          shift = 14-qb;
601          itheta = (itheta+(1<<shift>>1))>>shift;
602          ec_enc_uint(enc, itheta, (1<<qb)+1);
603          itheta <<= shift;
604       }
605       if (itheta == 0)
606       {
607          imid = 32767;
608          iside = 0;
609          delta = -10000;
610       } else if (itheta == 16384)
611       {
612          imid = 0;
613          iside = 32767;
614          delta = 10000;
615       } else {
616          imid = bitexact_cos(itheta);
617          iside = bitexact_cos(16384-itheta);
618          delta = (N-1)*(log2_frac(iside,BITRES+2)-log2_frac(imid,BITRES+2))>>2;
619       }
620 #if 1
621       if (N==2)
622       {
623          int c, c2;
624          int sign=1;
625          celt_norm v[2], w[2];
626          celt_norm *x2, *y2;
627          mbits = b-qalloc;
628          sbits = 0;
629          if (itheta != 0 && itheta != 16384)
630             sbits = 1<<BITRES;
631          mbits -= sbits;
632          c = itheta > 8192 ? 1 : 0;
633          c2 = 1-c;
634
635          x2 = X;
636          y2 = Y;
637          if (c==0)
638          {
639             v[0] = x2[0];
640             v[1] = x2[1];
641             w[0] = y2[0];
642             w[1] = y2[1];
643          } else {
644             v[0] = y2[0];
645             v[1] = y2[1];
646             w[0] = x2[0];
647             w[1] = x2[1];
648          }
649          q1 = bits2pulses(m, BPbits[i], N, mbits);
650          curr_bits = pulses2bits(BPbits[i], N, q1)+qalloc+sbits;
651          remaining_bits -= curr_bits;
652          while (remaining_bits < 0 && q1 > 0)
653          {
654             remaining_bits += curr_bits;
655             q1--;
656             curr_bits = pulses2bits(BPbits[i], N, q1)+qalloc;
657             remaining_bits -= curr_bits;
658          }
659
660          alg_quant(v, N, q1, spread, norm+eBands[start], resynth, enc);
661          if (sbits)
662          {
663             if (v[0]*w[1] - v[1]*w[0] > 0)
664                sign = 1;
665             else
666                sign = -1;
667             ec_enc_bits(enc, sign==1, 1);
668          } else {
669             sign = 1;
670          }
671          w[0] = -sign*v[1];
672          w[1] = sign*v[0];
673          if (c==0)
674          {
675             x2[0] = v[0];
676             x2[1] = v[1];
677             y2[0] = w[0];
678             y2[1] = w[1];
679          } else {
680             x2[0] = w[0];
681             x2[1] = w[1];
682             y2[0] = v[0];
683             y2[1] = v[1];
684          }
685       } else 
686 #endif
687       {
688          
689          mbits = (b-qalloc/2-delta)/2;
690          if (mbits > b-qalloc)
691             mbits = b-qalloc;
692          if (mbits<0)
693             mbits=0;
694          sbits = b-qalloc-mbits;
695          q1 = bits2pulses(m, BPbits[i], N, mbits);
696          q2 = bits2pulses(m, BPbits[i], N, sbits);
697          curr_bits = pulses2bits(BPbits[i], N, q1)+pulses2bits(BPbits[i], N, q2)+qalloc;
698          remaining_bits -= curr_bits;
699          while (remaining_bits < 0 && (q1 > 0 || q2 > 0))
700          {
701             remaining_bits += curr_bits;
702             if (q1>q2)
703             {
704                q1--;
705                curr_bits = pulses2bits(BPbits[i], N, q1)+pulses2bits(BPbits[i], N, q2)+qalloc;
706             } else {
707                q2--;
708                curr_bits = pulses2bits(BPbits[i], N, q1)+pulses2bits(BPbits[i], N, q2)+qalloc;
709             }
710             remaining_bits -= curr_bits;
711          }
712
713          alg_quant(X, N, q1, spread, norm+eBands[start], resynth, enc);
714          alg_quant(Y, N, q2, spread, NULL, resynth, enc);
715       }
716       
717       balance += pulses[i] + tell;
718
719       if (resynth)
720       {
721          celt_word16 n;
722 #ifdef FIXED_POINT
723          mid = imid;
724          side = iside;
725 #else
726          mid = (1.f/32768)*imid;
727          side = (1.f/32768)*iside;
728 #endif
729          n = celt_sqrt(SHL32(EXTEND32(N),22));
730          for (j=0;j<N;j++)
731             norm[M*eBands[i]+j] = MULT16_16_Q15(n,X[j]);
732
733          for (j=0;j<N;j++)
734             X[j] = MULT16_16_Q15(X[j], mid);
735          for (j=0;j<N;j++)
736             Y[j] = MULT16_16_Q15(Y[j], side);
737
738          stereo_band_mix(m, X, Y, bandE, 0, i, -1, M);
739          renormalise_vector(X, Q15ONE, N, 1);
740          renormalise_vector(Y, Q15ONE, N, 1);
741       }
742    }
743    RESTORE_STACK;
744 }
745 #endif /* DISABLE_STEREO */
746
747
748 #ifndef DISABLE_STEREO
749
750 void unquant_bands_stereo(const CELTMode *m, int start, celt_norm *_X, const celt_ener *bandE, int *pulses, int shortBlocks, int fold, int total_bits, ec_dec *dec, int LM)
751 {
752    int i, j, remaining_bits, balance;
753    const celt_int16 * restrict eBands = m->eBands;
754    celt_norm * restrict norm;
755    VARDECL(celt_norm, _norm);
756    int B;
757    celt_word16 mid, side;
758    int M;
759    int spread;
760    SAVE_STACK;
761
762    M = 1<<LM;
763    B = shortBlocks ? M : 1;
764    spread = fold ? B : 0;
765    ALLOC(_norm, M*eBands[m->nbEBands+1], celt_norm);
766    norm = _norm;
767    /* Just in case the first bands attempts to fold -- not that rare for stereo */
768    for (i=0;i<M;i++)
769       norm[i] = 0;
770
771    balance = 0;
772    for (i=start;i<m->nbEBands;i++)
773    {
774       int tell;
775       int q1, q2;
776       celt_word16 n;
777       const celt_int16 * const *BPbits;
778       int b, qb;
779       int N;
780       int curr_balance, curr_bits;
781       int imid, iside, itheta;
782       int mbits, sbits, delta;
783       int qalloc;
784       celt_norm * restrict X, * restrict Y;
785       
786       X = _X+M*eBands[i];
787       Y = X+M*eBands[m->nbEBands+1];
788       BPbits = m->bits[LM];
789
790       N = M*eBands[i+1]-M*eBands[i];
791       tell = ec_dec_tell(dec, BITRES);
792       if (i != start)
793          balance -= tell;
794       remaining_bits = (total_bits<<BITRES)-tell-1;
795       curr_balance = (m->nbEBands-i);
796       if (curr_balance > 3)
797          curr_balance = 3;
798       curr_balance = balance / curr_balance;
799       b = IMIN(remaining_bits+1,pulses[i]+curr_balance);
800       if (b<0)
801          b = 0;
802
803       qb = (b-2*(N-1)*(QTHETA_OFFSET-log2_frac(N,BITRES)))/(32*(N-1));
804       if (qb > (b>>BITRES)-1)
805          qb = (b>>BITRES)-1;
806       if (qb>14)
807          qb = 14;
808       if (qb<0)
809          qb = 0;
810       qalloc = log2_frac((1<<qb)+1,BITRES);
811       if (qb==0)
812       {
813          itheta=0;
814       } else {
815          int shift;
816          shift = 14-qb;
817          itheta = ec_dec_uint(dec, (1<<qb)+1);
818          itheta <<= shift;
819       }
820       if (itheta == 0)
821       {
822          imid = 32767;
823          iside = 0;
824          delta = -10000;
825       } else if (itheta == 16384)
826       {
827          imid = 0;
828          iside = 32767;
829          delta = 10000;
830       } else {
831          imid = bitexact_cos(itheta);
832          iside = bitexact_cos(16384-itheta);
833          delta = (N-1)*(log2_frac(iside,BITRES+2)-log2_frac(imid,BITRES+2))>>2;
834       }
835       n = celt_sqrt(SHL32(EXTEND32(N),22));
836
837 #if 1
838       if (N==2)
839       {
840          int c, c2;
841          int sign=1;
842          celt_norm v[2], w[2];
843          celt_norm *x2, *y2;
844          mbits = b-qalloc;
845          sbits = 0;
846          if (itheta != 0 && itheta != 16384)
847             sbits = 1<<BITRES;
848          mbits -= sbits;
849          c = itheta > 8192 ? 1 : 0;
850          c2 = 1-c;
851
852          x2 = X;
853          y2 = Y;
854          v[0] = x2[c];
855          v[1] = y2[c];
856          w[0] = x2[c2];
857          w[1] = y2[c2];
858          q1 = bits2pulses(m, BPbits[i], N, mbits);
859          curr_bits = pulses2bits(BPbits[i], N, q1)+qalloc+sbits;
860          remaining_bits -= curr_bits;
861          while (remaining_bits < 0 && q1 > 0)
862          {
863             remaining_bits += curr_bits;
864             q1--;
865             curr_bits = pulses2bits(BPbits[i], N, q1)+qalloc;
866             remaining_bits -= curr_bits;
867          }
868
869          alg_unquant(v, N, q1, spread, norm+eBands[start], dec);
870          if (sbits)
871             sign = 2*ec_dec_bits(dec, 1)-1;
872          else
873             sign = 1;
874          w[0] = -sign*v[1];
875          w[1] = sign*v[0];
876          if (c==0)
877          {
878             x2[0] = v[0];
879             x2[1] = v[1];
880             y2[0] = w[0];
881             y2[1] = w[1];
882          } else {
883             x2[0] = w[0];
884             x2[1] = w[1];
885             y2[0] = v[0];
886             y2[1] = v[1];
887          }
888       } else
889 #endif
890       {
891          mbits = (b-qalloc/2-delta)/2;
892          if (mbits > b-qalloc)
893             mbits = b-qalloc;
894          if (mbits<0)
895             mbits=0;
896          sbits = b-qalloc-mbits;
897          q1 = bits2pulses(m, BPbits[i], N, mbits);
898          q2 = bits2pulses(m, BPbits[i], N, sbits);
899          curr_bits = pulses2bits(BPbits[i], N, q1)+pulses2bits(BPbits[i], N, q2)+qalloc;
900          remaining_bits -= curr_bits;
901          while (remaining_bits < 0 && (q1 > 0 || q2 > 0))
902          {
903             remaining_bits += curr_bits;
904             if (q1>q2)
905             {
906                q1--;
907                curr_bits = pulses2bits(BPbits[i], N, q1)+pulses2bits(BPbits[i], N, q2)+qalloc;
908             } else {
909                q2--;
910                curr_bits = pulses2bits(BPbits[i], N, q1)+pulses2bits(BPbits[i], N, q2)+qalloc;
911             }
912             remaining_bits -= curr_bits;
913          }
914          
915          alg_unquant(X, N, q1, spread, norm+eBands[start], dec);
916          alg_unquant(Y, N, q2, spread, NULL, dec);
917       }
918       balance += pulses[i] + tell;
919       
920 #ifdef FIXED_POINT
921       mid = imid;
922       side = iside;
923 #else
924       mid = (1.f/32768)*imid;
925       side = (1.f/32768)*iside;
926 #endif
927       for (j=0;j<N;j++)
928          norm[M*eBands[i]+j] = MULT16_16_Q15(n,X[j]);
929
930       for (j=0;j<N;j++)
931          X[j] = MULT16_16_Q15(X[j], mid);
932       for (j=0;j<N;j++)
933          Y[j] = MULT16_16_Q15(Y[j], side);
934
935       stereo_band_mix(m, X, Y, bandE, 0, i, -1, M);
936       renormalise_vector(X, Q15ONE, N, 1);
937       renormalise_vector(Y, Q15ONE, N, 1);
938    }
939    RESTORE_STACK;
940 }
941
942 #endif /* DISABLE_STEREO */