Allowing CELT to skip the low frequencies
[opus.git] / libcelt / rate.c
1 /* Copyright (c) 2007-2008 CSIRO
2    Copyright (c) 2007-2009 Xiph.Org Foundation
3    Written by Jean-Marc Valin */
4 /*
5    Redistribution and use in source and binary forms, with or without
6    modification, are permitted provided that the following conditions
7    are met:
8    
9    - Redistributions of source code must retain the above copyright
10    notice, this list of conditions and the following disclaimer.
11    
12    - Redistributions in binary form must reproduce the above copyright
13    notice, this list of conditions and the following disclaimer in the
14    documentation and/or other materials provided with the distribution.
15    
16    - Neither the name of the Xiph.org Foundation nor the names of its
17    contributors may be used to endorse or promote products derived from
18    this software without specific prior written permission.
19    
20    THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
21    ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
22    LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
23    A PARTICULAR PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE FOUNDATION OR
24    CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
25    EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
26    PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
27    PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF
28    LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING
29    NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS
30    SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
31 */
32
33 #ifdef HAVE_CONFIG_H
34 #include "config.h"
35 #endif
36
37 #include <math.h>
38 #include "modes.h"
39 #include "cwrs.h"
40 #include "arch.h"
41 #include "os_support.h"
42
43 #include "entcode.h"
44 #include "rate.h"
45
46
47 #ifndef STATIC_MODES
48
49 celt_int16 **compute_alloc_cache(CELTMode *m, int C)
50 {
51    int i, prevN;
52    int error = 0;
53    celt_int16 **bits;
54    const celt_int16 *eBands = m->eBands;
55
56    bits = celt_alloc(m->nbEBands*sizeof(celt_int16*));
57    if (bits==NULL)
58      return NULL;
59         
60    prevN = -1;
61    for (i=0;i<m->nbEBands;i++)
62    {
63       int N = C*(eBands[i+1]-eBands[i]);
64       if (N == prevN && eBands[i] < m->pitchEnd)
65       {
66          bits[i] = bits[i-1];
67       } else {
68          bits[i] = celt_alloc(MAX_PSEUDO*sizeof(celt_int16));
69          if (bits[i]!=NULL) {
70             int j;
71             celt_int16 tmp[MAX_PULSES];
72             get_required_bits(tmp, N, MAX_PULSES, BITRES);
73             for (j=0;j<MAX_PSEUDO;j++)
74                bits[i][j] = tmp[get_pulses(j)];
75          } else {
76             error=1;
77          }
78          prevN = N;
79       }
80    }
81    if (error)
82    {
83       const celt_int16 *prevPtr = NULL;
84       if (bits!=NULL)
85       {
86          for (i=0;i<m->nbEBands;i++)
87          {
88             if (bits[i] != prevPtr)
89             {
90                prevPtr = bits[i];
91                celt_free((int*)bits[i]);
92             }
93          }
94       free(bits);
95       bits=NULL;
96       }   
97    }
98    return bits;
99 }
100
101 #endif /* !STATIC_MODES */
102
103
104
105 static void interp_bits2pulses(const CELTMode *m, int start, int *bits1, int *bits2, int total, int *bits, int *ebits, int *fine_priority, int len, int _C)
106 {
107    int psum;
108    int lo, hi;
109    int j;
110    const int C = CHANNELS(_C);
111    SAVE_STACK;
112    lo = 0;
113    hi = 1<<BITRES;
114    while (hi-lo != 1)
115    {
116       int mid = (lo+hi)>>1;
117       psum = 0;
118       for (j=start;j<len;j++)
119          psum += ((1<<BITRES)-mid)*bits1[j] + mid*bits2[j];
120       if (psum > (total<<BITRES))
121          hi = mid;
122       else
123          lo = mid;
124    }
125    psum = 0;
126    /*printf ("interp bisection gave %d\n", lo);*/
127    for (j=start;j<len;j++)
128    {
129       bits[j] = ((1<<BITRES)-lo)*bits1[j] + lo*bits2[j];
130       psum += bits[j];
131    }
132    /* Allocate the remaining bits */
133    {
134       int left, perband;
135       left = (total<<BITRES)-psum;
136       perband = left/(len-start);
137       for (j=start;j<len;j++)
138          bits[j] += perband;
139       left = left-len*perband;
140       for (j=start;j<start+left;j++)
141          bits[j]++;
142    }
143    for (j=start;j<len;j++)
144    {
145       int N, d;
146       int offset;
147
148       N=m->eBands[j+1]-m->eBands[j]; 
149       /* Compensate for the extra DoF in stereo */
150       d=(C*N+ ((C==2 && N>2) ? 1 : 0))<<BITRES; 
151       offset = FINE_OFFSET - log2_frac(N, BITRES);
152       /* Offset for the number of fine bits compared to their "fair share" of total/N */
153       offset = bits[j]-offset*N*C;
154       /* Compensate for the prediction gain in stereo */
155       if (C==2)
156          offset -= 1<<BITRES;
157       if (offset < 0)
158          offset = 0;
159       ebits[j] = (2*offset+d)/(2*d);
160       fine_priority[j] = ebits[j]*d >= offset;
161
162       /* Make sure not to bust */
163       if (C*ebits[j] > (bits[j]>>BITRES))
164          ebits[j] = bits[j]/C >> BITRES;
165
166       if (ebits[j]>7)
167          ebits[j]=7;
168       /* The bits used for fine allocation can't be used for pulses */
169       bits[j] -= C*ebits[j]<<BITRES;
170       if (bits[j] < 0)
171          bits[j] = 0;
172    }
173    RESTORE_STACK;
174 }
175
176 void compute_allocation(const CELTMode *m, int start, int *offsets, int total, int *pulses, int *ebits, int *fine_priority, int _C)
177 {
178    int lo, hi, len, j;
179    const int C = CHANNELS(_C);
180    VARDECL(int, bits1);
181    VARDECL(int, bits2);
182    SAVE_STACK;
183    
184    len = m->nbEBands;
185    ALLOC(bits1, len, int);
186    ALLOC(bits2, len, int);
187
188    lo = 0;
189    hi = m->nbAllocVectors - 1;
190    while (hi-lo != 1)
191    {
192       int psum = 0;
193       int mid = (lo+hi) >> 1;
194       for (j=start;j<len;j++)
195       {
196          bits1[j] = (C*m->allocVectors[mid*len+j] + offsets[j])<<BITRES;
197          if (bits1[j] < 0)
198             bits1[j] = 0;
199          psum += bits1[j];
200          /*printf ("%d ", bits[j]);*/
201       }
202       /*printf ("\n");*/
203       if (psum > (total<<BITRES))
204          hi = mid;
205       else
206          lo = mid;
207       /*printf ("lo = %d, hi = %d\n", lo, hi);*/
208    }
209    /*printf ("interp between %d and %d\n", lo, hi);*/
210    for (j=start;j<len;j++)
211    {
212       bits1[j] = C*m->allocVectors[lo*len+j] + offsets[j];
213       bits2[j] = C*m->allocVectors[hi*len+j] + offsets[j];
214       if (bits1[j] < 0)
215          bits1[j] = 0;
216       if (bits2[j] < 0)
217          bits2[j] = 0;
218    }
219    interp_bits2pulses(m, start, bits1, bits2, total, pulses, ebits, fine_priority, len, C);
220    RESTORE_STACK;
221 }
222