Close to getting CBR working
[opus.git] / libcelt / rate.c
1 /* (C) 2007 Jean-Marc Valin, CSIRO
2 */
3 /*
4    Redistribution and use in source and binary forms, with or without
5    modification, are permitted provided that the following conditions
6    are met:
7    
8    - Redistributions of source code must retain the above copyright
9    notice, this list of conditions and the following disclaimer.
10    
11    - Redistributions in binary form must reproduce the above copyright
12    notice, this list of conditions and the following disclaimer in the
13    documentation and/or other materials provided with the distribution.
14    
15    - Neither the name of the Xiph.org Foundation nor the names of its
16    contributors may be used to endorse or promote products derived from
17    this software without specific prior written permission.
18    
19    THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
20    ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
21    LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
22    A PARTICULAR PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE FOUNDATION OR
23    CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
24    EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
25    PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
26    PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF
27    LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING
28    NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS
29    SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
30 */
31
32 #include <math.h>
33 #include "modes.h"
34 #include "cwrs.h"
35 #include "arch.h"
36 #include "os_support.h"
37
38 #include "entcode.h"
39 #include "rate.h"
40
41 #define BITRES 4
42 #define BITROUND 8
43 #define BITOVERFLOW 10000
44
45 #define MAX_PULSES 64
46
47 int log2_frac(ec_uint32 val, int frac)
48 {
49    int i;
50    /* EC_ILOG() actually returns log2()+1, go figure */
51    int L = EC_ILOG(val)-1;
52    //printf ("in: %d %d ", val, L);
53    if (L>14)
54       val >>= L-14;
55    else if (L<14)
56       val <<= 14-L;
57    L <<= frac;
58    //printf ("%d\n", val);
59    for (i=0;i<frac;i++)
60    {
61       val = (val*val) >> 15;
62       //printf ("%d\n", val);
63       if (val > 16384)
64          L |= (1<<(frac-i-1));
65       else   
66          val <<= 1;
67    }
68    return L;
69 }
70
71 int log2_frac64(ec_uint64 val, int frac)
72 {
73    int i;
74    /* EC_ILOG64() actually returns log2()+1, go figure */
75    int L = EC_ILOG64(val)-1;
76    //printf ("in: %d %d ", val, L);
77    if (L>14)
78       val >>= L-14;
79    else if (L<14)
80       val <<= 14-L;
81    L <<= frac;
82    //printf ("%d\n", val);
83    for (i=0;i<frac;i++)
84    {
85       val = (val*val) >> 15;
86       //printf ("%d\n", val);
87       if (val > 16384)
88          L |= (1<<(frac-i-1));
89       else   
90          val <<= 1;
91    }
92    return L;
93 }
94
95
96 void alloc_init(struct alloc_data *alloc, const CELTMode *m)
97 {
98    int i, prevN, BC;
99    const int *eBands = m->eBands;
100    
101    alloc->mode = m;
102    alloc->len = m->nbEBands;
103    alloc->bands = m->eBands;
104    alloc->bits = celt_alloc(m->nbEBands*sizeof(int*));
105    
106    BC = m->nbMdctBlocks*m->nbChannels;
107    prevN = -1;
108    for (i=0;i<alloc->len;i++)
109    {
110       int N = BC*(eBands[i+1]-eBands[i]);
111       if (N == prevN)
112       {
113          alloc->bits[i] = alloc->bits[i-1];
114       } else {
115          int j;
116          /* FIXME: We could save memory here */
117          alloc->bits[i] = celt_alloc(MAX_PULSES*sizeof(int));
118          for (j=0;j<MAX_PULSES;j++)
119          {
120             alloc->bits[i][j] = log2_frac64(ncwrs64(N, j),BITRES);
121             /* We could just update rev_bits here */
122             if (alloc->bits[i][j] > (60<<BITRES))
123                break;
124          }
125          for (;j<MAX_PULSES;j++)
126             alloc->bits[i][j] = BITOVERFLOW;
127          prevN = N;
128       }
129    }
130 }
131
132 void alloc_clear(struct alloc_data *alloc)
133 {
134    int i;
135    int *prevPtr = NULL;
136    for (i=0;i<alloc->len;i++)
137    {
138       if (alloc->bits[i] != prevPtr)
139       {
140          prevPtr = alloc->bits[i];
141          celt_free(alloc->bits[i]);
142       }
143    }
144    celt_free(alloc->bits);
145 }
146
147 int bits2pulses(const struct alloc_data *alloc, int band, int bits)
148 {
149    int lo, hi;
150    lo = 0;
151    hi = MAX_PULSES-1;
152    
153    while (hi-lo != 1)
154    {
155       int mid = (lo+hi)>>1;
156       if (alloc->bits[band][mid] >= bits)
157          hi = mid;
158       else
159          lo = mid;
160    }
161    if (bits-alloc->bits[band][lo] <= alloc->bits[band][hi]-bits)
162       return lo;
163    else
164       return hi;
165 }
166
167 int vec_bits2pulses(const struct alloc_data *alloc, const int *bands, int *bits, int *pulses, int len)
168 {
169    int i, BC;
170    int sum=0;
171    BC = alloc->mode->nbMdctBlocks*alloc->mode->nbChannels;
172
173    for (i=0;i<len;i++)
174    {
175       int N = (bands[i+1]-bands[i])*BC;
176       pulses[i] = bits2pulses(alloc, i, bits[i]);
177       sum += alloc->bits[i][pulses[i]];
178    }
179    //printf ("sum = %d\n", sum);
180    return sum;
181 }
182
183 int interp_bits2pulses(const struct alloc_data *alloc, int *bits1, int *bits2, int total, int *pulses, int len)
184 {
185    int lo, hi, out;
186    int j;
187    int bits[len];
188    const int *bands = alloc->bands;
189    lo = 0;
190    hi = 1<<BITRES;
191    while (hi-lo != 1)
192    {
193       int mid = (lo+hi)>>1;
194       for (j=0;j<len;j++)
195          bits[j] = ((1<<BITRES)-mid)*bits1[j] + mid*bits2[j];
196       if (vec_bits2pulses(alloc, bands, bits, pulses, len) > total<<BITRES)
197          hi = mid;
198       else
199          lo = mid;
200    }
201    //printf ("interp bisection gave %d\n", lo);
202    for (j=0;j<len;j++)
203       bits[j] = ((1<<BITRES)-lo)*bits1[j] + lo*bits2[j];
204    out = vec_bits2pulses(alloc, bands, bits, pulses, len);
205    /* Do some refinement to use up all bits */
206    while(1)
207    {
208       int incremented = 0;
209       for (j=0;j<len;j++)
210       {
211          if (alloc->bits[j][pulses[j]] < bits[j] && pulses[j]<MAX_PULSES-1)
212          {
213             if (out+alloc->bits[j][pulses[j]+1]-alloc->bits[j][pulses[j]] <= total<<BITRES)
214             {
215                out = out+alloc->bits[j][pulses[j]+1]-alloc->bits[j][pulses[j]];
216                pulses[j] += 1;
217                incremented = 1;
218                //printf ("INCREMENT %d\n", j);
219             }
220          }
221       }
222       if (!incremented)
223          break;
224    }
225    return (out+BITROUND) >> BITRES;
226 }
227
228 int compute_allocation(const struct alloc_data *alloc, int *offsets, int total, int *pulses)
229 {
230    int lo, hi, len;
231    const CELTMode *m;
232
233    m = alloc->mode;
234    len = m->nbEBands;
235    lo = 0;
236    hi = m->nbAllocVectors - 1;
237    while (hi-lo != 1)
238    {
239       int j;
240       int bits[len];
241       int pulses[len];
242       int mid = (lo+hi) >> 1;
243       for (j=0;j<len;j++)
244       {
245          bits[j] = (m->allocVectors[mid*len+j] + offsets[j])<<BITRES;
246          if (bits[j] < 0)
247             bits[j] = 0;
248          //printf ("%d ", bits[j]);
249       }
250       //printf ("\n");
251       if (vec_bits2pulses(alloc, alloc->bands, bits, pulses, len) > total<<BITRES)
252          hi = mid;
253       else
254          lo = mid;
255       //printf ("lo = %d, hi = %d\n", lo, hi);
256    }
257    {
258       int bits1[len];
259       int bits2[len];
260       int j;
261       for (j=0;j<len;j++)
262       {
263          bits1[j] = m->allocVectors[lo*len+j] + offsets[j];
264          bits2[j] = m->allocVectors[hi*len+j] + offsets[j];
265          if (bits1[j] < 0)
266             bits1[j] = 0;
267          if (bits2[j] < 0)
268             bits2[j] = 0;
269       }
270       return interp_bits2pulses(alloc, bits1, bits2, total, pulses, len);
271    }
272 }
273
274 #if 0
275 int main()
276 {
277    int i;
278    printf ("log(128) = %d\n", EC_ILOG(128));
279    for(i=1;i<2000000000;i+=1738)
280    {
281       printf ("%d %d\n", i, log2_frac(i, 10));
282    }
283    return 0;
284 }
285 #endif
286 #if 0
287 int main()
288 {
289    int i;
290    int offsets[18] = {0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0};
291    int bits[18] = {10, 9, 9, 8, 8, 8, 8, 8, 8, 8, 9, 10, 8, 9, 10, 11, 6, 7};
292    int bits1[18] = {8, 7, 7, 6, 6, 6, 5, 4, 5, 5, 5, 5, 5, 5, 5, 5, 5, 5};
293    int bits2[18] = {15, 15, 15, 15, 15, 15, 15, 15, 15, 15, 15, 15, 15, 15, 15, 15, 15, 15};
294    int bank[20] = {0,  4,  8, 12, 16, 20, 24, 28, 32, 38, 44, 52, 62, 74, 90,112,142,182, 232,256};
295    int pulses[18];
296    struct alloc_data alloc;
297    
298    alloc_init(&alloc, celt_mode0);
299    int b;
300    //b = vec_bits2pulses(&alloc, bank, bits, pulses, 18);
301    //printf ("total: %d bits\n", b);
302    //for (i=0;i<18;i++)
303    //   printf ("%d ", pulses[i]);
304    //printf ("\n");
305    //b = interp_bits2pulses(&alloc, bits1, bits2, 162, pulses, 18);
306    b = compute_allocation(&alloc, offsets, 190, pulses);
307    printf ("total: %d bits\n", b);
308    for (i=0;i<18;i++)
309       printf ("%d ", pulses[i]);
310    printf ("\n");
311
312    alloc_clear(&alloc);
313    return 0;
314 }
315 #endif