Looks like the bit allocation code is mostly working. Just need to actually
[opus.git] / libcelt / modes.c
1 /* (C) 2007 Jean-Marc Valin, CSIRO
2 */
3 /*
4    Redistribution and use in source and binary forms, with or without
5    modification, are permitted provided that the following conditions
6    are met:
7    
8    - Redistributions of source code must retain the above copyright
9    notice, this list of conditions and the following disclaimer.
10    
11    - Redistributions in binary form must reproduce the above copyright
12    notice, this list of conditions and the following disclaimer in the
13    documentation and/or other materials provided with the distribution.
14    
15    - Neither the name of the Xiph.org Foundation nor the names of its
16    contributors may be used to endorse or promote products derived from
17    this software without specific prior written permission.
18    
19    THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
20    ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
21    LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
22    A PARTICULAR PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE FOUNDATION OR
23    CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
24    EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
25    PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
26    PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF
27    LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING
28    NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS
29    SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
30 */
31
32 #include "modes.h"
33
34 #define NBANDS 18
35 #define PBANDS 8
36 #define PITCH_END 74
37
38 #define NBANDS128 15
39 #define PBANDS128 8
40 #define PITCH_END128 45
41
42 static const float means[15] = {
43    14.8621, 12.6918, 10.2978, 9.5862, 10.3784, 
44    10.4555, 9.1594, 9.0280, 8.3291, 8.3410,
45    8.5737, 8.5614, 9.0107, 7.6809, 7.0665};
46
47 static const float means18[18] = {
48    9.9067, 8.4524, 6.8577, 6.3804, 6.1786, 5.9815,
49    6.2068, 6.1076, 5.7711, 5.7734, 5.7935, 5.3981,
50    5.1992, 5.7214, 5.9656, 5.7548, 5.0802, 4.2626};
51
52 static const int decay[15] = {
53    14800, 13800, 12600, 12000, 11000, 10000, 9800, 8400, 8000, 7500, 7000, 7000, 7000, 6000, 6000
54 };
55
56 static const int decay18[18] = {
57    14800, 13800, 12600, 12000, 11000, 11000, 10000, 10000, 9800, 8400, 8400, 8000, 7500, 7000, 7000, 7000, 6000, 6000
58 };
59
60 const int qbank0[NBANDS   +2] = {0,  4,  8, 12, 16, 20, 24, 28, 32, 38, 44, 52, 62, 74, 90,112,142,182, 232,256};
61 const int pbank0[PBANDS   +2] = {0,  4,  8, 12, 16,     24,         38,         62, PITCH_END, 256};
62 //const int pbank0[PBANDS   +2] = {0, 4, 8, 12, 19, PITCH_END, 128};
63 const int qpulses0[NBANDS   ] = {7,  6,  6,  5,  5,  5,  5,  4,  3,  3,  3,  3,  3,  3,  -3,  -2,  0,  0};
64 //const int qpulses0[NBANDS   ] = {7, 5, 5, 5, 4,  4,  3,  3,  3,  3,  4,  3,  3, -2,  0,  0,  0,  0};
65
66
67 const int qbank1[NBANDS128+2] = {0, 2, 4, 6, 8, 12, 16, 20, 24, 28, 36, 44, 52, 68, 84, 116, 128};
68
69 const int qpulses1[NBANDS128] = {7, 5, 5, 5, 4,  5,  4,  5,  5,  4,  2, 0, 0, 0,  0};
70 const int qpulses2[NBANDS] = {28,25,23,20,18,15, 13, 11, 10,  8,8, 7, 7, -6,  -5, -4, -1, -1};
71 //const int qpulses2[NBANDS128] = {28,24,20,16,24,20, 18, 12, 10,  10,-7, -4, 1, 1,  1, 1, 1, 1};
72 const int qpulses2s[NBANDS128] ={38,30,24,20,24,20, 18, 16, 14, 20,-20,-14, -8, -8,  -5};
73
74 const int qpulses4s[NBANDS] ={38,31,25,21,18,16, 14, 12, 14, 12,14,15, 14, 15, 16, 12, 10, 6};
75
76 //const int qpulses4s[NBANDS128] ={38,35,30,27,24,22, 21, 20, 22, 20,20,20, 20, 20, 14, 12, 12, 12};
77
78 const int pbank1[PBANDS128+2] = {0, 2, 4, 6, 8, 12, 20, 28, PITCH_END128, 128};
79 //const int pbank1[PBANDS128+2] = {0, 4, 8, 12, 20, PITCH_END128, 128};
80
81 int bitalloc0[NBANDS*5] = { 5,  4,  4,  4,  3,  3,  2,  2,  2,  2,  1,  1,  1,  1,  0,  0,  0,  0,
82                             8,  7,  7,  6,  6,  6,  5,  4,  5,  5,  5,  5,  5,  5,  5,  5,  5,  5,
83                            11, 10, 10, 10, 10, 10, 10, 10, 10, 10, 10, 10, 10, 10, 10, 10, 10, 10,
84                            16, 15, 14, 14, 14, 15, 15, 15, 15, 15, 15, 15, 15, 15, 15, 15, 15, 15,
85                            26, 25, 24, 24, 24, 25, 25, 25, 25, 25, 25, 25, 25, 25, 25, 25, 25, 25,
86 };
87
88 #define NBANDS256 15
89 #define PBANDS256 8
90 #define PITCH_END256 88
91 const int qbank3[NBANDS256+2] = {0, 4, 8, 12, 16, 24, 32, 40, 48, 56, 72, 88, 104, 136, 168, 232, 256};
92 //const int pbank3[PBANDS256+2] = {0, 8, 16, 24, 40, PITCH_END256, 256};
93 const int pbank3[PBANDS256+2] = {0, 4, 8, 12, 16, 24, 40, 56, PITCH_END256, 256};
94
95 const CELTMode mode0 = {
96    128,         /**< overlap */
97    256,         /**< mdctSize */
98    1,           /**< nbMdctBlocks */
99    1,           /**< channels */
100    
101    NBANDS,      /**< nbEBands */
102    PBANDS,      /**< nbPBands */
103    PITCH_END,   /**< pitchEnd */
104    
105    qbank0,      /**< eBands */
106    pbank0,      /**< pBands*/
107    qpulses0,    /**< nbPulses */
108    
109    0.8,         /**< ePredCoef */
110    means18,     /**< eMeans */
111    decay18,     /**< eDecay */
112    
113    5,           /**< nbAllocVectors */
114    bitalloc0,   /**< allocVectors */
115 };
116
117
118 /* Approx 38 kbps @ 44.1 kHz */
119 const CELTMode mode1 = {
120    128,         /**< overlap */
121    128,         /**< mdctSize */
122    2,           /**< nbMdctBlocks */
123    1,           /**< channels */
124    
125    NBANDS128,   /**< nbEBands */
126    PBANDS128,   /**< nbPBands */
127    PITCH_END128,/**< pitchEnd */
128    
129    qbank1,      /**< eBands */
130    pbank1,      /**< pBands*/
131    qpulses1,    /**< nbPulses */
132    
133    0.7,         /**< ePredCoef */
134    means,       /**< eMeans */
135    decay,       /**< eDecay */
136    
137    5,           /**< nbAllocVectors */
138    bitalloc0,   /**< allocVectors */
139 };
140
141 /* Approx 58 kbps @ 44.1 kHz */
142 const CELTMode mode2 = {
143    256,         /**< overlap */
144    256,         /**< mdctSize */
145    1,           /**< nbMdctBlocks */
146    1,           /**< channels */
147    
148    NBANDS,   /**< nbEBands */
149    PBANDS,   /**< nbPBands */
150    PITCH_END,/**< pitchEnd */
151    
152    qbank0,      /**< eBands */
153    pbank0,      /**< pBands*/
154    qpulses2,    /**< nbPulses */
155    
156    0.8,         /**< ePredCoef */
157    means18,       /**< eMeans */
158    decay18,       /**< eDecay */
159    
160    5,           /**< nbAllocVectors */
161    bitalloc0,   /**< allocVectors */
162 };
163
164 const CELTMode mode3 = {
165    128,         /**< overlap */
166    256,         /**< mdctSize */
167    1,           /**< nbMdctBlocks */
168    1,           /**< channels */
169    
170    NBANDS256,   /**< nbEBands */
171    PBANDS256,   /**< nbPBands */
172    PITCH_END256,/**< pitchEnd */
173    
174    qbank3,      /**< eBands */
175    pbank3,      /**< pBands*/
176    qpulses1,    /**< nbPulses */
177    
178    0.7,         /**< ePredCoef */
179    means,       /**< eMeans */
180    decay,       /**< eDecay */
181    
182    5,           /**< nbAllocVectors */
183    bitalloc0,   /**< allocVectors */
184 };
185
186 /* Stereo mode around 120 kbps */
187 const CELTMode mode4 = {
188    256,         /**< overlap */
189    256,         /**< mdctSize */
190    1,           /**< nbMdctBlocks */
191    2,           /**< channels */
192    
193    NBANDS,   /**< nbEBands */
194    PBANDS,   /**< nbPBands */
195    PITCH_END,/**< pitchEnd */
196    
197    qbank0,      /**< eBands */
198    pbank0,      /**< pBands*/
199    qpulses4s,   /**< nbPulses */
200    
201    0.8,         /**< ePredCoef */
202    means18,       /**< eMeans */
203    decay18,       /**< eDecay */
204    
205    5,           /**< nbAllocVectors */
206    bitalloc0,   /**< allocVectors */
207 };
208
209 const CELTMode const *celt_mode0 = &mode0;
210 const CELTMode const *celt_mode1 = &mode1;
211 const CELTMode const *celt_mode2 = &mode2;
212 const CELTMode const *celt_mode3 = &mode3;
213 const CELTMode const *celt_mode4 = &mode4;