Conversion to 18-band split and fixed a few related bugs.
[opus.git] / libcelt / modes.c
1 /* (C) 2007 Jean-Marc Valin, CSIRO
2 */
3 /*
4    Redistribution and use in source and binary forms, with or without
5    modification, are permitted provided that the following conditions
6    are met:
7    
8    - Redistributions of source code must retain the above copyright
9    notice, this list of conditions and the following disclaimer.
10    
11    - Redistributions in binary form must reproduce the above copyright
12    notice, this list of conditions and the following disclaimer in the
13    documentation and/or other materials provided with the distribution.
14    
15    - Neither the name of the Xiph.org Foundation nor the names of its
16    contributors may be used to endorse or promote products derived from
17    this software without specific prior written permission.
18    
19    THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
20    ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
21    LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
22    A PARTICULAR PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE FOUNDATION OR
23    CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
24    EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
25    PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
26    PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF
27    LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING
28    NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS
29    SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
30 */
31
32 #include "modes.h"
33
34 #define NBANDS 18
35 #define PBANDS 8
36 #define PITCH_END 74
37
38 #define NBANDS128 15
39 #define PBANDS128 8
40 #define PITCH_END128 45
41
42 static const float means[15] = {
43    14.8621, 12.6918, 10.2978, 9.5862, 10.3784, 
44    10.4555, 9.1594, 9.0280, 8.3291, 8.3410,
45    8.5737, 8.5614, 9.0107, 7.6809, 7.0665};
46
47 static const float means18[18] = {
48    9.9067, 8.4524, 6.8577, 6.3804, 6.1786, 5.9815,
49    6.2068, 6.1076, 5.7711, 5.7734, 5.7935, 5.3981,
50    5.1992, 5.7214, 5.9656, 5.7548, 5.0802, 4.2626};
51
52 static const int decay[15] = {
53    14800, 13800, 12600, 12000, 11000, 10000, 9800, 8400, 8000, 7500, 7000, 7000, 7000, 6000, 6000
54 };
55
56 static const int decay18[18] = {
57    14800, 13800, 12600, 12000, 11000, 11000, 10000, 10000, 9800, 8400, 8400, 8000, 7500, 7000, 7000, 7000, 6000, 6000
58 };
59
60 const int qbank0[NBANDS   +2] = {0,  4,  8, 12, 16, 20, 24, 28, 32, 38, 44, 52, 62, 74, 90,112,142,182, 232,256};
61 const int pbank0[PBANDS   +2] = {0,  4,  8, 12, 16,     24,         38,         62, PITCH_END, 256};
62 //const int pbank0[PBANDS   +2] = {0, 4, 8, 12, 19, PITCH_END, 128};
63 const int qpulses0[NBANDS   ] = {7,  6,  5,  5,  4,  3,  3,  3,  3,  3,  3,  2,  2,  1,  0,  0,  0,  0};
64 //const int qpulses0[NBANDS   ] = {7, 5, 5, 5, 4,  4,  3,  3,  3,  3,  4,  3,  3, -2,  0,  0,  0,  0};
65
66
67 const int qbank1[NBANDS128+2] = {0, 2, 4, 6, 8, 12, 16, 20, 24, 28, 36, 44, 52, 68, 84, 116, 128};
68
69 const int qpulses1[NBANDS128] = {7, 5, 5, 5, 4,  5,  4,  5,  5,  4,  2, 0, 0, 0,  0};
70 const int qpulses2[NBANDS] = {28,25,23,20,18,15, 13, 11, 10,  8,8, 7, 7, -6,  -5, -4, -1, -1};
71 //const int qpulses2[NBANDS128] = {28,24,20,16,24,20, 18, 12, 10,  10,-7, -4, 1, 1,  1, 1, 1, 1};
72 const int qpulses2s[NBANDS128] ={38,30,24,20,24,20, 18, 16, 14, 20,-20,-14, -8, -8,  -5};
73
74 const int qpulses4s[NBANDS] ={38,31,25,21,18,16, 14, 12, 14, 12,14,15, 14, 15, 16, 12, 10, 6};
75
76 //const int qpulses4s[NBANDS128] ={38,35,30,27,24,22, 21, 20, 22, 20,20,20, 20, 20, 14, 12, 12, 12};
77
78 const int pbank1[PBANDS128+2] = {0, 2, 4, 6, 8, 12, 20, 28, PITCH_END128, 128};
79 //const int pbank1[PBANDS128+2] = {0, 4, 8, 12, 20, PITCH_END128, 128};
80
81
82 #define NBANDS256 15
83 #define PBANDS256 8
84 #define PITCH_END256 88
85 const int qbank3[NBANDS256+2] = {0, 4, 8, 12, 16, 24, 32, 40, 48, 56, 72, 88, 104, 136, 168, 232, 256};
86 //const int pbank3[PBANDS256+2] = {0, 8, 16, 24, 40, PITCH_END256, 256};
87 const int pbank3[PBANDS256+2] = {0, 4, 8, 12, 16, 24, 40, 56, PITCH_END256, 256};
88
89 const CELTMode mode0 = {
90    128,         /**< overlap */
91    256,         /**< mdctSize */
92    1,           /**< nbMdctBlocks */
93    1,           /**< channels */
94    
95    NBANDS,      /**< nbEBands */
96    PBANDS,      /**< nbPBands */
97    PITCH_END,   /**< pitchEnd */
98    
99    qbank0,      /**< eBands */
100    pbank0,      /**< pBands*/
101    qpulses0,    /**< nbPulses */
102    
103    0.8,         /**< ePredCoef */
104    means18,     /**< eMeans */
105    decay18,     /**< eDecay */
106 };
107
108
109 /* Approx 38 kbps @ 44.1 kHz */
110 const CELTMode mode1 = {
111    128,         /**< overlap */
112    128,         /**< mdctSize */
113    2,           /**< nbMdctBlocks */
114    1,           /**< channels */
115    
116    NBANDS128,   /**< nbEBands */
117    PBANDS128,   /**< nbPBands */
118    PITCH_END128,/**< pitchEnd */
119    
120    qbank1,      /**< eBands */
121    pbank1,      /**< pBands*/
122    qpulses1,    /**< nbPulses */
123    
124    0.7,         /**< ePredCoef */
125    means,       /**< eMeans */
126    decay,       /**< eDecay */
127 };
128
129 /* Approx 58 kbps @ 44.1 kHz */
130 const CELTMode mode2 = {
131    256,         /**< overlap */
132    256,         /**< mdctSize */
133    1,           /**< nbMdctBlocks */
134    1,           /**< channels */
135    
136    NBANDS,   /**< nbEBands */
137    PBANDS,   /**< nbPBands */
138    PITCH_END,/**< pitchEnd */
139    
140    qbank0,      /**< eBands */
141    pbank0,      /**< pBands*/
142    qpulses2,    /**< nbPulses */
143    
144    0.8,         /**< ePredCoef */
145    means18,       /**< eMeans */
146    decay18,       /**< eDecay */
147 };
148
149 const CELTMode mode3 = {
150    128,         /**< overlap */
151    256,         /**< mdctSize */
152    1,           /**< nbMdctBlocks */
153    1,           /**< channels */
154    
155    NBANDS256,   /**< nbEBands */
156    PBANDS256,   /**< nbPBands */
157    PITCH_END256,/**< pitchEnd */
158    
159    qbank3,      /**< eBands */
160    pbank3,      /**< pBands*/
161    qpulses1,    /**< nbPulses */
162    
163    0.7,         /**< ePredCoef */
164    means,       /**< eMeans */
165    decay,       /**< eDecay */
166 };
167
168 /* Stereo mode around 120 kbps */
169 const CELTMode mode4 = {
170    256,         /**< overlap */
171    256,         /**< mdctSize */
172    1,           /**< nbMdctBlocks */
173    2,           /**< channels */
174    
175    NBANDS,   /**< nbEBands */
176    PBANDS,   /**< nbPBands */
177    PITCH_END,/**< pitchEnd */
178    
179    qbank0,      /**< eBands */
180    pbank0,      /**< pBands*/
181    qpulses4s,   /**< nbPulses */
182    
183    0.8,         /**< ePredCoef */
184    means18,       /**< eMeans */
185    decay18,       /**< eDecay */
186 };
187
188 const CELTMode const *celt_mode0 = &mode0;
189 const CELTMode const *celt_mode1 = &mode1;
190 const CELTMode const *celt_mode2 = &mode2;
191 const CELTMode const *celt_mode3 = &mode3;
192 const CELTMode const *celt_mode4 = &mode4;