Allowing reduced overlap MDCTs as an alternative
[opus.git] / libcelt / modes.c
1 /* (C) 2007 Jean-Marc Valin, CSIRO
2 */
3 /*
4    Redistribution and use in source and binary forms, with or without
5    modification, are permitted provided that the following conditions
6    are met:
7    
8    - Redistributions of source code must retain the above copyright
9    notice, this list of conditions and the following disclaimer.
10    
11    - Redistributions in binary form must reproduce the above copyright
12    notice, this list of conditions and the following disclaimer in the
13    documentation and/or other materials provided with the distribution.
14    
15    - Neither the name of the Xiph.org Foundation nor the names of its
16    contributors may be used to endorse or promote products derived from
17    this software without specific prior written permission.
18    
19    THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
20    ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
21    LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
22    A PARTICULAR PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE FOUNDATION OR
23    CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
24    EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
25    PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
26    PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF
27    LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING
28    NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS
29    SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
30 */
31
32 #include "modes.h"
33
34 #define NBANDS 18
35 #define PBANDS 5
36 #define PITCH_END 37
37
38 #define NBANDS128 15
39 #define PBANDS128 5
40 #define PITCH_END128 36
41
42 static const float means[15] = {
43    14.8621, 12.6918, 10.2978, 9.5862, 10.3784, 
44    10.4555, 9.1594, 9.0280, 8.3291, 8.3410,
45    8.5737, 8.5614, 9.0107, 7.6809, 7.0665};
46
47 static const float means18[18] = {
48    9.9067, 8.4524, 6.8577, 6.3804, 6.1786, 5.9815,
49    6.2068, 6.1076, 5.7711, 5.7734, 5.7935, 5.3981,
50    5.1992, 5.7214, 5.9656, 5.7548, 5.0802, 4.2626};
51
52 static const int decay[15] = {
53    14800, 13800, 12600, 12000, 11000, 10000, 9800, 8400, 8000, 7500, 7000, 7000, 7000, 6000, 6000
54 };
55
56 static const int decay18[18] = {
57    14800, 13800, 12600, 12000, 11000, 11000, 10000, 10000, 9800, 8400, 8400, 8000, 7500, 7000, 7000, 7000, 6000, 6000
58 };
59
60 const int qbank0[NBANDS   +2] = {0, 2, 4, 6, 8, 10, 12, 14, 16, 19, 22, 26, 31, 37, 45, 56, 71, 91, 116, 128};
61 const int pbank0[PBANDS   +2] = {0, 4, 8, 12, 19, PITCH_END, 128};
62 const int qpulses0[NBANDS   ] = {7, 5, 5, 4, 4,  3,  3,  2,  3,  2,  2,  2,  2,  0,  0,  0,  0,  0};
63 //const int qpulses0[NBANDS   ] = {7, 5, 5, 5, 4,  4,  3,  3,  3,  3,  4,  3,  3, -2,  0,  0,  0,  0};
64
65
66 const int qbank1[NBANDS128+2] = {0, 2, 4, 6, 8, 12, 16, 20, 24, 28, 36, 44, 52, 68, 84, 116, 128};
67
68 const int qpulses1[NBANDS128] = {7, 5, 5, 5, 4,  5,  4,  5,  5,  4, -2, 0, 0, 0,  0};
69 const int qpulses2[NBANDS128] = {28,24,20,16,24,20, 18, 12, 10,  10,-7, -4, 0, 0,  0};
70 const int qpulses2s[NBANDS128] ={38,30,24,20,24,20, 18, 16, 14, 20,-20,-14, -8, -8,  -5};
71
72 const int pbank1[PBANDS128+2] = {0, 4, 8, 12, 20, PITCH_END128, 128};
73
74
75 #define NBANDS256 15
76 #define PBANDS256 5
77 #define PITCH_END256 72
78 const int qbank3[NBANDS256+2] = {0, 4, 8, 12, 16, 24, 32, 40, 48, 56, 72, 88, 104, 126, 168, 232, 256};
79 const int pbank3[PBANDS256+2] = {0, 8, 16, 24, 40, PITCH_END256, 256};
80
81 const CELTMode mode0 = {
82    128,         /**< overlap */
83    128,         /**< mdctSize */
84    2,           /**< nbMdctBlocks */
85    1,           /**< channels */
86    
87    NBANDS,      /**< nbEBands */
88    PBANDS,      /**< nbPBands */
89    PITCH_END,   /**< pitchEnd */
90    
91    qbank0,      /**< eBands */
92    pbank0,      /**< pBands*/
93    qpulses0,    /**< nbPulses */
94    
95    0.8,         /**< ePredCoef */
96    means18,     /**< eMeans */
97    decay18,     /**< eDecay */
98 };
99
100
101 /* Approx 38 kbps @ 44.1 kHz */
102 const CELTMode mode1 = {
103    128,         /**< overlap */
104    128,         /**< mdctSize */
105    2,           /**< nbMdctBlocks */
106    1,           /**< channels */
107    
108    NBANDS128,   /**< nbEBands */
109    PBANDS128,   /**< nbPBands */
110    PITCH_END128,/**< pitchEnd */
111    
112    qbank1,      /**< eBands */
113    pbank1,      /**< pBands*/
114    qpulses1,    /**< nbPulses */
115    
116    0.7,         /**< ePredCoef */
117    means,       /**< eMeans */
118    decay,       /**< eDecay */
119 };
120
121 /* Approx 58 kbps @ 44.1 kHz */
122 const CELTMode mode2 = {
123    128,         /**< overlap */
124    128,         /**< mdctSize */
125    2,           /**< nbMdctBlocks */
126    1,           /**< channels */
127    
128    NBANDS128,   /**< nbEBands */
129    PBANDS128,   /**< nbPBands */
130    PITCH_END128,/**< pitchEnd */
131    
132    qbank1,      /**< eBands */
133    pbank1,      /**< pBands*/
134    qpulses2,    /**< nbPulses */
135    
136    0.7,         /**< ePredCoef */
137    means,       /**< eMeans */
138    decay,       /**< eDecay */
139 };
140
141 const CELTMode mode3 = {
142    128,         /**< overlap */
143    256,         /**< mdctSize */
144    1,           /**< nbMdctBlocks */
145    1,           /**< channels */
146    
147    NBANDS256,   /**< nbEBands */
148    PBANDS256,   /**< nbPBands */
149    PITCH_END256,/**< pitchEnd */
150    
151    qbank3,      /**< eBands */
152    pbank3,      /**< pBands*/
153    qpulses1,    /**< nbPulses */
154    
155    0.7,         /**< ePredCoef */
156    means,       /**< eMeans */
157    decay,       /**< eDecay */
158 };
159
160 /* Stereo mode around 120 kbps */
161 const CELTMode mode4 = {
162    128,         /**< overlap */
163    128,         /**< mdctSize */
164    2,           /**< nbMdctBlocks */
165    2,           /**< channels */
166    
167    NBANDS128,   /**< nbEBands */
168    PBANDS128,   /**< nbPBands */
169    PITCH_END128,/**< pitchEnd */
170    
171    qbank1,      /**< eBands */
172    pbank1,      /**< pBands*/
173    qpulses2s,   /**< nbPulses */
174    
175    0.7,         /**< ePredCoef */
176    means,       /**< eMeans */
177    decay,       /**< eDecay */
178 };
179
180 const CELTMode const *celt_mode0 = &mode0;
181 const CELTMode const *celt_mode1 = &mode1;
182 const CELTMode const *celt_mode2 = &mode2;
183 const CELTMode const *celt_mode3 = &mode3;
184 const CELTMode const *celt_mode4 = &mode4;