Experimental ld51 mode (needs more work)
[opus.git] / libcelt / modes.c
1 /* (C) 2007 Jean-Marc Valin, CSIRO
2 */
3 /*
4    Redistribution and use in source and binary forms, with or without
5    modification, are permitted provided that the following conditions
6    are met:
7    
8    - Redistributions of source code must retain the above copyright
9    notice, this list of conditions and the following disclaimer.
10    
11    - Redistributions in binary form must reproduce the above copyright
12    notice, this list of conditions and the following disclaimer in the
13    documentation and/or other materials provided with the distribution.
14    
15    - Neither the name of the Xiph.org Foundation nor the names of its
16    contributors may be used to endorse or promote products derived from
17    this software without specific prior written permission.
18    
19    THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
20    ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
21    LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
22    A PARTICULAR PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE FOUNDATION OR
23    CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
24    EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
25    PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
26    PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF
27    LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING
28    NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS
29    SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
30 */
31
32 #include "modes.h"
33
34 #define NBANDS 18
35 #define PBANDS 8
36 #define PITCH_END 74
37
38 #define NBANDS128 15
39 #define PBANDS128 8
40 #define PITCH_END128 45
41
42 static const float means[15] = {
43    14.8621, 12.6918, 10.2978, 9.5862, 10.3784, 
44    10.4555, 9.1594, 9.0280, 8.3291, 8.3410,
45    8.5737, 8.5614, 9.0107, 7.6809, 7.0665};
46
47 static const float means18[18] = {
48    9.9067, 8.4524, 6.8577, 6.3804, 6.1786, 5.9815,
49    6.2068, 6.1076, 5.7711, 5.7734, 5.7935, 5.3981,
50    5.1992, 5.7214, 5.9656, 5.7548, 5.0802, 4.2626};
51
52 static const int decay[15] = {
53    14800, 13800, 12600, 12000, 11000, 10000, 9800, 8400, 8000, 7500, 7000, 7000, 7000, 6000, 6000
54 };
55
56 static const int decay18[18] = {
57    14800, 13800, 12600, 12000, 11000, 11000, 10000, 10000, 9800, 8400, 8400, 8000, 7500, 7000, 7000, 7000, 6000, 6000
58 };
59
60 const int qbank0[NBANDS   +2] = {0,  4,  8, 12, 16, 20, 24, 28, 32, 38, 44, 52, 62, 74, 90,112,142,182, 232,256};
61 const int pbank0[PBANDS   +2] = {0,  4,  8, 12, 16,     24,         38,         62, PITCH_END, 256};
62 //const int pbank0[PBANDS   +2] = {0, 4, 8, 12, 19, PITCH_END, 128};
63 const int qpulses0[NBANDS   ] = {7,  6,  6,  5,  5,  5,  5,  4,  3,  3,  3,  3,  3,  3,  -3,  -2,  0,  0};
64 //const int qpulses0[NBANDS   ] = {7, 5, 5, 5, 4,  4,  3,  3,  3,  3,  4,  3,  3, -2,  0,  0,  0,  0};
65
66
67 const int qbank1[NBANDS128+2] = {0, 2, 4, 6, 8, 12, 16, 20, 24, 28, 36, 44, 52, 68, 84, 116, 128};
68
69 const int qpulses1[NBANDS128] = {7, 5, 5, 5, 4,  5,  4,  5,  5,  4,  2, 0, 0, 0,  0};
70 const int qpulses2[NBANDS] = {28,25,23,20,18,15, 13, 11, 10,  8,8, 7, 7, -6,  -5, -4, -1, -1};
71 //const int qpulses2[NBANDS128] = {28,24,20,16,24,20, 18, 12, 10,  10,-7, -4, 1, 1,  1, 1, 1, 1};
72 const int qpulses2s[NBANDS128] ={38,30,24,20,24,20, 18, 16, 14, 20,-20,-14, -8, -8,  -5};
73
74 const int qpulses4s[NBANDS] ={38,31,25,21,18,16, 14, 12, 14, 12,14,15, 14, 15, 16, 12, 10, 6};
75
76 //const int qpulses4s[NBANDS128] ={38,35,30,27,24,22, 21, 20, 22, 20,20,20, 20, 20, 14, 12, 12, 12};
77
78 const int pbank1[PBANDS128+2] = {0, 2, 4, 6, 8, 12, 20, 28, PITCH_END128, 128};
79 //const int pbank1[PBANDS128+2] = {0, 4, 8, 12, 20, PITCH_END128, 128};
80
81 #define NALLOCS 7
82 int bitalloc0[NBANDS*NALLOCS] = 
83    { 5,  4,  4,  4,  3,  3,  2,  2,  2,  2,  1,  1,  1,  1,  0,  0,  0,  0,
84      8,  7,  7,  6,  6,  6,  5,  4,  5,  5,  5,  5,  5,  5,  5,  5,  5,  5,
85     10,  9,  9,  8,  8,  8,  8,  8,  8,  8,  9, 10, 11, 12, 17, 15,  6,  7,
86     16, 15, 14, 14, 14, 13, 13, 13, 13, 13, 15, 16, 17, 18, 20, 18, 11, 12,
87     26, 25, 24, 22, 20, 18, 19, 19, 25, 22, 25, 30, 30, 35, 35, 35, 35, 25,
88     32, 30, 28, 27, 25, 24, 23, 21, 29, 27, 35, 40, 42, 50, 59, 54, 51, 36,
89     42, 40, 38, 37, 35, 34, 33, 31, 39, 37, 45, 50, 52, 60, 60, 60, 60, 46,
90 };
91
92
93 #define NBANDS256 15
94 #define PBANDS256 8
95 #define PITCH_END256 88
96 const int qbank3[NBANDS256+2] = {0, 4, 8, 12, 16, 24, 32, 40, 48, 56, 72, 88, 104, 136, 168, 232, 256};
97 //const int pbank3[PBANDS256+2] = {0, 8, 16, 24, 40, PITCH_END256, 256};
98 const int pbank3[PBANDS256+2] = {0, 4, 8, 12, 16, 24, 40, 56, PITCH_END256, 256};
99
100 static const CELTMode mono_mode = {
101    128,         /**< overlap */
102    256,         /**< mdctSize */
103    1,           /**< nbMdctBlocks */
104    1,           /**< channels */
105    
106    NBANDS,      /**< nbEBands */
107    PBANDS,      /**< nbPBands */
108    PITCH_END,   /**< pitchEnd */
109    
110    qbank0,      /**< eBands */
111    pbank0,      /**< pBands*/
112    qpulses0,    /**< nbPulses */
113    
114    0.8,         /**< ePredCoef */
115    means18,     /**< eMeans */
116    decay18,     /**< eDecay */
117    
118    NALLOCS,     /**< nbAllocVectors */
119    bitalloc0,   /**< allocVectors */
120 };
121
122
123 /* Stereo mode around 120 kbps */
124 static const CELTMode stereo_mode = {
125    128,         /**< overlap */
126    256,         /**< mdctSize */
127    1,           /**< nbMdctBlocks */
128    2,           /**< channels */
129    
130    NBANDS,      /**< nbEBands */
131    PBANDS,      /**< nbPBands */
132    PITCH_END,   /**< pitchEnd */
133    
134    qbank0,      /**< eBands */
135    pbank0,      /**< pBands*/
136    qpulses4s,   /**< nbPulses */
137    
138    0.8,         /**< ePredCoef */
139    means18,     /**< eMeans */
140    decay18,     /**< eDecay */
141    
142    NALLOCS,     /**< nbAllocVectors */
143    bitalloc0,   /**< allocVectors */
144 };
145
146 const CELTMode const *celt_mono = &mono_mode;
147 const CELTMode const *celt_stereo = &stereo_mode;
148
149
150 #define NBANDS51 17
151 #define PBANDS51 8
152 #define PITCH_END51 64
153 const int qbank51[NBANDS51 +2] = {0,  4,  8, 12, 16, 20, 24, 28, 32, 38, 44, 52, 64, 78, 96,122,156,204, 256};
154 const int qbank51b[NBANDS +2] = {0,  3,  6, 9, 12, 16, 20, 24, 28, 32, 38, 44, 52, 64, 78, 96,122,156,204, 256};
155
156 const int pbank51[PBANDS51 +2] = {0,  4,  8, 12, 16,     24,     32,     44,     PITCH_END51, 256};
157 const int pbank51b[PBANDS +2] = {0,  3,  6, 9, 12,     20,     38,     52,     PITCH_END51, 256};
158 #define NALLOCS51 10
159 int bitalloc51[NBANDS51*NALLOCS51] = 
160    { 6,   5,  3,  2,  1,  1,  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,
161      7,   6,  5,  4,  3,  3,  3,  3,  3,  3,  3,  0,  0,  0,  0,  0,  0,
162      8,   7,  6,  5,  4,  4,  4,  4,  4,  4,  4,  4,  0,  0,  0,  0,  0,
163      9,   8,  7,  7,  5,  5,  5,  5,  5,  5,  5,  5,  5,  5,  0,  0,  0,
164      10,  9,  8,  8,  7,  7,  5,  5,  5,  5,  5,  5,  5,  5,  5,  0,  0,
165      10,  9,  9,  8,  8,  8,  8,  8,  8,  8,  9, 10, 11, 10, 10,  5,  5,
166      16, 15, 14, 14, 14, 13, 13, 13, 13, 13, 15, 16, 17, 18, 20, 18, 11,
167      26, 25, 24, 22, 20, 18, 19, 19, 25, 22, 25, 30, 30, 35, 35, 35, 35,
168      32, 30, 28, 27, 25, 24, 23, 21, 29, 27, 35, 40, 42, 50, 59, 54, 51,
169      42, 40, 38, 37, 35, 34, 33, 31, 39, 37, 45, 50, 52, 60, 60, 60, 60,
170    };
171
172 static const CELTMode ld51 = {
173    128,         /**< overlap */
174    256,         /**< mdctSize */
175    1,           /**< nbMdctBlocks */
176    1,           /**< channels */
177    
178    NBANDS51,    /**< nbEBands */
179    PBANDS51,    /**< nbPBands */
180    PITCH_END51, /**< pitchEnd */
181    
182    qbank51,     /**< eBands */
183    pbank51,     /**< pBands*/
184    0,           /**< nbPulses */
185    
186    0.8,         /**< ePredCoef */
187    means18,     /**< eMeans */
188    decay18,     /**< eDecay */
189    
190    NALLOCS51,   /**< nbAllocVectors */
191    bitalloc51,  /**< allocVectors */
192 };
193 const CELTMode const *celt_ld51 = &ld51;
194
195 int celt_mode_info(const CELTMode *mode, int request, celt_int32_t *value)
196 {
197    switch (request)
198    {
199       case CELT_GET_FRAME_SIZE:
200          *value = mode->mdctSize;
201          break;
202       case CELT_GET_LOOKAHEAD:
203          *value = mode->overlap;
204          break;
205       case CELT_GET_NB_CHANNELS:
206          *value = mode->nbChannels;
207          break;
208       default:
209          return CELT_BAD_ARG;
210    }
211    return CELT_OK;
212 }
213