Added low bit-rate (8 kbps) narrowband mode. It is still sub-optimal but
[speexdsp.git] / libspeex / quant_lsp.c
1 /* Copyright (C) 2002 Jean-Marc Valin 
2    File: quant_lsp.c
3    LSP vector quantization
4
5    This library is free software; you can redistribute it and/or
6    modify it under the terms of the GNU Lesser General Public
7    License as published by the Free Software Foundation; either
8    version 2.1 of the License, or (at your option) any later version.
9    
10    This library is distributed in the hope that it will be useful,
11    but WITHOUT ANY WARRANTY; without even the implied warranty of
12    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13    Lesser General Public License for more details.
14    
15    You should have received a copy of the GNU Lesser General Public
16    License along with this library; if not, write to the Free Software
17    Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
18 */
19
20 #include "quant_lsp.h"
21 #include <math.h>
22 #include <stdio.h>
23
24 extern int lsp_nb_vqid[64];
25 static float quant_weight[MAX_LSP_SIZE];
26
27 /* Note: x is modified*/
28 static int lsp_quant(float *x, float *cdbk, int nbVec, int nbDim)
29 {
30    int i,j;
31    float dist, tmp;
32    float best_dist=0;
33    int best_id=0;
34    float *ptr=cdbk;
35    for (i=0;i<nbVec;i++)
36    {
37       dist=0;
38       for (j=0;j<nbDim;j++)
39       {
40          tmp=(x[j]-*ptr++);
41          dist+=tmp*tmp;
42       }
43       if (dist<best_dist || i==0)
44       {
45          best_dist=dist;
46          best_id=i;
47       }
48    }
49
50    for (j=0;j<nbDim;j++)
51       x[j] -= cdbk[best_id*nbDim+j];
52     
53    return best_id;
54 }
55
56 /* Note: x is modified*/
57 static int lsp_weight_quant(float *x, float *weight, float *cdbk, int nbVec, int nbDim)
58 {
59    int i,j;
60    float dist, tmp;
61    float best_dist=0;
62    int best_id=0;
63    float *ptr=cdbk;
64    for (i=0;i<nbVec;i++)
65    {
66       dist=0;
67       for (j=0;j<nbDim;j++)
68       {
69          tmp=(x[j]-*ptr++);
70          dist+=weight[j]*tmp*tmp;
71       }
72       if (dist<best_dist || i==0)
73       {
74          best_dist=dist;
75          best_id=i;
76       }
77    }
78    
79    for (j=0;j<nbDim;j++)
80       x[j] -= cdbk[best_id*nbDim+j];
81    return best_id;
82 }
83
84
85 void lsp_quant_nb(float *lsp, float *qlsp, int order, SpeexBits *bits)
86 {
87    int i;
88    float tmp1, tmp2;
89    int id;
90
91    for (i=0;i<order;i++)
92       qlsp[i]=lsp[i];
93
94    quant_weight[0] = 1/(qlsp[1]-qlsp[0]);
95    quant_weight[order-1] = 1/(qlsp[order-1]-qlsp[order-2]);
96    for (i=1;i<order-1;i++)
97    {
98 #if 1
99       tmp1 = 1/((.15+qlsp[i]-qlsp[i-1])*(.15+qlsp[i]-qlsp[i-1]));
100       tmp2 = 1/((.15+qlsp[i+1]-qlsp[i])*(.15+qlsp[i+1]-qlsp[i]));
101 #else
102       tmp1 = 1/(qlsp[i]-qlsp[i-1]);
103       tmp2 = 1/(qlsp[i+1]-qlsp[i]);
104 #endif
105       quant_weight[i] = tmp1 > tmp2 ? tmp1 : tmp2;
106    }
107    id = lsp_quant(qlsp, cdbk_nb, NB_CDBK_SIZE, order);
108    speex_bits_pack(bits, id, 6);
109
110    id = lsp_weight_quant(qlsp, quant_weight, cdbk_nb_low1, NB_CDBK_SIZE_LOW1, 5);
111    speex_bits_pack(bits, id, 6);
112
113    id = lsp_weight_quant(qlsp, quant_weight, cdbk_nb_low2, NB_CDBK_SIZE_LOW2, 5);
114    speex_bits_pack(bits, id, 6);
115
116    id = lsp_weight_quant(qlsp+5, quant_weight+5, cdbk_nb_high1, NB_CDBK_SIZE_HIGH1, 5);
117    speex_bits_pack(bits, id, 6);
118
119    id = lsp_weight_quant(qlsp+5, quant_weight+5, cdbk_nb_high2, NB_CDBK_SIZE_HIGH2, 5);
120    speex_bits_pack(bits, id, 6);
121
122    for (i=0;i<order;i++)
123       qlsp[i]=lsp[i]-qlsp[i];
124 }
125
126 void lsp_unquant_nb(float *lsp, int order, SpeexBits *bits)
127 {
128    int i, id;
129    for (i=0;i<order;i++)
130       lsp[i]=0;
131
132
133    id=speex_bits_unpack_unsigned(bits, 6);
134    for (i=0;i<10;i++)
135       lsp[i] += cdbk_nb[id*10+i];
136
137    id=speex_bits_unpack_unsigned(bits, 6);
138    for (i=0;i<5;i++)
139       lsp[i] += cdbk_nb_low1[id*5+i];
140
141    id=speex_bits_unpack_unsigned(bits, 6);
142    for (i=0;i<5;i++)
143       lsp[i] += cdbk_nb_low2[id*5+i];
144
145    id=speex_bits_unpack_unsigned(bits, 6);
146    for (i=0;i<5;i++)
147       lsp[i+5] += cdbk_nb_high1[id*5+i];
148    
149    id=speex_bits_unpack_unsigned(bits, 6);
150    for (i=0;i<5;i++)
151       lsp[i+5] += cdbk_nb_high2[id*5+i];
152 }
153
154
155 void lsp_quant_lbr(float *lsp, float *qlsp, int order, SpeexBits *bits)
156 {
157    int i;
158    float tmp1, tmp2;
159    int id;
160
161    for (i=0;i<order;i++)
162       qlsp[i]=lsp[i];
163
164    quant_weight[0] = 1/(qlsp[1]-qlsp[0]);
165    quant_weight[order-1] = 1/(qlsp[order-1]-qlsp[order-2]);
166    for (i=1;i<order-1;i++)
167    {
168 #if 1
169       tmp1 = 1/((.15+qlsp[i]-qlsp[i-1])*(.15+qlsp[i]-qlsp[i-1]));
170       tmp2 = 1/((.15+qlsp[i+1]-qlsp[i])*(.15+qlsp[i+1]-qlsp[i]));
171 #else
172       tmp1 = 1/(qlsp[i]-qlsp[i-1]);
173       tmp2 = 1/(qlsp[i+1]-qlsp[i]);
174 #endif
175       quant_weight[i] = tmp1 > tmp2 ? tmp1 : tmp2;
176    }
177    id = lsp_quant(qlsp, cdbk_nb, NB_CDBK_SIZE, order);
178    speex_bits_pack(bits, id, 6);
179
180    id = lsp_weight_quant(qlsp, quant_weight, cdbk_nb_low1, NB_CDBK_SIZE_LOW1, 5);
181    speex_bits_pack(bits, id, 6);
182
183    id = lsp_weight_quant(qlsp+5, quant_weight+5, cdbk_nb_high1, NB_CDBK_SIZE_HIGH1, 5);
184    speex_bits_pack(bits, id, 6);
185
186    for (i=0;i<order;i++)
187       qlsp[i]=lsp[i]-qlsp[i];
188 }
189
190 void lsp_unquant_lbr(float *lsp, int order, SpeexBits *bits)
191 {
192    int i, id;
193    for (i=0;i<order;i++)
194       lsp[i]=0;
195
196
197    id=speex_bits_unpack_unsigned(bits, 6);
198    for (i=0;i<10;i++)
199       lsp[i] += cdbk_nb[id*10+i];
200
201    id=speex_bits_unpack_unsigned(bits, 6);
202    for (i=0;i<5;i++)
203       lsp[i] += cdbk_nb_low1[id*5+i];
204
205    id=speex_bits_unpack_unsigned(bits, 6);
206    for (i=0;i<5;i++)
207       lsp[i+5] += cdbk_nb_high1[id*5+i];
208    
209 }
210
211
212
213 extern float lsp_cdbk_wb[];
214 extern float lsp_cdbk_wb11[];
215 extern float lsp_cdbk_wb12[];
216 extern float lsp_cdbk_wb21[];
217 extern float lsp_cdbk_wb22[];
218 extern float lsp_cdbk_wb31[];
219 extern float lsp_cdbk_wb32[];
220 extern float lsp_cdbk_wb41[];
221 extern float lsp_cdbk_wb42[];
222
223 void lsp_quant_wb(float *lsp, float *qlsp, int order, SpeexBits *bits)
224 {
225    int i;
226    float tmp1, tmp2;
227    int id;
228    for (i=0;i<order;i++)
229       qlsp[i]=lsp[i];
230
231    quant_weight[0] = 1/(qlsp[1]-qlsp[0]);
232    quant_weight[order-1] = 1/(qlsp[order-1]-qlsp[order-2]);
233    for (i=1;i<order-1;i++)
234    {
235       tmp1 = 1/(qlsp[i]-qlsp[i-1]);
236       tmp2 = 1/(qlsp[i+1]-qlsp[i]);
237       quant_weight[i] = tmp1 > tmp2 ? tmp1 : tmp2;
238    }
239    id = lsp_quant(qlsp, lsp_cdbk_wb, 64, order);
240    speex_bits_pack(bits, id, 6);
241
242    id = lsp_weight_quant(qlsp, quant_weight, lsp_cdbk_wb11, 64, 4);
243    speex_bits_pack(bits, id, 6);
244
245    id = lsp_weight_quant(qlsp, quant_weight, lsp_cdbk_wb12, 64, 4);
246    speex_bits_pack(bits, id, 6);
247
248    id = lsp_weight_quant(qlsp+4, quant_weight, lsp_cdbk_wb21, 64, 4);
249    speex_bits_pack(bits, id, 6);
250
251    id = lsp_weight_quant(qlsp+4, quant_weight, lsp_cdbk_wb22, 64, 4);
252    speex_bits_pack(bits, id, 6);
253
254    id = lsp_weight_quant(qlsp+8, quant_weight, lsp_cdbk_wb31, 64, 4);
255    speex_bits_pack(bits, id, 6);
256
257    id = lsp_weight_quant(qlsp+8, quant_weight, lsp_cdbk_wb32, 16, 4);
258    speex_bits_pack(bits, id, 4);
259
260    id = lsp_weight_quant(qlsp+12, quant_weight, lsp_cdbk_wb41, 64, 4);
261    speex_bits_pack(bits, id, 6);
262
263    id = lsp_weight_quant(qlsp+12, quant_weight, lsp_cdbk_wb42, 16, 4);
264    speex_bits_pack(bits, id, 4);
265
266    for (i=0;i<order;i++)
267       qlsp[i]=lsp[i]-qlsp[i];
268
269 }
270
271
272 void lsp_unquant_wb(float *lsp, int order, SpeexBits *bits)
273 {
274
275    int i, id;
276    for (i=0;i<order;i++)
277       lsp[i]=0;
278
279
280    id=speex_bits_unpack_unsigned(bits, 6);
281    for (i=0;i<16;i++)
282       lsp[i] += lsp_cdbk_wb[id*16+i];
283
284
285    id=speex_bits_unpack_unsigned(bits, 6);
286    for (i=0;i<4;i++)
287       lsp[i] += lsp_cdbk_wb11[id*4+i];
288
289    id=speex_bits_unpack_unsigned(bits, 6);
290    for (i=0;i<4;i++)
291       lsp[i] += lsp_cdbk_wb12[id*4+i];
292
293
294    id=speex_bits_unpack_unsigned(bits, 6);
295    for (i=0;i<4;i++)
296       lsp[i+4] += lsp_cdbk_wb21[id*4+i];
297
298    id=speex_bits_unpack_unsigned(bits, 6);
299    for (i=0;i<4;i++)
300       lsp[i+4] += lsp_cdbk_wb22[id*4+i];
301
302
303    id=speex_bits_unpack_unsigned(bits, 6);
304    for (i=0;i<4;i++)
305       lsp[i+8] += lsp_cdbk_wb31[id*4+i];
306
307    id=speex_bits_unpack_unsigned(bits, 4);
308    for (i=0;i<4;i++)
309       lsp[i+8] += lsp_cdbk_wb32[id*4+i];
310
311
312    id=speex_bits_unpack_unsigned(bits, 6);
313    for (i=0;i<4;i++)
314       lsp[i+12] += lsp_cdbk_wb41[id*4+i];
315
316    id=speex_bits_unpack_unsigned(bits, 4);
317    for (i=0;i<4;i++)
318       lsp[i+12] += lsp_cdbk_wb42[id*4+i];
319
320 }
321
322 extern float high_lsp_cdbk[];
323 extern float high_lsp_cdbk2[];
324
325
326 void lsp_quant_high(float *lsp, float *qlsp, int order, SpeexBits *bits)
327 {
328    int i;
329    float tmp1, tmp2;
330    int id;
331    for (i=0;i<order;i++)
332       qlsp[i]=lsp[i];
333
334    quant_weight[0] = 1/(qlsp[1]-qlsp[0]);
335    quant_weight[order-1] = 1/(qlsp[order-1]-qlsp[order-2]);
336    for (i=1;i<order-1;i++)
337    {
338       tmp1 = 1/(qlsp[i]-qlsp[i-1]);
339       tmp2 = 1/(qlsp[i+1]-qlsp[i]);
340       quant_weight[i] = tmp1 > tmp2 ? tmp1 : tmp2;
341    }
342    id = lsp_quant(qlsp, high_lsp_cdbk, 64, order);
343    speex_bits_pack(bits, id, 6);
344
345    id = lsp_weight_quant(qlsp, quant_weight, high_lsp_cdbk2, 64, order);
346    speex_bits_pack(bits, id, 6);
347
348    for (i=0;i<order;i++)
349       qlsp[i]=lsp[i]-qlsp[i];
350 }
351
352 void lsp_unquant_high(float *lsp, int order, SpeexBits *bits)
353 {
354
355    int i, id;
356    for (i=0;i<order;i++)
357       lsp[i]=0;
358
359
360    id=speex_bits_unpack_unsigned(bits, 6);
361    for (i=0;i<order;i++)
362       lsp[i] += high_lsp_cdbk[id*order+i];
363
364
365    id=speex_bits_unpack_unsigned(bits, 6);
366    for (i=0;i<order;i++)
367       lsp[i] += high_lsp_cdbk2[id*order+i];
368 }