Replaced all malloc/calloc/free calls by speex_alloc/speex_free to ease
[speexdsp.git] / libspeex / nb_celp.c
1 /* Copyright (C) 2002 Jean-Marc Valin 
2    File: speex.c
3
4    This library is free software; you can redistribute it and/or
5    modify it under the terms of the GNU Lesser General Public
6    License as published by the Free Software Foundation; either
7    version 2.1 of the License, or (at your option) any later version.
8    
9    This library is distributed in the hope that it will be useful,
10    but WITHOUT ANY WARRANTY; without even the implied warranty of
11    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12    Lesser General Public License for more details.
13    
14    You should have received a copy of the GNU Lesser General Public
15    License along with this library; if not, write to the Free Software
16    Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
17 */
18
19 #include <stdlib.h>
20 #include <stdio.h>
21 #include <string.h>
22 #include <math.h>
23 #include "nb_celp.h"
24 #include "lpc.h"
25 #include "lsp.h"
26 #include "ltp.h"
27 #include "quant_lsp.h"
28 #include "cb_search.h"
29 #include "filters.h"
30 #include "stack_alloc.h"
31 #include "vq.h"
32 #include "speex_bits.h"
33 #include "post_filter.h"
34 #include "vbr.h"
35 #include "misc.h"
36
37 #ifndef M_PI
38 #define M_PI           3.14159265358979323846  /* pi */
39 #endif
40
41 #define SUBMODE(x) st->submodes[st->submodeID]->x
42
43 float exc_gain_quant_scal[8]={-2.794750, -1.810660, -1.169850, -0.848119, -0.587190, -0.329818, -0.063266, 0.282826};
44
45 #define sqr(x) ((x)*(x))
46 #define min(a,b) ((a) < (b) ? (a) : (b))
47
48 void *nb_encoder_init(SpeexMode *m)
49 {
50    EncState *st;
51    SpeexNBMode *mode;
52    int i;
53
54    mode=m->mode;
55    st = speex_alloc(sizeof(EncState));
56    st->mode=m;
57    /* Codec parameters, should eventually have several "modes"*/
58    st->frameSize = mode->frameSize;
59    st->windowSize = st->frameSize*3/2;
60    st->nbSubframes=mode->frameSize/mode->subframeSize;
61    st->subframeSize=mode->subframeSize;
62    st->lpcSize = mode->lpcSize;
63    st->bufSize = mode->bufSize;
64    st->gamma1=mode->gamma1;
65    st->gamma2=mode->gamma2;
66    st->min_pitch=mode->pitchStart;
67    st->max_pitch=mode->pitchEnd;
68    st->lag_factor=mode->lag_factor;
69    st->lpc_floor = mode->lpc_floor;
70    st->preemph = mode->preemph;
71   
72    st->submodes=mode->submodes;
73    st->submodeID=mode->defaultSubmode;
74    st->pre_mem=0;
75    st->pre_mem2=0;
76
77    /* Allocating input buffer */
78    st->inBuf = speex_alloc(st->bufSize*sizeof(float));
79    st->frame = st->inBuf + st->bufSize - st->windowSize;
80    /* Allocating excitation buffer */
81    st->excBuf = speex_alloc(st->bufSize*sizeof(float));
82    st->exc = st->excBuf + st->bufSize - st->windowSize;
83    st->swBuf = speex_alloc(st->bufSize*sizeof(float));
84    st->sw = st->swBuf + st->bufSize - st->windowSize;
85
86    st->exc2Buf = speex_alloc(st->bufSize*sizeof(float));
87    st->exc2 = st->exc2Buf + st->bufSize - st->windowSize;
88
89    /* Asymetric "pseudo-Hamming" window */
90    {
91       int part1, part2;
92       part1 = st->subframeSize*7/2;
93       part2 = st->subframeSize*5/2;
94       st->window = speex_alloc(st->windowSize*sizeof(float));
95       for (i=0;i<part1;i++)
96          st->window[i]=.54-.46*cos(M_PI*i/part1);
97       for (i=0;i<part2;i++)
98          st->window[part1+i]=.54+.46*cos(M_PI*i/part2);
99    }
100    /* Create the window for autocorrelation (lag-windowing) */
101    st->lagWindow = speex_alloc((st->lpcSize+1)*sizeof(float));
102    for (i=0;i<st->lpcSize+1;i++)
103       st->lagWindow[i]=exp(-.5*sqr(2*M_PI*st->lag_factor*i));
104
105    st->autocorr = speex_alloc((st->lpcSize+1)*sizeof(float));
106
107    st->stack = speex_alloc(20000*sizeof(float));
108
109    st->buf2 = speex_alloc(st->windowSize*sizeof(float));
110
111    st->lpc = speex_alloc((st->lpcSize+1)*sizeof(float));
112    st->interp_lpc = speex_alloc((st->lpcSize+1)*sizeof(float));
113    st->interp_qlpc = speex_alloc((st->lpcSize+1)*sizeof(float));
114    st->bw_lpc1 = speex_alloc((st->lpcSize+1)*sizeof(float));
115    st->bw_lpc2 = speex_alloc((st->lpcSize+1)*sizeof(float));
116
117    st->lsp = speex_alloc(st->lpcSize*sizeof(float));
118    st->qlsp = speex_alloc(st->lpcSize*sizeof(float));
119    st->old_lsp = speex_alloc(st->lpcSize*sizeof(float));
120    st->old_qlsp = speex_alloc(st->lpcSize*sizeof(float));
121    st->interp_lsp = speex_alloc(st->lpcSize*sizeof(float));
122    st->interp_qlsp = speex_alloc(st->lpcSize*sizeof(float));
123    st->rc = speex_alloc(st->lpcSize*sizeof(float));
124    st->first = 1;
125
126    st->mem_sp = speex_alloc(st->lpcSize*sizeof(float));
127    st->mem_sw = speex_alloc(st->lpcSize*sizeof(float));
128
129    st->pi_gain = speex_alloc(st->nbSubframes*sizeof(float));
130
131    st->pitch = speex_alloc(st->nbSubframes*sizeof(int));
132
133    if (1) {
134       st->vbr = speex_alloc(sizeof(VBRState));
135       vbr_init(st->vbr);
136       st->vbr_quality = 8;
137       st->vbr_enabled = 0;
138    } else {
139       st->vbr = 0;
140    }
141
142    return st;
143 }
144
145 void nb_encoder_destroy(void *state)
146 {
147    EncState *st=state;
148    /* Free all allocated memory */
149    speex_free(st->inBuf);
150    speex_free(st->excBuf);
151    speex_free(st->swBuf);
152    speex_free(st->exc2Buf);
153    speex_free(st->stack);
154
155    speex_free(st->window);
156    speex_free(st->buf2);
157    speex_free(st->lpc);
158    speex_free(st->interp_lpc);
159    speex_free(st->interp_qlpc);
160    
161    speex_free(st->bw_lpc1);
162    speex_free(st->bw_lpc2);
163    speex_free(st->autocorr);
164    speex_free(st->lagWindow);
165    speex_free(st->lsp);
166    speex_free(st->qlsp);
167    speex_free(st->old_lsp);
168    speex_free(st->interp_lsp);
169    speex_free(st->old_qlsp);
170    speex_free(st->interp_qlsp);
171    speex_free(st->rc);
172
173    speex_free(st->mem_sp);
174    speex_free(st->mem_sw);
175    speex_free(st->pi_gain);
176    speex_free(st->pitch);
177
178    vbr_destroy(st->vbr);
179    speex_free(st->vbr);
180
181    /*Free state memory... should be last*/
182    speex_free(st);
183 }
184
185 void nb_encode(void *state, float *in, SpeexBits *bits)
186 {
187    EncState *st;
188    int i, sub, roots;
189    float error;
190    int ol_pitch;
191    float ol_pitch_coef;
192    float ol_gain;
193    float delta_qual=0;
194
195    st=state;
196    
197    /* Copy new data in input buffer */
198    memmove(st->inBuf, st->inBuf+st->frameSize, (st->bufSize-st->frameSize)*sizeof(float));
199    st->inBuf[st->bufSize-st->frameSize] = in[0] - st->preemph*st->pre_mem;
200    for (i=1;i<st->frameSize;i++)
201       st->inBuf[st->bufSize-st->frameSize+i] = in[i] - st->preemph*in[i-1];
202    st->pre_mem = in[st->frameSize-1];
203
204    memmove(st->exc2Buf, st->exc2Buf+st->frameSize, (st->bufSize-st->frameSize)*sizeof(float));
205    memmove(st->excBuf, st->excBuf+st->frameSize, (st->bufSize-st->frameSize)*sizeof(float));
206    memmove(st->swBuf, st->swBuf+st->frameSize, (st->bufSize-st->frameSize)*sizeof(float));
207
208    /* Window for analysis */
209    for (i=0;i<st->windowSize;i++)
210       st->buf2[i] = st->frame[i] * st->window[i];
211
212    /* Compute auto-correlation */
213    autocorr(st->buf2, st->autocorr, st->lpcSize+1, st->windowSize);
214
215    st->autocorr[0] += 1;        /* prevents NANs */
216    st->autocorr[0] *= st->lpc_floor; /* Noise floor in auto-correlation domain */
217    /* Lag windowing: equivalent to filtering in the power-spectrum domain */
218    for (i=0;i<st->lpcSize+1;i++)
219       st->autocorr[i] *= st->lagWindow[i];
220
221    /* Levinson-Durbin */
222    error = wld(st->lpc+1, st->autocorr, st->rc, st->lpcSize);
223    st->lpc[0]=1;
224
225    /* LPC to LSPs (x-domain) transform */
226    roots=lpc_to_lsp (st->lpc, st->lpcSize, st->lsp, 6, 0.002, st->stack);
227    if (roots!=st->lpcSize)
228    {
229       fprintf (stderr, "roots!=st->lpcSize (found only %d roots)\n", roots);
230       exit(1);
231    }
232
233    /* x-domain to angle domain*/
234    for (i=0;i<st->lpcSize;i++)
235       st->lsp[i] = acos(st->lsp[i]);
236    /*print_vec(st->lsp, 10, "LSP:");*/
237    /* LSP Quantization */
238    if (st->first)
239    {
240       for (i=0;i<st->lpcSize;i++)
241          st->old_lsp[i] = st->lsp[i];
242    }
243
244
245    /* Whole frame analysis (open-loop estimation of pitch and excitation gain) */
246    {
247       for (i=0;i<st->lpcSize;i++)
248          st->interp_lsp[i] = .5*st->old_lsp[i] + .5*st->lsp[i];
249
250       lsp_enforce_margin(st->interp_lsp, st->lpcSize, .002);
251
252       /* Compute interpolated LPCs (unquantized) for whole frame*/
253       for (i=0;i<st->lpcSize;i++)
254          st->interp_lsp[i] = cos(st->interp_lsp[i]);
255       lsp_to_lpc(st->interp_lsp, st->interp_lpc, st->lpcSize,st->stack);
256
257       bw_lpc(st->gamma1, st->interp_lpc, st->bw_lpc1, st->lpcSize);
258       bw_lpc(st->gamma2, st->interp_lpc, st->bw_lpc2, st->lpcSize);
259
260       residue(st->frame, st->bw_lpc1, st->exc, st->frameSize, st->lpcSize);
261       syn_filt(st->exc, st->bw_lpc2, st->sw, st->frameSize, st->lpcSize);
262       
263       /*Open-loop pitch*/
264       open_loop_nbest_pitch(st->sw, st->min_pitch, st->max_pitch, st->frameSize, 
265                             &ol_pitch, &ol_pitch_coef, 1, st->stack);
266
267       /*Compute "real" excitation*/
268       residue(st->frame, st->interp_lpc, st->exc, st->frameSize, st->lpcSize);
269
270       /* Compute open-loop excitation gain */
271       ol_gain=0;
272       for (i=0;i<st->frameSize;i++)
273          ol_gain += st->exc[i]*st->exc[i];
274       
275       ol_gain=sqrt(1+ol_gain/st->frameSize);
276    }
277
278    /*Experimental VBR stuff*/
279    if (st->vbr)
280    {
281       delta_qual = vbr_analysis(st->vbr, in, st->frameSize, ol_pitch, ol_pitch_coef);
282       if (delta_qual<0)
283          delta_qual*=.1*(4+st->vbr_quality);
284       if (st->vbr_enabled) 
285       {
286          int qual = (int)floor(st->vbr_quality+delta_qual+.5);
287          if (qual<0)
288             qual=0;
289          if (qual>10)
290             qual=10;
291          speex_encoder_ctl(state, SPEEX_SET_QUALITY, &qual);
292       }
293    }
294    /*printf ("VBR quality = %f\n", vbr_qual);*/
295
296    /* First, transmit the sub-mode we use for this frame */
297    speex_bits_pack(bits, st->submodeID, NB_SUBMODE_BITS);
298
299
300    /*Quantize LSPs*/
301 #if 1 /*0 for unquantized*/
302    SUBMODE(lsp_quant)(st->lsp, st->qlsp, st->lpcSize, bits);
303 #else
304    for (i=0;i<st->lpcSize;i++)
305      st->qlsp[i]=st->lsp[i];
306 #endif
307
308    /*If we use low bit-rate pitch mode, transmit open-loop pitch*/
309    if (SUBMODE(lbr_pitch)!=-1 && SUBMODE(ltp_params))
310    {
311       speex_bits_pack(bits, ol_pitch-st->min_pitch, 7);
312    } else if (SUBMODE(lbr_pitch)==0)
313    {
314       int quant;
315       speex_bits_pack(bits, ol_pitch-st->min_pitch, 7);
316       quant = (int)floor(.5+15*ol_pitch_coef);
317       if (quant>15)
318          quant=0;
319       if (quant<0)
320          quant=0;
321       speex_bits_pack(bits, quant, 4);
322       ol_pitch_coef=0.066667*quant;
323    }
324    
325    
326    /*Quantize and transmit open-loop excitation gain*/
327    {
328       int qe = (int)(floor(3.5*log(ol_gain)));
329       if (qe<0)
330          qe=0;
331       if (qe>31)
332          qe=31;
333       ol_gain = exp(qe/3.5);
334       speex_bits_pack(bits, qe, 5);
335    }
336
337    /* Special case for first frame */
338    if (st->first)
339    {
340       for (i=0;i<st->lpcSize;i++)
341          st->old_qlsp[i] = st->qlsp[i];
342    }
343
344    /* Loop on sub-frames */
345    for (sub=0;sub<st->nbSubframes;sub++)
346    {
347       float esig, enoise, snr, tmp;
348       int   offset;
349       float *sp, *sw, *res, *exc, *target, *mem, *exc2;
350       int pitch;
351
352       /* Offset relative to start of frame */
353       offset = st->subframeSize*sub;
354       /* Original signal */
355       sp=st->frame+offset;
356       /* Excitation */
357       exc=st->exc+offset;
358       /* Weighted signal */
359       sw=st->sw+offset;
360
361       exc2=st->exc2+offset;
362
363       /* Filter response */
364       res = PUSH(st->stack, st->subframeSize);
365       /* Target signal */
366       target = PUSH(st->stack, st->subframeSize);
367       mem = PUSH(st->stack, st->lpcSize);
368
369       /* LSP interpolation (quantized and unquantized) */
370       tmp = (1.0 + sub)/st->nbSubframes;
371       for (i=0;i<st->lpcSize;i++)
372          st->interp_lsp[i] = (1-tmp)*st->old_lsp[i] + tmp*st->lsp[i];
373       for (i=0;i<st->lpcSize;i++)
374          st->interp_qlsp[i] = (1-tmp)*st->old_qlsp[i] + tmp*st->qlsp[i];
375
376       /* Make sure the filters are stable */
377       lsp_enforce_margin(st->interp_lsp, st->lpcSize, .002);
378       lsp_enforce_margin(st->interp_qlsp, st->lpcSize, .002);
379
380       /* Compute interpolated LPCs (quantized and unquantized) */
381       for (i=0;i<st->lpcSize;i++)
382          st->interp_lsp[i] = cos(st->interp_lsp[i]);
383       lsp_to_lpc(st->interp_lsp, st->interp_lpc, st->lpcSize,st->stack);
384
385       for (i=0;i<st->lpcSize;i++)
386          st->interp_qlsp[i] = cos(st->interp_qlsp[i]);
387       lsp_to_lpc(st->interp_qlsp, st->interp_qlpc, st->lpcSize, st->stack);
388
389       /* Compute analysis filter gain at w=pi (for use in SB-CELP) */
390       tmp=1;
391       st->pi_gain[sub]=0;
392       for (i=0;i<=st->lpcSize;i++)
393       {
394          st->pi_gain[sub] += tmp*st->interp_qlpc[i];
395          tmp = -tmp;
396       }
397      
398
399       /* Compute bandwidth-expanded (unquantized) LPCs for perceptual weighting */
400       bw_lpc(st->gamma1, st->interp_lpc, st->bw_lpc1, st->lpcSize);
401       if (st->gamma2>=0)
402          bw_lpc(st->gamma2, st->interp_lpc, st->bw_lpc2, st->lpcSize);
403       else
404       {
405          st->bw_lpc2[0]=1;
406          st->bw_lpc2[1]=-st->preemph;
407          for (i=2;i<=st->lpcSize;i++)
408             st->bw_lpc2[i]=0;
409       }
410
411       /* Reset excitation */
412       for (i=0;i<st->subframeSize;i++)
413          exc[i]=0;
414       for (i=0;i<st->subframeSize;i++)
415          exc2[i]=0;
416
417       /* Compute zero response of A(z/g1) / ( A(z/g2) * Aq(z) ) */
418       for (i=0;i<st->lpcSize;i++)
419          mem[i]=st->mem_sp[i];
420       syn_filt_mem(exc, st->interp_qlpc, exc, st->subframeSize, st->lpcSize, mem);
421       for (i=0;i<st->lpcSize;i++)
422          mem[i]=st->mem_sp[i];
423       residue_mem(exc, st->bw_lpc1, res, st->subframeSize, st->lpcSize, mem);
424       for (i=0;i<st->lpcSize;i++)
425          mem[i]=st->mem_sw[i];
426       syn_filt_mem(res, st->bw_lpc2, res, st->subframeSize, st->lpcSize, mem);
427
428       /* Compute weighted signal */
429       for (i=0;i<st->lpcSize;i++)
430          mem[i]=st->mem_sp[i];
431       residue_mem(sp, st->bw_lpc1, sw, st->subframeSize, st->lpcSize, mem);
432       for (i=0;i<st->lpcSize;i++)
433          mem[i]=st->mem_sw[i];
434       syn_filt_mem(sw, st->bw_lpc2, sw, st->subframeSize, st->lpcSize, mem);
435       
436       esig=0;
437       for (i=0;i<st->subframeSize;i++)
438          esig+=sw[i]*sw[i];
439       
440       /* Compute target signal */
441       for (i=0;i<st->subframeSize;i++)
442          target[i]=sw[i]-res[i];
443
444       for (i=0;i<st->subframeSize;i++)
445          exc[i]=exc2[i]=0;
446
447       /* If we have a long-term predictor (not all sub-modes have one) */
448       if (SUBMODE(ltp_params))
449       {
450          /* Long-term prediction */
451          if (SUBMODE(lbr_pitch) != -1)
452          {
453             /* Low bit-rate pitch handling */
454             int pit_min, pit_max;
455             int margin;
456             margin = SUBMODE(lbr_pitch);
457             if (margin)
458             {
459                if (ol_pitch < st->min_pitch+margin-1)
460                   ol_pitch=st->min_pitch+margin-1;
461                if (ol_pitch > st->max_pitch-margin)
462                   ol_pitch=st->max_pitch-margin;
463                pit_min = ol_pitch-margin+1;
464                pit_max = ol_pitch+margin;
465             } else {
466                pit_min=pit_max=ol_pitch;
467             }
468             pitch = SUBMODE(ltp_quant)(target, sw, st->interp_qlpc, st->bw_lpc1, st->bw_lpc2,
469                                        exc, SUBMODE(ltp_params), pit_min, pit_max, 
470                                        st->lpcSize, st->subframeSize, bits, st->stack, exc2);
471          } else {
472             /* Normal pitch handling */
473             pitch = SUBMODE(ltp_quant)(target, sw, st->interp_qlpc, st->bw_lpc1, st->bw_lpc2,
474                                        exc, SUBMODE(ltp_params), st->min_pitch, st->max_pitch, 
475                                        st->lpcSize, st->subframeSize, bits, st->stack, exc2);
476          }
477          /*printf ("cl_pitch: %d\n", pitch);*/
478          st->pitch[sub]=pitch;
479       } else if (SUBMODE(lbr_pitch==0)) {
480          for (i=0;i<st->subframeSize;i++)
481          {
482             exc[i]=exc[i-ol_pitch]*ol_pitch_coef;
483          }
484       }
485
486       /* Update target for adaptive codebook contribution */
487       residue_zero(exc, st->bw_lpc1, res, st->subframeSize, st->lpcSize);
488       syn_filt_zero(res, st->interp_qlpc, res, st->subframeSize, st->lpcSize);
489       syn_filt_zero(res, st->bw_lpc2, res, st->subframeSize, st->lpcSize);
490       for (i=0;i<st->subframeSize;i++)
491         target[i]-=res[i];
492
493       /* Compute noise energy and SNR */
494       enoise=0;
495       for (i=0;i<st->subframeSize;i++)
496          enoise += target[i]*target[i];
497       snr = 10*log10((esig+1)/(enoise+1));
498       /*st->pitch[sub]=(int)snr;*/
499 #ifdef DEBUG
500       printf ("pitch SNR = %f\n", snr);
501 #endif
502
503
504 #if 0 /*If set to 1, compute "real innovation" i.e. cheat to get perfect reconstruction*/
505       syn_filt_zero(target, st->bw_lpc1, res, st->subframeSize, st->lpcSize);
506       residue_zero(res, st->interp_qlpc, st->buf2, st->subframeSize, st->lpcSize);
507       residue_zero(st->buf2, st->bw_lpc2, st->buf2, st->subframeSize, st->lpcSize);
508       /*if (1||(snr>9 && (rand()%6==0)))
509       {
510          float ener=0;
511          printf ("exc ");
512          for (i=0;i<st->subframeSize;i++)
513          {
514             ener+=st->buf2[i]*st->buf2[i];
515             if (i && i%5==0)
516                printf ("\nexc ");
517             printf ("%f ", st->buf2[i]);
518          }
519          printf ("\n");
520       printf ("innovation_energy = %f\n", ener);
521       }*/
522       if (rand()%5==0 && snr>5)
523       {
524          float ener=0, sign=1;
525          if (rand()%2)
526             sign=-1;
527          for (i=0;i<st->subframeSize;i++)
528          {
529             ener+=st->buf2[i]*st->buf2[i];
530          }
531          ener=sign/sqrt(.01+ener/st->subframeSize);
532          for (i=0;i<st->subframeSize;i++)
533          {
534             if (i%10==0)
535                printf ("\nexc ");
536             printf ("%f ", ener*st->buf2[i]);
537          }
538          printf ("\n");
539       }
540
541       for (i=0;i<st->subframeSize;i++)
542          exc[i]+=st->buf2[i];
543 #else
544       /* Quantization of innovation */
545       {
546          float *innov;
547          float ener=0, ener_1;
548          innov=PUSH(st->stack, st->subframeSize);
549          for (i=0;i<st->subframeSize;i++)
550             innov[i]=0;
551          syn_filt_zero(target, st->bw_lpc1, res, st->subframeSize, st->lpcSize);
552          residue_zero(res, st->interp_qlpc, st->buf2, st->subframeSize, st->lpcSize);
553          residue_zero(st->buf2, st->bw_lpc2, st->buf2, st->subframeSize, st->lpcSize);
554          for (i=0;i<st->subframeSize;i++)
555             ener+=st->buf2[i]*st->buf2[i];
556          ener=sqrt(.1+ener/st->subframeSize);
557
558          ener /= ol_gain;
559          if (SUBMODE(have_subframe_gain)) 
560          {
561             int qe;
562             ener=log(ener);
563             qe = vq_index(&ener, exc_gain_quant_scal, 1, 8);
564             speex_bits_pack(bits, qe, 3);
565             ener=exc_gain_quant_scal[qe];
566             ener=exp(ener);
567             /*printf ("encode gain: %d %f\n", qe, ener);*/
568          } else {
569             ener=1;
570          }
571          ener*=ol_gain;
572          /*printf ("transmit gain: %f\n", ener);*/
573          ener_1 = 1/ener;
574          
575          for (i=0;i<st->subframeSize;i++)
576             target[i]*=ener_1;
577          
578          if (SUBMODE(innovation_quant))
579          {
580             /* Normal quantization */
581             SUBMODE(innovation_quant)(target, st->interp_qlpc, st->bw_lpc1, st->bw_lpc2, 
582                                       SUBMODE(innovation_params), st->lpcSize, st->subframeSize, 
583                                       innov, bits, st->stack);
584             
585             for (i=0;i<st->subframeSize;i++)
586                exc[i] += innov[i]*ener;
587          } else {
588             /* This is the "real" (cheating) excitation in the encoder but the decoder will
589                use white noise */
590             for (i=0;i<st->subframeSize;i++)
591                exc[i] += st->buf2[i];
592          }
593          POP(st->stack);
594          for (i=0;i<st->subframeSize;i++)
595             target[i]*=ener;
596
597       }
598 #endif
599       /* Compute weighted noise energy and SNR */
600       enoise=0;
601       for (i=0;i<st->subframeSize;i++)
602          enoise += target[i]*target[i];
603       snr = 10*log10((esig+1)/(enoise+1));
604 #ifdef DEBUG
605       printf ("seg SNR = %f\n", snr);
606 #endif
607
608       /*Keep the previous memory*/
609       for (i=0;i<st->lpcSize;i++)
610          mem[i]=st->mem_sp[i];
611       /* Final signal synthesis from excitation */
612       syn_filt_mem(exc, st->interp_qlpc, sp, st->subframeSize, st->lpcSize, st->mem_sp);
613
614       /* Compute weighted signal again, from synthesized speech (not sure it's the right thing) */
615       residue_mem(sp, st->bw_lpc1, sw, st->subframeSize, st->lpcSize, mem);
616       syn_filt_mem(sw, st->bw_lpc2, sw, st->subframeSize, st->lpcSize, st->mem_sw);
617
618 #if 0
619       /*for (i=0;i<st->subframeSize;i++)
620         exc2[i]=.75*exc[i]+.2*exc[i-pitch]+.05*exc[i-2*pitch];*/
621       {
622          float max_exc=0;
623          for (i=0;i<st->subframeSize;i++)
624             if (fabs(exc[i])>max_exc)
625                max_exc=fabs(exc[i]);
626          max_exc=1/(max_exc+.01);
627          for (i=0;i<st->subframeSize;i++)
628          {
629             float xx=max_exc*exc[i];
630             exc2[i]=exc[i]*(1-exp(-100*xx*xx));
631          }
632       }
633 #else
634       for (i=0;i<st->subframeSize;i++)
635          exc2[i]=exc[i];
636 #endif
637       POP(st->stack);
638       POP(st->stack);
639       POP(st->stack);
640    }
641
642    /* Store the LSPs for interpolation in the next frame */
643    for (i=0;i<st->lpcSize;i++)
644       st->old_lsp[i] = st->lsp[i];
645    for (i=0;i<st->lpcSize;i++)
646       st->old_qlsp[i] = st->qlsp[i];
647
648    /* The next frame will not be the first (Duh!) */
649    st->first = 0;
650
651    /* Replace input by synthesized speech */
652    in[0] = st->frame[0] + st->preemph*st->pre_mem2;
653    for (i=1;i<st->frameSize;i++)
654      in[i]=st->frame[i] + st->preemph*in[i-1];
655    st->pre_mem2=in[st->frameSize-1];
656
657 }
658
659
660 void *nb_decoder_init(SpeexMode *m)
661 {
662    DecState *st;
663    SpeexNBMode *mode;
664    int i;
665
666    mode=m->mode;
667    st = speex_alloc(sizeof(DecState));
668    st->mode=m;
669
670    st->first=1;
671    /* Codec parameters, should eventually have several "modes"*/
672    st->frameSize = mode->frameSize;
673    st->windowSize = st->frameSize*3/2;
674    st->nbSubframes=mode->frameSize/mode->subframeSize;
675    st->subframeSize=mode->subframeSize;
676    st->lpcSize = mode->lpcSize;
677    st->bufSize = mode->bufSize;
678    st->gamma1=mode->gamma1;
679    st->gamma2=mode->gamma2;
680    st->min_pitch=mode->pitchStart;
681    st->max_pitch=mode->pitchEnd;
682    st->preemph = mode->preemph;
683
684    st->submodes=mode->submodes;
685    st->submodeID=mode->defaultSubmode;
686
687    st->pre_mem=0;
688    st->pf_enabled=0;
689
690    st->stack = speex_alloc(10000*sizeof(float));
691
692    st->inBuf = speex_alloc(st->bufSize*sizeof(float));
693    st->frame = st->inBuf + st->bufSize - st->windowSize;
694    st->excBuf = speex_alloc(st->bufSize*sizeof(float));
695    st->exc = st->excBuf + st->bufSize - st->windowSize;
696    st->exc2Buf = speex_alloc(st->bufSize*sizeof(float));
697    st->exc2 = st->exc2Buf + st->bufSize - st->windowSize;
698    for (i=0;i<st->bufSize;i++)
699       st->inBuf[i]=0;
700    for (i=0;i<st->bufSize;i++)
701       st->excBuf[i]=0;
702    for (i=0;i<st->bufSize;i++)
703       st->exc2Buf[i]=0;
704
705    st->interp_qlpc = speex_alloc((st->lpcSize+1)*sizeof(float));
706    st->qlsp = speex_alloc(st->lpcSize*sizeof(float));
707    st->old_qlsp = speex_alloc(st->lpcSize*sizeof(float));
708    st->interp_qlsp = speex_alloc(st->lpcSize*sizeof(float));
709    st->mem_sp = speex_alloc(st->lpcSize*sizeof(float));
710    st->mem_pf = speex_alloc(st->lpcSize*sizeof(float));
711    st->mem_pf2 = speex_alloc(st->lpcSize*sizeof(float));
712
713    st->pi_gain = speex_alloc(st->nbSubframes*sizeof(float));
714    st->last_pitch = 40;
715    st->count_lost=0;
716    return st;
717 }
718
719 void nb_decoder_destroy(void *state)
720 {
721    DecState *st;
722    st=state;
723    speex_free(st->inBuf);
724    speex_free(st->excBuf);
725    speex_free(st->exc2Buf);
726    speex_free(st->interp_qlpc);
727    speex_free(st->qlsp);
728    speex_free(st->old_qlsp);
729    speex_free(st->interp_qlsp);
730    speex_free(st->stack);
731    speex_free(st->mem_sp);
732    speex_free(st->mem_pf);
733    speex_free(st->mem_pf2);
734    speex_free(st->pi_gain);
735    
736    speex_free(state);
737 }
738
739 void nb_decode(void *state, SpeexBits *bits, float *out, int lost)
740 {
741    DecState *st;
742    int i, sub;
743    int pitch;
744    float pitch_gain[3];
745    float ol_gain;
746    int ol_pitch=0;
747    float ol_pitch_coef=0;
748    int best_pitch=40;
749    float best_pitch_gain=-1;
750    st=state;
751
752    /* Get the sub-mode that was used */
753    st->submodeID = speex_bits_unpack_unsigned(bits, NB_SUBMODE_BITS);
754
755    /* Shift all buffers by one frame */
756    memmove(st->inBuf, st->inBuf+st->frameSize, (st->bufSize-st->frameSize)*sizeof(float));
757    memmove(st->excBuf, st->excBuf+st->frameSize, (st->bufSize-st->frameSize)*sizeof(float));
758    memmove(st->exc2Buf, st->exc2Buf+st->frameSize, (st->bufSize-st->frameSize)*sizeof(float));
759
760    /* Unquantize LSPs */
761    SUBMODE(lsp_unquant)(st->qlsp, st->lpcSize, bits);
762
763    /* Handle first frame and lost-packet case */
764    if (st->first || st->count_lost)
765    {
766       for (i=0;i<st->lpcSize;i++)
767          st->old_qlsp[i] = st->qlsp[i];
768    }
769
770    /* Get open-loop pitch estimation for low bit-rate pitch coding */
771    if (SUBMODE(lbr_pitch)!=-1 && SUBMODE(ltp_params))
772    {
773       ol_pitch = st->min_pitch+speex_bits_unpack_unsigned(bits, 7);
774    } else if (SUBMODE(lbr_pitch)==0)
775    {
776       int quant;
777       ol_pitch = st->min_pitch+speex_bits_unpack_unsigned(bits, 7);
778       quant = speex_bits_unpack_unsigned(bits, 4);
779       ol_pitch_coef=0.066667*quant;
780    }
781    
782    /* Get global excitation gain */
783    {
784       int qe;
785       qe = speex_bits_unpack_unsigned(bits, 5);
786       ol_gain = exp(qe/3.5);
787       /*printf ("decode_ol_gain: %f\n", ol_gain);*/
788    }
789
790    /*Loop on subframes */
791    for (sub=0;sub<st->nbSubframes;sub++)
792    {
793       int offset;
794       float *sp, *exc, *exc2, tmp;
795       
796       /* Offset relative to start of frame */
797       offset = st->subframeSize*sub;
798       /* Original signal */
799       sp=st->frame+offset;
800       /* Excitation */
801       exc=st->exc+offset;
802       /* Excitation after post-filter*/
803       exc2=st->exc2+offset;
804
805       /* LSP interpolation (quantized and unquantized) */
806       tmp = (1.0 + sub)/st->nbSubframes;
807       for (i=0;i<st->lpcSize;i++)
808          st->interp_qlsp[i] = (1-tmp)*st->old_qlsp[i] + tmp*st->qlsp[i];
809
810       lsp_enforce_margin(st->interp_qlsp, st->lpcSize, .002);
811
812
813       /* Compute interpolated LPCs (unquantized) */
814       for (i=0;i<st->lpcSize;i++)
815          st->interp_qlsp[i] = cos(st->interp_qlsp[i]);
816       lsp_to_lpc(st->interp_qlsp, st->interp_qlpc, st->lpcSize, st->stack);
817
818
819       /* Compute analysis filter at w=pi */
820       tmp=1;
821       st->pi_gain[sub]=0;
822       for (i=0;i<=st->lpcSize;i++)
823       {
824          st->pi_gain[sub] += tmp*st->interp_qlpc[i];
825          tmp = -tmp;
826       }
827
828       /* Reset excitation */
829       for (i=0;i<st->subframeSize;i++)
830          exc[i]=0;
831
832       /*Adaptive codebook contribution*/
833       if (SUBMODE(ltp_unquant))
834       {
835          if (SUBMODE(lbr_pitch) != -1)
836          {
837             int pit_min, pit_max;
838             int margin;
839             margin = SUBMODE(lbr_pitch);
840             if (margin)
841             {
842                if (ol_pitch < st->min_pitch+margin-1)
843                   ol_pitch=st->min_pitch+margin-1;
844                if (ol_pitch > st->max_pitch-margin)
845                   ol_pitch=st->max_pitch-margin;
846                pit_min = ol_pitch-margin+1;
847                pit_max = ol_pitch+margin;
848             } else {
849                pit_min=pit_max=ol_pitch;
850             }
851             SUBMODE(ltp_unquant)(exc, pit_min, pit_max, SUBMODE(ltp_params), st->subframeSize, &pitch, &pitch_gain[0], bits, st->stack, 0);
852          } else {
853             SUBMODE(ltp_unquant)(exc, st->min_pitch, st->max_pitch, SUBMODE(ltp_params), st->subframeSize, &pitch, &pitch_gain[0], bits, st->stack, 0);
854          }
855          
856          if (!lost)
857          {
858             /* If the frame was not lost... */
859             tmp = fabs(pitch_gain[0])+fabs(pitch_gain[1])+fabs(pitch_gain[2]);
860             tmp = fabs(pitch_gain[0]+pitch_gain[1]+pitch_gain[2]);
861             if (tmp>best_pitch_gain)
862             {
863                best_pitch = pitch;
864                while (best_pitch+pitch<st->max_pitch)
865                {
866                   best_pitch+=pitch;
867                }
868                best_pitch_gain = tmp*.9;
869                if (best_pitch_gain>.85)
870                   best_pitch_gain=.85;
871             }
872          } else {
873             /* What to do with pitch if we lost the frame */
874             for (i=0;i<st->subframeSize;i++)
875                exc[i]=0;
876             /*printf ("best_pitch: %d %f\n", st->last_pitch, st->last_pitch_gain);*/
877             for (i=0;i<st->subframeSize;i++)
878                exc[i]=st->last_pitch_gain*exc[i-st->last_pitch];
879          }
880       } else if (SUBMODE(lbr_pitch==0)) {
881          for (i=0;i<st->subframeSize;i++)
882          {
883             exc[i]=exc[i-ol_pitch]*ol_pitch_coef;
884          }
885       }
886       
887       /* Unquantize the innovation */
888       {
889          int q_energy;
890          float ener;
891          float *innov;
892          
893          innov = PUSH(st->stack, st->subframeSize);
894          for (i=0;i<st->subframeSize;i++)
895             innov[i]=0;
896
897          if (SUBMODE(have_subframe_gain))
898          {
899             q_energy = speex_bits_unpack_unsigned(bits, 3);
900             ener = ol_gain*exp(exc_gain_quant_scal[q_energy]);
901          } else {
902             ener = ol_gain;
903          }
904          
905          /*printf ("unquant_energy: %d %f\n", q_energy, ener);*/
906          
907          if (SUBMODE(innovation_unquant))
908          {
909             /*Fixed codebook contribution*/
910             SUBMODE(innovation_unquant)(innov, SUBMODE(innovation_params), st->subframeSize, bits, st->stack);
911          } else {
912             float scale;
913             scale = 3*sqrt(1.2-ol_pitch_coef);
914             for (i=0;i<st->subframeSize;i++)
915                innov[i] = scale*((((float)rand())/RAND_MAX)-.5);
916             
917          }
918
919          if (st->count_lost)
920             ener*=pow(.8,st->count_lost);
921
922          for (i=0;i<st->subframeSize;i++)
923             exc[i]+=ener*innov[i];
924
925          POP(st->stack);
926       }
927
928       for (i=0;i<st->subframeSize;i++)
929          exc2[i]=exc[i];
930
931       /* Apply post-filter */
932       if (st->pf_enabled && SUBMODE(post_filter_func))
933          SUBMODE(post_filter_func)(exc, exc2, st->interp_qlpc, st->lpcSize, st->subframeSize,
934                               pitch, pitch_gain, SUBMODE(post_filter_params), st->mem_pf, 
935                               st->mem_pf2, st->stack);
936       
937       /* Apply synthesis filter */
938       syn_filt_mem(exc2, st->interp_qlpc, sp, st->subframeSize, st->lpcSize, st->mem_sp);
939
940    }
941    
942    /*Copy output signal*/
943    for (i=0;i<st->frameSize;i++)
944       out[i]=st->frame[i];
945
946    out[0] = st->frame[0] + st->preemph*st->pre_mem;
947    for (i=1;i<st->frameSize;i++)
948      out[i]=st->frame[i] + st->preemph*out[i-1];
949    st->pre_mem=out[st->frameSize-1];
950
951
952    /* Store the LSPs for interpolation in the next frame */
953    for (i=0;i<st->lpcSize;i++)
954       st->old_qlsp[i] = st->qlsp[i];
955
956    /* The next frame will not be the first (Duh!) */
957    st->first = 0;
958    if (!lost)
959       st->count_lost=0;
960    else
961       st->count_lost++;
962    if (!lost)
963    {
964       st->last_pitch = best_pitch;
965       st->last_pitch_gain = best_pitch_gain;
966    }
967 }
968
969 void nb_encoder_ctl(void *state, int request, void *ptr)
970 {
971    EncState *st;
972    st=state;     
973    switch(request)
974    {
975    case SPEEX_GET_FRAME_SIZE:
976       (*(int*)ptr) = st->frameSize;
977       break;
978    case SPEEX_SET_MODE:
979       st->submodeID = (*(int*)ptr);
980       break;
981    case SPEEX_GET_MODE:
982       (*(int*)ptr) = st->submodeID;
983       break;
984    case SPEEX_SET_VBR:
985       st->vbr_enabled = (*(int*)ptr);
986       break;
987    case SPEEX_GET_VBR:
988       (*(int*)ptr) = st->vbr_enabled;
989       break;
990    case SPEEX_SET_VBR_QUALITY:
991       st->vbr_quality = (*(int*)ptr);
992       break;
993    case SPEEX_GET_VBR_QUALITY:
994       (*(int*)ptr) = st->vbr_quality;
995       break;
996    case SPEEX_SET_QUALITY:
997       {
998          int quality = (*(int*)ptr);
999          if (quality<=0)
1000             st->submodeID = 1;
1001          else if (quality<=1)
1002             st->submodeID = 1;
1003          else if (quality<=2)
1004             st->submodeID = 2;
1005          else if (quality<=4)
1006             st->submodeID = 3;
1007          else if (quality<=6)
1008             st->submodeID = 4;
1009          else if (quality<=8)
1010             st->submodeID = 5;
1011          else if (quality<=10)
1012             st->submodeID = 6;
1013          else
1014             fprintf(stderr, "Unknown nb_ctl quality: %d\n", quality);
1015       }
1016       break;
1017    default:
1018       fprintf(stderr, "Unknown nb_ctl request: %d\n", request);
1019    }
1020 }
1021
1022 void nb_decoder_ctl(void *state, int request, void *ptr)
1023 {
1024    DecState *st;
1025    st=state;
1026    switch(request)
1027    {
1028    case SPEEX_SET_PF:
1029       st->pf_enabled = *((int*)ptr);
1030       break;
1031    case SPEEX_GET_FRAME_SIZE:
1032       (*(int*)ptr) = st->frameSize;
1033       break;
1034    default:
1035       fprintf(stderr, "Unknown nb_ctl request: %d\n", request);
1036    }
1037 }