Completed VBR for 0.5.0 release
[speexdsp.git] / libspeex / nb_celp.c
1 /* Copyright (C) 2002 Jean-Marc Valin 
2    File: speex.c
3
4    This library is free software; you can redistribute it and/or
5    modify it under the terms of the GNU Lesser General Public
6    License as published by the Free Software Foundation; either
7    version 2.1 of the License, or (at your option) any later version.
8    
9    This library is distributed in the hope that it will be useful,
10    but WITHOUT ANY WARRANTY; without even the implied warranty of
11    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12    Lesser General Public License for more details.
13    
14    You should have received a copy of the GNU Lesser General Public
15    License along with this library; if not, write to the Free Software
16    Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
17 */
18
19 #include <stdlib.h>
20 #include <stdio.h>
21 #include <string.h>
22 #include <math.h>
23 #include "nb_celp.h"
24 #include "lpc.h"
25 #include "lsp.h"
26 #include "ltp.h"
27 #include "quant_lsp.h"
28 #include "cb_search.h"
29 #include "filters.h"
30 #include "stack_alloc.h"
31 #include "vq.h"
32 #include "speex_bits.h"
33 #include "post_filter.h"
34 #include "vbr.h"
35
36 #ifndef M_PI
37 #define M_PI           3.14159265358979323846  /* pi */
38 #endif
39
40 #define SUBMODE(x) st->submodes[st->submodeID]->x
41
42 float exc_gain_quant_scal[8]={-2.794750, -1.810660, -1.169850, -0.848119, -0.587190, -0.329818, -0.063266, 0.282826};
43
44 #define sqr(x) ((x)*(x))
45 #define min(a,b) ((a) < (b) ? (a) : (b))
46
47 void *nb_encoder_init(SpeexMode *m)
48 {
49    EncState *st;
50    SpeexNBMode *mode;
51    int i;
52
53    mode=m->mode;
54    st = malloc(sizeof(EncState));
55    st->mode=m;
56    /* Codec parameters, should eventually have several "modes"*/
57    st->frameSize = mode->frameSize;
58    st->windowSize = st->frameSize*3/2;
59    st->nbSubframes=mode->frameSize/mode->subframeSize;
60    st->subframeSize=mode->subframeSize;
61    st->lpcSize = mode->lpcSize;
62    st->bufSize = mode->bufSize;
63    st->gamma1=mode->gamma1;
64    st->gamma2=mode->gamma2;
65    st->min_pitch=mode->pitchStart;
66    st->max_pitch=mode->pitchEnd;
67    st->lag_factor=mode->lag_factor;
68    st->lpc_floor = mode->lpc_floor;
69    st->preemph = mode->preemph;
70   
71    st->submodes=mode->submodes;
72    st->submodeID=mode->defaultSubmode;
73    st->pre_mem=0;
74    st->pre_mem2=0;
75
76    /* Allocating input buffer */
77    st->inBuf = calloc(st->bufSize,sizeof(float));
78    st->frame = st->inBuf + st->bufSize - st->windowSize;
79    /* Allocating excitation buffer */
80    st->excBuf = calloc(st->bufSize,sizeof(float));
81    st->exc = st->excBuf + st->bufSize - st->windowSize;
82    st->swBuf = calloc(st->bufSize,sizeof(float));
83    st->sw = st->swBuf + st->bufSize - st->windowSize;
84
85    st->exc2Buf = calloc(st->bufSize,sizeof(float));
86    st->exc2 = st->exc2Buf + st->bufSize - st->windowSize;
87
88    /* Asymetric "pseudo-Hamming" window */
89    {
90       int part1, part2;
91       part1 = st->subframeSize*7/2;
92       part2 = st->subframeSize*5/2;
93       st->window = malloc(st->windowSize*sizeof(float));
94       for (i=0;i<part1;i++)
95          st->window[i]=.54-.46*cos(M_PI*i/part1);
96       for (i=0;i<part2;i++)
97          st->window[part1+i]=.54+.46*cos(M_PI*i/part2);
98    }
99    /* Create the window for autocorrelation (lag-windowing) */
100    st->lagWindow = malloc((st->lpcSize+1)*sizeof(float));
101    for (i=0;i<st->lpcSize+1;i++)
102       st->lagWindow[i]=exp(-.5*sqr(2*M_PI*st->lag_factor*i));
103
104    st->autocorr = malloc((st->lpcSize+1)*sizeof(float));
105
106    st->stack = calloc(20000, sizeof(float));
107
108    st->buf2 = malloc(st->windowSize*sizeof(float));
109
110    st->lpc = malloc((st->lpcSize+1)*sizeof(float));
111    st->interp_lpc = malloc((st->lpcSize+1)*sizeof(float));
112    st->interp_qlpc = malloc((st->lpcSize+1)*sizeof(float));
113    st->bw_lpc1 = malloc((st->lpcSize+1)*sizeof(float));
114    st->bw_lpc2 = malloc((st->lpcSize+1)*sizeof(float));
115
116    st->lsp = malloc(st->lpcSize*sizeof(float));
117    st->qlsp = malloc(st->lpcSize*sizeof(float));
118    st->old_lsp = malloc(st->lpcSize*sizeof(float));
119    st->old_qlsp = malloc(st->lpcSize*sizeof(float));
120    st->interp_lsp = malloc(st->lpcSize*sizeof(float));
121    st->interp_qlsp = malloc(st->lpcSize*sizeof(float));
122    st->rc = malloc(st->lpcSize*sizeof(float));
123    st->first = 1;
124
125    st->mem_sp = calloc(st->lpcSize, sizeof(float));
126    st->mem_sw = calloc(st->lpcSize, sizeof(float));
127
128    st->pi_gain = calloc(st->nbSubframes, sizeof(float));
129
130    st->pitch = calloc(st->nbSubframes, sizeof(int));
131
132    if (1) {
133       st->vbr = malloc(sizeof(VBRState));
134       vbr_init(st->vbr);
135       st->vbr_quality = 8;
136       st->vbr_enabled = 0;
137    } else {
138       st->vbr = 0;
139    }
140
141    return st;
142 }
143
144 void nb_encoder_destroy(void *state)
145 {
146    EncState *st=state;
147    /* Free all allocated memory */
148    free(st->inBuf);
149    free(st->excBuf);
150    free(st->swBuf);
151    free(st->exc2Buf);
152    free(st->stack);
153
154    free(st->window);
155    free(st->buf2);
156    free(st->lpc);
157    free(st->interp_lpc);
158    free(st->interp_qlpc);
159    
160    free(st->bw_lpc1);
161    free(st->bw_lpc2);
162    free(st->autocorr);
163    free(st->lagWindow);
164    free(st->lsp);
165    free(st->qlsp);
166    free(st->old_lsp);
167    free(st->interp_lsp);
168    free(st->old_qlsp);
169    free(st->interp_qlsp);
170    free(st->rc);
171
172    free(st->mem_sp);
173    free(st->mem_sw);
174    free(st->pi_gain);
175    free(st->pitch);
176
177    vbr_destroy(st->vbr);
178    free(st->vbr);
179
180    /*Free state memory... should be last*/
181    free(st);
182 }
183
184 void nb_encode(void *state, float *in, SpeexBits *bits)
185 {
186    EncState *st;
187    int i, sub, roots;
188    float error;
189    int ol_pitch;
190    float ol_pitch_coef;
191    float ol_gain;
192    float delta_qual=0;
193
194    st=state;
195    
196    /* Copy new data in input buffer */
197    memmove(st->inBuf, st->inBuf+st->frameSize, (st->bufSize-st->frameSize)*sizeof(float));
198    st->inBuf[st->bufSize-st->frameSize] = in[0] - st->preemph*st->pre_mem;
199    for (i=1;i<st->frameSize;i++)
200       st->inBuf[st->bufSize-st->frameSize+i] = in[i] - st->preemph*in[i-1];
201    st->pre_mem = in[st->frameSize-1];
202
203    memmove(st->exc2Buf, st->exc2Buf+st->frameSize, (st->bufSize-st->frameSize)*sizeof(float));
204    memmove(st->excBuf, st->excBuf+st->frameSize, (st->bufSize-st->frameSize)*sizeof(float));
205    memmove(st->swBuf, st->swBuf+st->frameSize, (st->bufSize-st->frameSize)*sizeof(float));
206
207    /* Window for analysis */
208    for (i=0;i<st->windowSize;i++)
209       st->buf2[i] = st->frame[i] * st->window[i];
210
211    /* Compute auto-correlation */
212    autocorr(st->buf2, st->autocorr, st->lpcSize+1, st->windowSize);
213
214    st->autocorr[0] += 1;        /* prevents NANs */
215    st->autocorr[0] *= st->lpc_floor; /* Noise floor in auto-correlation domain */
216    /* Lag windowing: equivalent to filtering in the power-spectrum domain */
217    for (i=0;i<st->lpcSize+1;i++)
218       st->autocorr[i] *= st->lagWindow[i];
219
220    /* Levinson-Durbin */
221    error = wld(st->lpc+1, st->autocorr, st->rc, st->lpcSize);
222    st->lpc[0]=1;
223
224    /* LPC to LSPs (x-domain) transform */
225    roots=lpc_to_lsp (st->lpc, st->lpcSize, st->lsp, 6, 0.002, st->stack);
226    if (roots!=st->lpcSize)
227    {
228       fprintf (stderr, "roots!=st->lpcSize (found only %d roots)\n", roots);
229       exit(1);
230    }
231
232    /* x-domain to angle domain*/
233    for (i=0;i<st->lpcSize;i++)
234       st->lsp[i] = acos(st->lsp[i]);
235    /*print_vec(st->lsp, 10, "LSP:");*/
236    /* LSP Quantization */
237    if (st->first)
238    {
239       for (i=0;i<st->lpcSize;i++)
240          st->old_lsp[i] = st->lsp[i];
241    }
242
243
244    /* Whole frame analysis (open-loop estimation of pitch and excitation gain) */
245    {
246       for (i=0;i<st->lpcSize;i++)
247          st->interp_lsp[i] = .5*st->old_lsp[i] + .5*st->lsp[i];
248
249       lsp_enforce_margin(st->interp_lsp, st->lpcSize, .002);
250
251       /* Compute interpolated LPCs (unquantized) for whole frame*/
252       for (i=0;i<st->lpcSize;i++)
253          st->interp_lsp[i] = cos(st->interp_lsp[i]);
254       lsp_to_lpc(st->interp_lsp, st->interp_lpc, st->lpcSize,st->stack);
255
256       bw_lpc(st->gamma1, st->interp_lpc, st->bw_lpc1, st->lpcSize);
257       bw_lpc(st->gamma2, st->interp_lpc, st->bw_lpc2, st->lpcSize);
258
259       residue(st->frame, st->bw_lpc1, st->exc, st->frameSize, st->lpcSize);
260       syn_filt(st->exc, st->bw_lpc2, st->sw, st->frameSize, st->lpcSize);
261       
262       /*Open-loop pitch*/
263       open_loop_nbest_pitch(st->sw, st->min_pitch, st->max_pitch, st->frameSize, 
264                             &ol_pitch, &ol_pitch_coef, 1, st->stack);
265
266       /*Compute "real" excitation*/
267       residue(st->frame, st->interp_lpc, st->exc, st->frameSize, st->lpcSize);
268
269       /* Compute open-loop excitation gain */
270       ol_gain=0;
271       for (i=0;i<st->frameSize;i++)
272          ol_gain += st->exc[i]*st->exc[i];
273       
274       ol_gain=sqrt(1+ol_gain/st->frameSize);
275    }
276
277    /*Experimental VBR stuff*/
278    if (st->vbr)
279    {
280       delta_qual = vbr_analysis(st->vbr, in, st->frameSize, ol_pitch, ol_pitch_coef);
281       if (st->vbr_enabled) 
282       {
283          int qual = (int)floor(st->vbr_quality+delta_qual+.5);
284          if (qual<0)
285             qual=0;
286          if (qual>10)
287             qual=10;
288          speex_encoder_ctl(state, SPEEX_SET_QUALITY, &qual);
289       }
290    }
291    /*printf ("VBR quality = %f\n", vbr_qual);*/
292
293    /* First, transmit the sub-mode we use for this frame */
294    speex_bits_pack(bits, st->submodeID, NB_SUBMODE_BITS);
295
296
297    /*Quantize LSPs*/
298 #if 1 /*0 for unquantized*/
299    SUBMODE(lsp_quant)(st->lsp, st->qlsp, st->lpcSize, bits);
300 #else
301    for (i=0;i<st->lpcSize;i++)
302      st->qlsp[i]=st->lsp[i];
303 #endif
304
305    /*If we use low bit-rate pitch mode, transmit open-loop pitch*/
306    if (SUBMODE(lbr_pitch)!=-1 && SUBMODE(ltp_params))
307    {
308       speex_bits_pack(bits, ol_pitch-st->min_pitch, 7);
309    } else if (SUBMODE(lbr_pitch)==0)
310    {
311       int quant;
312       speex_bits_pack(bits, ol_pitch-st->min_pitch, 7);
313       quant = (int)floor(.5+15*ol_pitch_coef);
314       if (quant>15)
315          quant=0;
316       if (quant<0)
317          quant=0;
318       speex_bits_pack(bits, quant, 4);
319       ol_pitch_coef=0.066667*quant;
320    }
321    
322    
323    /*Quantize and transmit open-loop excitation gain*/
324    {
325       int qe = (int)(floor(3.5*log(ol_gain)));
326       if (qe<0)
327          qe=0;
328       if (qe>31)
329          qe=31;
330       ol_gain = exp(qe/3.5);
331       speex_bits_pack(bits, qe, 5);
332    }
333
334    /* Special case for first frame */
335    if (st->first)
336    {
337       for (i=0;i<st->lpcSize;i++)
338          st->old_qlsp[i] = st->qlsp[i];
339    }
340
341    /* Loop on sub-frames */
342    for (sub=0;sub<st->nbSubframes;sub++)
343    {
344       float esig, enoise, snr, tmp;
345       int   offset;
346       float *sp, *sw, *res, *exc, *target, *mem, *exc2;
347       int pitch;
348
349       /* Offset relative to start of frame */
350       offset = st->subframeSize*sub;
351       /* Original signal */
352       sp=st->frame+offset;
353       /* Excitation */
354       exc=st->exc+offset;
355       /* Weighted signal */
356       sw=st->sw+offset;
357
358       exc2=st->exc2+offset;
359
360       /* Filter response */
361       res = PUSH(st->stack, st->subframeSize);
362       /* Target signal */
363       target = PUSH(st->stack, st->subframeSize);
364       mem = PUSH(st->stack, st->lpcSize);
365
366       /* LSP interpolation (quantized and unquantized) */
367       tmp = (1.0 + sub)/st->nbSubframes;
368       for (i=0;i<st->lpcSize;i++)
369          st->interp_lsp[i] = (1-tmp)*st->old_lsp[i] + tmp*st->lsp[i];
370       for (i=0;i<st->lpcSize;i++)
371          st->interp_qlsp[i] = (1-tmp)*st->old_qlsp[i] + tmp*st->qlsp[i];
372
373       /* Make sure the filters are stable */
374       lsp_enforce_margin(st->interp_lsp, st->lpcSize, .002);
375       lsp_enforce_margin(st->interp_qlsp, st->lpcSize, .002);
376
377       /* Compute interpolated LPCs (quantized and unquantized) */
378       for (i=0;i<st->lpcSize;i++)
379          st->interp_lsp[i] = cos(st->interp_lsp[i]);
380       lsp_to_lpc(st->interp_lsp, st->interp_lpc, st->lpcSize,st->stack);
381
382       for (i=0;i<st->lpcSize;i++)
383          st->interp_qlsp[i] = cos(st->interp_qlsp[i]);
384       lsp_to_lpc(st->interp_qlsp, st->interp_qlpc, st->lpcSize, st->stack);
385
386       /* Compute analysis filter gain at w=pi (for use in SB-CELP) */
387       tmp=1;
388       st->pi_gain[sub]=0;
389       for (i=0;i<=st->lpcSize;i++)
390       {
391          st->pi_gain[sub] += tmp*st->interp_qlpc[i];
392          tmp = -tmp;
393       }
394      
395
396       /* Compute bandwidth-expanded (unquantized) LPCs for perceptual weighting */
397       bw_lpc(st->gamma1, st->interp_lpc, st->bw_lpc1, st->lpcSize);
398       if (st->gamma2>=0)
399          bw_lpc(st->gamma2, st->interp_lpc, st->bw_lpc2, st->lpcSize);
400       else
401       {
402          st->bw_lpc2[0]=1;
403          st->bw_lpc2[1]=-st->preemph;
404          for (i=2;i<=st->lpcSize;i++)
405             st->bw_lpc2[i]=0;
406       }
407
408       /* Reset excitation */
409       for (i=0;i<st->subframeSize;i++)
410          exc[i]=0;
411       for (i=0;i<st->subframeSize;i++)
412          exc2[i]=0;
413
414       /* Compute zero response of A(z/g1) / ( A(z/g2) * Aq(z) ) */
415       for (i=0;i<st->lpcSize;i++)
416          mem[i]=st->mem_sp[i];
417       syn_filt_mem(exc, st->interp_qlpc, exc, st->subframeSize, st->lpcSize, mem);
418       for (i=0;i<st->lpcSize;i++)
419          mem[i]=st->mem_sp[i];
420       residue_mem(exc, st->bw_lpc1, res, st->subframeSize, st->lpcSize, mem);
421       for (i=0;i<st->lpcSize;i++)
422          mem[i]=st->mem_sw[i];
423       syn_filt_mem(res, st->bw_lpc2, res, st->subframeSize, st->lpcSize, mem);
424
425       /* Compute weighted signal */
426       for (i=0;i<st->lpcSize;i++)
427          mem[i]=st->mem_sp[i];
428       residue_mem(sp, st->bw_lpc1, sw, st->subframeSize, st->lpcSize, mem);
429       for (i=0;i<st->lpcSize;i++)
430          mem[i]=st->mem_sw[i];
431       syn_filt_mem(sw, st->bw_lpc2, sw, st->subframeSize, st->lpcSize, mem);
432       
433       esig=0;
434       for (i=0;i<st->subframeSize;i++)
435          esig+=sw[i]*sw[i];
436       
437       /* Compute target signal */
438       for (i=0;i<st->subframeSize;i++)
439          target[i]=sw[i]-res[i];
440
441       for (i=0;i<st->subframeSize;i++)
442          exc[i]=exc2[i]=0;
443
444       /* If we have a long-term predictor (not all sub-modes have one) */
445       if (SUBMODE(ltp_params))
446       {
447          /* Long-term prediction */
448          if (SUBMODE(lbr_pitch) != -1)
449          {
450             /* Low bit-rate pitch handling */
451             int pit_min, pit_max;
452             int margin;
453             margin = SUBMODE(lbr_pitch);
454             if (ol_pitch < st->min_pitch+margin-1)
455                ol_pitch=st->min_pitch+margin-1;
456             if (ol_pitch > st->max_pitch-margin)
457                ol_pitch=st->max_pitch-margin;
458             pit_min = ol_pitch-margin+1;
459             pit_max = ol_pitch+margin;
460             pitch = SUBMODE(ltp_quant)(target, sw, st->interp_qlpc, st->bw_lpc1, st->bw_lpc2,
461                                        exc, SUBMODE(ltp_params), pit_min, pit_max, 
462                                        st->lpcSize, st->subframeSize, bits, st->stack, exc2);
463          } else {
464             /* Normal pitch handling */
465             pitch = SUBMODE(ltp_quant)(target, sw, st->interp_qlpc, st->bw_lpc1, st->bw_lpc2,
466                                        exc, SUBMODE(ltp_params), st->min_pitch, st->max_pitch, 
467                                        st->lpcSize, st->subframeSize, bits, st->stack, exc2);
468          }
469          /*printf ("cl_pitch: %d\n", pitch);*/
470          st->pitch[sub]=pitch;
471       } else if (SUBMODE(lbr_pitch==0)) {
472          for (i=0;i<st->subframeSize;i++)
473          {
474             exc[i]=exc[i-ol_pitch]*ol_pitch_coef;
475          }
476       }
477
478       /* Update target for adaptive codebook contribution */
479       residue_zero(exc, st->bw_lpc1, res, st->subframeSize, st->lpcSize);
480       syn_filt_zero(res, st->interp_qlpc, res, st->subframeSize, st->lpcSize);
481       syn_filt_zero(res, st->bw_lpc2, res, st->subframeSize, st->lpcSize);
482       for (i=0;i<st->subframeSize;i++)
483         target[i]-=res[i];
484
485       /* Compute noise energy and SNR */
486       enoise=0;
487       for (i=0;i<st->subframeSize;i++)
488          enoise += target[i]*target[i];
489       snr = 10*log10((esig+1)/(enoise+1));
490       /*st->pitch[sub]=(int)snr;*/
491 #ifdef DEBUG
492       printf ("pitch SNR = %f\n", snr);
493 #endif
494
495
496 #if 0 /*If set to 1, compute "real innovation" i.e. cheat to get perfect reconstruction*/
497       syn_filt_zero(target, st->bw_lpc1, res, st->subframeSize, st->lpcSize);
498       residue_zero(res, st->interp_qlpc, st->buf2, st->subframeSize, st->lpcSize);
499       residue_zero(st->buf2, st->bw_lpc2, st->buf2, st->subframeSize, st->lpcSize);
500       /*if (1||(snr>9 && (rand()%6==0)))
501       {
502          float ener=0;
503          printf ("exc ");
504          for (i=0;i<st->subframeSize;i++)
505          {
506             ener+=st->buf2[i]*st->buf2[i];
507             if (i && i%5==0)
508                printf ("\nexc ");
509             printf ("%f ", st->buf2[i]);
510          }
511          printf ("\n");
512       printf ("innovation_energy = %f\n", ener);
513       }*/
514       if (rand()%5==0 && snr>5)
515       {
516          float ener=0, sign=1;
517          if (rand()%2)
518             sign=-1;
519          for (i=0;i<st->subframeSize;i++)
520          {
521             ener+=st->buf2[i]*st->buf2[i];
522          }
523          ener=sign/sqrt(.01+ener/st->subframeSize);
524          for (i=0;i<st->subframeSize;i++)
525          {
526             if (i%10==0)
527                printf ("\nexc ");
528             printf ("%f ", ener*st->buf2[i]);
529          }
530          printf ("\n");
531       }
532
533       for (i=0;i<st->subframeSize;i++)
534          exc[i]+=st->buf2[i];
535 #else
536       /* Quantization of innovation */
537       {
538          float *innov;
539          float ener=0, ener_1;
540          innov=PUSH(st->stack, st->subframeSize);
541          for (i=0;i<st->subframeSize;i++)
542             innov[i]=0;
543          syn_filt_zero(target, st->bw_lpc1, res, st->subframeSize, st->lpcSize);
544          residue_zero(res, st->interp_qlpc, st->buf2, st->subframeSize, st->lpcSize);
545          residue_zero(st->buf2, st->bw_lpc2, st->buf2, st->subframeSize, st->lpcSize);
546          for (i=0;i<st->subframeSize;i++)
547             ener+=st->buf2[i]*st->buf2[i];
548          ener=sqrt(.1+ener/st->subframeSize);
549
550          ener /= ol_gain;
551          if (SUBMODE(have_subframe_gain)) 
552          {
553             int qe;
554             ener=log(ener);
555             qe = vq_index(&ener, exc_gain_quant_scal, 1, 8);
556             speex_bits_pack(bits, qe, 3);
557             ener=exc_gain_quant_scal[qe];
558             ener=exp(ener);
559             /*printf ("encode gain: %d %f\n", qe, ener);*/
560          } else {
561             ener=1;
562          }
563          ener*=ol_gain;
564          /*printf ("transmit gain: %f\n", ener);*/
565          ener_1 = 1/ener;
566          
567          for (i=0;i<st->subframeSize;i++)
568             target[i]*=ener_1;
569          
570          if (SUBMODE(innovation_quant))
571          {
572             /* Normal quantization */
573             SUBMODE(innovation_quant)(target, st->interp_qlpc, st->bw_lpc1, st->bw_lpc2, 
574                                       SUBMODE(innovation_params), st->lpcSize, st->subframeSize, 
575                                       innov, bits, st->stack);
576             
577             for (i=0;i<st->subframeSize;i++)
578                exc[i] += innov[i]*ener;
579          } else {
580             /* This is the "real" (cheating) excitation in the encoder but the decoder will
581                use white noise */
582             for (i=0;i<st->subframeSize;i++)
583                exc[i] += st->buf2[i];
584          }
585          POP(st->stack);
586          for (i=0;i<st->subframeSize;i++)
587             target[i]*=ener;
588
589       }
590 #endif
591       /* Compute weighted noise energy and SNR */
592       enoise=0;
593       for (i=0;i<st->subframeSize;i++)
594          enoise += target[i]*target[i];
595       snr = 10*log10((esig+1)/(enoise+1));
596 #ifdef DEBUG
597       printf ("seg SNR = %f\n", snr);
598 #endif
599
600       /*Keep the previous memory*/
601       for (i=0;i<st->lpcSize;i++)
602          mem[i]=st->mem_sp[i];
603       /* Final signal synthesis from excitation */
604       syn_filt_mem(exc, st->interp_qlpc, sp, st->subframeSize, st->lpcSize, st->mem_sp);
605
606       /* Compute weighted signal again, from synthesized speech (not sure it's the right thing) */
607       residue_mem(sp, st->bw_lpc1, sw, st->subframeSize, st->lpcSize, mem);
608       syn_filt_mem(sw, st->bw_lpc2, sw, st->subframeSize, st->lpcSize, st->mem_sw);
609
610 #if 0
611       /*for (i=0;i<st->subframeSize;i++)
612         exc2[i]=.75*exc[i]+.2*exc[i-pitch]+.05*exc[i-2*pitch];*/
613       {
614          float max_exc=0;
615          for (i=0;i<st->subframeSize;i++)
616             if (fabs(exc[i])>max_exc)
617                max_exc=fabs(exc[i]);
618          max_exc=1/(max_exc+.01);
619          for (i=0;i<st->subframeSize;i++)
620          {
621             float xx=max_exc*exc[i];
622             exc2[i]=exc[i]*(1-exp(-100*xx*xx));
623          }
624       }
625 #else
626       for (i=0;i<st->subframeSize;i++)
627          exc2[i]=exc[i];
628 #endif
629       POP(st->stack);
630       POP(st->stack);
631       POP(st->stack);
632    }
633
634    /* Store the LSPs for interpolation in the next frame */
635    for (i=0;i<st->lpcSize;i++)
636       st->old_lsp[i] = st->lsp[i];
637    for (i=0;i<st->lpcSize;i++)
638       st->old_qlsp[i] = st->qlsp[i];
639
640    /* The next frame will not be the first (Duh!) */
641    st->first = 0;
642
643    /* Replace input by synthesized speech */
644    in[0] = st->frame[0] + st->preemph*st->pre_mem2;
645    for (i=1;i<st->frameSize;i++)
646      in[i]=st->frame[i] + st->preemph*in[i-1];
647    st->pre_mem2=in[st->frameSize-1];
648
649 }
650
651
652 void *nb_decoder_init(SpeexMode *m)
653 {
654    DecState *st;
655    SpeexNBMode *mode;
656    int i;
657
658    mode=m->mode;
659    st = malloc(sizeof(DecState));
660    st->mode=m;
661
662    st->first=1;
663    /* Codec parameters, should eventually have several "modes"*/
664    st->frameSize = mode->frameSize;
665    st->windowSize = st->frameSize*3/2;
666    st->nbSubframes=mode->frameSize/mode->subframeSize;
667    st->subframeSize=mode->subframeSize;
668    st->lpcSize = mode->lpcSize;
669    st->bufSize = mode->bufSize;
670    st->gamma1=mode->gamma1;
671    st->gamma2=mode->gamma2;
672    st->min_pitch=mode->pitchStart;
673    st->max_pitch=mode->pitchEnd;
674    st->preemph = mode->preemph;
675
676    st->submodes=mode->submodes;
677    st->submodeID=mode->defaultSubmode;
678
679    st->pre_mem=0;
680    st->pf_enabled=0;
681
682    st->stack = calloc(10000, sizeof(float));
683
684    st->inBuf = malloc(st->bufSize*sizeof(float));
685    st->frame = st->inBuf + st->bufSize - st->windowSize;
686    st->excBuf = malloc(st->bufSize*sizeof(float));
687    st->exc = st->excBuf + st->bufSize - st->windowSize;
688    st->exc2Buf = malloc(st->bufSize*sizeof(float));
689    st->exc2 = st->exc2Buf + st->bufSize - st->windowSize;
690    for (i=0;i<st->bufSize;i++)
691       st->inBuf[i]=0;
692    for (i=0;i<st->bufSize;i++)
693       st->excBuf[i]=0;
694    for (i=0;i<st->bufSize;i++)
695       st->exc2Buf[i]=0;
696
697    st->interp_qlpc = malloc((st->lpcSize+1)*sizeof(float));
698    st->qlsp = malloc(st->lpcSize*sizeof(float));
699    st->old_qlsp = malloc(st->lpcSize*sizeof(float));
700    st->interp_qlsp = malloc(st->lpcSize*sizeof(float));
701    st->mem_sp = calloc(st->lpcSize, sizeof(float));
702    st->mem_pf = calloc(st->lpcSize, sizeof(float));
703    st->mem_pf2 = calloc(st->lpcSize, sizeof(float));
704
705    st->pi_gain = calloc(st->nbSubframes, sizeof(float));
706    st->last_pitch = 40;
707    st->count_lost=0;
708    return st;
709 }
710
711 void nb_decoder_destroy(void *state)
712 {
713    DecState *st;
714    st=state;
715    free(st->inBuf);
716    free(st->excBuf);
717    free(st->exc2Buf);
718    free(st->interp_qlpc);
719    free(st->qlsp);
720    free(st->old_qlsp);
721    free(st->interp_qlsp);
722    free(st->stack);
723    free(st->mem_sp);
724    free(st->mem_pf);
725    free(st->mem_pf2);
726    free(st->pi_gain);
727    
728    free(state);
729 }
730
731 void nb_decode(void *state, SpeexBits *bits, float *out, int lost)
732 {
733    DecState *st;
734    int i, sub;
735    int pitch;
736    float pitch_gain[3];
737    float ol_gain;
738    int ol_pitch=0;
739    float ol_pitch_coef=0;
740    int best_pitch=40;
741    float best_pitch_gain=-1;
742    st=state;
743
744    /* Get the sub-mode that was used */
745    st->submodeID = speex_bits_unpack_unsigned(bits, NB_SUBMODE_BITS);
746
747    /* Shift all buffers by one frame */
748    memmove(st->inBuf, st->inBuf+st->frameSize, (st->bufSize-st->frameSize)*sizeof(float));
749    memmove(st->excBuf, st->excBuf+st->frameSize, (st->bufSize-st->frameSize)*sizeof(float));
750    memmove(st->exc2Buf, st->exc2Buf+st->frameSize, (st->bufSize-st->frameSize)*sizeof(float));
751
752    /* Unquantize LSPs */
753    SUBMODE(lsp_unquant)(st->qlsp, st->lpcSize, bits);
754
755    /* Handle first frame and lost-packet case */
756    if (st->first || st->count_lost)
757    {
758       for (i=0;i<st->lpcSize;i++)
759          st->old_qlsp[i] = st->qlsp[i];
760    }
761
762    /* Get open-loop pitch estimation for low bit-rate pitch coding */
763    if (SUBMODE(lbr_pitch)!=-1 && SUBMODE(ltp_params))
764    {
765       ol_pitch = st->min_pitch+speex_bits_unpack_unsigned(bits, 7);
766       speex_bits_pack(bits, ol_pitch-st->min_pitch, 7);
767    } else if (SUBMODE(lbr_pitch)==0)
768    {
769       int quant;
770       ol_pitch = st->min_pitch+speex_bits_unpack_unsigned(bits, 7);
771       quant = speex_bits_unpack_unsigned(bits, 4);
772       ol_pitch_coef=0.066667*quant;
773    }
774    
775    /* Get global excitation gain */
776    {
777       int qe;
778       qe = speex_bits_unpack_unsigned(bits, 5);
779       ol_gain = exp(qe/3.5);
780       /*printf ("decode_ol_gain: %f\n", ol_gain);*/
781    }
782
783    /*Loop on subframes */
784    for (sub=0;sub<st->nbSubframes;sub++)
785    {
786       int offset;
787       float *sp, *exc, *exc2, tmp;
788       
789       /* Offset relative to start of frame */
790       offset = st->subframeSize*sub;
791       /* Original signal */
792       sp=st->frame+offset;
793       /* Excitation */
794       exc=st->exc+offset;
795       /* Excitation after post-filter*/
796       exc2=st->exc2+offset;
797
798       /* LSP interpolation (quantized and unquantized) */
799       tmp = (1.0 + sub)/st->nbSubframes;
800       for (i=0;i<st->lpcSize;i++)
801          st->interp_qlsp[i] = (1-tmp)*st->old_qlsp[i] + tmp*st->qlsp[i];
802
803       lsp_enforce_margin(st->interp_qlsp, st->lpcSize, .002);
804
805
806       /* Compute interpolated LPCs (unquantized) */
807       for (i=0;i<st->lpcSize;i++)
808          st->interp_qlsp[i] = cos(st->interp_qlsp[i]);
809       lsp_to_lpc(st->interp_qlsp, st->interp_qlpc, st->lpcSize, st->stack);
810
811
812       /* Compute analysis filter at w=pi */
813       tmp=1;
814       st->pi_gain[sub]=0;
815       for (i=0;i<=st->lpcSize;i++)
816       {
817          st->pi_gain[sub] += tmp*st->interp_qlpc[i];
818          tmp = -tmp;
819       }
820
821       /* Reset excitation */
822       for (i=0;i<st->subframeSize;i++)
823          exc[i]=0;
824
825       /*Adaptive codebook contribution*/
826       if (SUBMODE(ltp_unquant))
827       {
828          if (SUBMODE(lbr_pitch) != -1)
829          {
830             int pit_min, pit_max;
831             int margin;
832             margin = SUBMODE(lbr_pitch);
833             if (ol_pitch < st->min_pitch+margin-1)
834                ol_pitch=st->min_pitch+margin-1;
835             if (ol_pitch > st->max_pitch-margin)
836                ol_pitch=st->max_pitch-margin;
837             pit_min = ol_pitch-margin+1;
838             pit_max = ol_pitch+margin;
839             SUBMODE(ltp_unquant)(exc, pit_min, pit_max, SUBMODE(ltp_params), st->subframeSize, &pitch, &pitch_gain[0], bits, st->stack, 0);
840          } else {
841             SUBMODE(ltp_unquant)(exc, st->min_pitch, st->max_pitch, SUBMODE(ltp_params), st->subframeSize, &pitch, &pitch_gain[0], bits, st->stack, 0);
842          }
843          
844          if (!lost)
845          {
846             /* If the frame was not lost... */
847             tmp = fabs(pitch_gain[0])+fabs(pitch_gain[1])+fabs(pitch_gain[2]);
848             tmp = fabs(pitch_gain[0]+pitch_gain[1]+pitch_gain[2]);
849             if (tmp>best_pitch_gain)
850             {
851                best_pitch = pitch;
852                while (best_pitch+pitch<st->max_pitch)
853                {
854                   best_pitch+=pitch;
855                }
856                best_pitch_gain = tmp*.9;
857                if (best_pitch_gain>.85)
858                   best_pitch_gain=.85;
859             }
860          } else {
861             /* What to do with pitch if we lost the frame */
862             for (i=0;i<st->subframeSize;i++)
863                exc[i]=0;
864             /*printf ("best_pitch: %d %f\n", st->last_pitch, st->last_pitch_gain);*/
865             for (i=0;i<st->subframeSize;i++)
866                exc[i]=st->last_pitch_gain*exc[i-st->last_pitch];
867          }
868       } else if (SUBMODE(lbr_pitch==0)) {
869          for (i=0;i<st->subframeSize;i++)
870          {
871             exc[i]=exc[i-ol_pitch]*ol_pitch_coef;
872          }
873       }
874       
875       /* Unquantize the innovation */
876       {
877          int q_energy;
878          float ener;
879          float *innov;
880          
881          innov = PUSH(st->stack, st->subframeSize);
882          for (i=0;i<st->subframeSize;i++)
883             innov[i]=0;
884
885          if (SUBMODE(have_subframe_gain))
886          {
887             q_energy = speex_bits_unpack_unsigned(bits, 3);
888             ener = ol_gain*exp(exc_gain_quant_scal[q_energy]);
889          } else {
890             ener = ol_gain;
891          }
892          
893          /*printf ("unquant_energy: %d %f\n", q_energy, ener);*/
894          
895          if (SUBMODE(innovation_unquant))
896          {
897             /*Fixed codebook contribution*/
898             SUBMODE(innovation_unquant)(innov, SUBMODE(innovation_params), st->subframeSize, bits, st->stack);
899          } else {
900             float scale;
901             scale = 3*sqrt(1.2-ol_pitch_coef);
902             for (i=0;i<st->subframeSize;i++)
903                innov[i] = scale*((((float)rand())/RAND_MAX)-.5);
904             
905          }
906
907          if (st->count_lost)
908             ener*=pow(.8,st->count_lost);
909
910          for (i=0;i<st->subframeSize;i++)
911             exc[i]+=ener*innov[i];
912
913          POP(st->stack);
914       }
915
916       for (i=0;i<st->subframeSize;i++)
917          exc2[i]=exc[i];
918
919       /* Apply post-filter */
920       if (st->pf_enabled && SUBMODE(post_filter_func))
921          SUBMODE(post_filter_func)(exc, exc2, st->interp_qlpc, st->lpcSize, st->subframeSize,
922                               pitch, pitch_gain, SUBMODE(post_filter_params), st->mem_pf, 
923                               st->mem_pf2, st->stack);
924       
925       /* Apply synthesis filter */
926       syn_filt_mem(exc2, st->interp_qlpc, sp, st->subframeSize, st->lpcSize, st->mem_sp);
927
928    }
929    
930    /*Copy output signal*/
931    for (i=0;i<st->frameSize;i++)
932       out[i]=st->frame[i];
933
934    out[0] = st->frame[0] + st->preemph*st->pre_mem;
935    for (i=1;i<st->frameSize;i++)
936      out[i]=st->frame[i] + st->preemph*out[i-1];
937    st->pre_mem=out[st->frameSize-1];
938
939
940    /* Store the LSPs for interpolation in the next frame */
941    for (i=0;i<st->lpcSize;i++)
942       st->old_qlsp[i] = st->qlsp[i];
943
944    /* The next frame will not be the first (Duh!) */
945    st->first = 0;
946    if (!lost)
947       st->count_lost=0;
948    else
949       st->count_lost++;
950    if (!lost)
951    {
952       st->last_pitch = best_pitch;
953       st->last_pitch_gain = best_pitch_gain;
954    }
955 }
956
957 void nb_encoder_ctl(void *state, int request, void *ptr)
958 {
959    EncState *st;
960    st=state;     
961    switch(request)
962    {
963    case SPEEX_GET_FRAME_SIZE:
964       (*(int*)ptr) = st->frameSize;
965       break;
966    case SPEEX_SET_MODE:
967       st->submodeID = (*(int*)ptr);
968       break;
969    case SPEEX_GET_MODE:
970       (*(int*)ptr) = st->submodeID;
971       break;
972    case SPEEX_SET_VBR:
973       st->vbr_enabled = (*(int*)ptr);
974       break;
975    case SPEEX_GET_VBR:
976       (*(int*)ptr) = st->vbr_enabled;
977       break;
978    case SPEEX_SET_VBR_QUALITY:
979       st->vbr_quality = (*(int*)ptr);
980       break;
981    case SPEEX_GET_VBR_QUALITY:
982       (*(int*)ptr) = st->vbr_quality;
983       break;
984    case SPEEX_SET_QUALITY:
985       {
986          int quality = (*(int*)ptr);
987          if (quality<=0)
988             st->submodeID = 1;
989          else if (quality<=1)
990             st->submodeID = 1;
991          else if (quality<=2)
992             st->submodeID = 2;
993          else if (quality<=4)
994             st->submodeID = 3;
995          else if (quality<=6)
996             st->submodeID = 4;
997          else if (quality<=8)
998             st->submodeID = 5;
999          else if (quality<=10)
1000             st->submodeID = 6;
1001          else
1002             fprintf(stderr, "Unknown nb_ctl quality: %d\n", quality);
1003       }
1004       break;
1005    default:
1006       fprintf(stderr, "Unknown nb_ctl request: %d\n", request);
1007    }
1008 }
1009
1010 void nb_decoder_ctl(void *state, int request, void *ptr)
1011 {
1012    DecState *st;
1013    st=state;
1014    switch(request)
1015    {
1016    case SPEEX_SET_PF:
1017       st->pf_enabled = *((int*)ptr);
1018       break;
1019    case SPEEX_GET_FRAME_SIZE:
1020       (*(int*)ptr) = st->frameSize;
1021       break;
1022    default:
1023       fprintf(stderr, "Unknown nb_ctl request: %d\n", request);
1024    }
1025 }