fixed-point: LSP quantization work, also LSP's are now in the angle domain
authorjm <jm@0101bb08-14d6-0310-b084-bc0e0c8e3800>
Wed, 8 Oct 2003 05:06:01 +0000 (05:06 +0000)
committerjm <jm@0101bb08-14d6-0310-b084-bc0e0c8e3800>
Wed, 8 Oct 2003 05:06:01 +0000 (05:06 +0000)
git-svn-id: http://svn.xiph.org/trunk/speex@5435 0101bb08-14d6-0310-b084-bc0e0c8e3800

libspeex/lsp.c
libspeex/nb_celp.c
libspeex/quant_lsp.c
libspeex/sb_celp.c
libspeex/smallft.c

index 6b16cff..1814701 100644 (file)
@@ -291,7 +291,7 @@ int lpc_to_lsp (spx_coef_t *a,int lpcrdr,float *freq,int nb,float delta, char *s
                }
 
               /* once zero is found, reset initial interval to xr      */
-              freq[j] = (xm);
+              freq[j] = acos(xm);
               xl = xm;
               flag = 0;                /* reset flag for next search   */
            }
@@ -335,7 +335,7 @@ void lsp_to_lpc(float *freq,spx_coef_t *ak,int lpcrdr, char *stack)
     
     freqn = PUSH(stack, lpcrdr, spx_word16_t);
     for (i=0;i<lpcrdr;i++)
-       freqn[i] = freq[i]*32768.;
+       freqn[i] = cos(freq[i])*32768.;
 
     Wp = PUSH(stack, 4*m+2, spx_word32_t);
     pw = Wp;
@@ -430,8 +430,8 @@ void lsp_to_lpc(float *freq,spx_coef_t *ak,int lpcrdr, char *stack)
            n2 = n1 + 1;
            n3 = n2 + 1;
            n4 = n3 + 1;
-           xout1 = xin1 - 2*(freq[i2]) * *n1 + *n2;
-           xout2 = xin2 - 2*(freq[i2+1]) * *n3 + *n4;
+           xout1 = xin1 - 2*(cos(freq[i2])) * *n1 + *n2;
+           xout2 = xin2 - 2*(cos(freq[i2+1])) * *n3 + *n4;
            *n2 = *n1;
            *n4 = *n3;
            *n1 = xin1;
index 99ffa9c..331fea9 100644 (file)
@@ -248,21 +248,13 @@ int nb_encode(void *state, short *in, SpeexBits *bits)
    /* LPC to LSPs (x-domain) transform */
    roots=lpc_to_lsp (st->lpc, st->lpcSize, st->lsp, 15, 0.2, stack);
    /* Check if we found all the roots */
-   if (roots==st->lpcSize)
+   if (roots!=st->lpcSize)
    {
-      /* LSP x-domain to angle domain*/
-      for (i=0;i<st->lpcSize;i++)
-         st->lsp[i] = acos(st->lsp[i]);
-   } else {
       /* Search again if we can afford it */
       if (st->complexity>1)
          roots = lpc_to_lsp (st->lpc, st->lpcSize, st->lsp, 11, 0.05, stack);
-      if (roots==st->lpcSize) 
+      if (roots!=st->lpcSize) 
       {
-         /* LSP x-domain to angle domain*/
-         for (i=0;i<st->lpcSize;i++)
-            st->lsp[i] = acos(st->lsp[i]);
-      } else {
          /*If we can't find all LSP's, do some damage control and use previous filter*/
          for (i=0;i<st->lpcSize;i++)
          {
@@ -288,8 +280,6 @@ int nb_encode(void *state, short *in, SpeexBits *bits)
       lsp_enforce_margin(st->interp_lsp, st->lpcSize, .002);
 
       /* Compute interpolated LPCs (unquantized) for whole frame*/
-      for (i=0;i<st->lpcSize;i++)
-         st->interp_lsp[i] = cos(st->interp_lsp[i]);
       lsp_to_lpc(st->interp_lsp, st->interp_lpc, st->lpcSize,stack);
 
 
@@ -647,12 +637,8 @@ int nb_encode(void *state, short *in, SpeexBits *bits)
       lsp_enforce_margin(st->interp_qlsp, st->lpcSize, .002);
 
       /* Compute interpolated LPCs (quantized and unquantized) */
-      for (i=0;i<st->lpcSize;i++)
-         st->interp_lsp[i] = cos(st->interp_lsp[i]);
       lsp_to_lpc(st->interp_lsp, st->interp_lpc, st->lpcSize,stack);
 
-      for (i=0;i<st->lpcSize;i++)
-         st->interp_qlsp[i] = cos(st->interp_qlsp[i]);
       lsp_to_lpc(st->interp_qlsp, st->interp_qlpc, st->lpcSize, stack);
 
       /* Compute analysis filter gain at w=pi (for use in SB-CELP) */
@@ -1380,8 +1366,6 @@ int nb_decode(void *state, SpeexBits *bits, short *out)
 
 
       /* Compute interpolated LPCs (unquantized) */
-      for (i=0;i<st->lpcSize;i++)
-         st->interp_qlsp[i] = cos(st->interp_qlsp[i]);
       lsp_to_lpc(st->interp_qlsp, st->interp_qlpc, st->lpcSize, stack);
 
       /* Compute enhanced synthesis filter */
index 48d3788..761c417 100644 (file)
 
 #include "quant_lsp.h"
 #include <math.h>
+#include "misc.h"
 
 extern int lsp_nb_vqid[64];
-static float quant_weight[MAX_LSP_SIZE];
+
+/* FIXME: Get rid of this kludge quick before someone gets hurt */
+static spx_word16_t quant_weight[MAX_LSP_SIZE];
+
+#ifdef FIXED_POINT
+#define LSP_SCALE 8192
+#define LSP_OVERSCALE 32
+#else
+#define LSP_SCALE 256
+#define LSP_OVERSCALE 1
+#endif
 
 /* Note: x is modified*/
-static int lsp_quant(float *x, signed char *cdbk, int nbVec, int nbDim)
+static int lsp_quant(spx_word16_t *x, signed char *cdbk, int nbVec, int nbDim)
 {
    int i,j;
-   float dist, tmp;
-   float best_dist=0;
+   spx_word32_t dist;
+   spx_word16_t tmp;
+   spx_word32_t best_dist=0;
    int best_id=0;
    signed char *ptr=cdbk;
    for (i=0;i<nbVec;i++)
@@ -49,8 +61,8 @@ static int lsp_quant(float *x, signed char *cdbk, int nbVec, int nbDim)
       dist=0;
       for (j=0;j<nbDim;j++)
       {
-         tmp=(x[j]-*ptr++);
-         dist+=tmp*tmp;
+         tmp=(x[j]-SHL((spx_word16_t)*ptr++,5));
+         dist+=MULT16_16(tmp,tmp);
       }
       if (dist<best_dist || i==0)
       {
@@ -60,16 +72,17 @@ static int lsp_quant(float *x, signed char *cdbk, int nbVec, int nbDim)
    }
 
    for (j=0;j<nbDim;j++)
-      x[j] -= cdbk[best_id*nbDim+j];
+      x[j] -= SHL((spx_word16_t)cdbk[best_id*nbDim+j],5);
     
    return best_id;
 }
 
 /* Note: x is modified*/
-static int lsp_weight_quant(float *x, float *weight, signed char *cdbk, int nbVec, int nbDim)
+static int lsp_weight_quant(spx_word16_t *x, spx_word16_t *weight, signed char *cdbk, int nbVec, int nbDim)
 {
    int i,j;
-   float dist, tmp;
+   float dist;
+   spx_word16_t tmp;
    float best_dist=0;
    int best_id=0;
    signed char *ptr=cdbk;
@@ -78,8 +91,8 @@ static int lsp_weight_quant(float *x, float *weight, signed char *cdbk, int nbVe
       dist=0;
       for (j=0;j<nbDim;j++)
       {
-         tmp=(x[j]-*ptr++);
-         dist+=weight[j]*tmp*tmp;
+         tmp=(x[j]-SHL((spx_word16_t)*ptr++,5));
+         dist+=MULT16_32_Q15(weight[j],MULT16_16(tmp,tmp));
       }
       if (dist<best_dist || i==0)
       {
@@ -89,7 +102,7 @@ static int lsp_weight_quant(float *x, float *weight, signed char *cdbk, int nbVe
    }
    
    for (j=0;j<nbDim;j++)
-      x[j] -= cdbk[best_id*nbDim+j];
+      x[j] -= SHL((spx_word16_t)cdbk[best_id*nbDim+j],5);
    return best_id;
 }
 
@@ -99,54 +112,57 @@ void lsp_quant_nb(float *lsp, float *qlsp, int order, SpeexBits *bits)
    int i;
    float tmp1, tmp2;
    int id;
-
+   /* FIXME: get rid of that static allocation */
+   spx_word16_t nlsp[10];
+   
    for (i=0;i<order;i++)
       qlsp[i]=lsp[i];
 
-   quant_weight[0] = 1/(qlsp[1]-qlsp[0]);
-   quant_weight[order-1] = 1/(qlsp[order-1]-qlsp[order-2]);
+   quant_weight[0] = 10/(qlsp[1]-qlsp[0]);
+   quant_weight[order-1] = 10/(qlsp[order-1]-qlsp[order-2]);
    for (i=1;i<order-1;i++)
    {
 #if 1
-      tmp1 = 1/((.15+qlsp[i]-qlsp[i-1])*(.15+qlsp[i]-qlsp[i-1]));
-      tmp2 = 1/((.15+qlsp[i+1]-qlsp[i])*(.15+qlsp[i+1]-qlsp[i]));
+      tmp1 = 10/((.15+qlsp[i]-qlsp[i-1])*(.15+qlsp[i]-qlsp[i-1]));
+      tmp2 = 10/((.15+qlsp[i+1]-qlsp[i])*(.15+qlsp[i+1]-qlsp[i]));
 #else
-      tmp1 = 1/(qlsp[i]-qlsp[i-1]);
-      tmp2 = 1/(qlsp[i+1]-qlsp[i]);
+      tmp1 = 10/(qlsp[i]-qlsp[i-1]);
+      tmp2 = 10/(qlsp[i+1]-qlsp[i]);
 #endif
       quant_weight[i] = tmp1 > tmp2 ? tmp1 : tmp2;
    }
    for (i=0;i<order;i++)
       qlsp[i]-=(.25*i+.25);
+
    for (i=0;i<order;i++)
-      qlsp[i]*=256;
+      nlsp[i] = LSP_SCALE*qlsp[i];
 
-   id = lsp_quant(qlsp, cdbk_nb, NB_CDBK_SIZE, order);
+   id = lsp_quant(nlsp, cdbk_nb, NB_CDBK_SIZE, order);
    speex_bits_pack(bits, id, 6);
 
    for (i=0;i<order;i++)
-      qlsp[i]*=2;
+      nlsp[i]*=2;
  
-   id = lsp_weight_quant(qlsp, quant_weight, cdbk_nb_low1, NB_CDBK_SIZE_LOW1, 5);
+   id = lsp_weight_quant(nlsp, quant_weight, cdbk_nb_low1, NB_CDBK_SIZE_LOW1, 5);
    speex_bits_pack(bits, id, 6);
 
    for (i=0;i<5;i++)
-      qlsp[i]*=2;
+      nlsp[i]*=2;
 
-   id = lsp_weight_quant(qlsp, quant_weight, cdbk_nb_low2, NB_CDBK_SIZE_LOW2, 5);
+   id = lsp_weight_quant(nlsp, quant_weight, cdbk_nb_low2, NB_CDBK_SIZE_LOW2, 5);
    speex_bits_pack(bits, id, 6);
 
-   id = lsp_weight_quant(qlsp+5, quant_weight+5, cdbk_nb_high1, NB_CDBK_SIZE_HIGH1, 5);
+   id = lsp_weight_quant(nlsp+5, quant_weight+5, cdbk_nb_high1, NB_CDBK_SIZE_HIGH1, 5);
    speex_bits_pack(bits, id, 6);
 
    for (i=5;i<10;i++)
-      qlsp[i]*=2;
+      nlsp[i]*=2;
 
-   id = lsp_weight_quant(qlsp+5, quant_weight+5, cdbk_nb_high2, NB_CDBK_SIZE_HIGH2, 5);
+   id = lsp_weight_quant(nlsp+5, quant_weight+5, cdbk_nb_high2, NB_CDBK_SIZE_HIGH2, 5);
    speex_bits_pack(bits, id, 6);
 
    for (i=0;i<order;i++)
-      qlsp[i]*=.00097656;
+      qlsp[i]=nlsp[i] * (.00097656/LSP_OVERSCALE);
 
    for (i=0;i<order;i++)
       qlsp[i]=lsp[i]-qlsp[i];
@@ -186,20 +202,21 @@ void lsp_quant_lbr(float *lsp, float *qlsp, int order, SpeexBits *bits)
    int i;
    float tmp1, tmp2;
    int id;
+   spx_word16_t nlsp[10];
 
    for (i=0;i<order;i++)
       qlsp[i]=lsp[i];
 
-   quant_weight[0] = 1/(qlsp[1]-qlsp[0]);
-   quant_weight[order-1] = 1/(qlsp[order-1]-qlsp[order-2]);
+   quant_weight[0] = 10/(qlsp[1]-qlsp[0]);
+   quant_weight[order-1] = 10/(qlsp[order-1]-qlsp[order-2]);
    for (i=1;i<order-1;i++)
    {
 #if 1
-      tmp1 = 1/((.15+qlsp[i]-qlsp[i-1])*(.15+qlsp[i]-qlsp[i-1]));
-      tmp2 = 1/((.15+qlsp[i+1]-qlsp[i])*(.15+qlsp[i+1]-qlsp[i]));
+      tmp1 = 10/((.15+qlsp[i]-qlsp[i-1])*(.15+qlsp[i]-qlsp[i-1]));
+      tmp2 = 10/((.15+qlsp[i+1]-qlsp[i])*(.15+qlsp[i+1]-qlsp[i]));
 #else
-      tmp1 = 1/(qlsp[i]-qlsp[i-1]);
-      tmp2 = 1/(qlsp[i+1]-qlsp[i]);
+      tmp1 = 10/(qlsp[i]-qlsp[i-1]);
+      tmp2 = 10/(qlsp[i+1]-qlsp[i]);
 #endif
       quant_weight[i] = tmp1 > tmp2 ? tmp1 : tmp2;
    }
@@ -207,22 +224,22 @@ void lsp_quant_lbr(float *lsp, float *qlsp, int order, SpeexBits *bits)
    for (i=0;i<order;i++)
       qlsp[i]-=(.25*i+.25);
    for (i=0;i<order;i++)
-      qlsp[i]*=256;
+      nlsp[i]=qlsp[i]*LSP_SCALE;
    
-   id = lsp_quant(qlsp, cdbk_nb, NB_CDBK_SIZE, order);
+   id = lsp_quant(nlsp, cdbk_nb, NB_CDBK_SIZE, order);
    speex_bits_pack(bits, id, 6);
 
    for (i=0;i<order;i++)
-      qlsp[i]*=2;
+      nlsp[i]*=2;
    
-   id = lsp_weight_quant(qlsp, quant_weight, cdbk_nb_low1, NB_CDBK_SIZE_LOW1, 5);
+   id = lsp_weight_quant(nlsp, quant_weight, cdbk_nb_low1, NB_CDBK_SIZE_LOW1, 5);
    speex_bits_pack(bits, id, 6);
 
-   id = lsp_weight_quant(qlsp+5, quant_weight+5, cdbk_nb_high1, NB_CDBK_SIZE_HIGH1, 5);
+   id = lsp_weight_quant(nlsp+5, quant_weight+5, cdbk_nb_high1, NB_CDBK_SIZE_HIGH1, 5);
    speex_bits_pack(bits, id, 6);
 
    for (i=0;i<order;i++)
-      qlsp[i]*=0.0019531;
+      qlsp[i] = nlsp[i]*(0.0019531/LSP_OVERSCALE);
 
    for (i=0;i<order;i++)
       qlsp[i]=lsp[i]-qlsp[i];
@@ -259,34 +276,36 @@ void lsp_quant_high(float *lsp, float *qlsp, int order, SpeexBits *bits)
    int i;
    float tmp1, tmp2;
    int id;
+   spx_word16_t nlsp[10];
+
    for (i=0;i<order;i++)
       qlsp[i]=lsp[i];
 
-   quant_weight[0] = 1/(qlsp[1]-qlsp[0]);
-   quant_weight[order-1] = 1/(qlsp[order-1]-qlsp[order-2]);
+   quant_weight[0] = 10/(qlsp[1]-qlsp[0]);
+   quant_weight[order-1] = 10/(qlsp[order-1]-qlsp[order-2]);
    for (i=1;i<order-1;i++)
    {
-      tmp1 = 1/(qlsp[i]-qlsp[i-1]);
-      tmp2 = 1/(qlsp[i+1]-qlsp[i]);
+      tmp1 = 10/(qlsp[i]-qlsp[i-1]);
+      tmp2 = 10/(qlsp[i+1]-qlsp[i]);
       quant_weight[i] = tmp1 > tmp2 ? tmp1 : tmp2;
    }
 
    for (i=0;i<order;i++)
       qlsp[i]-=(.3125*i+.75);
    for (i=0;i<order;i++)
-      qlsp[i]*=256;
+      nlsp[i] = qlsp[i]*LSP_SCALE;
 
-   id = lsp_quant(qlsp, high_lsp_cdbk, 64, order);
+   id = lsp_quant(nlsp, high_lsp_cdbk, 64, order);
    speex_bits_pack(bits, id, 6);
 
    for (i=0;i<order;i++)
-      qlsp[i]*=2;
+      nlsp[i]*=2;
 
-   id = lsp_weight_quant(qlsp, quant_weight, high_lsp_cdbk2, 64, order);
+   id = lsp_weight_quant(nlsp, quant_weight, high_lsp_cdbk2, 64, order);
    speex_bits_pack(bits, id, 6);
 
    for (i=0;i<order;i++)
-      qlsp[i]*=0.0019531;
+      qlsp[i] = nlsp[i]*(0.0019531/LSP_OVERSCALE);
 
    for (i=0;i<order;i++)
       qlsp[i]=lsp[i]-qlsp[i];
@@ -321,20 +340,21 @@ void lsp_quant_48k(float *lsp, float *qlsp, int order, SpeexBits *bits)
    int i;
    float tmp1, tmp2;
    int id;
+   spx_word16_t nlsp[10];
 
    for (i=0;i<order;i++)
       qlsp[i]=lsp[i];
 
-   quant_weight[0] = 1/(qlsp[1]-qlsp[0]);
-   quant_weight[order-1] = 1/(qlsp[order-1]-qlsp[order-2]);
+   quant_weight[0] = 10/(qlsp[1]-qlsp[0]);
+   quant_weight[order-1] = 10/(qlsp[order-1]-qlsp[order-2]);
    for (i=1;i<order-1;i++)
    {
 #if 1
-      tmp1 = 1/((.15+qlsp[i]-qlsp[i-1])*(.15+qlsp[i]-qlsp[i-1]));
-      tmp2 = 1/((.15+qlsp[i+1]-qlsp[i])*(.15+qlsp[i+1]-qlsp[i]));
+      tmp1 = 10/((.15+qlsp[i]-qlsp[i-1])*(.15+qlsp[i]-qlsp[i-1]));
+      tmp2 = 10/((.15+qlsp[i+1]-qlsp[i])*(.15+qlsp[i+1]-qlsp[i]));
 #else
-      tmp1 = 1/(qlsp[i]-qlsp[i-1]);
-      tmp2 = 1/(qlsp[i+1]-qlsp[i]);
+      tmp1 = 10/(qlsp[i]-qlsp[i-1]);
+      tmp2 = 10/(qlsp[i+1]-qlsp[i]);
 #endif
       quant_weight[i] = tmp1 > tmp2 ? tmp1 : tmp2;
    }
@@ -342,7 +362,7 @@ void lsp_quant_48k(float *lsp, float *qlsp, int order, SpeexBits *bits)
    for (i=0;i<order;i++)
       qlsp[i]-=(.25*i+.3125);
    for (i=0;i<order;i++)
-      qlsp[i]*=256;
+      nlsp[i]=qlsp[i]*LSP_SCALE;
    
    id = lsp_quant(qlsp, cdbk_lsp_vlbr, 512, order);
    speex_bits_pack(bits, id, 9);
@@ -354,7 +374,7 @@ void lsp_quant_48k(float *lsp, float *qlsp, int order, SpeexBits *bits)
    speex_bits_pack(bits, id, 4);
 
    for (i=0;i<order;i++)
-      qlsp[i]*=0.00097655;
+      qlsp[i]=nlsp[i]*(0.00097655/LSP_OVERSCALE);
 
    for (i=0;i<order;i++)
       qlsp[i]=lsp[i]-qlsp[i];
index 97e4f10..e227fd3 100644 (file)
@@ -327,15 +327,11 @@ int sb_encode(void *state, short *in, SpeexBits *bits)
          /*If we can't find all LSP's, do some damage control and use a flat filter*/
          for (i=0;i<st->lpcSize;i++)
          {
-            st->lsp[i]=cos(M_PI*((float)(i+1))/(st->lpcSize+1));
+            st->lsp[i]=M_PI*((float)(i+1))/(st->lpcSize+1);
          }
       }
    }
 
-   /* x-domain to angle domain*/
-   for (i=0;i<st->lpcSize;i++)
-      st->lsp[i] = acos(st->lsp[i]);
-
    /* VBR code */
    if ((st->vbr_enabled || st->vad_enabled) && !dtx)
    {
@@ -496,13 +492,6 @@ int sb_encode(void *state, short *in, SpeexBits *bits)
       lsp_enforce_margin(st->interp_lsp, st->lpcSize, .05);
       lsp_enforce_margin(st->interp_qlsp, st->lpcSize, .05);
 
-      /* Compute interpolated LPCs (quantized and unquantized) */
-      for (i=0;i<st->lpcSize;i++)
-         st->interp_lsp[i] = cos(st->interp_lsp[i]);
-      for (i=0;i<st->lpcSize;i++)
-         st->interp_qlsp[i] = cos(st->interp_qlsp[i]);
-
-
       lsp_to_lpc(st->interp_lsp, st->interp_lpc, st->lpcSize,stack);
       lsp_to_lpc(st->interp_qlsp, st->interp_qlpc, st->lpcSize, stack);
 
@@ -823,9 +812,14 @@ static void sb_decode_lost(SBDecState *st, short *out, int dtx, char *stack)
    fir_mem_up(st->x0d, h0, st->y0, st->full_frame_size, QMF_ORDER, st->g0_mem, stack);
    fir_mem_up(st->high, h1, st->y1, st->full_frame_size, QMF_ORDER, st->g1_mem, stack);
 
+#ifdef FIXED_POINT
    for (i=0;i<st->full_frame_size;i++)
-      out[i]=2*(st->y0[i]-st->y1[i]);
-   
+      out[i]=SHR(st->y0[i]-st->y1[i],SIG_SHIFT-1);
+#else
+   for (i=0;i<st->full_frame_size;i++)
+      out[i]=2*(st->y0[i]-st->y1[i]);   
+#endif
+
    if (dtx)
    {
       st->submodeID=saved_modeid;
@@ -921,9 +915,14 @@ int sb_decode(void *state, SpeexBits *bits, short *out)
       fir_mem_up(st->x0d, h0, st->y0, st->full_frame_size, QMF_ORDER, st->g0_mem, stack);
       fir_mem_up(st->high, h1, st->y1, st->full_frame_size, QMF_ORDER, st->g1_mem, stack);
 
+#ifdef FIXED_POINT
       for (i=0;i<st->full_frame_size;i++)
-         out[i]=2*(st->y0[i]-st->y1[i]) / SIG_SCALING;
-
+         out[i]=SHR(st->y0[i]-st->y1[i],SIG_SHIFT-1);
+#else
+      for (i=0;i<st->full_frame_size;i++)
+         out[i]=2*(st->y0[i]-st->y1[i]);   
+#endif
+      
       return 0;
 
    }
@@ -968,10 +967,6 @@ int sb_decode(void *state, SpeexBits *bits, short *out)
 
       lsp_enforce_margin(st->interp_qlsp, st->lpcSize, .05);
 
-      /* LSPs to x-domain */
-      for (i=0;i<st->lpcSize;i++)
-         st->interp_qlsp[i] = cos(st->interp_qlsp[i]);
-
       /* LSP to LPC */
       lsp_to_lpc(st->interp_qlsp, st->interp_qlpc, st->lpcSize, stack);
 
@@ -1087,8 +1082,13 @@ int sb_decode(void *state, SpeexBits *bits, short *out)
    fir_mem_up(st->x0d, h0, st->y0, st->full_frame_size, QMF_ORDER, st->g0_mem, stack);
    fir_mem_up(st->high, h1, st->y1, st->full_frame_size, QMF_ORDER, st->g1_mem, stack);
 
+#ifdef FIXED_POINT
    for (i=0;i<st->full_frame_size;i++)
-      out[i]=SHR((st->y0[i]-st->y1[i]), SIG_SHIFT-1);
+      out[i]=SHR(st->y0[i]-st->y1[i],SIG_SHIFT-1);
+#else
+   for (i=0;i<st->full_frame_size;i++)
+      out[i]=2*(st->y0[i]-st->y1[i]);   
+#endif
 
    for (i=0;i<st->lpcSize;i++)
       st->old_qlsp[i] = st->qlsp[i];
index d634dc0..6c636e1 100644 (file)
@@ -11,7 +11,7 @@
  ********************************************************************
 
  function: *unnormalized* fft transform
- last mod: $Id: smallft.c,v 1.15 2003/10/08 05:03:47 jm Exp $
+ last mod: $Id: smallft.c,v 1.16 2003/10/08 05:06:01 jm Exp $
 
  ********************************************************************/