Adding code to dump the contents of a mode struct to a C file that can be
[opus.git] / libcelt / quant_bands.c
index 1f65381..2a612aa 100644 (file)
@@ -1,4 +1,4 @@
-/* (C) 2007 Jean-Marc Valin, CSIRO
+/* (C) 2007-2008 Jean-Marc Valin, CSIRO
 */
 /*
    Redistribution and use in source and binary forms, with or without
    SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
 */
 
+#ifdef HAVE_CONFIG_H
+#include "config.h"
+#endif
 
 #include "quant_bands.h"
 #include "laplace.h"
 #include <math.h>
 #include "os_support.h"
+#include "arch.h"
+#include "mathops.h"
 
-const float eMeans[24] = {45.f, -8.f, -12.f, -2.5f, 1.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f};
+#ifdef FIXED_POINT
+const celt_word16_t eMeans[24] = {11520, -2048, -3072, -640, 256, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0};
+#else
+const celt_word16_t eMeans[24] = {45.f, -8.f, -12.f, -2.5f, 1.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f};
+#endif
 
+/*const int frac[24] = {4, 3, 3, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2};*/
 const int frac[24] = {8, 6, 5, 4, 3, 3, 3, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2};
 
-static void quant_energy_mono(const CELTMode *m, float *eBands, float *oldEBands, int budget, ec_enc *enc)
+#ifdef FIXED_POINT
+static inline celt_ener_t dB2Amp(celt_ener_t dB)
+{
+   celt_ener_t amp;
+   amp = PSHR32(celt_exp2(MULT16_16_Q14(21771,dB)),2)-QCONST16(.3f, 14);
+   if (amp < 0)
+      amp = 0;
+   return amp;
+}
+
+#define DBofTWO 24661
+static inline celt_word16_t amp2dB(celt_ener_t amp)
+{
+   /* equivalent to return 6.0207*log2(.3+amp) */
+   return ROUND(MULT16_16(24661,celt_log2(ADD32(QCONST32(.3f,14),amp))),12);
+   /* return DB_SCALING*20*log10(.3+ENER_SCALING_1*amp); */
+}
+#else
+static inline celt_ener_t dB2Amp(celt_ener_t dB)
+{
+   celt_ener_t amp;
+   amp = pow(10, .05*dB)-.3;
+   if (amp < 0)
+      amp = 0;
+   return amp;
+}
+static inline celt_word16_t amp2dB(celt_ener_t amp)
+{
+   return 20*log10(.3+amp);
+}
+#endif
+
+static const celt_word16_t base_resolution = QCONST16(6.f,8);
+
+static void quant_energy_mono(const CELTMode *m, celt_ener_t *eBands, celt_word16_t *oldEBands, int budget, ec_enc *enc)
 {
    int i;
    int bits;
-   float prev = 0;
-   float coef = m->ePredCoef;
-   float error[m->nbEBands];
+   celt_word16_t prev = 0;
+   celt_word16_t coef = m->ePredCoef;
+   celt_word16_t beta;
+   VARDECL(celt_word16_t *error);
+   SAVE_STACK;
    /* The .7 is a heuristic */
-   float beta = .7*coef;
+   beta = MULT16_16_Q15(QCONST16(.7f,15),coef);
+   
+   ALLOC(error, m->nbEBands, celt_word16_t);
    bits = ec_enc_tell(enc, 0);
    for (i=0;i<m->nbEBands;i++)
    {
       int qi;
-      float q;
-      float res;
-      float x;
-      float f;
-      float mean = (1-coef)*eMeans[i];
-      x = 20*log10(.3+eBands[i]);
-      res = 6.;
-      //res = 1;
-      f = (x-mean-coef*oldEBands[i]-prev)/res;
+      celt_word16_t q;   /* dB */
+      celt_word16_t x;   /* dB */
+      celt_word16_t f;   /* Q8 */
+      celt_word16_t mean = MULT16_16_Q15(Q15ONE-coef,eMeans[i]);
+      x = amp2dB(eBands[i]);
+      f = DIV32_16(SHL32(EXTEND32(x-mean-MULT16_16_Q15(coef,oldEBands[i])-prev),8),base_resolution);
+#ifdef FIXED_POINT
+      /* Rounding to nearest integer here is really important! */
+      qi = (f+128)>>8;
+#else
       qi = (int)floor(.5+f);
-      //if (i> 4 && qi<-2)
-      //   qi = -2;
-      //ec_laplace_encode(enc, qi, i==0?11192:6192);
-      //ec_laplace_encode(enc, qi, 8500-i*200);
+#endif
+      /*ec_laplace_encode(enc, qi, i==0?11192:6192);*/
+      /*ec_laplace_encode(enc, qi, 8500-i*200);*/
+      /* If we don't have enough bits to encode all the energy, just assume something safe. */
       if (ec_enc_tell(enc, 0) - bits > budget)
          qi = -1;
       else
          ec_laplace_encode(enc, qi, 6000-i*200);
-      q = qi*res;
-      error[i] = f - qi;
+      q = qi*base_resolution;
+      error[i] = f - SHL16(qi,8);
       
-      //printf("%d ", qi);
-      //printf("%f %f ", pred+prev+q, x);
-      //printf("%f ", x-pred);
+      /*printf("%d ", qi);*/
+      /*printf("%f %f ", pred+prev+q, x);*/
+      /*printf("%f ", x-pred);*/
       
-      oldEBands[i] = mean+coef*oldEBands[i]+prev+q;
+      oldEBands[i] = mean+MULT16_16_Q15(coef,oldEBands[i])+prev+q;
       
-      prev = mean+prev+(1-beta)*q;
+      prev = mean+prev+MULT16_16_Q15(Q15ONE-beta,q);
    }
-   //bits = ec_enc_tell(enc, 0) - bits;
-   //printf ("%d\n", bits);
+   /*bits = ec_enc_tell(enc, 0) - bits;*/
+   /*printf ("%d\n", bits);*/
    for (i=0;i<m->nbEBands;i++)
    {
       int q2;
-      float offset = (error[i]+.5)*frac[i];
-      if (ec_enc_tell(enc, 0) - bits +ec_ilog(frac[i])> budget)
+      celt_word16_t offset = (error[i]+QCONST16(.5f,8))*frac[i];
+      /* FIXME: Instead of giving up without warning, we should degrade everything gracefully */
+      if (ec_enc_tell(enc, 0) - bits +EC_ILOG(frac[i])> budget)
          break;
+#ifdef FIXED_POINT
+      /* Has to be without rounding */
+      q2 = offset>>8;
+#else
       q2 = (int)floor(offset);
+#endif
       if (q2 > frac[i]-1)
          q2 = frac[i]-1;
       ec_enc_uint(enc, q2, frac[i]);
-      offset = ((q2+.5)/frac[i])-.5;
-      oldEBands[i] += 6.*offset;
-      //printf ("%f ", error[i] - offset);
+      offset = DIV32_16(SHL16(q2,8)+QCONST16(.5,8),frac[i])-QCONST16(.5f,8);
+      oldEBands[i] += PSHR32(MULT16_16(DB_SCALING*6,offset),8);
+      /*printf ("%f ", error[i] - offset);*/
    }
    for (i=0;i<m->nbEBands;i++)
    {
-      eBands[i] = pow(10, .05*oldEBands[i])-.3;
-      if (eBands[i] < 0)
-         eBands[i] = 0;
+      eBands[i] = dB2Amp(oldEBands[i]);
    }
-   //printf ("%d\n", ec_enc_tell(enc, 0)-9);
+   /*printf ("%d\n", ec_enc_tell(enc, 0)-9);*/
 
-   //printf ("\n");
+   /*printf ("\n");*/
+   RESTORE_STACK;
 }
 
-static void unquant_energy_mono(const CELTMode *m, float *eBands, float *oldEBands, int budget, ec_dec *dec)
+static void unquant_energy_mono(const CELTMode *m, celt_ener_t *eBands, celt_word16_t *oldEBands, int budget, ec_dec *dec)
 {
    int i;
    int bits;
-   float prev = 0;
-   float coef = m->ePredCoef;
+   celt_word16_t prev = 0;
+   celt_word16_t coef = m->ePredCoef;
    /* The .7 is a heuristic */
-   float beta = .7*coef;
+   celt_word16_t beta = MULT16_16_Q15(QCONST16(.7f,15),coef);
    bits = ec_dec_tell(dec, 0);
    for (i=0;i<m->nbEBands;i++)
    {
       int qi;
-      float q;
-      float res;
-      float mean = (1-coef)*eMeans[i];
-      res = 6.;
+      celt_word16_t q;
+      celt_word16_t mean = MULT16_16_Q15(Q15ONE-coef,eMeans[i]);
+      /* If we didn't have enough bits to encode all the energy, just assume something safe. */
       if (ec_dec_tell(dec, 0) - bits > budget)
          qi = -1;
       else
          qi = ec_laplace_decode(dec, 6000-i*200);
-      q = qi*res;
+      q = qi*base_resolution;
+      
+      /*printf("%d ", qi);*/
+      /*printf("%f %f ", pred+prev+q, x);*/
+      /*printf("%f ", x-pred);*/
       
-      oldEBands[i] = mean+coef*oldEBands[i]+prev+q;
+      oldEBands[i] = mean+MULT16_16_Q15(coef,oldEBands[i])+prev+q;
       
-      prev = mean+prev+(1-beta)*q;
+      prev = mean+prev+MULT16_16_Q15(Q15ONE-beta,q);
    }
    for (i=0;i<m->nbEBands;i++)
    {
       int q2;
-      float offset;
-      if (ec_dec_tell(dec, 0) - bits +ec_ilog(frac[i])> budget)
+      celt_word16_t offset;
+      if (ec_dec_tell(dec, 0) - bits +EC_ILOG(frac[i])> budget)
          break;
       q2 = ec_dec_uint(dec, frac[i]);
-      offset = ((q2+.5)/frac[i])-.5;
-      oldEBands[i] += 6.*offset;
+      offset = DIV32_16(SHL16(q2,8)+QCONST16(.5,8),frac[i])-QCONST16(.5f,8);
+      oldEBands[i] += PSHR32(MULT16_16(DB_SCALING*6,offset),8);
    }
    for (i=0;i<m->nbEBands;i++)
    {
-      //printf ("%f ", error[i] - offset);
-      eBands[i] = pow(10, .05*oldEBands[i])-.3;
-      if (eBands[i] < 0)
-         eBands[i] = 0;
+      eBands[i] = dB2Amp(oldEBands[i]);
    }
-   //printf ("\n");
+   /*printf ("\n");*/
 }
 
 
 
-void quant_energy(const CELTMode *m, float *eBands, float *oldEBands, int budget, ec_enc *enc)
+void quant_energy(const CELTMode *m, celt_ener_t *eBands, celt_word16_t *oldEBands, int budget, ec_enc *enc)
 {
    int C;
+   SAVE_STACK;
    
    C = m->nbChannels;
 
@@ -168,10 +223,11 @@ void quant_energy(const CELTMode *m, float *eBands, float *oldEBands, int budget
 #if 1
    {
       int c;
+      VARDECL(celt_ener_t *E);
+      ALLOC(E, m->nbEBands, celt_ener_t);
       for (c=0;c<C;c++)
       {
          int i;
-         float E[m->nbEBands];
          for (i=0;i<m->nbEBands;i++)
             E[i] = eBands[C*i+c];
          quant_energy_mono(m, E, oldEBands+c*m->nbEBands, budget/C, enc);
@@ -184,16 +240,14 @@ void quant_energy(const CELTMode *m, float *eBands, float *oldEBands, int budget
    {
       int i;
       int NB = m->nbEBands;
-      float mid[NB];
-      float side[NB];
-      float left;
-      float right;
+      celt_ener_t mid[NB];
+      celt_ener_t side[NB];
       for (i=0;i<NB;i++)
       {
          //left = eBands[C*i];
          //right = eBands[C*i+1];
-         mid[i] = sqrt(eBands[C*i]*eBands[C*i] + eBands[C*i+1]*eBands[C*i+1]);
-         side[i] = 20*log10((eBands[2*i]+.3)/(eBands[2*i+1]+.3));
+         mid[i] = ENER_SCALING_1*sqrt(eBands[C*i]*eBands[C*i] + eBands[C*i+1]*eBands[C*i+1]);
+         side[i] = 20*log10((ENER_SCALING_1*eBands[2*i]+.3)/(ENER_SCALING_1*eBands[2*i+1]+.3));
          //printf ("%f %f ", mid[i], side[i]);
       }
       //printf ("\n");
@@ -204,8 +258,8 @@ void quant_energy(const CELTMode *m, float *eBands, float *oldEBands, int budget
       //quant_energy_side(m, side, oldEBands+NB, enc);
       for (i=0;i<NB;i++)
       {
-         eBands[C*i] = mid[i]*sqrt(side[i]/(1.f+side[i]));
-         eBands[C*i+1] = mid[i]*sqrt(1.f/(1.f+side[i]));
+         eBands[C*i] = ENER_SCALING*mid[i]*sqrt(side[i]/(1.f+side[i]));
+         eBands[C*i+1] = ENER_SCALING*mid[i]*sqrt(1.f/(1.f+side[i]));
          //printf ("%f %f ", mid[i], side[i]);
       }
 
@@ -213,26 +267,30 @@ void quant_energy(const CELTMode *m, float *eBands, float *oldEBands, int budget
       celt_fatal("more than 2 channels not supported");
    }
 #endif
+   RESTORE_STACK;
 }
 
 
 
-void unquant_energy(const CELTMode *m, float *eBands, float *oldEBands, int budget, ec_dec *dec)
+void unquant_energy(const CELTMode *m, celt_ener_t *eBands, celt_word16_t *oldEBands, int budget, ec_dec *dec)
 {
    int C;   
+   SAVE_STACK;
    C = m->nbChannels;
 
    if (C==1)
       unquant_energy_mono(m, eBands, oldEBands, budget, dec);
    else {
       int c;
+      VARDECL(celt_ener_t *E);
+      ALLOC(E, m->nbEBands, celt_ener_t);
       for (c=0;c<C;c++)
       {
          int i;
-         float E[m->nbEBands];
          unquant_energy_mono(m, E, oldEBands+c*m->nbEBands, budget/C, dec);
          for (i=0;i<m->nbEBands;i++)
             eBands[C*i+c] = E[i];
       }
    }
+   RESTORE_STACK;
 }