Adding code to dump the contents of a mode struct to a C file that can be
[opus.git] / libcelt / quant_bands.c
index 01d42bf..2a612aa 100644 (file)
@@ -1,4 +1,4 @@
-/* (C) 2007 Jean-Marc Valin, CSIRO
+/* (C) 2007-2008 Jean-Marc Valin, CSIRO
 */
 /*
    Redistribution and use in source and binary forms, with or without
@@ -43,7 +43,7 @@
 #ifdef FIXED_POINT
 const celt_word16_t eMeans[24] = {11520, -2048, -3072, -640, 256, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0};
 #else
-const float eMeans[24] = {45.f, -8.f, -12.f, -2.5f, 1.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f};
+const celt_word16_t eMeans[24] = {45.f, -8.f, -12.f, -2.5f, 1.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f, 0.f};
 #endif
 
 /*const int frac[24] = {4, 3, 3, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2};*/
@@ -53,7 +53,7 @@ const int frac[24] = {8, 6, 5, 4, 3, 3, 3, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2
 static inline celt_ener_t dB2Amp(celt_ener_t dB)
 {
    celt_ener_t amp;
-   amp = PSHR32(celt_exp2(dB/6.0207*8),2)-QCONST16(.3f, 14);
+   amp = PSHR32(celt_exp2(MULT16_16_Q14(21771,dB)),2)-QCONST16(.3f, 14);
    if (amp < 0)
       amp = 0;
    return amp;
@@ -81,23 +81,19 @@ static inline celt_word16_t amp2dB(celt_ener_t amp)
 }
 #endif
 
+static const celt_word16_t base_resolution = QCONST16(6.f,8);
 
-#ifdef FIXED_POINT
-#define Q8 256.f
-#define Q8_1 (1.f/256.f)
-#else
-#define Q8 1.f
-#define Q8_1 1.f
-#endif
 static void quant_energy_mono(const CELTMode *m, celt_ener_t *eBands, celt_word16_t *oldEBands, int budget, ec_enc *enc)
 {
    int i;
    int bits;
    celt_word16_t prev = 0;
-   float coef = m->ePredCoef;
+   celt_word16_t coef = m->ePredCoef;
+   celt_word16_t beta;
    VARDECL(celt_word16_t *error);
+   SAVE_STACK;
    /* The .7 is a heuristic */
-   float beta = .7*coef;
+   beta = MULT16_16_Q15(QCONST16(.7f,15),coef);
    
    ALLOC(error, m->nbEBands, celt_word16_t);
    bits = ec_enc_tell(enc, 0);
@@ -105,13 +101,11 @@ static void quant_energy_mono(const CELTMode *m, celt_ener_t *eBands, celt_word1
    {
       int qi;
       celt_word16_t q;   /* dB */
-      celt_word16_t res; /* dB */
       celt_word16_t x;   /* dB */
       celt_word16_t f;   /* Q8 */
-      celt_word16_t mean = (1-coef)*eMeans[i];
+      celt_word16_t mean = MULT16_16_Q15(Q15ONE-coef,eMeans[i]);
       x = amp2dB(eBands[i]);
-      res = DB_SCALING*6;
-      f = QCONST16(1.f,8)*(x-mean-coef*oldEBands[i]-prev*1.f)/res;
+      f = DIV32_16(SHL32(EXTEND32(x-mean-MULT16_16_Q15(coef,oldEBands[i])-prev),8),base_resolution);
 #ifdef FIXED_POINT
       /* Rounding to nearest integer here is really important! */
       qi = (f+128)>>8;
@@ -125,16 +119,16 @@ static void quant_energy_mono(const CELTMode *m, celt_ener_t *eBands, celt_word1
          qi = -1;
       else
          ec_laplace_encode(enc, qi, 6000-i*200);
-      q = qi*res;
+      q = qi*base_resolution;
       error[i] = f - SHL16(qi,8);
       
       /*printf("%d ", qi);*/
       /*printf("%f %f ", pred+prev+q, x);*/
       /*printf("%f ", x-pred);*/
       
-      oldEBands[i] = mean+coef*oldEBands[i]+prev+q;
+      oldEBands[i] = mean+MULT16_16_Q15(coef,oldEBands[i])+prev+q;
       
-      prev = mean+prev+(1-beta)*q;
+      prev = mean+prev+MULT16_16_Q15(Q15ONE-beta,q);
    }
    /*bits = ec_enc_tell(enc, 0) - bits;*/
    /*printf ("%d\n", bits);*/
@@ -149,12 +143,12 @@ static void quant_energy_mono(const CELTMode *m, celt_ener_t *eBands, celt_word1
       /* Has to be without rounding */
       q2 = offset>>8;
 #else
-      q2 = (int)floor(Q8_1*offset);
+      q2 = (int)floor(offset);
 #endif
       if (q2 > frac[i]-1)
          q2 = frac[i]-1;
       ec_enc_uint(enc, q2, frac[i]);
-      offset = (Q8*(q2+.5)/frac[i])-QCONST16(.5f,8);
+      offset = DIV32_16(SHL16(q2,8)+QCONST16(.5,8),frac[i])-QCONST16(.5f,8);
       oldEBands[i] += PSHR32(MULT16_16(DB_SCALING*6,offset),8);
       /*printf ("%f ", error[i] - offset);*/
    }
@@ -165,6 +159,7 @@ static void quant_energy_mono(const CELTMode *m, celt_ener_t *eBands, celt_word1
    /*printf ("%d\n", ec_enc_tell(enc, 0)-9);*/
 
    /*printf ("\n");*/
+   RESTORE_STACK;
 }
 
 static void unquant_energy_mono(const CELTMode *m, celt_ener_t *eBands, celt_word16_t *oldEBands, int budget, ec_dec *dec)
@@ -172,31 +167,29 @@ static void unquant_energy_mono(const CELTMode *m, celt_ener_t *eBands, celt_wor
    int i;
    int bits;
    celt_word16_t prev = 0;
-   float coef = m->ePredCoef;
+   celt_word16_t coef = m->ePredCoef;
    /* The .7 is a heuristic */
-   float beta = .7*coef;
+   celt_word16_t beta = MULT16_16_Q15(QCONST16(.7f,15),coef);
    bits = ec_dec_tell(dec, 0);
    for (i=0;i<m->nbEBands;i++)
    {
       int qi;
       celt_word16_t q;
-      celt_word16_t res;
-      celt_word16_t mean = (1-coef)*eMeans[i];
-      res = DB_SCALING*6.;
+      celt_word16_t mean = MULT16_16_Q15(Q15ONE-coef,eMeans[i]);
       /* If we didn't have enough bits to encode all the energy, just assume something safe. */
       if (ec_dec_tell(dec, 0) - bits > budget)
          qi = -1;
       else
          qi = ec_laplace_decode(dec, 6000-i*200);
-      q = qi*res;
+      q = qi*base_resolution;
       
       /*printf("%d ", qi);*/
       /*printf("%f %f ", pred+prev+q, x);*/
       /*printf("%f ", x-pred);*/
       
-      oldEBands[i] = mean+coef*oldEBands[i]+prev+q;
+      oldEBands[i] = mean+MULT16_16_Q15(coef,oldEBands[i])+prev+q;
       
-      prev = mean+prev+(1-beta)*q;
+      prev = mean+prev+MULT16_16_Q15(Q15ONE-beta,q);
    }
    for (i=0;i<m->nbEBands;i++)
    {
@@ -205,7 +198,7 @@ static void unquant_energy_mono(const CELTMode *m, celt_ener_t *eBands, celt_wor
       if (ec_dec_tell(dec, 0) - bits +EC_ILOG(frac[i])> budget)
          break;
       q2 = ec_dec_uint(dec, frac[i]);
-      offset = (Q8*(q2+.5)/frac[i])-QCONST16(.5f,8);
+      offset = DIV32_16(SHL16(q2,8)+QCONST16(.5,8),frac[i])-QCONST16(.5f,8);
       oldEBands[i] += PSHR32(MULT16_16(DB_SCALING*6,offset),8);
    }
    for (i=0;i<m->nbEBands;i++)
@@ -220,6 +213,7 @@ static void unquant_energy_mono(const CELTMode *m, celt_ener_t *eBands, celt_wor
 void quant_energy(const CELTMode *m, celt_ener_t *eBands, celt_word16_t *oldEBands, int budget, ec_enc *enc)
 {
    int C;
+   SAVE_STACK;
    
    C = m->nbChannels;
 
@@ -246,10 +240,8 @@ void quant_energy(const CELTMode *m, celt_ener_t *eBands, celt_word16_t *oldEBan
    {
       int i;
       int NB = m->nbEBands;
-      float mid[NB];
-      float side[NB];
-      float left;
-      float right;
+      celt_ener_t mid[NB];
+      celt_ener_t side[NB];
       for (i=0;i<NB;i++)
       {
          //left = eBands[C*i];
@@ -275,6 +267,7 @@ void quant_energy(const CELTMode *m, celt_ener_t *eBands, celt_word16_t *oldEBan
       celt_fatal("more than 2 channels not supported");
    }
 #endif
+   RESTORE_STACK;
 }
 
 
@@ -282,6 +275,7 @@ void quant_energy(const CELTMode *m, celt_ener_t *eBands, celt_word16_t *oldEBan
 void unquant_energy(const CELTMode *m, celt_ener_t *eBands, celt_word16_t *oldEBands, int budget, ec_dec *dec)
 {
    int C;   
+   SAVE_STACK;
    C = m->nbChannels;
 
    if (C==1)
@@ -298,4 +292,5 @@ void unquant_energy(const CELTMode *m, celt_ener_t *eBands, celt_word16_t *oldEB
             eBands[C*i+c] = E[i];
       }
    }
+   RESTORE_STACK;
 }