Folding code moved to quant_band() to prevent duplication.
[opus.git] / libcelt / vq.c
index e467e71..442347f 100644 (file)
 #define M_PI 3.141592653
 #endif
 
-static celt_uint32 lcg_rand(celt_uint32 seed)
-{
-   return 1664525 * seed + 1013904223;
-}
-
 static void exp_rotation1(celt_norm *X, int len, int stride, celt_word16 c, celt_word16 s)
 {
    int i;
@@ -171,46 +166,15 @@ void alg_quant(celt_norm *X, int N, int K, int spread, int B, celt_norm *lowband
    celt_word16 s;
    int pulsesLeft;
    celt_word32 sum;
-   celt_word32 xy, yy;
-   int N_1; /* Inverse of N, in Q14 format (even for float) */
-#ifdef FIXED_POINT
-   int yshift;
-#endif
+   celt_word32 xy;
+   celt_word16 yy;
    SAVE_STACK;
 
-   /* When there's no pulse, fill with noise or folded spectrum */
-   if (K==0)
-   {
-      if (lowband != NULL && resynth)
-      {
-         if (spread==2 && B<=1)
-         {
-            for (j=0;j<N;j++)
-            {
-               *seed = lcg_rand(*seed);
-               X[j] = (int)(*seed)>>20;
-            }
-         } else {
-            for (j=0;j<N;j++)
-               X[j] = lowband[j];
-         }
-         renormalise_vector(X, N, gain);
-      } else {
-         /* This is important for encoding the side in stereo mode */
-         for (j=0;j<N;j++)
-            X[j] = 0;
-      }
-      return;
-   }
-   K = get_pulses(K);
-#ifdef FIXED_POINT
-   yshift = 13-celt_ilog2(K);
-#endif
+   celt_assert2(K!=0, "alg_quant() needs at least one pulse");
 
    ALLOC(y, N, celt_norm);
    ALLOC(iy, N, int);
    ALLOC(signx, N, celt_word16);
-   N_1 = 512/N;
    
    exp_rotation(X, N, 1, B, K, spread);
 
@@ -261,7 +225,7 @@ void alg_quant(celt_norm *X, int N, int K, int spread, int B, celt_norm *lowband
 #else
          iy[j] = (int)floor(rcp*X[j]);
 #endif
-         y[j] = SHL16(iy[j],yshift);
+         y[j] = iy[j];
          yy = MAC16_16(yy, y[j],y[j]);
          xy = MAC16_16(xy, X[j],y[j]);
          y[j] *= 2;
@@ -277,14 +241,14 @@ void alg_quant(celt_norm *X, int N, int K, int spread, int B, celt_norm *lowband
 #endif
    if (pulsesLeft > N+3)
    {
-      celt_word16 tmp = SHL16(pulsesLeft, yshift);
+      celt_word16 tmp = pulsesLeft;
       yy = MAC16_16(yy, tmp, tmp);
       yy = MAC16_16(yy, tmp, y[0]);
       iy[0] += pulsesLeft;
       pulsesLeft=0;
    }
 
-   s = SHL16(1, yshift);
+   s = 1;
    for (i=0;i<pulsesLeft;i++)
    {
       int best_id;
@@ -294,23 +258,20 @@ void alg_quant(celt_norm *X, int N, int K, int spread, int B, celt_norm *lowband
       int rshift;
 #endif
 #ifdef FIXED_POINT
-      rshift = yshift+1+celt_ilog2(K-pulsesLeft+i+1);
+      rshift = 1+celt_ilog2(K-pulsesLeft+i+1);
 #endif
-
       best_id = 0;
       /* The squared magnitude term gets added anyway, so we might as well 
          add it outside the loop */
-      yy = MAC16_16(yy, s,s);
-      /* Choose between fast and accurate strategy depending on where we are in the search */
-         /* This should ensure that anything we can process will have a better score */
+      yy = ADD32(yy, 1);
       j=0;
       do {
          celt_word16 Rxy, Ryy;
          /* Temporary sums of the new pulse(s) */
-         Rxy = EXTRACT16(SHR32(MAC16_16(xy, s,X[j]),rshift));
+         Rxy = EXTRACT16(SHR32(ADD32(xy, EXTEND32(X[j])),rshift));
          /* We're multiplying y[j] by two so we don't have to do it here */
-         Ryy = EXTRACT16(SHR32(MAC16_16(yy, s,y[j]),rshift));
-            
+         Ryy = ADD16(yy, y[j]);
+
          /* Approximate score: we maximise Rxy/sqrt(Ryy) (we're guaranteed that
             Rxy is positive because the sign is pre-computed) */
          Rxy = MULT16_16_Q15(Rxy,Rxy);
@@ -325,17 +286,15 @@ void alg_quant(celt_norm *X, int N, int K, int spread, int B, celt_norm *lowband
          }
       } while (++j<N);
       
-      j = best_id;
-
       /* Updating the sums of the new pulse(s) */
-      xy = xy + MULT16_16(s,X[j]);
+      xy = ADD32(xy, EXTEND32(X[best_id]));
       /* We're multiplying y[j] by two so we don't have to do it here */
-      yy = yy + MULT16_16(s,y[j]);
+      yy = ADD16(yy, y[best_id]);
 
       /* Only now that we've made the final choice, update y/iy */
       /* Multiplying y[j] by 2 so we don't have to do it everywhere else */
-      y[j] += 2*s;
-      iy[j]++;
+      y[best_id] += 2*s;
+      iy[best_id]++;
    }
 
    /* Put the original sign back */
@@ -349,7 +308,7 @@ void alg_quant(celt_norm *X, int N, int K, int spread, int B, celt_norm *lowband
    
    if (resynth)
    {
-      normalise_residual(iy, X, N, K, EXTRACT16(SHR32(yy,2*yshift)), gain);
+      normalise_residual(iy, X, N, K, yy, gain);
       exp_rotation(X, N, -1, B, K, spread);
    }
    RESTORE_STACK;
@@ -366,30 +325,7 @@ void alg_unquant(celt_norm *X, int N, int K, int spread, int B,
    VARDECL(int, iy);
    SAVE_STACK;
 
-   if (K==0)
-   {
-      if (lowband != NULL)
-      {
-         if (spread==2 && B<=1)
-         {
-            for (i=0;i<N;i++)
-            {
-               *seed = lcg_rand(*seed);
-               X[i] = (int)(*seed)>>20;
-            }
-         } else {
-            for (i=0;i<N;i++)
-               X[i] = lowband[i];
-         }
-         renormalise_vector(X, N, gain);
-      } else {
-         /* This is important for encoding the side in stereo mode */
-         for (i=0;i<N;i++)
-            X[i] = 0;
-      }
-      return;
-   }
-   K = get_pulses(K);
+   celt_assert2(K!=0, "alg_unquant() needs at least one pulse");
    ALLOC(iy, N, int);
    decode_pulses(iy, N, K, dec);
    Ryy = 0;