Making the pulsesAtOnce code 16-bit safe.
authorJean-Marc Valin <jean-marc.valin@usherbrooke.ca>
Thu, 27 Mar 2008 13:33:04 +0000 (00:33 +1100)
committerJean-Marc Valin <jean-marc.valin@usherbrooke.ca>
Thu, 27 Mar 2008 13:33:04 +0000 (00:33 +1100)
libcelt/vq.c

index e6265ca..8d9fbfc 100644 (file)
@@ -111,7 +111,7 @@ void alg_quant(celt_norm_t *X, celt_mask_t *W, int N, int K, const celt_norm_t *
    ALLOC(y, N, celt_norm_t);
    ALLOC(iy, N, int);
    ALLOC(signx, N, int);
-   N_1 = 16384/N;
+   N_1 = 512/N;
    
    for (j=0;j<N;j++)
    {
@@ -148,7 +148,7 @@ void alg_quant(celt_norm_t *X, celt_mask_t *W, int N, int K, const celt_norm_t *
       int best_id;
       
       /* Decide on how many pulses to find at once */
-      pulsesAtOnce = (pulsesLeft*N_1)>>14; /* pulsesLeft/N */
+      pulsesAtOnce = (pulsesLeft*N_1)>>9; /* pulsesLeft/N */
       if (pulsesAtOnce<1)
          pulsesAtOnce = 1;