Adjusting pre-emphasis coefs to be exact in 16-bit precision
[opus.git] / libcelt / rate.c
index 1892944..5d85f55 100644 (file)
 #include "rate.h"
 
 
 #include "rate.h"
 
 
+static const unsigned char LOG2_FRAC_TABLE[24]={
+   0,
+   8,13,
+  16,19,21,23,
+  24,26,27,28,29,30,31,32,
+  32,33,34,34,35,36,36,37,37
+};
+
 #ifndef STATIC_MODES
 
 /*Determines if V(N,K) fits in a 32-bit unsigned integer.
 #ifndef STATIC_MODES
 
 /*Determines if V(N,K) fits in a 32-bit unsigned integer.
@@ -140,15 +148,17 @@ void compute_pulse_cache(CELTMode *m, int LM)
 
 #define ALLOC_STEPS 6
 
 
 #define ALLOC_STEPS 6
 
-static inline int interp_bits2pulses(const CELTMode *m, int start, int end,
-      const int *bits1, const int *bits2, const int *thresh, int total, int *bits,
-      int *ebits, int *fine_priority, int len, int _C, int LM, void *ec, int encode, int prev)
+static inline int interp_bits2pulses(const CELTMode *m, int start, int end, int skip_start,
+      const int *bits1, const int *bits2, const int *thresh, int total, int skip_rsv,
+      int *intensity, int intensity_rsv, int *dual_stereo, int dual_stereo_rsv, int *bits,
+      int *ebits, int *fine_priority, int _C, int LM, void *ec, int encode, int prev)
 {
    int psum;
    int lo, hi;
    int i, j;
    int logM;
    const int C = CHANNELS(_C);
 {
    int psum;
    int lo, hi;
    int i, j;
    int logM;
    const int C = CHANNELS(_C);
+   int stereo;
    int codedBands=-1;
    int alloc_floor;
    int left, percoeff;
    int codedBands=-1;
    int alloc_floor;
    int left, percoeff;
@@ -157,6 +167,7 @@ static inline int interp_bits2pulses(const CELTMode *m, int start, int end,
    SAVE_STACK;
 
    alloc_floor = C<<BITRES;
    SAVE_STACK;
 
    alloc_floor = C<<BITRES;
+   stereo = C>1;
 
    logM = LM<<BITRES;
    lo = 0;
 
    logM = LM<<BITRES;
    lo = 0;
@@ -211,18 +222,23 @@ static inline int interp_bits2pulses(const CELTMode *m, int start, int end,
       int band_bits;
       int rem;
       j = codedBands-1;
       int band_bits;
       int rem;
       j = codedBands-1;
+      /* Never skip the first band, nor a band that has been boosted by
+          dynalloc.
+         In the first case, we'd be coding a bit to signal we're going to waste
+          all the other bits.
+         In the second case, we'd be coding a bit to redistribute all the bits
+          we just signaled should be cocentrated in this band. */
+      if (j<=skip_start)
+      {
+         /* Give the bit we reserved to end skipping back. */
+         total += skip_rsv;
+         break;
+      }
       /*Figure out how many left-over bits we would be adding to this band.
         This can include bits we've stolen back from higher, skipped bands.*/
       left = total-psum;
       percoeff = left/(m->eBands[codedBands]-m->eBands[start]);
       left -= (m->eBands[codedBands]-m->eBands[start])*percoeff;
       /*Figure out how many left-over bits we would be adding to this band.
         This can include bits we've stolen back from higher, skipped bands.*/
       left = total-psum;
       percoeff = left/(m->eBands[codedBands]-m->eBands[start]);
       left -= (m->eBands[codedBands]-m->eBands[start])*percoeff;
-      /* Never skip the first band: we'd be coding a bit to signal that we're
-          going to waste all the other bits.
-         This means we won't be using the extra bit we reserved to signal the
-          end of manual skipping, but that will get added back in by
-          quant_all_bands().*/
-      if (j<=start)
-         break;
       rem = IMAX(left-(m->eBands[j]-m->eBands[start]),0);
       band_width = m->eBands[codedBands]-m->eBands[j];
       band_bits = bits[j] + percoeff*band_width + rem;
       rem = IMAX(left-(m->eBands[j]-m->eBands[start]),0);
       band_width = m->eBands[codedBands]-m->eBands[j];
       band_bits = bits[j] + percoeff*band_width + rem;
@@ -240,11 +256,11 @@ static inline int interp_bits2pulses(const CELTMode *m, int start, int end,
                fluctuating in and out.*/
             if (band_bits > ((j<prev?7:9)*band_width<<LM<<BITRES)>>4)
             {
                fluctuating in and out.*/
             if (band_bits > ((j<prev?7:9)*band_width<<LM<<BITRES)>>4)
             {
-               ec_enc_bit_prob((ec_enc *)ec, 1, 32768);
+               ec_enc_bit_logp((ec_enc *)ec, 1, 1);
                break;
             }
                break;
             }
-            ec_enc_bit_prob((ec_enc *)ec, 0, 32768);
-         } else if (ec_dec_bit_prob((ec_dec *)ec, 32768)) {
+            ec_enc_bit_logp((ec_enc *)ec, 0, 1);
+         } else if (ec_dec_bit_logp((ec_dec *)ec, 1)) {
             break;
          }
          /*We used a bit to skip this band.*/
             break;
          }
          /*We used a bit to skip this band.*/
@@ -252,7 +268,10 @@ static inline int interp_bits2pulses(const CELTMode *m, int start, int end,
          band_bits -= 1<<BITRES;
       }
       /*Reclaim the bits originally allocated to this band.*/
          band_bits -= 1<<BITRES;
       }
       /*Reclaim the bits originally allocated to this band.*/
-      psum -= bits[j];
+      psum -= bits[j]+intensity_rsv;
+      if (intensity_rsv > 0)
+         intensity_rsv = LOG2_FRAC_TABLE[j-start];
+      psum += intensity_rsv;
       if (band_bits >= alloc_floor)
       {
          /*If we have enough for a fine energy bit per channel, use it.*/
       if (band_bits >= alloc_floor)
       {
          /*If we have enough for a fine energy bit per channel, use it.*/
@@ -264,16 +283,46 @@ static inline int interp_bits2pulses(const CELTMode *m, int start, int end,
       }
    }
 
       }
    }
 
-   /* Allocate the remaining bits */
-   if (codedBands>start) {
-      for (j=start;j<codedBands;j++)
-         bits[j] += percoeff*(m->eBands[j+1]-m->eBands[j]);
-      for (j=start;j<codedBands;j++)
+   celt_assert(codedBands > start);
+   /* Code the intensity and dual stereo parameters. */
+   if (intensity_rsv > 0)
+   {
+      if (encode)
       {
       {
-         int tmp = IMIN(left, m->eBands[j+1]-m->eBands[j]);
-         bits[j] += tmp;
-         left -= tmp;
+         *intensity = IMIN(*intensity, codedBands);
+         ec_enc_uint((ec_enc *)ec, *intensity-start, codedBands+1-start);
       }
       }
+      else
+         *intensity = start+ec_dec_uint((ec_dec *)ec, codedBands+1-start);
+   }
+   else
+      *intensity = 0;
+   if (*intensity <= start)
+   {
+      total += dual_stereo_rsv;
+      dual_stereo_rsv = 0;
+   }
+   if (dual_stereo_rsv > 0)
+   {
+      if (encode)
+         ec_enc_bit_logp((ec_enc *)ec, *dual_stereo, 1);
+      else
+         *dual_stereo = ec_dec_bit_logp((ec_dec *)ec, 1);
+   }
+   else
+      *dual_stereo = 0;
+
+   /* Allocate the remaining bits */
+   left = total-psum;
+   percoeff = left/(m->eBands[codedBands]-m->eBands[start]);
+   left -= (m->eBands[codedBands]-m->eBands[start])*percoeff;
+   for (j=start;j<codedBands;j++)
+      bits[j] += percoeff*(m->eBands[j+1]-m->eBands[j]);
+   for (j=start;j<codedBands;j++)
+   {
+      int tmp = IMIN(left, m->eBands[j+1]-m->eBands[j]);
+      bits[j] += tmp;
+      left -= tmp;
    }
    /*for (j=0;j<end;j++)printf("%d ", bits[j]);printf("\n");*/
 
    }
    /*for (j=0;j<end;j++)printf("%d ", bits[j]);printf("\n");*/
 
@@ -313,21 +362,20 @@ static inline int interp_bits2pulses(const CELTMode *m, int start, int end,
          /* Divide with rounding */
          ebits[j] = IMAX(0, (bits[j] + offset + (den<<(BITRES-1))) / (den<<BITRES));
 
          /* Divide with rounding */
          ebits[j] = IMAX(0, (bits[j] + offset + (den<<(BITRES-1))) / (den<<BITRES));
 
-         /* If we rounded down, make it a candidate for final
-             fine energy pass */
-         fine_priority[j] = ebits[j]*(den<<BITRES) >= bits[j]+offset;
-
          /* Make sure not to bust */
          if (C*ebits[j] > (bits[j]>>BITRES))
          /* Make sure not to bust */
          if (C*ebits[j] > (bits[j]>>BITRES))
-            ebits[j] = bits[j]/C >> BITRES;
+            ebits[j] = bits[j] >> stereo >> BITRES;
 
 
-         /* More than 7 is useless because that's about as far as PVQ can go */
-         if (ebits[j]>7)
-            ebits[j]=7;
+         /* More than that is useless because that's about as far as PVQ can go */
+         ebits[j] = IMIN(ebits[j], MAX_FINE_BITS);
+
+         /* If we rounded down or capped this band, make it a candidate for the
+             final fine energy pass */
+         fine_priority[j] = ebits[j]*(den<<BITRES) >= bits[j]+offset;
 
       } else {
          /* For N=1, all bits go to fine energy except for a single sign bit */
 
       } else {
          /* For N=1, all bits go to fine energy except for a single sign bit */
-         ebits[j] = IMIN(IMAX(0,(bits[j]/C >> BITRES)-1),7);
+         ebits[j] = IMIN(IMAX(0,(bits[j] >> stereo >> BITRES)-1),MAX_FINE_BITS);
          fine_priority[j] = (ebits[j]+1)*C<<BITRES >= (bits[j]-balance);
          /* N=1 bands can't take advantage of the re-balancing in
              quant_all_bands() because they don't have shape, only fine energy.
          fine_priority[j] = (ebits[j]+1)*C<<BITRES >= (bits[j]-balance);
          /* N=1 bands can't take advantage of the re-balancing in
              quant_all_bands() because they don't have shape, only fine energy.
@@ -348,7 +396,7 @@ static inline int interp_bits2pulses(const CELTMode *m, int start, int end,
    /* The skipped bands use all their bits for fine energy. */
    for (;j<end;j++)
    {
    /* The skipped bands use all their bits for fine energy. */
    for (;j<end;j++)
    {
-      ebits[j] = bits[j]/C >> BITRES;
+      ebits[j] = bits[j] >> stereo >> BITRES;
       celt_assert(C*ebits[j]<<BITRES == bits[j]);
       bits[j] = 0;
       fine_priority[j] = ebits[j]<1;
       celt_assert(C*ebits[j]<<BITRES == bits[j]);
       bits[j] = 0;
       fine_priority[j] = ebits[j]<1;
@@ -357,12 +405,16 @@ static inline int interp_bits2pulses(const CELTMode *m, int start, int end,
    return codedBands;
 }
 
    return codedBands;
 }
 
-int compute_allocation(const CELTMode *m, int start, int end, const int *offsets, int alloc_trim,
+int compute_allocation(const CELTMode *m, int start, int end, const int *offsets, int alloc_trim, int *intensity, int *dual_stereo,
       int total, int *pulses, int *ebits, int *fine_priority, int _C, int LM, void *ec, int encode, int prev)
 {
    int lo, hi, len, j;
    const int C = CHANNELS(_C);
    int codedBands;
       int total, int *pulses, int *ebits, int *fine_priority, int _C, int LM, void *ec, int encode, int prev)
 {
    int lo, hi, len, j;
    const int C = CHANNELS(_C);
    int codedBands;
+   int skip_start;
+   int skip_rsv;
+   int intensity_rsv;
+   int dual_stereo_rsv;
    VARDECL(int, bits1);
    VARDECL(int, bits2);
    VARDECL(int, thresh);
    VARDECL(int, bits1);
    VARDECL(int, bits2);
    VARDECL(int, thresh);
@@ -371,62 +423,93 @@ int compute_allocation(const CELTMode *m, int start, int end, const int *offsets
    
    total = IMAX(total, 0);
    len = m->nbEBands;
    
    total = IMAX(total, 0);
    len = m->nbEBands;
+   skip_start = start;
+   /* Reserve a bit to signal the end of manually skipped bands. */
+   skip_rsv = total >= 1<<BITRES ? 1<<BITRES : 0;
+   total -= skip_rsv;
+   /* Reserve bits for the intensity and dual stereo parameters. */
+   intensity_rsv = dual_stereo_rsv = 0;
+   if (C==2)
+   {
+      intensity_rsv = LOG2_FRAC_TABLE[end-start];
+      if (intensity_rsv>total)
+         intensity_rsv = 0;
+      else
+      {
+         total -= intensity_rsv;
+         dual_stereo_rsv = total>=1<<BITRES ? 1<<BITRES : 0;
+         total -= dual_stereo_rsv;
+      }
+   }
    ALLOC(bits1, len, int);
    ALLOC(bits2, len, int);
    ALLOC(thresh, len, int);
    ALLOC(trim_offset, len, int);
 
    ALLOC(bits1, len, int);
    ALLOC(bits2, len, int);
    ALLOC(thresh, len, int);
    ALLOC(trim_offset, len, int);
 
-   /* Below this threshold, we're sure not to allocate any PVQ bits */
    for (j=start;j<end;j++)
    for (j=start;j<end;j++)
+   {
+      /* Below this threshold, we're sure not to allocate any PVQ bits */
       thresh[j] = IMAX((C)<<BITRES, (3*(m->eBands[j+1]-m->eBands[j])<<LM<<BITRES)>>4);
       thresh[j] = IMAX((C)<<BITRES, (3*(m->eBands[j+1]-m->eBands[j])<<LM<<BITRES)>>4);
-   /* Tilt of the allocation curve */
-   for (j=start;j<end;j++)
+      /* Tilt of the allocation curve */
       trim_offset[j] = C*(m->eBands[j+1]-m->eBands[j])*(alloc_trim-5-LM)*(m->nbEBands-j-1)
             <<(LM+BITRES)>>6;
       trim_offset[j] = C*(m->eBands[j+1]-m->eBands[j])*(alloc_trim-5-LM)*(m->nbEBands-j-1)
             <<(LM+BITRES)>>6;
-
-   lo = 0;
-   hi = m->nbAllocVectors - 1;
-   while (hi-lo != 1)
+      /* Giving less resolution to single-coefficient bands because they get
+         more benefit from having one coarse value per coefficient*/
+      if ((m->eBands[j+1]-m->eBands[j])<<LM==1)
+         trim_offset[j] -= C<<BITRES;
+   }
+   lo = 1;
+   hi = m->nbAllocVectors - 2;
+   do
    {
    {
+      int done = 0;
       int psum = 0;
       int mid = (lo+hi) >> 1;
       int psum = 0;
       int mid = (lo+hi) >> 1;
-      for (j=start;j<end;j++)
+      for (j=end;j-->start;)
       {
          int N = m->eBands[j+1]-m->eBands[j];
          bits1[j] = C*N*m->allocVectors[mid*len+j]<<LM>>2;
          if (bits1[j] > 0)
       {
          int N = m->eBands[j+1]-m->eBands[j];
          bits1[j] = C*N*m->allocVectors[mid*len+j]<<LM>>2;
          if (bits1[j] > 0)
-            bits1[j] += trim_offset[j];
-         if (bits1[j] < 0)
-            bits1[j] = 0;
+            bits1[j] = IMAX(0, bits1[j] + trim_offset[j]);
          bits1[j] += offsets[j];
          bits1[j] += offsets[j];
-         if (bits1[j] >= thresh[j])
-            psum += bits1[j];
-         else if (bits1[j] >= C<<BITRES)
-            psum += C<<BITRES;
-
-         /*printf ("%d ", bits[j]);*/
+         if (bits1[j] >= thresh[j] || done)
+         {
+            done = 1;
+            /* Don't allocate more than we can actually use */
+            psum += IMIN(bits1[j], 64*C<<BITRES<<LM);
+         } else {
+            if (bits1[j] >= C<<BITRES)
+               psum += C<<BITRES;
+         }
       }
       }
-      /*printf ("\n");*/
       if (psum > total)
       if (psum > total)
-         hi = mid;
+         hi = mid - 1;
       else
       else
-         lo = mid;
+         lo = mid + 1;
       /*printf ("lo = %d, hi = %d\n", lo, hi);*/
    }
       /*printf ("lo = %d, hi = %d\n", lo, hi);*/
    }
+   while (lo <= hi);
+   hi = lo--;
    /*printf ("interp between %d and %d\n", lo, hi);*/
    for (j=start;j<end;j++)
    {
       int N = m->eBands[j+1]-m->eBands[j];
    /*printf ("interp between %d and %d\n", lo, hi);*/
    for (j=start;j<end;j++)
    {
       int N = m->eBands[j+1]-m->eBands[j];
-      bits1[j] = (C*N*m->allocVectors[lo*len+j]<<LM>>2);
-      bits2[j] = (C*N*m->allocVectors[hi*len+j]<<LM>>2) - bits1[j];
+      bits1[j] = C*N*m->allocVectors[lo*len+j]<<LM>>2;
+      bits2[j] = C*N*m->allocVectors[hi*len+j]<<LM>>2;
       if (bits1[j] > 0)
       if (bits1[j] > 0)
-         bits1[j] += trim_offset[j];
-      if (bits1[j] < 0)
-         bits1[j] = 0;
-      bits1[j] += offsets[j];
+         bits1[j] = IMAX(0, bits1[j] + trim_offset[j]);
+      if (bits2[j] > 0)
+         bits2[j] = IMAX(0, bits2[j] + trim_offset[j]);
+      if (lo > 0)
+         bits1[j] += offsets[j];
+      bits2[j] += offsets[j];
+      if (offsets[j]>0)
+         skip_start = j;
+      bits2[j] -= bits1[j];
    }
    }
-   codedBands = interp_bits2pulses(m, start, end, bits1, bits2, thresh,
-         total, pulses, ebits, fine_priority, len, C, LM, ec, encode, prev);
+   codedBands = interp_bits2pulses(m, start, end, skip_start, bits1, bits2, thresh,
+         total, skip_rsv, intensity, intensity_rsv, dual_stereo, dual_stereo_rsv,
+         pulses, ebits, fine_priority, C, LM, ec, encode, prev);
    RESTORE_STACK;
    return codedBands;
 }
    RESTORE_STACK;
    return codedBands;
 }