Completely new transient analysis algorithm
[opus.git] / libcelt / rate.c
index cd9c2b0..bdf34d5 100644 (file)
@@ -140,7 +140,9 @@ void compute_pulse_cache(CELTMode *m, int LM)
 
 #define ALLOC_STEPS 6
 
-static inline int interp_bits2pulses(const CELTMode *m, int start, int end, int *bits1, int *bits2, int total, int *bits, int *ebits, int *fine_priority, int len, int _C, int LM)
+static inline int interp_bits2pulses(const CELTMode *m, int start, int end,
+      int *bits1, int *bits2, const int *thresh, int total, int *bits,
+      int *ebits, int *fine_priority, int len, int _C, int LM)
 {
    int psum;
    int lo, hi;
@@ -148,14 +150,8 @@ static inline int interp_bits2pulses(const CELTMode *m, int start, int end, int
    int logM;
    const int C = CHANNELS(_C);
    int codedBands=-1;
-   VARDECL(int, thresh);
    SAVE_STACK;
 
-   ALLOC(thresh, len, int);
-
-   /* Threshold: don't allow any band to go below 3/8 bit/sample */
-   for (j=start;j<end;j++)
-      thresh[j] = 3*(C*(m->eBands[j+1]-m->eBands[j])<<LM<<BITRES)>>3;
    logM = LM<<BITRES;
    lo = 0;
    hi = 1<<ALLOC_STEPS;
@@ -166,10 +162,11 @@ static inline int interp_bits2pulses(const CELTMode *m, int start, int end, int
       for (j=start;j<end;j++)
       {
          int tmp = bits1[j] + (mid*bits2[j]>>ALLOC_STEPS);
+         /* Don't allocate more than we can actually use */
          if (tmp >= thresh[j])
             psum += tmp;
-         else if (tmp >= 1<<BITRES)
-            psum += 1<<BITRES;
+         else if (tmp >= C<<BITRES)
+            psum += C<<BITRES;
       }
       if (psum > (total<<BITRES))
          hi = mid;
@@ -185,10 +182,13 @@ static inline int interp_bits2pulses(const CELTMode *m, int start, int end, int
       {
          bits[j] = tmp;
          codedBands = j;
-      } else if (tmp >= 1<<BITRES)
-         bits[j] = 1<<BITRES;
+      } else if (tmp >= C<<BITRES)
+         bits[j] = C<<BITRES;
       else
          bits[j] = 0;
+      /* Don't allocate more than we can actually use */
+      if (bits[j] > 64*C<<BITRES<<LM)
+         bits[j] = 64*C<<BITRES<<LM;
       psum += bits[j];
    }
    codedBands++;
@@ -196,13 +196,18 @@ static inline int interp_bits2pulses(const CELTMode *m, int start, int end, int
    if (codedBands) {
       int left, perband;
       left = (total<<BITRES)-psum;
-      perband = left/(codedBands-start);
+      perband = left/(m->eBands[codedBands]-m->eBands[start]);
+      for (j=start;j<codedBands;j++)
+         bits[j] += perband*(m->eBands[j+1]-m->eBands[j]);
+      left = left-(m->eBands[codedBands]-m->eBands[start])*perband;
       for (j=start;j<codedBands;j++)
-         bits[j] += perband;
-      left = left-codedBands*perband;
-      for (j=start;j<start+left;j++)
-         bits[j]++;
+      {
+         int tmp = IMIN(left, m->eBands[j+1]-m->eBands[j]);
+         bits[j] += tmp;
+         left -= tmp;
+      }
    }
+   /*for (j=0;j<end;j++)printf("%d ", bits[j]);printf("\n");*/
    for (j=start;j<end;j++)
    {
       int N0, N, den;
@@ -236,12 +241,13 @@ static inline int interp_bits2pulses(const CELTMode *m, int start, int end, int
       /* If we rounded down, make it a candidate for final fine energy pass */
       fine_priority[j] = ebits[j]*(den<<BITRES) >= bits[j]+offset;
 
-      /* For N=1, all bits go to fine energy except for a single sign bit */
-      if (N==1)
-         ebits[j] = (bits[j]/C >> BITRES)-1;
       /* Make sure the first bit is spent on fine energy */
       if (ebits[j] < 1)
          ebits[j] = 1;
+      /* For N=1, all bits go to fine energy except for a single sign bit
+         This takes precedence over giving the first bit to fine energy */
+      if (N==1)
+         ebits[j] = (bits[j]/C >> BITRES)-1;
 
       /* Make sure not to bust */
       if (C*ebits[j] > (bits[j]>>BITRES))
@@ -280,11 +286,11 @@ int compute_allocation(const CELTMode *m, int start, int end, int *offsets, int
 
    /* Below this threshold, we don't allocate any PVQ bits */
    for (j=start;j<end;j++)
-      thresh[j] = 3*(C*(m->eBands[j+1]-m->eBands[j])<<LM<<BITRES)>>3;
+      thresh[j] = (4*(m->eBands[j+1]-m->eBands[j])<<LM<<BITRES)>>3;
    /* Tilt of the allocation curve */
    for (j=start;j<end;j++)
-      trim_offset[j] = C*(m->eBands[j+1]-m->eBands[j])*(alloc_trim-3)*(m->nbEBands-j-1)
-            <<(LM+BITRES)>>5;
+      trim_offset[j] = C*(m->eBands[j+1]-m->eBands[j])*(alloc_trim-5-LM)*(m->nbEBands-j-1)
+            <<(LM+BITRES)>>6;
 
    lo = 0;
    hi = m->nbAllocVectors - 1;
@@ -327,7 +333,8 @@ int compute_allocation(const CELTMode *m, int start, int end, int *offsets, int
          bits1[j] = 0;
       bits1[j] += offsets[j];
    }
-   codedBands = interp_bits2pulses(m, start, end, bits1, bits2, total, pulses, ebits, fine_priority, len, C, LM);
+   codedBands = interp_bits2pulses(m, start, end, bits1, bits2, thresh,
+         total, pulses, ebits, fine_priority, len, C, LM);
    RESTORE_STACK;
    return codedBands;
 }