Update the maximum fine bits everywhere.
authorTimothy B. Terriberry <tterribe@xiph.org>
Thu, 30 Dec 2010 16:43:42 +0000 (08:43 -0800)
committerJean-Marc Valin <jean-marc.valin@usherbrooke.ca>
Thu, 30 Dec 2010 17:47:28 +0000 (12:47 -0500)
cf874373 raised the limit from 7 to 8 for N>1 bands in
 interp_bits2pulses(), but did not raise the corresponding limits
 for N=1 bands, or for [un]quant_energy_finalise().
This commit raises all of the limits to the same value, 8.

libcelt/quant_bands.c
libcelt/rate.c

index 091d6f1..94a0437 100644 (file)
@@ -453,7 +453,7 @@ void unquant_energy_finalise(const CELTMode *m, int start, int end, celt_ener *e
    {
       for (i=start;i<end && bits_left>=C ;i++)
       {
-         if (fine_quant[i] >= 7 || fine_priority[i]!=prio)
+         if (fine_quant[i] >= 8 || fine_priority[i]!=prio)
             continue;
          c=0;
          do {
index 58cc92b..bce36c6 100644 (file)
@@ -334,7 +334,7 @@ static inline int interp_bits2pulses(const CELTMode *m, int start, int end, int
 
       } else {
          /* For N=1, all bits go to fine energy except for a single sign bit */
-         ebits[j] = IMIN(IMAX(0,(bits[j] >> stereo >> BITRES)-1),7);
+         ebits[j] = IMIN(IMAX(0,(bits[j] >> stereo >> BITRES)-1),8);
          fine_priority[j] = (ebits[j]+1)*C<<BITRES >= (bits[j]-balance);
          /* N=1 bands can't take advantage of the re-balancing in
              quant_all_bands() because they don't have shape, only fine energy.