qoffset tuning
authorJean-Marc Valin <jean-marc.valin@usherbrooke.ca>
Tue, 31 Aug 2010 10:45:32 +0000 (06:45 -0400)
committerJean-Marc Valin <jean-marc.valin@usherbrooke.ca>
Tue, 31 Aug 2010 10:45:32 +0000 (06:45 -0400)
libcelt/rate.c
libcelt/rate.h

index 319050f..d844802 100644 (file)
@@ -195,9 +195,9 @@ static inline void interp_bits2pulses(const CELTMode *m, int start, int end, int
 
       /* Changing the offset for allocating the second and third fine energy bit */
       if (bits[j] + offset < den*2<<BITRES)
-         offset += (m->logN[j] + logM)*N*C>>BITRES-1;
+         offset += (m->logN[j] + logM)*N*C>>2;
       else if (bits[j] + offset < den*3<<BITRES)
-         offset += (m->logN[j] + logM)*N*C>>BITRES;
+         offset += (m->logN[j] + logM)*N*C>>3;
 
       ebits[j] = (bits[j] + offset + (den<<(BITRES-1))) / (den<<BITRES);
 
index 37f720c..364a13c 100644 (file)
@@ -41,7 +41,7 @@
 
 #define BITRES 3
 #define FINE_OFFSET 21
-#define QTHETA_OFFSET 6
+#define QTHETA_OFFSET 4
 #define QTHETA_OFFSET_STEREO 4
 
 #define BITOVERFLOW 30000