Changed the pulse spreading rotations so that the number of iterations is
[opus.git] / libcelt / laplace.c
index b06b851..14fd726 100644 (file)
 
 #include "laplace.h"
 
-static int ec_laplace_get_total(int decay)
+static int ec_laplace_get_start_freq(int decay)
 {
-   return (((ec_uint32)1)<<30)/((((ec_uint32)1)<<14) - decay) - (((ec_uint32)1)<<15) + 1;
+   return (((ec_uint32)32767)*(16384-decay))/(16384+decay);
 }
 
 void ec_laplace_encode(ec_enc *enc, int value, int decay)
 {
    int i;
-   ec_int32 fl, fs, ft;
+   int fl, fs, ft;
    int s = 0;
    if (value < 0)
    {
       s = 1;
       value = -value;
    }
-   ft = ec_laplace_get_total(decay);
-   fl = -(((ec_uint32)1)<<15);
-   fs = ((ec_uint32)1)<<15;
+   ft = 32767;
+   fs = ec_laplace_get_start_freq(decay);
+   fl = -fs;
    for (i=0;i<value;i++)
    {
       int tmp_l, tmp_s;
       tmp_l = fl;
       tmp_s = fs;
       fl += fs*2;
-      fs = (fs*decay)>>14;
+      fs = (fs*(ec_int32)decay)>>14;
       if (fs == 0)
       {
          fs = tmp_s;
@@ -71,6 +71,7 @@ void ec_laplace_encode(ec_enc *enc, int value, int decay)
       fl = 0;
    if (s)
       fl += fs;
+   /*DEBUG*/
    /*printf ("enc: %d %d %d\n", fl, fs, ft);*/
    ec_encode(enc, fl, fl+fs, ft);
 }
@@ -78,18 +79,18 @@ void ec_laplace_encode(ec_enc *enc, int value, int decay)
 int ec_laplace_decode(ec_dec *dec, int decay)
 {
    int val=0;
-   ec_int32 fl, fh, fs, ft, fm;
-   ft = ec_laplace_get_total(decay);
-   
-   fm = ec_decode(dec, ft);
-   /*printf ("fm: %d/%d\n", fm, ft);*/
+   int fl, fh, fs, ft, fm;
    fl = 0;
-   fs = ((ec_uint32)1)<<15;
+   ft = 32767;
+   fs = ec_laplace_get_start_freq(decay);
    fh = fs;
+   fm = ec_decode(dec, ft);
+   /*DEBUG*/
+   /*printf ("fm: %d/%d\n", fm, ft);*/
    while (fm >= fh && fs != 0)
    {
       fl = fh;
-      fs = (fs*decay)>>14;
+      fs = (fs*(ec_int32)decay)>>14;
       fh += fs*2;
       val++;
    }
@@ -106,6 +107,8 @@ int ec_laplace_decode(ec_dec *dec, int decay)
    /* Preventing an infinite loop in case something screws up in the decoding */
    if (fl==fh)
       fl--;
+   /*DEBUG*/
+   /*printf ("update: %d %d %d\n", fl, fh, ft);*/
    ec_dec_update(dec, fl, fh, ft);
    return val;
 }