License for the kiss-fft headers
[opus.git] / libcelt / mfrngdec.c
index 7026b39..f03097b 100644 (file)
@@ -1,3 +1,34 @@
+/* (C) 2001-2008 Timothy B. Terriberry
+   (C) 2008 Jean-Marc Valin */
+/*
+   Redistribution and use in source and binary forms, with or without
+   modification, are permitted provided that the following conditions
+   are met:
+
+   - Redistributions of source code must retain the above copyright
+   notice, this list of conditions and the following disclaimer.
+
+   - Redistributions in binary form must reproduce the above copyright
+   notice, this list of conditions and the following disclaimer in the
+   documentation and/or other materials provided with the distribution.
+
+   - Neither the name of the Xiph.org Foundation nor the names of its
+   contributors may be used to endorse or promote products derived from
+   this software without specific prior written permission.
+
+   THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
+   ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
+   LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
+   A PARTICULAR PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE FOUNDATION OR
+   CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
+   EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
+   PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
+   PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF
+   LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING
+   NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS
+   SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
+*/
+
 #ifdef HAVE_CONFIG_H
 #include "config.h"
 #endif
@@ -141,8 +172,7 @@ static int ec_dec_in(ec_dec *_this){
   ret=ec_byte_read1(_this->buf);
   if(ret<0){
     ret=0;
-    /*Needed to make sure the above conditional only triggers once, and to keep
-       oc_dec_tell() operating correctly.*/
+    /*Needed to keep oc_dec_tell() operating correctly.*/
     ec_byte_adv1(_this->buf);
   }
   return ret;
@@ -179,16 +209,19 @@ void ec_dec_init(ec_dec *_this,ec_byte_buffer *_buf){
 }
 
 unsigned ec_decode(ec_dec *_this,unsigned _ft){
-  unsigned d;
+  ec_uint32 ft;
+  ec_uint32 d;
+  unsigned  e;
   /*Step 1: Compute the normalization factor for the frequency counts.*/
   _this->nrm=EC_ILOG(_this->rng)-EC_ILOG(_ft);
-  _ft<<=_this->nrm;
-  d=_ft>_this->rng;
-  _ft>>=d;
-  _this->nrm-=d;
+  ft=(ec_uint32)_ft<<_this->nrm;
+  e=ft>_this->rng;
+  ft>>=e;
+  _this->nrm-=e;
   /*Step 2: invert the partition function.*/
-  d=_this->rng-_ft;
-  return EC_MAXI((int)(_this->dif>>1),(int)(_this->dif-d))>>_this->nrm;
+  d=_this->rng-ft;
+  return EC_MAXI((ec_int32)(_this->dif>>1),(ec_int32)(_this->dif-d))>>
+   _this->nrm;
   /*Step 3: The caller locates the range [fl,fh) containing the return value
      and calls ec_dec_update().*/
 }
@@ -198,16 +231,19 @@ unsigned ec_decode_bin(ec_dec *_this,unsigned bits){
 }
 
 void ec_dec_update(ec_dec *_this,unsigned _fl,unsigned _fh,unsigned _ft){
-  unsigned r;
-  unsigned s;
-  unsigned d;
+  ec_uint32 fl;
+  ec_uint32 fh;
+  ec_uint32 ft;
+  ec_uint32 r;
+  ec_uint32 s;
+  ec_uint32 d;
   /*Step 4: Evaluate the two partition function values.*/
-  _fl<<=_this->nrm;
-  _fh<<=_this->nrm;
-  _ft<<=_this->nrm;
-  d=_this->rng-_ft;
-  r=_fh+EC_MINI(_fh,d);
-  s=_fl+EC_MINI(_fl,d);
+  fl=(ec_uint32)_fl<<_this->nrm;
+  fh=(ec_uint32)_fh<<_this->nrm;
+  ft=(ec_uint32)_ft<<_this->nrm;
+  d=_this->rng-ft;
+  r=fh+EC_MINI(fh,d);
+  s=fl+EC_MINI(fl,d);
   /*Step 5: Update the interval.*/
   _this->rng=r-s;
   _this->dif-=s;
@@ -219,7 +255,8 @@ long ec_dec_tell(ec_dec *_this,int _b){
   ec_uint32 r;
   int       l;
   long      nbits;
-  nbits=ec_byte_bytes(_this->buf)-(EC_CODE_BITS+EC_SYM_BITS-1)/EC_SYM_BITS<<3;
+  nbits=(ec_byte_bytes(_this->buf)-(EC_CODE_BITS+EC_SYM_BITS-1)/EC_SYM_BITS)*
+   EC_SYM_BITS;
   /*To handle the non-integral number of bits still left in the encoder state,
      we compute the number of bits of low that must be encoded to ensure that
      the value is inside the range for any possible subsequent bits.