Warning fixes.
authorTim Terriberry <tterribe@xiph.org>
Fri, 29 Oct 2010 01:07:51 +0000 (01:07 +0000)
committerTim Terriberry <tterribe@xiph.org>
Fri, 29 Oct 2010 01:07:51 +0000 (01:07 +0000)
Signed/unsigned comparison and integer conversion overflow.

svn path=/trunk/theora/; revision=17576

lib/decode.c
lib/state.c
lib/x86/sse2idct.c
lib/x86/x86int.h

index 4af40b4..a79dd3f 100644 (file)
@@ -118,7 +118,7 @@ static const unsigned char OC_INTERNAL_DCT_TOKEN_EXTRA_BITS[15]={
 
 /*Whether or not an internal token needs any additional extra bits.*/
 #define OC_DCT_TOKEN_NEEDS_MORE(token) \
- (token<(sizeof(OC_INTERNAL_DCT_TOKEN_EXTRA_BITS)/ \
+ (token<(int)(sizeof(OC_INTERNAL_DCT_TOKEN_EXTRA_BITS)/ \
   sizeof(*OC_INTERNAL_DCT_TOKEN_EXTRA_BITS)))
 
 /*This token (OC_DCT_REPEAT_RUN3_TOKEN) requires more than 8 extra bits.*/
index d36efc3..6501202 100644 (file)
@@ -579,7 +579,7 @@ static int oc_state_ref_bufs_init(oc_theora_state *_state,int _nrefs){
   ref_frame_data_sz=_nrefs*ref_frame_sz;
   /*Check for overflow.
     The same caveats apply as for oc_state_frarray_init().*/
-  if(yplane_sz/yhstride!=yheight||2*cplane_sz+16<cplane_sz||
+  if(yplane_sz/yhstride!=(size_t)yheight||2*cplane_sz+16<cplane_sz||
    ref_frame_sz<yplane_sz||ref_frame_data_sz/_nrefs!=ref_frame_sz){
     return TH_EIMPL;
   }
index e33b14d..5f8523f 100644 (file)
@@ -23,7 +23,7 @@
 #if defined(OC_X86_ASM)
 
 /*A table of constants used by the MMX routines.*/
-const short __attribute__((aligned(16),used)) OC_IDCT_CONSTS[64]={
+const unsigned short __attribute__((aligned(16),used)) OC_IDCT_CONSTS[64]={
         8,      8,      8,      8,      8,      8,      8,      8,
   OC_C1S7,OC_C1S7,OC_C1S7,OC_C1S7,OC_C1S7,OC_C1S7,OC_C1S7,OC_C1S7,
   OC_C2S6,OC_C2S6,OC_C2S6,OC_C2S6,OC_C2S6,OC_C2S6,OC_C2S6,OC_C2S6,
index b134fc7..6a62916 100644 (file)
@@ -94,7 +94,7 @@
     array_addr__; \
   }))
 
-extern const short __attribute__((aligned(16))) OC_IDCT_CONSTS[64];
+extern const unsigned short __attribute__((aligned(16))) OC_IDCT_CONSTS[64];
 
 void oc_state_accel_init_x86(oc_theora_state *_state);