Improvements to error handling and warning fixes
[opus.git] / silk / SKP_Silk_tables_NLSF_CB_WB.c
1 /***********************************************************************\r
2 Copyright (c) 2006-2011, Skype Limited. All rights reserved. \r
3 Redistribution and use in source and binary forms, with or without \r
4 modification, (subject to the limitations in the disclaimer below) \r
5 are permitted provided that the following conditions are met:\r
6 - Redistributions of source code must retain the above copyright notice,\r
7 this list of conditions and the following disclaimer.\r
8 - Redistributions in binary form must reproduce the above copyright \r
9 notice, this list of conditions and the following disclaimer in the \r
10 documentation and/or other materials provided with the distribution.\r
11 - Neither the name of Skype Limited, nor the names of specific \r
12 contributors, may be used to endorse or promote products derived from \r
13 this software without specific prior written permission.\r
14 NO EXPRESS OR IMPLIED LICENSES TO ANY PARTY'S PATENT RIGHTS ARE GRANTED \r
15 BY THIS LICENSE. THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND \r
16 CONTRIBUTORS ''AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING,\r
17 BUT NOT LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND \r
18 FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE \r
19 COPYRIGHT OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, \r
20 INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT\r
21 NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF \r
22 USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON \r
23 ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT \r
24 (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE \r
25 OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.\r
26 ***********************************************************************/\r
27 \r
28 #include "SKP_Silk_structs.h"\r
29 \r
30 const SKP_uint8 SKP_Silk_NLSF_CB1_WB_Q8[ 512 ] = {\r
31              7,     23,     38,     54,     69,     85,    100,    116,\r
32            131,    147,    162,    178,    193,    208,    223,    239,\r
33             13,     25,     41,     55,     69,     83,     98,    112,\r
34            127,    142,    157,    171,    187,    203,    220,    236,\r
35             15,     21,     34,     51,     61,     78,     92,    106,\r
36            126,    136,    152,    167,    185,    205,    225,    240,\r
37             10,     21,     36,     50,     63,     79,     95,    110,\r
38            126,    141,    157,    173,    189,    205,    221,    237,\r
39             17,     20,     37,     51,     59,     78,     89,    107,\r
40            123,    134,    150,    164,    184,    205,    224,    240,\r
41             10,     15,     32,     51,     67,     81,     96,    112,\r
42            129,    142,    158,    173,    189,    204,    220,    236,\r
43              8,     21,     37,     51,     65,     79,     98,    113,\r
44            126,    138,    155,    168,    179,    192,    209,    218,\r
45             12,     15,     34,     55,     63,     78,     87,    108,\r
46            118,    131,    148,    167,    185,    203,    219,    236,\r
47             16,     19,     32,     36,     56,     79,     91,    108,\r
48            118,    136,    154,    171,    186,    204,    220,    237,\r
49             11,     28,     43,     58,     74,     89,    105,    120,\r
50            135,    150,    165,    180,    196,    211,    226,    241,\r
51              6,     16,     33,     46,     60,     75,     92,    107,\r
52            123,    137,    156,    169,    185,    199,    214,    225,\r
53             11,     19,     30,     44,     57,     74,     89,    105,\r
54            121,    135,    152,    169,    186,    202,    218,    234,\r
55             12,     19,     29,     46,     57,     71,     88,    100,\r
56            120,    132,    148,    165,    182,    199,    216,    233,\r
57             17,     23,     35,     46,     56,     77,     92,    106,\r
58            123,    134,    152,    167,    185,    204,    222,    237,\r
59             14,     17,     45,     53,     63,     75,     89,    107,\r
60            115,    132,    151,    171,    188,    206,    221,    240,\r
61              9,     16,     29,     40,     56,     71,     88,    103,\r
62            119,    137,    154,    171,    189,    205,    222,    237,\r
63             16,     19,     36,     48,     57,     76,     87,    105,\r
64            118,    132,    150,    167,    185,    202,    218,    236,\r
65             12,     17,     29,     54,     71,     81,     94,    104,\r
66            126,    136,    149,    164,    182,    201,    221,    237,\r
67             15,     28,     47,     62,     79,     97,    115,    129,\r
68            142,    155,    168,    180,    194,    208,    223,    238,\r
69              8,     14,     30,     45,     62,     78,     94,    111,\r
70            127,    143,    159,    175,    192,    207,    223,    239,\r
71             17,     30,     49,     62,     79,     92,    107,    119,\r
72            132,    145,    160,    174,    190,    204,    220,    235,\r
73             14,     19,     36,     45,     61,     76,     91,    108,\r
74            121,    138,    154,    172,    189,    205,    222,    238,\r
75             12,     18,     31,     45,     60,     76,     91,    107,\r
76            123,    138,    154,    171,    187,    204,    221,    236,\r
77             13,     17,     31,     43,     53,     70,     83,    103,\r
78            114,    131,    149,    167,    185,    203,    220,    237,\r
79             17,     22,     35,     42,     58,     78,     93,    110,\r
80            125,    139,    155,    170,    188,    206,    224,    240,\r
81              8,     15,     34,     50,     67,     83,     99,    115,\r
82            131,    146,    162,    178,    193,    209,    224,    239,\r
83             13,     16,     41,     66,     73,     86,     95,    111,\r
84            128,    137,    150,    163,    183,    206,    225,    241,\r
85             17,     25,     37,     52,     63,     75,     92,    102,\r
86            119,    132,    144,    160,    175,    191,    212,    231,\r
87             19,     31,     49,     65,     83,    100,    117,    133,\r
88            147,    161,    174,    187,    200,    213,    227,    242,\r
89             18,     31,     52,     68,     88,    103,    117,    126,\r
90            138,    149,    163,    177,    192,    207,    223,    239,\r
91             16,     29,     47,     61,     76,     90,    106,    119,\r
92            133,    147,    161,    176,    193,    209,    224,    240,\r
93             15,     21,     35,     50,     61,     73,     86,     97,\r
94            110,    119,    129,    141,    175,    198,    218,    237\r
95 };\r
96 \r
97 const SKP_uint8 SKP_Silk_NLSF_CB1_iCDF_WB[ 64 ] = {\r
98            225,    204,    201,    184,    183,    175,    158,    154,\r
99            153,    135,    119,    115,    113,    110,    109,     99,\r
100             98,     95,     79,     68,     52,     50,     48,     45,\r
101             43,     32,     31,     27,     18,     10,      3,      0,\r
102            255,    251,    235,    230,    212,    201,    196,    182,\r
103            167,    166,    163,    151,    138,    124,    110,    104,\r
104             90,     78,     76,     70,     69,     57,     45,     34,\r
105             24,     21,     11,      6,      5,      4,      3,      0\r
106 };\r
107 \r
108 const SKP_uint8 SKP_Silk_NLSF_CB2_SELECT_WB[ 256 ] = {\r
109              0,      0,      0,      0,      0,      0,      0,      1,\r
110            100,    102,    102,     68,     68,     36,     34,     96,\r
111            164,    107,    158,    185,    180,    185,    139,    102,\r
112             64,     66,     36,     34,     34,      0,      1,     32,\r
113            208,    139,    141,    191,    152,    185,    155,    104,\r
114             96,    171,    104,    166,    102,    102,    102,    132,\r
115              1,      0,      0,      0,      0,     16,     16,      0,\r
116             80,    109,     78,    107,    185,    139,    103,    101,\r
117            208,    212,    141,    139,    173,    153,    123,    103,\r
118             36,      0,      0,      0,      0,      0,      0,      1,\r
119             48,      0,      0,      0,      0,      0,      0,     32,\r
120             68,    135,    123,    119,    119,    103,     69,     98,\r
121             68,    103,    120,    118,    118,    102,     71,     98,\r
122            134,    136,    157,    184,    182,    153,    139,    134,\r
123            208,    168,    248,     75,    189,    143,    121,    107,\r
124             32,     49,     34,     34,     34,      0,     17,      2,\r
125            210,    235,    139,    123,    185,    137,    105,    134,\r
126             98,    135,    104,    182,    100,    183,    171,    134,\r
127            100,     70,     68,     70,     66,     66,     34,    131,\r
128             64,    166,    102,     68,     36,      2,      1,      0,\r
129            134,    166,    102,     68,     34,     34,     66,    132,\r
130            212,    246,    158,    139,    107,    107,     87,    102,\r
131            100,    219,    125,    122,    137,    118,    103,    132,\r
132            114,    135,    137,    105,    171,    106,     50,     34,\r
133            164,    214,    141,    143,    185,    151,    121,    103,\r
134            192,     34,      0,      0,      0,      0,      0,      1,\r
135            208,    109,     74,    187,    134,    249,    159,    137,\r
136            102,    110,    154,    118,     87,    101,    119,    101,\r
137              0,      2,      0,     36,     36,     66,     68,     35,\r
138             96,    164,    102,    100,     36,      0,      2,     33,\r
139            167,    138,    174,    102,    100,     84,      2,      2,\r
140            100,    107,    120,    119,     36,    197,     24,      0\r
141 };\r
142 \r
143 const SKP_uint8 SKP_Silk_NLSF_CB2_iCDF_WB[ 72 ] = {\r
144            255,    254,    253,    244,     12,      3,      2,      1,\r
145              0,    255,    254,    252,    224,     38,      3,      2,\r
146              1,      0,    255,    254,    251,    209,     57,      4,\r
147              2,      1,      0,    255,    254,    244,    195,     69,\r
148              4,      2,      1,      0,    255,    251,    232,    184,\r
149             84,      7,      2,      1,      0,    255,    254,    240,\r
150            186,     86,     14,      2,      1,      0,    255,    254,\r
151            239,    178,     91,     30,      5,      1,      0,    255,\r
152            248,    227,    177,    100,     19,      2,      1,      0\r
153 };\r
154 \r
155 const SKP_uint8 SKP_Silk_NLSF_CB2_BITS_WB_Q5[ 72 ] = {\r
156            255,    255,    255,    156,      4,    154,    255,    255,\r
157            255,    255,    255,    227,    102,     15,     92,    255,\r
158            255,    255,    255,    255,    213,     83,     24,     72,\r
159            236,    255,    255,    255,    255,    150,     76,     33,\r
160             63,    214,    255,    255,    255,    190,    121,     77,\r
161             43,     55,    185,    255,    255,    255,    245,    137,\r
162             71,     43,     59,    139,    255,    255,    255,    255,\r
163            131,     66,     50,     66,    107,    194,    255,    255,\r
164            166,    116,     76,     55,     53,    125,    255,    255\r
165 };\r
166 \r
167 const SKP_uint8 SKP_Silk_NLSF_PRED_WB_Q8[ 30 ] = {\r
168            175,    148,    160,    176,    178,    173,    174,    164,\r
169            177,    174,    196,    182,    198,    192,    182,     68,\r
170             62,     66,     60,     72,    117,     85,     90,    118,\r
171            136,    151,    142,    160,    142,    155\r
172 };\r
173 \r
174 const SKP_int16 SKP_Silk_NLSF_DELTA_MIN_WB_Q15[ 17 ] = {\r
175            121,      3,     42,      3,      3,      3,      5,     14,\r
176             14,     10,     11,      3,      8,      9,      7,      3,\r
177            347\r
178 };\r
179 \r
180 const SKP_Silk_NLSF_CB_struct SKP_Silk_NLSF_CB_WB =\r
181 {\r
182     32,\r
183     16,\r
184     SKP_FIX_CONST( 0.16, 16 ),\r
185     SKP_FIX_CONST( 1.0 / 0.16, 6 ),\r
186     SKP_Silk_NLSF_CB1_WB_Q8,\r
187     SKP_Silk_NLSF_CB1_iCDF_WB,\r
188     SKP_Silk_NLSF_PRED_WB_Q8,\r
189     SKP_Silk_NLSF_CB2_SELECT_WB,\r
190     SKP_Silk_NLSF_CB2_iCDF_WB,\r
191     SKP_Silk_NLSF_CB2_BITS_WB_Q5,\r
192     SKP_Silk_NLSF_DELTA_MIN_WB_Q15,\r
193 };\r