fixed-point version of the high-pass seems to work now.
[speexdsp.git] / libspeex / gain_table.c
1 /* Copyright (C) 2002 Jean-Marc Valin 
2    File: gain_table.c
3    Codebook for 3-tap pitch prediction gain (128 entries)
4   
5    Redistribution and use in source and binary forms, with or without
6    modification, are permitted provided that the following conditions are
7    met:
8
9    1. Redistributions of source code must retain the above copyright notice,
10    this list of conditions and the following disclaimer.  
11
12    2. Redistributions in binary form must reproduce the above copyright
13    notice, this list of conditions and the following disclaimer in the
14    documentation and/or other materials provided with the distribution.
15
16    3. The name of the author may not be used to endorse or promote products
17    derived from this software without specific prior written permission.
18
19    THIS SOFTWARE IS PROVIDED BY THE AUTHOR ``AS IS'' AND ANY EXPRESS OR
20    IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED WARRANTIES
21    OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE
22    DISCLAIMED. IN NO EVENT SHALL THE AUTHOR BE LIABLE FOR ANY DIRECT,
23    INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES
24    (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR
25    SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
26    HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
27    STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN
28    ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE
29    POSSIBILITY OF SUCH DAMAGE.
30 */
31
32 const signed char gain_cdbk_nb[512] = {
33 -32, -32, -32, 0,
34 -28, -67, -5, 33,
35 -42, -6, -32, 18,
36 -57, -10, -54, 35,
37 -16, 27, -41, 42,
38 19, -19, -40, 36,
39 -45, 24, -21, 40,
40 -8, -14, -18, 28,
41 1, 14, -58, 53,
42 -18, -88, -39, 39,
43 -38, 21, -18, 37,
44 -19, 20, -43, 38,
45 10, 17, -48, 54,
46 -52, -58, -13, 33,
47 -44, -1, -11, 32,
48 -12, -11, -34, 22,
49 14, 0, -46, 46,
50 -37, -35, -34, 5,
51 -25, 44, -30, 43,
52 6, -4, -63, 49,
53 -31, 43, -41, 43,
54 -23, 30, -43, 41,
55 -43, 26, -14, 44,
56 -33, 1, -13, 27,
57 -13, 18, -37, 37,
58 -46, -73, -45, 34,
59 -36, 24, -25, 34,
60 -36, -11, -20, 19,
61 -25, 12, -18, 33,
62 -36, -69, -59, 34,
63 -45, 6, 8, 46,
64 -22, -14, -24, 18,
65 -1, 13, -44, 44,
66 -39, -48, -26, 15,
67 -32, 31, -37, 34,
68 -33, 15, -46, 31,
69 -24, 30, -36, 37,
70 -41, 31, -23, 41,
71 -50, 22, -4, 50,
72 -22, 2, -21, 28,
73 -17, 30, -34, 40,
74 -7, -60, -28, 29,
75 -38, 42, -28, 42,
76 -44, -11, 21, 43,
77 -16, 8, -44, 34,
78 -39, -55, -43, 21,
79 -11, -35, 26, 41,
80 -9, 0, -34, 29,
81 -8, 121, -81, 113,
82 7, -16, -22, 33,
83 -37, 33, -31, 36,
84 -27, -7, -36, 17,
85 -34, 70, -57, 65,
86 -37, -11, -48, 21,
87 -40, 17, -1, 44,
88 -33, 6, -6, 33,
89 -9, 0, -20, 34,
90 -21, 69, -33, 57,
91 -29, 33, -31, 35,
92 -55, 12, -1, 49,
93 -33, 27, -22, 35,
94 -50, -33, -47, 17,
95 -50, 54, 51, 94,
96 -1, -5, -44, 35,
97 -4, 22, -40, 45,
98 -39, -66, -25, 24,
99 -33, 1, -26, 20,
100 -24, -23, -25, 12,
101 -11, 21, -45, 44,
102 -25, -45, -19, 17,
103 -43, 105, -16, 82,
104 5, -21, 1, 41,
105 -16, 11, -33, 30,
106 -13, -99, -4, 57,
107 -37, 33, -15, 44,
108 -25, 37, -63, 54,
109 -36, 24, -31, 31,
110 -53, -56, -38, 26,
111 -41, -4, 4, 37,
112 -33, 13, -30, 24,
113 49, 52, -94, 114,
114 -5, -30, -15, 23,
115 1, 38, -40, 56,
116 -23, 12, -36, 29,
117 -17, 40, -47, 51,
118 -37, -41, -39, 11,
119 -49, 34, 0, 58,
120 -18, -7, -4, 34,
121 -16, 17, -27, 35,
122 30, 5, -62, 65,
123 4, 48, -68, 76,
124 -43, 11, -11, 38,
125 -18, 19, -15, 41,
126 -23, -62, -39, 23,
127 -42, 10, -2, 41,
128 -21, -13, -13, 25,
129 -9, 13, -47, 42,
130 -23, -62, -24, 24,
131 -44, 60, -21, 58,
132 -18, -3, -52, 32,
133 -22, 22, -36, 34,
134 -75, 57, 16, 90,
135 -19, 3, 10, 45,
136 -29, 23, -38, 32,
137 -5, -62, -51, 38,
138 -51, 40, -18, 53,
139 -42, 13, -24, 32,
140 -34, 14, -20, 30,
141 -56, -75, -26, 37,
142 -26, 32, 15, 59,
143 -26, 17, -29, 29,
144 -7, 28, -52, 53,
145 -12, -30, 5, 30,
146 -5, -48, -5, 35,
147 2, 2, -43, 40,
148 21, 16, 16, 75,
149 -25, -45, -32, 10,
150 -43, 18, -10, 42,
151 9, 0, -1, 52,
152 -1, 7, -30, 36,
153 19, -48, -4, 48,
154 -28, 25, -29, 32,
155 -22, 0, -31, 22,
156 -32, 17, -10, 36,
157 -64, -41, -62, 36,
158 -52, 15, 16, 58,
159 -30, -22, -32, 6,
160 -7, 9, -38, 36};