SILK update
[opus.git] / src_FIX / SKP_Silk_prefilter_FIX.c
1 /***********************************************************************\r
2 Copyright (c) 2006-2010, Skype Limited. All rights reserved. \r
3 Redistribution and use in source and binary forms, with or without \r
4 modification, (subject to the limitations in the disclaimer below) \r
5 are permitted provided that the following conditions are met:\r
6 - Redistributions of source code must retain the above copyright notice,\r
7 this list of conditions and the following disclaimer.\r
8 - Redistributions in binary form must reproduce the above copyright \r
9 notice, this list of conditions and the following disclaimer in the \r
10 documentation and/or other materials provided with the distribution.\r
11 - Neither the name of Skype Limited, nor the names of specific \r
12 contributors, may be used to endorse or promote products derived from \r
13 this software without specific prior written permission.\r
14 NO EXPRESS OR IMPLIED LICENSES TO ANY PARTY'S PATENT RIGHTS ARE GRANTED \r
15 BY THIS LICENSE. THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND \r
16 CONTRIBUTORS ''AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING,\r
17 BUT NOT LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND \r
18 FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE \r
19 COPYRIGHT OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, \r
20 INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT\r
21 NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF \r
22 USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON \r
23 ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT \r
24 (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE \r
25 OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.\r
26 ***********************************************************************/\r
27 \r
28 #include "SKP_Silk_main_FIX.h"\r
29 #include "SKP_Silk_tuning_parameters.h"\r
30 \r
31 /* SKP_Silk_prefilter. Prefilter for finding Quantizer input signal */\r
32 SKP_INLINE void SKP_Silk_prefilt_FIX(\r
33     SKP_Silk_prefilter_state_FIX *P,                    /* I/O state                          */\r
34     SKP_int32   st_res_Q12[],                           /* I short term residual signal       */\r
35     SKP_int16   xw[],                                   /* O prefiltered signal               */\r
36     SKP_int32   HarmShapeFIRPacked_Q12,                 /* I Harmonic shaping coeficients     */\r
37     SKP_int     Tilt_Q14,                               /* I Tilt shaping coeficient          */\r
38     SKP_int32   LF_shp_Q14,                             /* I Low-frequancy shaping coeficients*/\r
39     SKP_int     lag,                                    /* I Lag for harmonic shaping         */\r
40     SKP_int     length                                  /* I Length of signals                */\r
41 );\r
42 \r
43 void SKP_Silk_warped_LPC_analysis_filter_FIX(\r
44           SKP_int32                 state[],            /* I/O  State [order + 1]                       */\r
45           SKP_int16                 res[],              /* O    Residual signal [length]                */\r
46     const SKP_int16                 coef_Q13[],         /* I    Coefficients [order]                    */\r
47     const SKP_int16                 input[],            /* I    Input signal [length]                   */\r
48     const SKP_int16                 lambda_Q16,         /* I    Warping factor                          */\r
49     const SKP_int                   length,             /* I    Length of input signal                  */\r
50     const SKP_int                   order               /* I    Filter order (even)                     */\r
51 )\r
52 {\r
53     SKP_int     n, i;\r
54     SKP_int32   acc_Q11, tmp1, tmp2;\r
55 \r
56     /* Order must be even */\r
57     SKP_assert( ( order & 1 ) == 0 );\r
58 \r
59     for( n = 0; n < length; n++ ) {\r
60         /* Output of lowpass section */  \r
61         tmp2 = SKP_SMLAWB( state[ 0 ], state[ 1 ], lambda_Q16 );\r
62         state[ 0 ] = SKP_LSHIFT( input[ n ], 14 );\r
63         /* Output of allpass section */\r
64         tmp1 = SKP_SMLAWB( state[ 1 ], state[ 2 ] - tmp2, lambda_Q16 );\r
65         state[ 1 ] = tmp2;\r
66         acc_Q11 = SKP_SMULWB( tmp2, coef_Q13[ 0 ] );\r
67         /* Loop over allpass sections */\r
68         for( i = 2; i < order; i += 2 ) {\r
69             /* Output of allpass section */\r
70             tmp2 = SKP_SMLAWB( state[ i ], state[ i + 1 ] - tmp1, lambda_Q16 );\r
71             state[ i ] = tmp1;\r
72             acc_Q11 = SKP_SMLAWB( acc_Q11, tmp1, coef_Q13[ i - 1 ] );\r
73             /* Output of allpass section */\r
74             tmp1 = SKP_SMLAWB( state[ i + 1 ], state[ i + 2 ] - tmp2, lambda_Q16 );\r
75             state[ i + 1 ] = tmp2;\r
76             acc_Q11 = SKP_SMLAWB( acc_Q11, tmp2, coef_Q13[ i ] );\r
77         }\r
78         state[ order ] = tmp1;\r
79         acc_Q11 = SKP_SMLAWB( acc_Q11, tmp1, coef_Q13[ order - 1 ] );\r
80         res[ n ] = ( SKP_int16 )SKP_SAT16( ( SKP_int32 )input[ n ] - SKP_RSHIFT_ROUND( acc_Q11, 11 ) );\r
81     }\r
82 }\r
83 \r
84 void SKP_Silk_prefilter_FIX(\r
85     SKP_Silk_encoder_state_FIX          *psEnc,         /* I/O  Encoder state FIX                           */\r
86     const SKP_Silk_encoder_control_FIX  *psEncCtrl,     /* I    Encoder control FIX                         */\r
87     SKP_int16                           xw[],           /* O    Weighted signal                             */\r
88     const SKP_int16                     x[]             /* I    Speech signal                               */\r
89 )\r
90 {\r
91     SKP_Silk_prefilter_state_FIX *P = &psEnc->sPrefilt;\r
92     SKP_int   j, k, lag;\r
93     SKP_int32 tmp_32;\r
94     const SKP_int16 *AR1_shp_Q13;\r
95     const SKP_int16 *px;\r
96     SKP_int16 *pxw;\r
97     SKP_int   HarmShapeGain_Q12, Tilt_Q14;\r
98     SKP_int32 HarmShapeFIRPacked_Q12, LF_shp_Q14;\r
99     SKP_int32 x_filt_Q12[ MAX_FRAME_LENGTH / MAX_NB_SUBFR ];\r
100     SKP_int16 st_res[ ( MAX_FRAME_LENGTH / MAX_NB_SUBFR ) + MAX_LPC_ORDER ];\r
101     SKP_int16 B_Q12[ 2 ];\r
102 \r
103     /* Setup pointers */\r
104     px  = x;\r
105     pxw = xw;\r
106     lag = P->lagPrev;\r
107     for( k = 0; k < psEnc->sCmn.nb_subfr; k++ ) {\r
108         /* Update Variables that change per sub frame */\r
109         if( psEncCtrl->sCmn.signalType == TYPE_VOICED ) {\r
110             lag = psEncCtrl->sCmn.pitchL[ k ];\r
111         }\r
112 \r
113         /* Noise shape parameters */\r
114         HarmShapeGain_Q12 = SKP_SMULWB( psEncCtrl->HarmShapeGain_Q14[ k ], 16384 - psEncCtrl->HarmBoost_Q14[ k ] );\r
115         SKP_assert( HarmShapeGain_Q12 >= 0 );\r
116         HarmShapeFIRPacked_Q12  =                          SKP_RSHIFT( HarmShapeGain_Q12, 2 );\r
117         HarmShapeFIRPacked_Q12 |= SKP_LSHIFT( ( SKP_int32 )SKP_RSHIFT( HarmShapeGain_Q12, 1 ), 16 );\r
118         Tilt_Q14    = psEncCtrl->Tilt_Q14[   k ];\r
119         LF_shp_Q14  = psEncCtrl->LF_shp_Q14[ k ];\r
120         AR1_shp_Q13 = &psEncCtrl->AR1_Q13[   k * MAX_SHAPE_LPC_ORDER ];\r
121 \r
122         /* Short term FIR filtering*/\r
123         SKP_Silk_warped_LPC_analysis_filter_FIX( P->sAR_shp, st_res, AR1_shp_Q13, px, \r
124             psEnc->sCmn.warping_Q16, psEnc->sCmn.subfr_length, psEnc->sCmn.shapingLPCOrder );\r
125 \r
126         /* reduce (mainly) low frequencies during harmonic emphasis */\r
127         B_Q12[ 0 ] = SKP_RSHIFT_ROUND( psEncCtrl->GainsPre_Q14[ k ], 2 );\r
128         tmp_32 = SKP_SMLABB( SKP_FIX_CONST( INPUT_TILT, 26 ), psEncCtrl->HarmBoost_Q14[ k ], HarmShapeGain_Q12 );   /* Q26 */\r
129         tmp_32 = SKP_SMLABB( tmp_32, psEncCtrl->coding_quality_Q14, SKP_FIX_CONST( HIGH_RATE_INPUT_TILT, 12 ) );    /* Q26 */\r
130         tmp_32 = SKP_SMULWB( tmp_32, -psEncCtrl->GainsPre_Q14[ k ] );                                               /* Q24 */\r
131         tmp_32 = SKP_RSHIFT_ROUND( tmp_32, 12 );                                                                    /* Q12 */\r
132         B_Q12[ 1 ]= SKP_SAT16( tmp_32 );\r
133 \r
134         x_filt_Q12[ 0 ] = SKP_SMLABB( SKP_SMULBB( st_res[ 0 ], B_Q12[ 0 ] ), P->sHarmHP, B_Q12[ 1 ] );\r
135         for( j = 1; j < psEnc->sCmn.subfr_length; j++ ) {\r
136             x_filt_Q12[ j ] = SKP_SMLABB( SKP_SMULBB( st_res[ j ], B_Q12[ 0 ] ), st_res[ j - 1 ], B_Q12[ 1 ] );\r
137         }\r
138         P->sHarmHP = st_res[ psEnc->sCmn.subfr_length - 1 ];\r
139 \r
140         SKP_Silk_prefilt_FIX( P, x_filt_Q12, pxw, HarmShapeFIRPacked_Q12, Tilt_Q14, \r
141             LF_shp_Q14, lag, psEnc->sCmn.subfr_length );\r
142 \r
143         px  += psEnc->sCmn.subfr_length;\r
144         pxw += psEnc->sCmn.subfr_length;\r
145     }\r
146 \r
147     P->lagPrev = psEncCtrl->sCmn.pitchL[ MAX_NB_SUBFR - 1 ];\r
148 }\r
149 \r
150 /* SKP_Silk_prefilter. Prefilter for finding Quantizer input signal                           */\r
151 SKP_INLINE void SKP_Silk_prefilt_FIX(\r
152     SKP_Silk_prefilter_state_FIX *P,                    /* I/O state                          */\r
153     SKP_int32   st_res_Q12[],                           /* I short term residual signal       */\r
154     SKP_int16   xw[],                                   /* O prefiltered signal               */\r
155     SKP_int32   HarmShapeFIRPacked_Q12,                 /* I Harmonic shaping coeficients     */\r
156     SKP_int     Tilt_Q14,                               /* I Tilt shaping coeficient          */\r
157     SKP_int32   LF_shp_Q14,                             /* I Low-frequancy shaping coeficients*/\r
158     SKP_int     lag,                                    /* I Lag for harmonic shaping         */\r
159     SKP_int     length                                  /* I Length of signals                */\r
160 )\r
161 {\r
162     SKP_int   i, idx, LTP_shp_buf_idx;\r
163     SKP_int32 n_LTP_Q12, n_Tilt_Q10, n_LF_Q10;\r
164     SKP_int32 sLF_MA_shp_Q12, sLF_AR_shp_Q12;\r
165     SKP_int16 *LTP_shp_buf;\r
166 \r
167     /* To speed up use temp variables instead of using the struct */\r
168     LTP_shp_buf     = P->sLTP_shp;\r
169     LTP_shp_buf_idx = P->sLTP_shp_buf_idx;\r
170     sLF_AR_shp_Q12  = P->sLF_AR_shp_Q12;\r
171     sLF_MA_shp_Q12  = P->sLF_MA_shp_Q12;\r
172 \r
173     for( i = 0; i < length; i++ ) {\r
174         if( lag > 0 ) {\r
175             /* unrolled loop */\r
176             SKP_assert( HARM_SHAPE_FIR_TAPS == 3 );\r
177             idx = lag + LTP_shp_buf_idx;\r
178             n_LTP_Q12 = SKP_SMULBB(            LTP_shp_buf[ ( idx - HARM_SHAPE_FIR_TAPS / 2 - 1) & LTP_MASK ], HarmShapeFIRPacked_Q12 );\r
179             n_LTP_Q12 = SKP_SMLABT( n_LTP_Q12, LTP_shp_buf[ ( idx - HARM_SHAPE_FIR_TAPS / 2    ) & LTP_MASK ], HarmShapeFIRPacked_Q12 );\r
180             n_LTP_Q12 = SKP_SMLABB( n_LTP_Q12, LTP_shp_buf[ ( idx - HARM_SHAPE_FIR_TAPS / 2 + 1) & LTP_MASK ], HarmShapeFIRPacked_Q12 );\r
181         } else {\r
182             n_LTP_Q12 = 0;\r
183         }\r
184 \r
185         n_Tilt_Q10 = SKP_SMULWB( sLF_AR_shp_Q12, Tilt_Q14 );\r
186         n_LF_Q10   = SKP_SMLAWB( SKP_SMULWT( sLF_AR_shp_Q12, LF_shp_Q14 ), sLF_MA_shp_Q12, LF_shp_Q14 );\r
187 \r
188         sLF_AR_shp_Q12 = SKP_SUB32( st_res_Q12[ i ], SKP_LSHIFT( n_Tilt_Q10, 2 ) );\r
189         sLF_MA_shp_Q12 = SKP_SUB32( sLF_AR_shp_Q12,  SKP_LSHIFT( n_LF_Q10,   2 ) );\r
190 \r
191         LTP_shp_buf_idx = ( LTP_shp_buf_idx - 1 ) & LTP_MASK;\r
192         LTP_shp_buf[ LTP_shp_buf_idx ] = ( SKP_int16 )SKP_SAT16( SKP_RSHIFT_ROUND( sLF_MA_shp_Q12, 12 ) );\r
193 \r
194         xw[i] = ( SKP_int16 )SKP_SAT16( SKP_RSHIFT_ROUND( SKP_SUB32( sLF_MA_shp_Q12, n_LTP_Q12 ), 12 ) );\r
195     }\r
196 \r
197     /* Copy temp variable back to state */\r
198     P->sLF_AR_shp_Q12   = sLF_AR_shp_Q12;\r
199     P->sLF_MA_shp_Q12   = sLF_MA_shp_Q12;\r
200     P->sLTP_shp_buf_idx = LTP_shp_buf_idx;\r
201 }\r