Remove redundant mid-only flag when side VAD flag is set.
[opus.git] / silk / fixed / prefilter_FIX.c
1 /***********************************************************************
2 Copyright (c) 2006-2011, Skype Limited. All rights reserved.
3 Redistribution and use in source and binary forms, with or without
4 modification, (subject to the limitations in the disclaimer below)
5 are permitted provided that the following conditions are met:
6 - Redistributions of source code must retain the above copyright notice,
7 this list of conditions and the following disclaimer.
8 - Redistributions in binary form must reproduce the above copyright
9 notice, this list of conditions and the following disclaimer in the
10 documentation and/or other materials provided with the distribution.
11 - Neither the name of Skype Limited, nor the names of specific
12 contributors, may be used to endorse or promote products derived from
13 this software without specific prior written permission.
14 NO EXPRESS OR IMPLIED LICENSES TO ANY PARTY'S PATENT RIGHTS ARE GRANTED
15 BY THIS LICENSE. THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND
16 CONTRIBUTORS ''AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING,
17 BUT NOT LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND
18 FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE
19 COPYRIGHT OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT,
20 INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
21 NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF
22 USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON
23 ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
24 (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
25 OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
26 ***********************************************************************/
27
28 #ifdef HAVE_CONFIG_H
29 #include "config.h"
30 #endif
31
32 #include "main_FIX.h"
33 #include "tuning_parameters.h"
34
35 /* silk_prefilter. Prefilter for finding Quantizer input signal */
36 static inline void silk_prefilt_FIX(
37     silk_prefilter_state_FIX *P,                    /* I/O state                          */
38     opus_int32   st_res_Q12[],                           /* I short term residual signal       */
39     opus_int16   xw[],                                   /* O prefiltered signal               */
40     opus_int32   HarmShapeFIRPacked_Q12,                 /* I Harmonic shaping coeficients     */
41     opus_int     Tilt_Q14,                               /* I Tilt shaping coeficient          */
42     opus_int32   LF_shp_Q14,                             /* I Low-frequancy shaping coeficients*/
43     opus_int     lag,                                    /* I Lag for harmonic shaping         */
44     opus_int     length                                  /* I Length of signals                */
45 );
46
47 void silk_warped_LPC_analysis_filter_FIX(
48           opus_int32                 state[],            /* I/O  State [order + 1]                       */
49           opus_int16                 res[],              /* O    Residual signal [length]                */
50     const opus_int16                 coef_Q13[],         /* I    Coefficients [order]                    */
51     const opus_int16                 input[],            /* I    Input signal [length]                   */
52     const opus_int16                 lambda_Q16,         /* I    Warping factor                          */
53     const opus_int                   length,             /* I    Length of input signal                  */
54     const opus_int                   order               /* I    Filter order (even)                     */
55 )
56 {
57     opus_int     n, i;
58     opus_int32   acc_Q11, tmp1, tmp2;
59
60     /* Order must be even */
61     silk_assert( ( order & 1 ) == 0 );
62
63     for( n = 0; n < length; n++ ) {
64         /* Output of lowpass section */
65         tmp2 = silk_SMLAWB( state[ 0 ], state[ 1 ], lambda_Q16 );
66         state[ 0 ] = silk_LSHIFT( input[ n ], 14 );
67         /* Output of allpass section */
68         tmp1 = silk_SMLAWB( state[ 1 ], state[ 2 ] - tmp2, lambda_Q16 );
69         state[ 1 ] = tmp2;
70         acc_Q11 = silk_SMULWB( tmp2, coef_Q13[ 0 ] );
71         /* Loop over allpass sections */
72         for( i = 2; i < order; i += 2 ) {
73             /* Output of allpass section */
74             tmp2 = silk_SMLAWB( state[ i ], state[ i + 1 ] - tmp1, lambda_Q16 );
75             state[ i ] = tmp1;
76             acc_Q11 = silk_SMLAWB( acc_Q11, tmp1, coef_Q13[ i - 1 ] );
77             /* Output of allpass section */
78             tmp1 = silk_SMLAWB( state[ i + 1 ], state[ i + 2 ] - tmp2, lambda_Q16 );
79             state[ i + 1 ] = tmp2;
80             acc_Q11 = silk_SMLAWB( acc_Q11, tmp2, coef_Q13[ i ] );
81         }
82         state[ order ] = tmp1;
83         acc_Q11 = silk_SMLAWB( acc_Q11, tmp1, coef_Q13[ order - 1 ] );
84         res[ n ] = ( opus_int16 )silk_SAT16( ( opus_int32 )input[ n ] - silk_RSHIFT_ROUND( acc_Q11, 11 ) );
85     }
86 }
87
88 void silk_prefilter_FIX(
89     silk_encoder_state_FIX              *psEnc,         /* I/O  Encoder state FIX                           */
90     const silk_encoder_control_FIX      *psEncCtrl,     /* I    Encoder control FIX                         */
91     opus_int16                           xw[],           /* O    Weighted signal                             */
92     const opus_int16                     x[]             /* I    Speech signal                               */
93 )
94 {
95     silk_prefilter_state_FIX *P = &psEnc->sPrefilt;
96     opus_int   j, k, lag;
97     opus_int32 tmp_32;
98     const opus_int16 *AR1_shp_Q13;
99     const opus_int16 *px;
100     opus_int16 *pxw;
101     opus_int   HarmShapeGain_Q12, Tilt_Q14;
102     opus_int32 HarmShapeFIRPacked_Q12, LF_shp_Q14;
103     opus_int32 x_filt_Q12[ MAX_FRAME_LENGTH / MAX_NB_SUBFR ];
104     opus_int16 st_res[ ( MAX_FRAME_LENGTH / MAX_NB_SUBFR ) + MAX_LPC_ORDER ];
105     opus_int16 B_Q12[ 2 ];
106
107     /* Setup pointers */
108     px  = x;
109     pxw = xw;
110     lag = P->lagPrev;
111     for( k = 0; k < psEnc->sCmn.nb_subfr; k++ ) {
112         /* Update Variables that change per sub frame */
113         if( psEnc->sCmn.indices.signalType == TYPE_VOICED ) {
114             lag = psEncCtrl->pitchL[ k ];
115         }
116
117         /* Noise shape parameters */
118         HarmShapeGain_Q12 = silk_SMULWB( psEncCtrl->HarmShapeGain_Q14[ k ], 16384 - psEncCtrl->HarmBoost_Q14[ k ] );
119         silk_assert( HarmShapeGain_Q12 >= 0 );
120         HarmShapeFIRPacked_Q12  =                          silk_RSHIFT( HarmShapeGain_Q12, 2 );
121         HarmShapeFIRPacked_Q12 |= silk_LSHIFT( ( opus_int32 )silk_RSHIFT( HarmShapeGain_Q12, 1 ), 16 );
122         Tilt_Q14    = psEncCtrl->Tilt_Q14[   k ];
123         LF_shp_Q14  = psEncCtrl->LF_shp_Q14[ k ];
124         AR1_shp_Q13 = &psEncCtrl->AR1_Q13[   k * MAX_SHAPE_LPC_ORDER ];
125
126         /* Short term FIR filtering*/
127         silk_warped_LPC_analysis_filter_FIX( P->sAR_shp, st_res, AR1_shp_Q13, px,
128             psEnc->sCmn.warping_Q16, psEnc->sCmn.subfr_length, psEnc->sCmn.shapingLPCOrder );
129
130         /* reduce (mainly) low frequencies during harmonic emphasis */
131         B_Q12[ 0 ] = silk_RSHIFT_ROUND( psEncCtrl->GainsPre_Q14[ k ], 2 );
132         tmp_32 = silk_SMLABB( SILK_FIX_CONST( INPUT_TILT, 26 ), psEncCtrl->HarmBoost_Q14[ k ], HarmShapeGain_Q12 );   /* Q26 */
133         tmp_32 = silk_SMLABB( tmp_32, psEncCtrl->coding_quality_Q14, SILK_FIX_CONST( HIGH_RATE_INPUT_TILT, 12 ) );    /* Q26 */
134         tmp_32 = silk_SMULWB( tmp_32, -psEncCtrl->GainsPre_Q14[ k ] );                                               /* Q24 */
135         tmp_32 = silk_RSHIFT_ROUND( tmp_32, 12 );                                                                    /* Q12 */
136         B_Q12[ 1 ]= silk_SAT16( tmp_32 );
137
138         x_filt_Q12[ 0 ] = silk_SMLABB( silk_SMULBB( st_res[ 0 ], B_Q12[ 0 ] ), P->sHarmHP, B_Q12[ 1 ] );
139         for( j = 1; j < psEnc->sCmn.subfr_length; j++ ) {
140             x_filt_Q12[ j ] = silk_SMLABB( silk_SMULBB( st_res[ j ], B_Q12[ 0 ] ), st_res[ j - 1 ], B_Q12[ 1 ] );
141         }
142         P->sHarmHP = st_res[ psEnc->sCmn.subfr_length - 1 ];
143
144         silk_prefilt_FIX( P, x_filt_Q12, pxw, HarmShapeFIRPacked_Q12, Tilt_Q14,
145             LF_shp_Q14, lag, psEnc->sCmn.subfr_length );
146
147         px  += psEnc->sCmn.subfr_length;
148         pxw += psEnc->sCmn.subfr_length;
149     }
150
151     P->lagPrev = psEncCtrl->pitchL[ MAX_NB_SUBFR - 1 ];
152 }
153
154 /* silk_prefilter. Prefilter for finding Quantizer input signal                           */
155 static inline void silk_prefilt_FIX(
156     silk_prefilter_state_FIX *P,                    /* I/O state                          */
157     opus_int32   st_res_Q12[],                           /* I short term residual signal       */
158     opus_int16   xw[],                                   /* O prefiltered signal               */
159     opus_int32   HarmShapeFIRPacked_Q12,                 /* I Harmonic shaping coeficients     */
160     opus_int     Tilt_Q14,                               /* I Tilt shaping coeficient          */
161     opus_int32   LF_shp_Q14,                             /* I Low-frequancy shaping coeficients*/
162     opus_int     lag,                                    /* I Lag for harmonic shaping         */
163     opus_int     length                                  /* I Length of signals                */
164 )
165 {
166     opus_int   i, idx, LTP_shp_buf_idx;
167     opus_int32 n_LTP_Q12, n_Tilt_Q10, n_LF_Q10;
168     opus_int32 sLF_MA_shp_Q12, sLF_AR_shp_Q12;
169     opus_int16 *LTP_shp_buf;
170
171     /* To speed up use temp variables instead of using the struct */
172     LTP_shp_buf     = P->sLTP_shp;
173     LTP_shp_buf_idx = P->sLTP_shp_buf_idx;
174     sLF_AR_shp_Q12  = P->sLF_AR_shp_Q12;
175     sLF_MA_shp_Q12  = P->sLF_MA_shp_Q12;
176
177     for( i = 0; i < length; i++ ) {
178         if( lag > 0 ) {
179             /* unrolled loop */
180             silk_assert( HARM_SHAPE_FIR_TAPS == 3 );
181             idx = lag + LTP_shp_buf_idx;
182             n_LTP_Q12 = silk_SMULBB(            LTP_shp_buf[ ( idx - HARM_SHAPE_FIR_TAPS / 2 - 1) & LTP_MASK ], HarmShapeFIRPacked_Q12 );
183             n_LTP_Q12 = silk_SMLABT( n_LTP_Q12, LTP_shp_buf[ ( idx - HARM_SHAPE_FIR_TAPS / 2    ) & LTP_MASK ], HarmShapeFIRPacked_Q12 );
184             n_LTP_Q12 = silk_SMLABB( n_LTP_Q12, LTP_shp_buf[ ( idx - HARM_SHAPE_FIR_TAPS / 2 + 1) & LTP_MASK ], HarmShapeFIRPacked_Q12 );
185         } else {
186             n_LTP_Q12 = 0;
187         }
188
189         n_Tilt_Q10 = silk_SMULWB( sLF_AR_shp_Q12, Tilt_Q14 );
190         n_LF_Q10   = silk_SMLAWB( silk_SMULWT( sLF_AR_shp_Q12, LF_shp_Q14 ), sLF_MA_shp_Q12, LF_shp_Q14 );
191
192         sLF_AR_shp_Q12 = silk_SUB32( st_res_Q12[ i ], silk_LSHIFT( n_Tilt_Q10, 2 ) );
193         sLF_MA_shp_Q12 = silk_SUB32( sLF_AR_shp_Q12,  silk_LSHIFT( n_LF_Q10,   2 ) );
194
195         LTP_shp_buf_idx = ( LTP_shp_buf_idx - 1 ) & LTP_MASK;
196         LTP_shp_buf[ LTP_shp_buf_idx ] = ( opus_int16 )silk_SAT16( silk_RSHIFT_ROUND( sLF_MA_shp_Q12, 12 ) );
197
198         xw[i] = ( opus_int16 )silk_SAT16( silk_RSHIFT_ROUND( silk_SUB32( sLF_MA_shp_Q12, n_LTP_Q12 ), 12 ) );
199     }
200
201     /* Copy temp variable back to state */
202     P->sLF_AR_shp_Q12   = sLF_AR_shp_Q12;
203     P->sLF_MA_shp_Q12   = sLF_MA_shp_Q12;
204     P->sLTP_shp_buf_idx = LTP_shp_buf_idx;
205 }