Refactor SILK's use of ec_enc_patch_initial_bits().
[opus.git] / src_FIX / SKP_Silk_find_LPC_FIX.c
1 /***********************************************************************\r
2 Copyright (c) 2006-2011, Skype Limited. All rights reserved. \r
3 Redistribution and use in source and binary forms, with or without \r
4 modification, (subject to the limitations in the disclaimer below) \r
5 are permitted provided that the following conditions are met:\r
6 - Redistributions of source code must retain the above copyright notice,\r
7 this list of conditions and the following disclaimer.\r
8 - Redistributions in binary form must reproduce the above copyright \r
9 notice, this list of conditions and the following disclaimer in the \r
10 documentation and/or other materials provided with the distribution.\r
11 - Neither the name of Skype Limited, nor the names of specific \r
12 contributors, may be used to endorse or promote products derived from \r
13 this software without specific prior written permission.\r
14 NO EXPRESS OR IMPLIED LICENSES TO ANY PARTY'S PATENT RIGHTS ARE GRANTED \r
15 BY THIS LICENSE. THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND \r
16 CONTRIBUTORS ''AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING,\r
17 BUT NOT LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND \r
18 FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE \r
19 COPYRIGHT OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, \r
20 INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT\r
21 NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF \r
22 USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON \r
23 ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT \r
24 (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE \r
25 OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.\r
26 ***********************************************************************/\r
27 \r
28 #include "SKP_Silk_main_FIX.h"\r
29 #include "SKP_Silk_tuning_parameters.h"\r
30 \r
31 /* Finds LPC vector from correlations, and converts to NLSF */\r
32 void SKP_Silk_find_LPC_FIX(\r
33     SKP_int             NLSF_Q15[],             /* O    NLSFs                                                                       */\r
34     SKP_int8            *interpIndex,           /* O    NLSF interpolation index, only used for NLSF interpolation                  */\r
35     const SKP_int       prev_NLSFq_Q15[],       /* I    previous NLSFs, only used for NLSF interpolation                            */\r
36     const SKP_int       useInterpolatedNLSFs,   /* I    Flag                                                                        */\r
37     const SKP_int       LPC_order,              /* I    LPC order                                                                   */\r
38     const SKP_int16     x[],                    /* I    Input signal                                                                */\r
39     const SKP_int       subfr_length,           /* I    Input signal subframe length including preceeding samples                   */\r
40     const SKP_int       nb_subfr                /* I:   Number of subframes                                                         */\r
41 )\r
42 {\r
43     SKP_int     k;\r
44     SKP_int32   a_Q16[ MAX_LPC_ORDER ];\r
45     SKP_int     isInterpLower, shift;\r
46     SKP_int32   res_nrg0, res_nrg1;\r
47     SKP_int     rshift0, rshift1; \r
48 \r
49     /* Used only for LSF interpolation */\r
50     SKP_int32   a_tmp_Q16[ MAX_LPC_ORDER ], res_nrg_interp, res_nrg, res_tmp_nrg, res_nrg_2nd;\r
51     SKP_int     res_nrg_interp_Q, res_nrg_Q, res_tmp_nrg_Q, res_nrg_2nd_Q;\r
52     SKP_int16   a_tmp_Q12[ MAX_LPC_ORDER ];\r
53     SKP_int     NLSF0_Q15[ MAX_LPC_ORDER ];\r
54     SKP_int16   LPC_res[ ( MAX_FRAME_LENGTH + MAX_NB_SUBFR * MAX_LPC_ORDER ) / 2 ];\r
55 \r
56     /* Default: no interpolation */\r
57     *interpIndex = 4;\r
58 \r
59     /* Burg AR analysis for the full frame */\r
60     SKP_Silk_burg_modified( &res_nrg, &res_nrg_Q, a_Q16, x, subfr_length, nb_subfr, SKP_FIX_CONST( FIND_LPC_COND_FAC, 32 ), LPC_order );\r
61 \r
62     SKP_Silk_bwexpander_32( a_Q16, LPC_order, SKP_FIX_CONST( FIND_LPC_CHIRP, 16 ) );\r
63 \r
64     if( useInterpolatedNLSFs == 1 && nb_subfr == MAX_NB_SUBFR ) {\r
65 \r
66         /* Optimal solution for last 10 ms */\r
67         SKP_Silk_burg_modified( &res_tmp_nrg, &res_tmp_nrg_Q, a_tmp_Q16, x + ( MAX_NB_SUBFR >> 1 ) * subfr_length, \r
68             subfr_length, ( MAX_NB_SUBFR >> 1 ), SKP_FIX_CONST( FIND_LPC_COND_FAC, 32 ), LPC_order );\r
69 \r
70         SKP_Silk_bwexpander_32( a_tmp_Q16, LPC_order, SKP_FIX_CONST( FIND_LPC_CHIRP, 16 ) );\r
71 \r
72         /* subtract residual energy here, as that's easier than adding it to the    */\r
73         /* residual energy of the first 10 ms in each iteration of the search below */\r
74         shift = res_tmp_nrg_Q - res_nrg_Q;\r
75         if( shift >= 0 ) {\r
76             if( shift < 32 ) { \r
77                 res_nrg = res_nrg - SKP_RSHIFT( res_tmp_nrg, shift );\r
78             }\r
79         } else {\r
80             SKP_assert( shift > -32 ); \r
81             res_nrg   = SKP_RSHIFT( res_nrg, -shift ) - res_tmp_nrg;\r
82             res_nrg_Q = res_tmp_nrg_Q; \r
83         }\r
84         \r
85         /* Convert to NLSFs */\r
86         SKP_Silk_A2NLSF( NLSF_Q15, a_tmp_Q16, LPC_order );\r
87 \r
88         /* Search over interpolation indices to find the one with lowest residual energy */\r
89         res_nrg_2nd = SKP_int32_MAX;\r
90         for( k = 3; k >= 0; k-- ) {\r
91             /* Interpolate NLSFs for first half */\r
92             SKP_Silk_interpolate( NLSF0_Q15, prev_NLSFq_Q15, NLSF_Q15, k, LPC_order );\r
93 \r
94             /* Convert to LPC for residual energy evaluation */\r
95             SKP_Silk_NLSF2A_stable( a_tmp_Q12, NLSF0_Q15, LPC_order );\r
96 \r
97             /* Calculate residual energy with NLSF interpolation */\r
98             SKP_Silk_LPC_analysis_filter( LPC_res, x, a_tmp_Q12, 2 * subfr_length, LPC_order );\r
99 \r
100             SKP_Silk_sum_sqr_shift( &res_nrg0, &rshift0, LPC_res + LPC_order,                subfr_length - LPC_order );\r
101             SKP_Silk_sum_sqr_shift( &res_nrg1, &rshift1, LPC_res + LPC_order + subfr_length, subfr_length - LPC_order );\r
102 \r
103             /* Add subframe energies from first half frame */\r
104             shift = rshift0 - rshift1;\r
105             if( shift >= 0 ) {\r
106                 res_nrg1         = SKP_RSHIFT( res_nrg1, shift );\r
107                 res_nrg_interp_Q = -rshift0;\r
108             } else {\r
109                 res_nrg0         = SKP_RSHIFT( res_nrg0, -shift );\r
110                 res_nrg_interp_Q = -rshift1;\r
111             }\r
112             res_nrg_interp = SKP_ADD32( res_nrg0, res_nrg1 );\r
113 \r
114             /* Compare with first half energy without NLSF interpolation, or best interpolated value so far */\r
115             shift = res_nrg_interp_Q - res_nrg_Q;\r
116             if( shift >= 0 ) {\r
117                 if( SKP_RSHIFT( res_nrg_interp, shift ) < res_nrg ) {\r
118                     isInterpLower = SKP_TRUE;\r
119                 } else {\r
120                     isInterpLower = SKP_FALSE;\r
121                 }\r
122             } else {\r
123                 if( -shift < 32 ) { \r
124                     if( res_nrg_interp < SKP_RSHIFT( res_nrg, -shift ) ) {\r
125                         isInterpLower = SKP_TRUE;\r
126                     } else {\r
127                         isInterpLower = SKP_FALSE;\r
128                     }\r
129                 } else {\r
130                     isInterpLower = SKP_FALSE;\r
131                 }\r
132             }\r
133 \r
134             /* Determine whether current interpolated NLSFs are best so far */\r
135             if( isInterpLower == SKP_TRUE ) {\r
136                 /* Interpolation has lower residual energy */\r
137                 res_nrg   = res_nrg_interp;\r
138                 res_nrg_Q = res_nrg_interp_Q;\r
139                 *interpIndex = (SKP_int8)k;\r
140             }\r
141             res_nrg_2nd   = res_nrg_interp;\r
142             res_nrg_2nd_Q = res_nrg_interp_Q;\r
143         }\r
144     }\r
145 \r
146     if( *interpIndex == 4 ) {\r
147         /* NLSF interpolation is currently inactive, calculate NLSFs from full frame AR coefficients */\r
148         SKP_Silk_A2NLSF( NLSF_Q15, a_Q16, LPC_order );\r
149     }\r
150 }\r