Merge commit 'silk-repo/master'
[opus.git] / silk / SKP_Silk_find_LPC_FIX.c
1 /***********************************************************************\r
2 Copyright (c) 2006-2011, Skype Limited. All rights reserved. \r
3 Redistribution and use in source and binary forms, with or without \r
4 modification, (subject to the limitations in the disclaimer below) \r
5 are permitted provided that the following conditions are met:\r
6 - Redistributions of source code must retain the above copyright notice,\r
7 this list of conditions and the following disclaimer.\r
8 - Redistributions in binary form must reproduce the above copyright \r
9 notice, this list of conditions and the following disclaimer in the \r
10 documentation and/or other materials provided with the distribution.\r
11 - Neither the name of Skype Limited, nor the names of specific \r
12 contributors, may be used to endorse or promote products derived from \r
13 this software without specific prior written permission.\r
14 NO EXPRESS OR IMPLIED LICENSES TO ANY PARTY'S PATENT RIGHTS ARE GRANTED \r
15 BY THIS LICENSE. THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND \r
16 CONTRIBUTORS ''AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING,\r
17 BUT NOT LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND \r
18 FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE \r
19 COPYRIGHT OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, \r
20 INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT\r
21 NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF \r
22 USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON \r
23 ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT \r
24 (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE \r
25 OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.\r
26 ***********************************************************************/\r
27 \r
28 #include "SKP_Silk_main_FIX.h"\r
29 #include "SKP_Silk_tuning_parameters.h"\r
30 \r
31 /* Finds LPC vector from correlations, and converts to NLSF */\r
32 void SKP_Silk_find_LPC_FIX(\r
33     SKP_int16                       NLSF_Q15[],             /* O    NLSFs                                                           */\r
34     SKP_int8                        *interpIndex,           /* O    NLSF interpolation index, only used for NLSF interpolation      */\r
35     const SKP_int16                 prev_NLSFq_Q15[],       /* I    previous NLSFs, only used for NLSF interpolation                */\r
36     const SKP_int                   useInterpNLSFs,         /* I    Flag                                                            */\r
37     const SKP_int                   firstFrameAfterReset,   /* I    Flag                                                            */\r
38     const SKP_int                   LPC_order,              /* I    LPC order                                                       */\r
39     const SKP_int16                 x[],                    /* I    Input signal                                                    */\r
40     const SKP_int                   subfr_length,           /* I    Input signal subframe length including preceeding samples       */\r
41     const SKP_int                   nb_subfr                /* I:   Number of subframes                                             */\r
42 )\r
43 {\r
44     SKP_int     k;\r
45     SKP_int32   a_Q16[ MAX_LPC_ORDER ];\r
46     SKP_int     isInterpLower, shift;\r
47     SKP_int32   res_nrg0, res_nrg1;\r
48     SKP_int     rshift0, rshift1; \r
49 \r
50     /* Used only for LSF interpolation */\r
51     SKP_int32   a_tmp_Q16[ MAX_LPC_ORDER ], res_nrg_interp, res_nrg, res_tmp_nrg, res_nrg_2nd;\r
52     SKP_int     res_nrg_interp_Q, res_nrg_Q, res_tmp_nrg_Q, res_nrg_2nd_Q;\r
53     SKP_int16   a_tmp_Q12[ MAX_LPC_ORDER ];\r
54     SKP_int16   NLSF0_Q15[ MAX_LPC_ORDER ];\r
55     SKP_int16   LPC_res[ ( MAX_FRAME_LENGTH + MAX_NB_SUBFR * MAX_LPC_ORDER ) / 2 ];\r
56 \r
57     /* Default: no interpolation */\r
58     *interpIndex = 4;\r
59 \r
60     /* Burg AR analysis for the full frame */\r
61     SKP_Silk_burg_modified( &res_nrg, &res_nrg_Q, a_Q16, x, subfr_length, nb_subfr, SKP_FIX_CONST( FIND_LPC_COND_FAC, 32 ), LPC_order );\r
62 \r
63     if( firstFrameAfterReset ) {\r
64         SKP_Silk_bwexpander_32( a_Q16, LPC_order, SKP_FIX_CONST( FIND_LPC_CHIRP_FIRST_FRAME, 16 ) );\r
65     } else {\r
66         SKP_Silk_bwexpander_32( a_Q16, LPC_order, SKP_FIX_CONST( FIND_LPC_CHIRP, 16 ) );\r
67     }\r
68 \r
69     if( useInterpNLSFs && !firstFrameAfterReset && nb_subfr == MAX_NB_SUBFR ) {\r
70 \r
71         /* Optimal solution for last 10 ms */\r
72         SKP_Silk_burg_modified( &res_tmp_nrg, &res_tmp_nrg_Q, a_tmp_Q16, x + ( MAX_NB_SUBFR >> 1 ) * subfr_length, \r
73             subfr_length, ( MAX_NB_SUBFR >> 1 ), SKP_FIX_CONST( FIND_LPC_COND_FAC, 32 ), LPC_order );\r
74 \r
75         SKP_Silk_bwexpander_32( a_tmp_Q16, LPC_order, SKP_FIX_CONST( FIND_LPC_CHIRP, 16 ) );\r
76 \r
77         /* subtract residual energy here, as that's easier than adding it to the    */\r
78         /* residual energy of the first 10 ms in each iteration of the search below */\r
79         shift = res_tmp_nrg_Q - res_nrg_Q;\r
80         if( shift >= 0 ) {\r
81             if( shift < 32 ) { \r
82                 res_nrg = res_nrg - SKP_RSHIFT( res_tmp_nrg, shift );\r
83             }\r
84         } else {\r
85             SKP_assert( shift > -32 ); \r
86             res_nrg   = SKP_RSHIFT( res_nrg, -shift ) - res_tmp_nrg;\r
87             res_nrg_Q = res_tmp_nrg_Q; \r
88         }\r
89         \r
90         /* Convert to NLSFs */\r
91         SKP_Silk_A2NLSF( NLSF_Q15, a_tmp_Q16, LPC_order );\r
92 \r
93         /* Search over interpolation indices to find the one with lowest residual energy */\r
94         res_nrg_2nd = SKP_int32_MAX;\r
95         for( k = 3; k >= 0; k-- ) {\r
96             /* Interpolate NLSFs for first half */\r
97             SKP_Silk_interpolate( NLSF0_Q15, prev_NLSFq_Q15, NLSF_Q15, k, LPC_order );\r
98 \r
99             /* Convert to LPC for residual energy evaluation */\r
100             SKP_Silk_NLSF2A_stable( a_tmp_Q12, NLSF0_Q15, LPC_order );\r
101 \r
102             /* Calculate residual energy with NLSF interpolation */\r
103             SKP_Silk_LPC_analysis_filter( LPC_res, x, a_tmp_Q12, 2 * subfr_length, LPC_order );\r
104 \r
105             SKP_Silk_sum_sqr_shift( &res_nrg0, &rshift0, LPC_res + LPC_order,                subfr_length - LPC_order );\r
106             SKP_Silk_sum_sqr_shift( &res_nrg1, &rshift1, LPC_res + LPC_order + subfr_length, subfr_length - LPC_order );\r
107 \r
108             /* Add subframe energies from first half frame */\r
109             shift = rshift0 - rshift1;\r
110             if( shift >= 0 ) {\r
111                 res_nrg1         = SKP_RSHIFT( res_nrg1, shift );\r
112                 res_nrg_interp_Q = -rshift0;\r
113             } else {\r
114                 res_nrg0         = SKP_RSHIFT( res_nrg0, -shift );\r
115                 res_nrg_interp_Q = -rshift1;\r
116             }\r
117             res_nrg_interp = SKP_ADD32( res_nrg0, res_nrg1 );\r
118 \r
119             /* Compare with first half energy without NLSF interpolation, or best interpolated value so far */\r
120             shift = res_nrg_interp_Q - res_nrg_Q;\r
121             if( shift >= 0 ) {\r
122                 if( SKP_RSHIFT( res_nrg_interp, shift ) < res_nrg ) {\r
123                     isInterpLower = SKP_TRUE;\r
124                 } else {\r
125                     isInterpLower = SKP_FALSE;\r
126                 }\r
127             } else {\r
128                 if( -shift < 32 ) { \r
129                     if( res_nrg_interp < SKP_RSHIFT( res_nrg, -shift ) ) {\r
130                         isInterpLower = SKP_TRUE;\r
131                     } else {\r
132                         isInterpLower = SKP_FALSE;\r
133                     }\r
134                 } else {\r
135                     isInterpLower = SKP_FALSE;\r
136                 }\r
137             }\r
138 \r
139             /* Determine whether current interpolated NLSFs are best so far */\r
140             if( isInterpLower == SKP_TRUE ) {\r
141                 /* Interpolation has lower residual energy */\r
142                 res_nrg   = res_nrg_interp;\r
143                 res_nrg_Q = res_nrg_interp_Q;\r
144                 *interpIndex = (SKP_int8)k;\r
145             }\r
146             res_nrg_2nd   = res_nrg_interp;\r
147             res_nrg_2nd_Q = res_nrg_interp_Q;\r
148         }\r
149     }\r
150 \r
151     if( *interpIndex == 4 ) {\r
152         /* NLSF interpolation is currently inactive, calculate NLSFs from full frame AR coefficients */\r
153         SKP_Silk_A2NLSF( NLSF_Q15, a_Q16, LPC_order );\r
154     }\r
155 \r
156     SKP_assert( *interpIndex == 4 || ( useInterpNLSFs && !firstFrameAfterReset && nb_subfr == MAX_NB_SUBFR ) );\r
157 }\r