Initial Skype commit taken from FreeSwitch, which got it from the IETF draft.
[opus.git] / src / SKP_Silk_find_LPC_FIX.c
1 /***********************************************************************\r
2 Copyright (c) 2006-2010, Skype Limited. All rights reserved. \r
3 Redistribution and use in source and binary forms, with or without \r
4 modification, (subject to the limitations in the disclaimer below) \r
5 are permitted provided that the following conditions are met:\r
6 - Redistributions of source code must retain the above copyright notice,\r
7 this list of conditions and the following disclaimer.\r
8 - Redistributions in binary form must reproduce the above copyright \r
9 notice, this list of conditions and the following disclaimer in the \r
10 documentation and/or other materials provided with the distribution.\r
11 - Neither the name of Skype Limited, nor the names of specific \r
12 contributors, may be used to endorse or promote products derived from \r
13 this software without specific prior written permission.\r
14 NO EXPRESS OR IMPLIED LICENSES TO ANY PARTY'S PATENT RIGHTS ARE GRANTED \r
15 BY THIS LICENSE. THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND \r
16 CONTRIBUTORS ''AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING,\r
17 BUT NOT LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND \r
18 FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE \r
19 COPYRIGHT OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, \r
20 INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT\r
21 NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF \r
22 USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON \r
23 ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT \r
24 (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE \r
25 OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.\r
26 ***********************************************************************/\r
27 \r
28 #include "SKP_Silk_main_FIX.h"\r
29 \r
30 /* Finds LPC vector from correlations, and converts to NLSF */\r
31 void SKP_Silk_find_LPC_FIX(\r
32     SKP_int             NLSF_Q15[],             /* O    NLSFs                                                                       */\r
33     SKP_int             *interpIndex,           /* O    NLSF interpolation index, only used for NLSF interpolation                  */\r
34     const SKP_int       prev_NLSFq_Q15[],       /* I    previous NLSFs, only used for NLSF interpolation                            */\r
35     const SKP_int       useInterpolatedNLSFs,   /* I    Flag                                                                        */\r
36     const SKP_int       LPC_order,              /* I    LPC order                                                                   */\r
37     const SKP_int16     x[],                    /* I    Input signal                                                                */\r
38     const SKP_int       subfr_length            /* I    Input signal subframe length including preceeding samples                   */\r
39 )\r
40 {\r
41     SKP_int     k;\r
42     SKP_int32   a_Q16[ MAX_LPC_ORDER ];\r
43 \r
44     SKP_int     isInterpLower, shift;\r
45     SKP_int16   S[ MAX_LPC_ORDER ];\r
46     SKP_int32   res_nrg0, res_nrg1;\r
47     SKP_int     rshift0, rshift1; \r
48 \r
49     /* Used only for LSF interpolation */\r
50     SKP_int32   a_tmp_Q16[ MAX_LPC_ORDER ], res_nrg_interp, res_nrg, res_tmp_nrg, res_nrg_2nd;\r
51     SKP_int     res_nrg_interp_Q, res_nrg_Q, res_tmp_nrg_Q, res_nrg_2nd_Q;\r
52     SKP_int16   a_tmp_Q12[ MAX_LPC_ORDER ];\r
53     SKP_int     NLSF0_Q15[ MAX_LPC_ORDER ];\r
54     SKP_int16   LPC_res[ ( MAX_FRAME_LENGTH + NB_SUBFR * MAX_LPC_ORDER ) / 2 ];\r
55 \r
56     /* Default: no interpolation */\r
57     *interpIndex = 4;\r
58 \r
59     /* Burg AR analysis for the full frame */\r
60     SKP_Silk_burg_modified( &res_nrg, &res_nrg_Q, a_Q16, x, subfr_length, NB_SUBFR, FIND_LPC_COND_FAC_Q32, LPC_order );\r
61 \r
62     if( useInterpolatedNLSFs == 1 ) {\r
63 \r
64         /* Optimal solution for last 10 ms */\r
65         SKP_Silk_burg_modified( &res_tmp_nrg, &res_tmp_nrg_Q, a_tmp_Q16, x + ( NB_SUBFR >> 1 ) * subfr_length, \r
66             subfr_length, ( NB_SUBFR >> 1 ), FIND_LPC_COND_FAC_Q32, LPC_order );\r
67 \r
68         /* subtract residual energy here, as that's easier than adding it to the    */\r
69         /* residual energy of the first 10 ms in each iteration of the search below */\r
70         shift = res_tmp_nrg_Q - res_nrg_Q;\r
71         if( shift >= 0 ) {\r
72             if( shift < 32 ) { \r
73                 res_nrg = res_nrg - SKP_RSHIFT( res_tmp_nrg, shift );\r
74             }\r
75         } else {\r
76             SKP_assert( shift > -32 ); \r
77             res_nrg   = SKP_RSHIFT( res_nrg, -shift ) - res_tmp_nrg;\r
78             res_nrg_Q = res_tmp_nrg_Q; \r
79         }\r
80         \r
81         /* Convert to NLSFs */\r
82         SKP_Silk_A2NLSF( NLSF_Q15, a_tmp_Q16, LPC_order );\r
83 \r
84         /* Search over interpolation indices to find the one with lowest residual energy */\r
85         res_nrg_2nd = SKP_int32_MAX;\r
86         for( k = 3; k >= 0; k-- ) {\r
87             /* Interpolate NLSFs for first half */\r
88             SKP_Silk_interpolate( NLSF0_Q15, prev_NLSFq_Q15, NLSF_Q15, k, LPC_order );\r
89 \r
90             /* Convert to LPC for residual energy evaluation */\r
91             SKP_Silk_NLSF2A_stable( a_tmp_Q12, NLSF0_Q15, LPC_order );\r
92 \r
93             /* Calculate residual energy with NLSF interpolation */\r
94             SKP_memset( S, 0, LPC_order * sizeof( SKP_int16 ) );\r
95             SKP_Silk_LPC_analysis_filter( x, a_tmp_Q12, S, LPC_res, 2 * subfr_length, LPC_order );\r
96 \r
97             SKP_Silk_sum_sqr_shift( &res_nrg0, &rshift0, LPC_res + LPC_order,                subfr_length - LPC_order );\r
98             SKP_Silk_sum_sqr_shift( &res_nrg1, &rshift1, LPC_res + LPC_order + subfr_length, subfr_length - LPC_order );\r
99 \r
100             /* Add subframe energies from first half frame */\r
101             shift = rshift0 - rshift1;\r
102             if( shift >= 0 ) {\r
103                 res_nrg1         = SKP_RSHIFT( res_nrg1, shift );\r
104                 res_nrg_interp_Q = -rshift0;\r
105             } else {\r
106                 res_nrg0         = SKP_RSHIFT( res_nrg0, -shift );\r
107                 res_nrg_interp_Q = -rshift1;\r
108             }\r
109             res_nrg_interp = SKP_ADD32( res_nrg0, res_nrg1 );\r
110 \r
111             /* Compare with first half energy without NLSF interpolation, or best interpolated value so far */\r
112             shift = res_nrg_interp_Q - res_nrg_Q;\r
113             if( shift >= 0 ) {\r
114                 if( SKP_RSHIFT( res_nrg_interp, shift ) < res_nrg ) {\r
115                     isInterpLower = SKP_TRUE;\r
116                 } else {\r
117                     isInterpLower = SKP_FALSE;\r
118                 }\r
119             } else {\r
120                 if( -shift < 32 ) { \r
121                     if( res_nrg_interp < SKP_RSHIFT( res_nrg, -shift ) ) {\r
122                         isInterpLower = SKP_TRUE;\r
123                     } else {\r
124                         isInterpLower = SKP_FALSE;\r
125                     }\r
126                 } else {\r
127                     isInterpLower = SKP_FALSE;\r
128                 }\r
129             }\r
130 \r
131             /* Determine whether current interpolated NLSFs are best so far */\r
132             if( isInterpLower == SKP_TRUE ) {\r
133                 /* Interpolation has lower residual energy */\r
134                 res_nrg   = res_nrg_interp;\r
135                 res_nrg_Q = res_nrg_interp_Q;\r
136                 *interpIndex = k;\r
137             }\r
138             res_nrg_2nd   = res_nrg_interp;\r
139             res_nrg_2nd_Q = res_nrg_interp_Q;\r
140         }\r
141     }\r
142 \r
143     if( *interpIndex == 4 ) {\r
144         /* NLSF interpolation is currently inactive, calculate NLSFs from full frame AR coefficients */\r
145         SKP_Silk_A2NLSF( NLSF_Q15, a_Q16, LPC_order );\r
146     }\r
147 }\r