Fixes a crash on fixed-point stereo voice and some valgrind uninitialized errors
[opus.git] / silk / float / silk_main_FLP.h
1 /***********************************************************************\r
2 Copyright (c) 2006-2011, Skype Limited. All rights reserved. \r
3 Redistribution and use in source and binary forms, with or without \r
4 modification, (subject to the limitations in the disclaimer below) \r
5 are permitted provided that the following conditions are met:\r
6 - Redistributions of source code must retain the above copyright notice,\r
7 this list of conditions and the following disclaimer.\r
8 - Redistributions in binary form must reproduce the above copyright \r
9 notice, this list of conditions and the following disclaimer in the \r
10 documentation and/or other materials provided with the distribution.\r
11 - Neither the name of Skype Limited, nor the names of specific \r
12 contributors, may be used to endorse or promote products derived from \r
13 this software without specific prior written permission.\r
14 NO EXPRESS OR IMPLIED LICENSES TO ANY PARTY'S PATENT RIGHTS ARE GRANTED \r
15 BY THIS LICENSE. THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND \r
16 CONTRIBUTORS ''AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING,\r
17 BUT NOT LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND \r
18 FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE \r
19 COPYRIGHT OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, \r
20 INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT\r
21 NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF \r
22 USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON \r
23 ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT \r
24 (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE \r
25 OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.\r
26 ***********************************************************************/\r
27 \r
28 #ifndef SILK_MAIN_FLP_H\r
29 #define SILK_MAIN_FLP_H\r
30 \r
31 #include "silk_SigProc_FLP.h"\r
32 #include "silk_SigProc_FIX.h"\r
33 #include "silk_structs_FLP.h"\r
34 #include "silk_main.h"\r
35 #include "silk_define.h"\r
36 #include "silk_debug.h"\r
37 #include "entenc.h"\r
38 \r
39 #ifdef __cplusplus\r
40 extern "C"\r
41 {\r
42 #endif\r
43 \r
44 #define silk_encoder_state_Fxx      silk_encoder_state_FLP\r
45 #define silk_encode_frame_Fxx       silk_encode_frame_FLP\r
46 \r
47 /*********************/\r
48 /* Encoder Functions */\r
49 /*********************/\r
50 \r
51 /* High-pass filter with cutoff frequency adaptation based on pitch lag statistics */\r
52 void silk_HP_variable_cutoff(\r
53     silk_encoder_state_Fxx          state_Fxx[],        /* I/O  Encoder states                          */\r
54     const SKP_int                   nChannels           /* I    Number of channels                      */\r
55 );\r
56 \r
57 /* Encoder main function */\r
58 SKP_int silk_encode_frame_FLP( \r
59     silk_encoder_state_FLP          *psEnc,             /* I/O  Encoder state FLP                       */\r
60     SKP_int32                       *pnBytesOut,        /*   O  Number of payload bytes;                */\r
61     ec_enc                          *psRangeEnc         /* I/O  compressor data structure               */\r
62 );\r
63 \r
64 /* Low Bitrate Redundancy (LBRR) encoding. Reuse all parameters but encode with lower bitrate           */\r
65 void silk_LBRR_encode_FLP(\r
66     silk_encoder_state_FLP          *psEnc,             /* I/O  Encoder state FLP                       */\r
67     silk_encoder_control_FLP        *psEncCtrl,         /* I/O  Encoder control FLP                     */\r
68     const SKP_float                 xfw[]               /* I    Input signal                            */\r
69 );\r
70 \r
71 /* Initializes the Silk encoder state */\r
72 SKP_int silk_init_encoder(\r
73     silk_encoder_state_FLP          *psEnc              /* I/O  Encoder state FLP                       */\r
74 );\r
75 \r
76 /* Control the Silk encoder */\r
77 SKP_int silk_control_encoder( \r
78     silk_encoder_state_FLP          *psEnc,             /* I/O  Pointer to Silk encoder state FLP       */\r
79     silk_EncControlStruct           *encControl,        /* I:   Control structure                       */\r
80     const SKP_int32                 TargetRate_bps,     /* I    Target max bitrate (bps)                */\r
81     const SKP_int                   allow_bw_switch,    /* I    Flag to allow switching audio bandwidth */\r
82     const SKP_int                   channelNb           /* I    Channel number                          */\r
83 );\r
84 \r
85 /****************/\r
86 /* Prefiltering */\r
87 /****************/\r
88 void silk_prefilter_FLP(\r
89     silk_encoder_state_FLP              *psEnc,         /* I/O  Encoder state FLP                       */\r
90     const silk_encoder_control_FLP      *psEncCtrl,     /* I    Encoder control FLP                     */\r
91           SKP_float                     xw[],           /* O    Weighted signal                         */\r
92     const SKP_float                     x[]             /* I    Speech signal                           */\r
93 );\r
94 \r
95 /**************************/\r
96 /* Noise shaping analysis */\r
97 /**************************/\r
98 /* Compute noise shaping coefficients and initial gain values */\r
99 void silk_noise_shape_analysis_FLP(\r
100     silk_encoder_state_FLP          *psEnc,             /* I/O  Encoder state FLP                       */\r
101     silk_encoder_control_FLP        *psEncCtrl,         /* I/O  Encoder control FLP                     */\r
102     const SKP_float                 *pitch_res,         /* I    LPC residual from pitch analysis        */\r
103     const SKP_float                 *x                  /* I    Input signal [frame_length + la_shape]  */\r
104 );\r
105 \r
106 /* Autocorrelations for a warped frequency axis */\r
107 void silk_warped_autocorrelation_FLP( \r
108           SKP_float                 *corr,              /* O    Result [order + 1]                      */\r
109     const SKP_float                 *input,             /* I    Input data to correlate                 */\r
110     const SKP_float                 warping,            /* I    Warping coefficient                     */\r
111     const SKP_int                   length,             /* I    Length of input                         */\r
112     const SKP_int                   order               /* I    Correlation order (even)                */\r
113 );\r
114 \r
115 /* Calculation of LTP state scaling */\r
116 void silk_LTP_scale_ctrl_FLP(\r
117     silk_encoder_state_FLP          *psEnc,             /* I/O  Encoder state FLP                       */\r
118     silk_encoder_control_FLP        *psEncCtrl          /* I/O  Encoder control FLP                     */\r
119 );\r
120 \r
121 /**********************************************/\r
122 /* Prediction Analysis                        */\r
123 /**********************************************/\r
124 /* Find pitch lags */\r
125 void silk_find_pitch_lags_FLP(\r
126     silk_encoder_state_FLP          *psEnc,             /* I/O  Encoder state FLP                       */\r
127     silk_encoder_control_FLP        *psEncCtrl,         /* I/O  Encoder control FLP                     */\r
128           SKP_float                 res[],              /* O    Residual                                */\r
129     const SKP_float                 x[]                 /* I    Speech signal                           */\r
130 );\r
131 \r
132 /* Find LPC and LTP coefficients */\r
133 void silk_find_pred_coefs_FLP(\r
134     silk_encoder_state_FLP          *psEnc,             /* I/O  Encoder state FLP                       */\r
135     silk_encoder_control_FLP        *psEncCtrl,         /* I/O  Encoder control FLP                     */\r
136     const SKP_float                 res_pitch[],        /* I    Residual from pitch analysis            */\r
137     const SKP_float                 x[]                 /* I    Speech signal                           */\r
138 );\r
139 \r
140 /* LPC analysis */\r
141 void silk_find_LPC_FLP(\r
142           SKP_int16                 NLSF_Q15[],             /* O    NLSFs                                   */\r
143           SKP_int8                  *interpIndex,           /* O    NLSF interp. index for NLSF interp.     */\r
144     const SKP_int16                 prev_NLSFq_Q15[],       /* I    Previous NLSFs, for NLSF interpolation  */\r
145     const SKP_int                   useInterpNLSFs,         /* I    Flag                                    */\r
146     const SKP_int                   firstFrameAfterReset,   /* I    Flag                                    */\r
147     const SKP_int                   LPC_order,              /* I    LPC order                               */\r
148     const SKP_float                 x[],                    /* I    Input signal                            */\r
149     const SKP_int                   subfr_length,           /* I    Subframe length incl preceeding samples */\r
150     const SKP_int                   nb_subfr                /* I:   Number of subframes                     */\r
151 );\r
152 \r
153 /* LTP analysis */\r
154 void silk_find_LTP_FLP(\r
155           SKP_float b[ MAX_NB_SUBFR * LTP_ORDER ],          /* O    LTP coefs                               */\r
156           SKP_float WLTP[ MAX_NB_SUBFR * LTP_ORDER * LTP_ORDER ], /* O    Weight for LTP quantization       */\r
157           SKP_float *LTPredCodGain,                         /* O    LTP coding gain                         */\r
158     const SKP_float r_lpc[],                                /* I    LPC residual                            */\r
159     const SKP_int   lag[  MAX_NB_SUBFR ],                   /* I    LTP lags                                */\r
160     const SKP_float Wght[ MAX_NB_SUBFR ],                   /* I    Weights                                 */\r
161     const SKP_int   subfr_length,                           /* I    Subframe length                         */\r
162     const SKP_int   nb_subfr,                               /* I    number of subframes                     */\r
163     const SKP_int   mem_offset                              /* I    Number of samples in LTP memory         */\r
164 );\r
165 \r
166 void silk_LTP_analysis_filter_FLP(\r
167           SKP_float         *LTP_res,                   /* O    LTP res MAX_NB_SUBFR*(pre_lgth+subfr_lngth) */\r
168     const SKP_float         *x,                         /* I    Input signal, with preceeding samples       */\r
169     const SKP_float         B[ LTP_ORDER * MAX_NB_SUBFR ],  /* I    LTP coefficients for each subframe      */\r
170     const SKP_int           pitchL[   MAX_NB_SUBFR ],   /* I    Pitch lags                                  */\r
171     const SKP_float         invGains[ MAX_NB_SUBFR ],   /* I    Inverse quantization gains                  */\r
172     const SKP_int           subfr_length,               /* I    Length of each subframe                     */\r
173     const SKP_int           nb_subfr,                   /* I    number of subframes                         */\r
174     const SKP_int           pre_length                  /* I    Preceeding samples for each subframe        */\r
175 );\r
176 \r
177 /* Calculates residual energies of input subframes where all subframes have LPC_order   */\r
178 /* of preceeding samples                                                                */\r
179 void silk_residual_energy_FLP(  \r
180           SKP_float             nrgs[ MAX_NB_SUBFR ],   /* O    Residual energy per subframe            */\r
181     const SKP_float             x[],                    /* I    Input signal                            */\r
182           SKP_float             a[ 2 ][ MAX_LPC_ORDER ],/* I    AR coefs for each frame half            */\r
183     const SKP_float             gains[],                /* I    Quantization gains                      */\r
184     const SKP_int               subfr_length,           /* I    Subframe length                         */\r
185     const SKP_int               nb_subfr,               /* I    number of subframes                     */\r
186     const SKP_int               LPC_order               /* I    LPC order                               */\r
187 );\r
188 \r
189 /* 16th order LPC analysis filter */\r
190 void silk_LPC_analysis_filter_FLP(\r
191           SKP_float                 r_LPC[],            /* O    LPC residual signal                     */\r
192     const SKP_float                 PredCoef[],         /* I    LPC coefficients                        */\r
193     const SKP_float                 s[],                /* I    Input signal                            */\r
194     const SKP_int                   length,             /* I    Length of input signal                  */\r
195     const SKP_int                   Order               /* I    LPC order                               */\r
196 );\r
197 \r
198 /* LTP tap quantizer */\r
199 void silk_quant_LTP_gains_FLP(\r
200           SKP_float B[ MAX_NB_SUBFR * LTP_ORDER ],              /* I/O  (Un-)quantized LTP gains                */\r
201           SKP_int8  cbk_index[ MAX_NB_SUBFR ],                  /* O    Codebook index                          */\r
202           SKP_int8  *periodicity_index,                         /* O    Periodicity index                       */\r
203     const SKP_float W[ MAX_NB_SUBFR * LTP_ORDER * LTP_ORDER ],  /* I    Error weights                           */\r
204     const SKP_int   mu_Q10,                                     /* I    Mu value (R/D tradeoff)                 */\r
205     const SKP_int   lowComplexity,                              /* I    Flag for low complexity                 */\r
206     const SKP_int   nb_subfr                                    /* I    number of subframes                     */\r
207 );\r
208 \r
209 /******************/\r
210 /* NLSF Quantizer */\r
211 /******************/\r
212 /* Limit, stabilize, and quantize NLSFs */\r
213 void silk_process_NLSFs_FLP(\r
214     silk_encoder_state              *psEncC,                            /* I/O  Encoder state                               */\r
215     SKP_float                       PredCoef[ 2 ][ MAX_LPC_ORDER ],     /* O    Prediction coefficients                     */\r
216     SKP_int16                       NLSF_Q15[      MAX_LPC_ORDER ],     /* I/O  Normalized LSFs (quant out) (0 - (2^15-1))  */\r
217     const SKP_int16                 prev_NLSF_Q15[ MAX_LPC_ORDER ]      /* I    Previous Normalized LSFs (0 - (2^15-1))     */\r
218 );\r
219 \r
220 /* Residual energy: nrg = wxx - 2 * wXx * c + c' * wXX * c */\r
221 SKP_float silk_residual_energy_covar_FLP(           /* O    Weighted residual energy                */\r
222     const SKP_float                 *c,                 /* I    Filter coefficients                     */\r
223           SKP_float                 *wXX,               /* I/O  Weighted correlation matrix, reg. out   */\r
224     const SKP_float                 *wXx,               /* I    Weighted correlation vector             */\r
225     const SKP_float                 wxx,                /* I    Weighted correlation value              */\r
226     const SKP_int                   D                   /* I    Dimension                               */\r
227 );\r
228 \r
229 /* Entropy constrained MATRIX-weighted VQ, for a single input data vector */\r
230 void silk_VQ_WMat_EC_FLP(\r
231           SKP_int                   *ind,               /* O    Index of best codebook vector           */\r
232           SKP_float                 *rate_dist,         /* O    Best weighted quant. error + mu * rate  */\r
233     const SKP_float                 *in,                /* I    Input vector to be quantized            */\r
234     const SKP_float                 *W,                 /* I    Weighting matrix                        */\r
235     const SKP_int16                 *cb,                /* I    Codebook                                */\r
236     const SKP_int16                 *cl_Q6,             /* I    Code length for each codebook vector    */\r
237     const SKP_float                 mu,                 /* I    Tradeoff between WSSE and rate          */\r
238     const SKP_int                   L                   /* I    Number of vectors in codebook           */\r
239 );\r
240 \r
241 /* Processing of gains */\r
242 void silk_process_gains_FLP(\r
243     silk_encoder_state_FLP          *psEnc,             /* I/O  Encoder state FLP                       */\r
244     silk_encoder_control_FLP        *psEncCtrl          /* I/O  Encoder control FLP                     */\r
245 );\r
246 \r
247 /******************/\r
248 /* Linear Algebra */\r
249 /******************/\r
250 /* Calculates correlation matrix X'*X */\r
251 void silk_corrMatrix_FLP(\r
252     const SKP_float                 *x,                 /* I    x vector [ L+order-1 ] used to create X */\r
253     const SKP_int                   L,                  /* I    Length of vectors                       */\r
254     const SKP_int                   Order,              /* I    Max lag for correlation                 */\r
255           SKP_float                 *XX                 /* O    X'*X correlation matrix [order x order] */\r
256 );\r
257 \r
258 /* Calculates correlation vector X'*t */\r
259 void silk_corrVector_FLP(\r
260     const SKP_float                 *x,                 /* I    x vector [L+order-1] used to create X   */\r
261     const SKP_float                 *t,                 /* I    Target vector [L]                       */\r
262     const SKP_int                   L,                  /* I    Length of vecors                        */\r
263     const SKP_int                   Order,              /* I    Max lag for correlation                 */\r
264           SKP_float                 *Xt                 /* O    X'*t correlation vector [order]         */\r
265 );\r
266 \r
267 /* Add noise to matrix diagonal */\r
268 void silk_regularize_correlations_FLP(\r
269           SKP_float                 *XX,                /* I/O  Correlation matrices                    */\r
270           SKP_float                 *xx,                /* I/O  Correlation values                      */\r
271     const SKP_float                 noise,              /* I    Noise energy to add                     */\r
272     const SKP_int                   D                   /* I    Dimension of XX                         */\r
273 );\r
274 \r
275 /* Function to solve linear equation Ax = b, where A is an MxM symmetric matrix */\r
276 void silk_solve_LDL_FLP(\r
277           SKP_float                 *A,                 /* I/O  Symmetric square matrix, out: reg.      */\r
278     const SKP_int                   M,                  /* I    Size of matrix                          */\r
279     const SKP_float                 *b,                 /* I    Pointer to b vector                     */\r
280           SKP_float                 *x                  /* O    Pointer to x solution vector            */\r
281 );\r
282 \r
283 /* Apply sine window to signal vector.                                                                  */\r
284 /* Window types:                                                                                        */\r
285 /*  1 -> sine window from 0 to pi/2                                                                     */\r
286 /*  2 -> sine window from pi/2 to pi                                                                    */\r
287 void silk_apply_sine_window_FLP(\r
288           SKP_float                 px_win[],           /* O    Pointer to windowed signal              */\r
289     const SKP_float                 px[],               /* I    Pointer to input signal                 */\r
290     const SKP_int                   win_type,           /* I    Selects a window type                   */\r
291     const SKP_int                   length              /* I    Window length, multiple of 4            */\r
292 );\r
293 \r
294 /* Wrappers. Calls flp / fix code */\r
295 \r
296 /* Convert AR filter coefficients to NLSF parameters */\r
297 void silk_A2NLSF_FLP( \r
298           SKP_int16                 *NLSF_Q15,          /* O    NLSF vector      [ LPC_order ]          */\r
299     const SKP_float                 *pAR,               /* I    LPC coefficients [ LPC_order ]          */\r
300     const SKP_int                   LPC_order           /* I    LPC order                               */\r
301 );\r
302 \r
303 /* Convert NLSF parameters to AR prediction filter coefficients */\r
304 void silk_NLSF2A_stable_FLP( \r
305           SKP_float                 *pAR,               /* O    LPC coefficients [ LPC_order ]          */\r
306     const SKP_int16                 *NLSF_Q15,          /* I    NLSF vector      [ LPC_order ]          */\r
307     const SKP_int                   LPC_order           /* I    LPC order                               */\r
308 );\r
309 \r
310 /****************************************/\r
311 /* Floating-point Silk NSQ wrapper      */\r
312 /****************************************/\r
313 void silk_NSQ_wrapper_FLP(\r
314     silk_encoder_state_FLP          *psEnc,         /* I/O  Encoder state FLP                           */\r
315     silk_encoder_control_FLP        *psEncCtrl,     /* I/O  Encoder control FLP                         */\r
316     SideInfoIndices                 *psIndices,     /* I/O  Quantization indices                        */\r
317     silk_nsq_state                  *psNSQ,         /* I/O  Noise Shaping Quantzation state             */\r
318           SKP_int8                  pulses[],       /* O    Quantized pulse signal                      */\r
319     const SKP_float                 x[]             /* I    Prefiltered input signal                    */\r
320 );\r
321 \r
322 #ifdef __cplusplus\r
323 }\r
324 #endif\r
325 \r
326 #endif\r