d00d2a10c80446bacde30fbe63a5fd8f1dd3c1c4
[opus.git] / silk / x86 / main_sse.h
1 /* Copyright (c) 2014, Cisco Systems, INC
2    Written by XiangMingZhu WeiZhou MinPeng YanWang
3
4    Redistribution and use in source and binary forms, with or without
5    modification, are permitted provided that the following conditions
6    are met:
7
8    - Redistributions of source code must retain the above copyright
9    notice, this list of conditions and the following disclaimer.
10
11    - Redistributions in binary form must reproduce the above copyright
12    notice, this list of conditions and the following disclaimer in the
13    documentation and/or other materials provided with the distribution.
14
15    THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
16    ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
17    LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
18    A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT OWNER
19    OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
20    EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
21    PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
22    PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF
23    LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING
24    NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS
25    SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
26 */
27
28 #ifndef MAIN_SSE_H
29 #define MAIN_SSE_H
30
31 #ifdef HAVE_CONFIG_H
32 #include "config.h"
33 #endif
34
35 # if defined(OPUS_X86_MAY_HAVE_SSE4_1)
36
37 #if 0 /* FIXME: SSE disabled until silk_VQ_WMat_EC_sse4_1() gets updated. */
38 #  define OVERRIDE_silk_VQ_WMat_EC
39
40 void silk_VQ_WMat_EC_sse4_1(
41     opus_int8                   *ind,                           /* O    index of best codebook vector               */
42     opus_int32                  *rate_dist_Q14,                 /* O    best weighted quant error + mu * rate       */
43     opus_int                    *gain_Q7,                       /* O    sum of absolute LTP coefficients            */
44     const opus_int16            *in_Q14,                        /* I    input vector to be quantized                */
45     const opus_int32            *W_Q18,                         /* I    weighting matrix                            */
46     const opus_int8             *cb_Q7,                         /* I    codebook                                    */
47     const opus_uint8            *cb_gain_Q7,                    /* I    codebook effective gain                     */
48     const opus_uint8            *cl_Q5,                         /* I    code length for each codebook vector        */
49     const opus_int              mu_Q9,                          /* I    tradeoff betw. weighted error and rate      */
50     const opus_int32            max_gain_Q7,                    /* I    maximum sum of absolute LTP coefficients    */
51     opus_int                    L                               /* I    number of vectors in codebook               */
52 );
53
54 #if defined OPUS_X86_PRESUME_SSE4_1
55
56 #define silk_VQ_WMat_EC(ind, rate_dist_Q14, gain_Q7, in_Q14, W_Q18, cb_Q7, cb_gain_Q7, cl_Q5, \
57                           mu_Q9, max_gain_Q7, L, arch) \
58     ((void)(arch),silk_VQ_WMat_EC_sse4_1(ind, rate_dist_Q14, gain_Q7, in_Q14, W_Q18, cb_Q7, cb_gain_Q7, cl_Q5, \
59                           mu_Q9, max_gain_Q7, L))
60
61 #else
62
63 extern void (*const SILK_VQ_WMAT_EC_IMPL[OPUS_ARCHMASK + 1])(
64     opus_int8                   *ind,                           /* O    index of best codebook vector               */
65     opus_int32                  *rate_dist_Q14,                 /* O    best weighted quant error + mu * rate       */
66     opus_int                    *gain_Q7,                       /* O    sum of absolute LTP coefficients            */
67     const opus_int16            *in_Q14,                        /* I    input vector to be quantized                */
68     const opus_int32            *W_Q18,                         /* I    weighting matrix                            */
69     const opus_int8             *cb_Q7,                         /* I    codebook                                    */
70     const opus_uint8            *cb_gain_Q7,                    /* I    codebook effective gain                     */
71     const opus_uint8            *cl_Q5,                         /* I    code length for each codebook vector        */
72     const opus_int              mu_Q9,                          /* I    tradeoff betw. weighted error and rate      */
73     const opus_int32            max_gain_Q7,                    /* I    maximum sum of absolute LTP coefficients    */
74     opus_int                    L                               /* I    number of vectors in codebook               */
75 );
76
77 #  define silk_VQ_WMat_EC(ind, rate_dist_Q14, gain_Q7, in_Q14, W_Q18, cb_Q7, cb_gain_Q7, cl_Q5, \
78                           mu_Q9, max_gain_Q7, L, arch) \
79     ((*SILK_VQ_WMAT_EC_IMPL[(arch) & OPUS_ARCHMASK])(ind, rate_dist_Q14, gain_Q7, in_Q14, W_Q18, cb_Q7, cb_gain_Q7, cl_Q5, \
80                           mu_Q9, max_gain_Q7, L))
81
82 #endif
83 #endif
84
85 #  define OVERRIDE_silk_NSQ
86
87 void silk_NSQ_sse4_1(
88     const silk_encoder_state    *psEncC,                                    /* I/O  Encoder State                   */
89     silk_nsq_state              *NSQ,                                       /* I/O  NSQ state                       */
90     SideInfoIndices             *psIndices,                                 /* I/O  Quantization Indices            */
91     const opus_int32            x_Q3[],                                     /* I    Prefiltered input signal        */
92     opus_int8                   pulses[],                                   /* O    Quantized pulse signal          */
93     const opus_int16            PredCoef_Q12[ 2 * MAX_LPC_ORDER ],          /* I    Short term prediction coefs     */
94     const opus_int16            LTPCoef_Q14[ LTP_ORDER * MAX_NB_SUBFR ],    /* I    Long term prediction coefs      */
95     const opus_int16            AR2_Q13[ MAX_NB_SUBFR * MAX_SHAPE_LPC_ORDER ], /* I Noise shaping coefs             */
96     const opus_int              HarmShapeGain_Q14[ MAX_NB_SUBFR ],          /* I    Long term shaping coefs         */
97     const opus_int              Tilt_Q14[ MAX_NB_SUBFR ],                   /* I    Spectral tilt                   */
98     const opus_int32            LF_shp_Q14[ MAX_NB_SUBFR ],                 /* I    Low frequency shaping coefs     */
99     const opus_int32            Gains_Q16[ MAX_NB_SUBFR ],                  /* I    Quantization step sizes         */
100     const opus_int              pitchL[ MAX_NB_SUBFR ],                     /* I    Pitch lags                      */
101     const opus_int              Lambda_Q10,                                 /* I    Rate/distortion tradeoff        */
102     const opus_int              LTP_scale_Q14                               /* I    LTP state scaling               */
103 );
104
105 #if defined OPUS_X86_PRESUME_SSE4_1
106
107 #define silk_NSQ(psEncC, NSQ, psIndices, x_Q3, pulses, PredCoef_Q12, LTPCoef_Q14, AR2_Q13, \
108                    HarmShapeGain_Q14, Tilt_Q14, LF_shp_Q14, Gains_Q16, pitchL, Lambda_Q10, LTP_scale_Q14, arch) \
109     ((void)(arch),silk_NSQ_sse4_1(psEncC, NSQ, psIndices, x_Q3, pulses, PredCoef_Q12, LTPCoef_Q14, AR2_Q13, \
110                    HarmShapeGain_Q14, Tilt_Q14, LF_shp_Q14, Gains_Q16, pitchL, Lambda_Q10, LTP_scale_Q14))
111
112 #else
113
114 extern void (*const SILK_NSQ_IMPL[OPUS_ARCHMASK + 1])(
115     const silk_encoder_state    *psEncC,                                    /* I/O  Encoder State                   */
116     silk_nsq_state              *NSQ,                                       /* I/O  NSQ state                       */
117     SideInfoIndices             *psIndices,                                 /* I/O  Quantization Indices            */
118     const opus_int32            x_Q3[],                                     /* I    Prefiltered input signal        */
119     opus_int8                   pulses[],                                   /* O    Quantized pulse signal          */
120     const opus_int16            PredCoef_Q12[ 2 * MAX_LPC_ORDER ],          /* I    Short term prediction coefs     */
121     const opus_int16            LTPCoef_Q14[ LTP_ORDER * MAX_NB_SUBFR ],    /* I    Long term prediction coefs      */
122     const opus_int16            AR2_Q13[ MAX_NB_SUBFR * MAX_SHAPE_LPC_ORDER ], /* I Noise shaping coefs             */
123     const opus_int              HarmShapeGain_Q14[ MAX_NB_SUBFR ],          /* I    Long term shaping coefs         */
124     const opus_int              Tilt_Q14[ MAX_NB_SUBFR ],                   /* I    Spectral tilt                   */
125     const opus_int32            LF_shp_Q14[ MAX_NB_SUBFR ],                 /* I    Low frequency shaping coefs     */
126     const opus_int32            Gains_Q16[ MAX_NB_SUBFR ],                  /* I    Quantization step sizes         */
127     const opus_int              pitchL[ MAX_NB_SUBFR ],                     /* I    Pitch lags                      */
128     const opus_int              Lambda_Q10,                                 /* I    Rate/distortion tradeoff        */
129     const opus_int              LTP_scale_Q14                               /* I    LTP state scaling               */
130 );
131
132 #  define silk_NSQ(psEncC, NSQ, psIndices, x_Q3, pulses, PredCoef_Q12, LTPCoef_Q14, AR2_Q13, \
133                    HarmShapeGain_Q14, Tilt_Q14, LF_shp_Q14, Gains_Q16, pitchL, Lambda_Q10, LTP_scale_Q14, arch) \
134     ((*SILK_NSQ_IMPL[(arch) & OPUS_ARCHMASK])(psEncC, NSQ, psIndices, x_Q3, pulses, PredCoef_Q12, LTPCoef_Q14, AR2_Q13, \
135                    HarmShapeGain_Q14, Tilt_Q14, LF_shp_Q14, Gains_Q16, pitchL, Lambda_Q10, LTP_scale_Q14))
136
137 #endif
138
139 #  define OVERRIDE_silk_NSQ_del_dec
140
141 void silk_NSQ_del_dec_sse4_1(
142     const silk_encoder_state    *psEncC,                                    /* I/O  Encoder State                   */
143     silk_nsq_state              *NSQ,                                       /* I/O  NSQ state                       */
144     SideInfoIndices             *psIndices,                                 /* I/O  Quantization Indices            */
145     const opus_int32            x_Q3[],                                     /* I    Prefiltered input signal        */
146     opus_int8                   pulses[],                                   /* O    Quantized pulse signal          */
147     const opus_int16            PredCoef_Q12[ 2 * MAX_LPC_ORDER ],          /* I    Short term prediction coefs     */
148     const opus_int16            LTPCoef_Q14[ LTP_ORDER * MAX_NB_SUBFR ],    /* I    Long term prediction coefs      */
149     const opus_int16            AR2_Q13[ MAX_NB_SUBFR * MAX_SHAPE_LPC_ORDER ], /* I Noise shaping coefs             */
150     const opus_int              HarmShapeGain_Q14[ MAX_NB_SUBFR ],          /* I    Long term shaping coefs         */
151     const opus_int              Tilt_Q14[ MAX_NB_SUBFR ],                   /* I    Spectral tilt                   */
152     const opus_int32            LF_shp_Q14[ MAX_NB_SUBFR ],                 /* I    Low frequency shaping coefs     */
153     const opus_int32            Gains_Q16[ MAX_NB_SUBFR ],                  /* I    Quantization step sizes         */
154     const opus_int              pitchL[ MAX_NB_SUBFR ],                     /* I    Pitch lags                      */
155     const opus_int              Lambda_Q10,                                 /* I    Rate/distortion tradeoff        */
156     const opus_int              LTP_scale_Q14                               /* I    LTP state scaling               */
157 );
158
159 #if defined OPUS_X86_PRESUME_SSE4_1
160
161 #define silk_NSQ_del_dec(psEncC, NSQ, psIndices, x_Q3, pulses, PredCoef_Q12, LTPCoef_Q14, AR2_Q13, \
162                            HarmShapeGain_Q14, Tilt_Q14, LF_shp_Q14, Gains_Q16, pitchL, Lambda_Q10, LTP_scale_Q14, arch) \
163     ((void)(arch),silk_NSQ_del_dec_sse4_1(psEncC, NSQ, psIndices, x_Q3, pulses, PredCoef_Q12, LTPCoef_Q14, AR2_Q13, \
164                            HarmShapeGain_Q14, Tilt_Q14, LF_shp_Q14, Gains_Q16, pitchL, Lambda_Q10, LTP_scale_Q14))
165
166 #else
167
168 extern void (*const SILK_NSQ_DEL_DEC_IMPL[OPUS_ARCHMASK + 1])(
169     const silk_encoder_state    *psEncC,                                    /* I/O  Encoder State                   */
170     silk_nsq_state              *NSQ,                                       /* I/O  NSQ state                       */
171     SideInfoIndices             *psIndices,                                 /* I/O  Quantization Indices            */
172     const opus_int32            x_Q3[],                                     /* I    Prefiltered input signal        */
173     opus_int8                   pulses[],                                   /* O    Quantized pulse signal          */
174     const opus_int16            PredCoef_Q12[ 2 * MAX_LPC_ORDER ],          /* I    Short term prediction coefs     */
175     const opus_int16            LTPCoef_Q14[ LTP_ORDER * MAX_NB_SUBFR ],    /* I    Long term prediction coefs      */
176     const opus_int16            AR2_Q13[ MAX_NB_SUBFR * MAX_SHAPE_LPC_ORDER ], /* I Noise shaping coefs             */
177     const opus_int              HarmShapeGain_Q14[ MAX_NB_SUBFR ],          /* I    Long term shaping coefs         */
178     const opus_int              Tilt_Q14[ MAX_NB_SUBFR ],                   /* I    Spectral tilt                   */
179     const opus_int32            LF_shp_Q14[ MAX_NB_SUBFR ],                 /* I    Low frequency shaping coefs     */
180     const opus_int32            Gains_Q16[ MAX_NB_SUBFR ],                  /* I    Quantization step sizes         */
181     const opus_int              pitchL[ MAX_NB_SUBFR ],                     /* I    Pitch lags                      */
182     const opus_int              Lambda_Q10,                                 /* I    Rate/distortion tradeoff        */
183     const opus_int              LTP_scale_Q14                               /* I    LTP state scaling               */
184 );
185
186 #  define silk_NSQ_del_dec(psEncC, NSQ, psIndices, x_Q3, pulses, PredCoef_Q12, LTPCoef_Q14, AR2_Q13, \
187                            HarmShapeGain_Q14, Tilt_Q14, LF_shp_Q14, Gains_Q16, pitchL, Lambda_Q10, LTP_scale_Q14, arch) \
188     ((*SILK_NSQ_DEL_DEC_IMPL[(arch) & OPUS_ARCHMASK])(psEncC, NSQ, psIndices, x_Q3, pulses, PredCoef_Q12, LTPCoef_Q14, AR2_Q13, \
189                            HarmShapeGain_Q14, Tilt_Q14, LF_shp_Q14, Gains_Q16, pitchL, Lambda_Q10, LTP_scale_Q14))
190
191 #endif
192
193 void silk_noise_shape_quantizer(
194     silk_nsq_state      *NSQ,                   /* I/O  NSQ state                       */
195     opus_int            signalType,             /* I    Signal type                     */
196     const opus_int32    x_sc_Q10[],             /* I                                    */
197     opus_int8           pulses[],               /* O                                    */
198     opus_int16          xq[],                   /* O                                    */
199     opus_int32          sLTP_Q15[],             /* I/O  LTP state                       */
200     const opus_int16    a_Q12[],                /* I    Short term prediction coefs     */
201     const opus_int16    b_Q14[],                /* I    Long term prediction coefs      */
202     const opus_int16    AR_shp_Q13[],           /* I    Noise shaping AR coefs          */
203     opus_int            lag,                    /* I    Pitch lag                       */
204     opus_int32          HarmShapeFIRPacked_Q14, /* I                                    */
205     opus_int            Tilt_Q14,               /* I    Spectral tilt                   */
206     opus_int32          LF_shp_Q14,             /* I                                    */
207     opus_int32          Gain_Q16,               /* I                                    */
208     opus_int            Lambda_Q10,             /* I                                    */
209     opus_int            offset_Q10,             /* I                                    */
210     opus_int            length,                 /* I    Input length                    */
211     opus_int            shapingLPCOrder,        /* I    Noise shaping AR filter order   */
212     opus_int            predictLPCOrder,        /* I    Prediction filter order         */
213     int                 arch                    /* I    Architecture                    */
214 );
215
216 /**************************/
217 /* Noise level estimation */
218 /**************************/
219 void silk_VAD_GetNoiseLevels(
220     const opus_int32            pX[ VAD_N_BANDS ],  /* I    subband energies                            */
221     silk_VAD_state              *psSilk_VAD         /* I/O  Pointer to Silk VAD state                   */
222 );
223
224 #  define OVERRIDE_silk_VAD_GetSA_Q8
225
226 opus_int silk_VAD_GetSA_Q8_sse4_1(
227     silk_encoder_state *psEnC,
228     const opus_int16   pIn[]
229 );
230
231 #if defined(OPUS_X86_PRESUME_SSE4_1)
232 #define silk_VAD_GetSA_Q8(psEnC, pIn, arch) ((void)(arch),silk_VAD_GetSA_Q8_sse4_1(psEnC, pIn))
233
234 #else
235
236 #  define silk_VAD_GetSA_Q8(psEnC, pIn, arch) \
237      ((*SILK_VAD_GETSA_Q8_IMPL[(arch) & OPUS_ARCHMASK])(psEnC, pIn))
238
239 extern opus_int (*const SILK_VAD_GETSA_Q8_IMPL[OPUS_ARCHMASK + 1])(
240      silk_encoder_state *psEnC,
241      const opus_int16   pIn[]);
242
243 #  define OVERRIDE_silk_warped_LPC_analysis_filter_FIX
244
245 #endif
246
247 void silk_warped_LPC_analysis_filter_FIX_sse4_1(
248           opus_int32            state[],                    /* I/O  State [order + 1]                   */
249           opus_int32            res_Q2[],                   /* O    Residual signal [length]            */
250     const opus_int16            coef_Q13[],                 /* I    Coefficients [order]                */
251     const opus_int16            input[],                    /* I    Input signal [length]               */
252     const opus_int16            lambda_Q16,                 /* I    Warping factor                      */
253     const opus_int              length,                     /* I    Length of input signal              */
254     const opus_int              order                       /* I    Filter order (even)                 */
255 );
256
257 #if defined(OPUS_X86_PRESUME_SSE4_1)
258 #define silk_warped_LPC_analysis_filter_FIX(state, res_Q2, coef_Q13, input, lambda_Q16, length, order, arch) \
259     ((void)(arch),silk_warped_LPC_analysis_filter_FIX_c(state, res_Q2, coef_Q13, input, lambda_Q16, length, order))
260
261 #else
262
263 extern void (*const SILK_WARPED_LPC_ANALYSIS_FILTER_FIX_IMPL[OPUS_ARCHMASK + 1])(
264           opus_int32            state[],                    /* I/O  State [order + 1]                   */
265           opus_int32            res_Q2[],                   /* O    Residual signal [length]            */
266     const opus_int16            coef_Q13[],                 /* I    Coefficients [order]                */
267     const opus_int16            input[],                    /* I    Input signal [length]               */
268     const opus_int16            lambda_Q16,                 /* I    Warping factor                      */
269     const opus_int              length,                     /* I    Length of input signal              */
270     const opus_int              order                       /* I    Filter order (even)                 */
271 );
272
273 #  define silk_warped_LPC_analysis_filter_FIX(state, res_Q2, coef_Q13, input, lambda_Q16, length, order, arch) \
274     ((*SILK_WARPED_LPC_ANALYSIS_FILTER_FIX_IMPL[(arch) & OPUS_ARCHMASK])(state, res_Q2, coef_Q13, input, lambda_Q16, length, order))
275
276 #endif
277
278 # endif
279 #endif