339dafc410756423f9c425f21465070620c1cae2
[opus.git] / silk / enc_API.c
1 /***********************************************************************
2 Copyright (c) 2006-2011, Skype Limited. All rights reserved.
3 Redistribution and use in source and binary forms, with or without
4 modification, (subject to the limitations in the disclaimer below)
5 are permitted provided that the following conditions are met:
6 - Redistributions of source code must retain the above copyright notice,
7 this list of conditions and the following disclaimer.
8 - Redistributions in binary form must reproduce the above copyright
9 notice, this list of conditions and the following disclaimer in the
10 documentation and/or other materials provided with the distribution.
11 - Neither the name of Skype Limited, nor the names of specific
12 contributors, may be used to endorse or promote products derived from
13 this software without specific prior written permission.
14 NO EXPRESS OR IMPLIED LICENSES TO ANY PARTY'S PATENT RIGHTS ARE GRANTED
15 BY THIS LICENSE. THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND
16 CONTRIBUTORS ''AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING,
17 BUT NOT LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND
18 FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE
19 COPYRIGHT OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT,
20 INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
21 NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF
22 USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON
23 ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
24 (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
25 OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
26 ***********************************************************************/
27
28 #ifdef HAVE_CONFIG_H
29 #include "config.h"
30 #endif
31 #include "define.h"
32 #include "API.h"
33 #include "control.h"
34 #include "typedef.h"
35 #include "structs.h"
36 #include "tuning_parameters.h"
37 #ifdef FIXED_POINT
38 #include "main_FIX.h"
39 #else
40 #include "main_FLP.h"
41 #endif
42
43 /****************************************/
44 /* Encoder functions                    */
45 /****************************************/
46
47 opus_int silk_Get_Encoder_Size( int *encSizeBytes )
48 {
49     opus_int ret = SILK_NO_ERROR;
50
51     *encSizeBytes = sizeof( silk_encoder );
52
53     return ret;
54 }
55
56 /*************************/
57 /* Init or Reset encoder */
58 /*************************/
59 opus_int silk_InitEncoder(
60     void                            *encState,          /* I/O: State                                           */
61     silk_EncControlStruct           *encStatus          /* O:   Control structure                               */
62 )
63 {
64     silk_encoder *psEnc;
65     opus_int n, ret = SILK_NO_ERROR;
66
67     psEnc = (silk_encoder *)encState;
68
69     /* Reset encoder */
70     silk_memset( psEnc, 0, sizeof( silk_encoder ) );
71     for( n = 0; n < ENCODER_NUM_CHANNELS; n++ ) {
72         if( ret += silk_init_encoder( &psEnc->state_Fxx[ n ] ) ) {
73             silk_assert( 0 );
74         }
75     }
76
77     psEnc->nChannelsAPI = 1;
78     psEnc->nChannelsInternal = 1;
79
80     /* Read control structure */
81     if( ret += silk_QueryEncoder( encState, encStatus ) ) {
82         silk_assert( 0 );
83     }
84
85     return ret;
86 }
87
88 /***************************************/
89 /* Read control structure from encoder */
90 /***************************************/
91 opus_int silk_QueryEncoder(
92     const void *encState,                       /* I:   State Vector                                    */
93     silk_EncControlStruct *encStatus            /* O:   Control Structure                               */
94 )
95 {
96     opus_int ret = SILK_NO_ERROR;
97     silk_encoder_state_Fxx *state_Fxx;
98     silk_encoder *psEnc = (silk_encoder *)encState;
99
100     state_Fxx = psEnc->state_Fxx;
101
102     encStatus->nChannelsAPI              = psEnc->nChannelsAPI;
103     encStatus->nChannelsInternal         = psEnc->nChannelsInternal;
104     encStatus->API_sampleRate            = state_Fxx[ 0 ].sCmn.API_fs_Hz;
105     encStatus->maxInternalSampleRate     = state_Fxx[ 0 ].sCmn.maxInternal_fs_Hz;
106     encStatus->minInternalSampleRate     = state_Fxx[ 0 ].sCmn.minInternal_fs_Hz;
107     encStatus->desiredInternalSampleRate = state_Fxx[ 0 ].sCmn.desiredInternal_fs_Hz;
108     encStatus->payloadSize_ms            = state_Fxx[ 0 ].sCmn.PacketSize_ms;
109     encStatus->bitRate                   = state_Fxx[ 0 ].sCmn.TargetRate_bps;
110     encStatus->packetLossPercentage      = state_Fxx[ 0 ].sCmn.PacketLoss_perc;
111     encStatus->complexity                = state_Fxx[ 0 ].sCmn.Complexity;
112     encStatus->useInBandFEC              = state_Fxx[ 0 ].sCmn.useInBandFEC;
113     encStatus->useDTX                    = state_Fxx[ 0 ].sCmn.useDTX;
114     encStatus->useCBR                    = state_Fxx[ 0 ].sCmn.useCBR;
115     encStatus->internalSampleRate        = silk_SMULBB( state_Fxx[ 0 ].sCmn.fs_kHz, 1000 );
116     encStatus->allowBandwidthSwitch      = state_Fxx[ 0 ].sCmn.allow_bandwidth_switch;
117     encStatus->inWBmodeWithoutVariableLP = state_Fxx[ 0 ].sCmn.fs_kHz == 16 && state_Fxx[ 0 ].sCmn.sLP.mode == 0;
118
119     return ret;
120 }
121
122
123 /**************************/
124 /* Encode frame with Silk */
125 /**************************/
126 opus_int silk_Encode(
127     void                                *encState,      /* I/O: State                                           */
128     silk_EncControlStruct               *encControl,    /* I:   Control structure                               */
129     const opus_int16                     *samplesIn,     /* I:   Speech sample input vector                      */
130     opus_int                             nSamplesIn,     /* I:   Number of samples in input vector               */
131     ec_enc                              *psRangeEnc,    /* I/O  Compressor data structure                       */
132     opus_int                             *nBytesOut,     /* I/O: Number of bytes in payload (input: Max bytes)   */
133     const opus_int                       prefillFlag     /* I:   Flag to indicate prefilling buffers; no coding  */
134 )
135 {
136     opus_int   n, i, nBits, flags, tmp_payloadSize_ms = 0, tmp_complexity = 0, ret = 0;
137     opus_int   nSamplesToBuffer, nBlocksOf10ms, nSamplesFromInput = 0;
138     opus_int   speech_act_thr_for_switch_Q8;
139     opus_int32 TargetRate_bps, MStargetRates_bps[ 2 ], channelRate_bps, LBRR_symbol;
140     silk_encoder *psEnc = ( silk_encoder * )encState;
141     opus_int16 buf[ MAX_FRAME_LENGTH_MS * MAX_API_FS_KHZ + MAX_ENCODER_DELAY];
142     opus_int transition, delay;
143
144     psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded = psEnc->state_Fxx[ 1 ].sCmn.nFramesEncoded = 0;
145
146     /* Check values in encoder control structure */
147     if( ( ret = check_control_input( encControl ) != 0 ) ) {
148         silk_assert( 0 );
149         return ret;
150     }
151
152     if( encControl->nChannelsInternal > psEnc->nChannelsInternal ) {
153         /* Mono -> Stereo transition: init state of second channel and stereo state */
154         ret += silk_init_encoder( &psEnc->state_Fxx[ 1 ] );
155         silk_memset( psEnc->sStereo.pred_prev_Q13, 0, sizeof( psEnc->sStereo.pred_prev_Q13 ) );
156         silk_memset( psEnc->sStereo.sSide, 0, sizeof( psEnc->sStereo.sSide ) );
157         psEnc->sStereo.mid_side_amp_Q0[ 0 ] = 0;
158         psEnc->sStereo.mid_side_amp_Q0[ 1 ] = 1;
159         psEnc->sStereo.mid_side_amp_Q0[ 2 ] = 0;
160         psEnc->sStereo.mid_side_amp_Q0[ 3 ] = 1;
161         psEnc->sStereo.width_prev_Q14 = 0;
162         psEnc->sStereo.smth_width_Q14 = SILK_FIX_CONST( 1, 14 );
163         if( psEnc->nChannelsAPI == 2 ) {
164             silk_memcpy( &psEnc->state_Fxx[ 1 ].sCmn.resampler_state, &psEnc->state_Fxx[ 0 ].sCmn.resampler_state, sizeof( silk_resampler_state_struct ) );
165             silk_memcpy( &psEnc->state_Fxx[ 1 ].sCmn.In_HP_State,     &psEnc->state_Fxx[ 0 ].sCmn.In_HP_State,     sizeof( psEnc->state_Fxx[ 1 ].sCmn.In_HP_State ) );
166         }
167     }
168
169     transition = (encControl->payloadSize_ms != psEnc->state_Fxx[ 0 ].sCmn.PacketSize_ms) || (psEnc->nChannelsInternal != encControl->nChannelsInternal);
170
171     psEnc->nChannelsAPI = encControl->nChannelsAPI;
172     psEnc->nChannelsInternal = encControl->nChannelsInternal;
173
174     nBlocksOf10ms = silk_DIV32( 100 * nSamplesIn, encControl->API_sampleRate );
175     if( prefillFlag ) {
176         /* Only accept input length of 10 ms */
177         if( nBlocksOf10ms != 1 ) {
178             ret = SILK_ENC_INPUT_INVALID_NO_OF_SAMPLES;
179             silk_assert( 0 );
180             return ret;
181         }
182         /* Reset Encoder */
183         for( n = 0; n < encControl->nChannelsInternal; n++ ) {
184             if( (ret = silk_init_encoder( &psEnc->state_Fxx[ n ] ) ) != 0 ) {
185                 silk_assert( 0 );
186             }
187         }
188         tmp_payloadSize_ms = encControl->payloadSize_ms;
189         encControl->payloadSize_ms = 10;
190         tmp_complexity = encControl->complexity;
191         encControl->complexity = 0;
192         for( n = 0; n < encControl->nChannelsInternal; n++ ) {
193             psEnc->state_Fxx[ n ].sCmn.controlled_since_last_payload = 0;
194             psEnc->state_Fxx[ n ].sCmn.prefillFlag = 1;
195         }
196     } else {
197         /* Only accept input lengths that are a multiple of 10 ms */
198         if( nBlocksOf10ms * encControl->API_sampleRate != 100 * nSamplesIn || nSamplesIn < 0 ) {
199             ret = SILK_ENC_INPUT_INVALID_NO_OF_SAMPLES;
200             silk_assert( 0 );
201             return ret;
202         }
203         /* Make sure no more than one packet can be produced */
204         if( 1000 * (opus_int32)nSamplesIn > encControl->payloadSize_ms * encControl->API_sampleRate ) {
205             ret = SILK_ENC_INPUT_INVALID_NO_OF_SAMPLES;
206             silk_assert( 0 );
207             return ret;
208         }
209     }
210
211     TargetRate_bps = silk_RSHIFT32( encControl->bitRate, encControl->nChannelsInternal - 1 );
212     for( n = 0; n < encControl->nChannelsInternal; n++ ) {
213         /* JMV: Force the side channel to the same rate as the mid. Is this the right way? */
214         int force_fs_kHz = (n==1) ? psEnc->state_Fxx[0].sCmn.fs_kHz : 0;
215         if( ( ret = silk_control_encoder( &psEnc->state_Fxx[ n ], encControl, TargetRate_bps, psEnc->allowBandwidthSwitch, n, force_fs_kHz ) ) != 0 ) {
216             silk_assert( 0 );
217             return ret;
218         }
219         if (psEnc->state_Fxx[n].sCmn.first_frame_after_reset || transition)
220         {
221             for( i = 0; i < psEnc->state_Fxx[ 0 ].sCmn.nFramesPerPacket; i++ ) {
222                 psEnc->state_Fxx[ n ].sCmn.LBRR_flags[ i ] = 0;
223             }
224         }
225     }
226     silk_assert( encControl->nChannelsInternal == 1 || psEnc->state_Fxx[ 0 ].sCmn.fs_kHz == psEnc->state_Fxx[ 1 ].sCmn.fs_kHz );
227
228     delay = psEnc->state_Fxx[ 0 ].sCmn.delay;
229     /* Input buffering/resampling and encoding */
230     while( 1 ) {
231         nSamplesToBuffer  = psEnc->state_Fxx[ 0 ].sCmn.frame_length - psEnc->state_Fxx[ 0 ].sCmn.inputBufIx;
232         nSamplesToBuffer  = silk_min( nSamplesToBuffer, 10 * nBlocksOf10ms * psEnc->state_Fxx[ 0 ].sCmn.fs_kHz );
233         nSamplesFromInput = silk_DIV32_16( nSamplesToBuffer * psEnc->state_Fxx[ 0 ].sCmn.API_fs_Hz, psEnc->state_Fxx[ 0 ].sCmn.fs_kHz * 1000 );
234         /* Resample and write to buffer */
235         if( encControl->nChannelsAPI == 2 && encControl->nChannelsInternal == 2 ) {
236             int id = psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded;
237             for( n = 0; n < nSamplesFromInput; n++ ) {
238                 buf[ n+delay ] = samplesIn[ 2 * n ];
239             }
240             silk_memcpy(buf, &psEnc->state_Fxx[ 0 ].sCmn.delayBuf[ MAX_ENCODER_DELAY - delay ], delay * sizeof(opus_int16));
241             /* Making sure to start both resamplers from the same state when switching from mono to stereo */
242             if(psEnc->nPrevChannelsInternal == 1 && id==0) {
243                silk_memcpy( &psEnc->state_Fxx[ 1 ].sCmn.resampler_state, &psEnc->state_Fxx[ 0 ].sCmn.resampler_state, sizeof(psEnc->state_Fxx[ 1 ].sCmn.resampler_state));
244                silk_memcpy( &psEnc->state_Fxx[ 1 ].sCmn.delayBuf, &psEnc->state_Fxx[ 0 ].sCmn.delayBuf, MAX_ENCODER_DELAY*sizeof(opus_int16));
245             }
246             silk_memcpy(psEnc->state_Fxx[ 0 ].sCmn.delayBuf, buf + nSamplesFromInput + delay - MAX_ENCODER_DELAY, MAX_ENCODER_DELAY*sizeof(opus_int16));
247
248             ret += silk_resampler( &psEnc->state_Fxx[ 0 ].sCmn.resampler_state,
249                 &psEnc->state_Fxx[ 0 ].sCmn.inputBuf[ psEnc->state_Fxx[ 0 ].sCmn.inputBufIx + 2 ], buf, nSamplesFromInput );
250             psEnc->state_Fxx[ 0 ].sCmn.inputBufIx += nSamplesToBuffer;
251
252             nSamplesToBuffer  = psEnc->state_Fxx[ 1 ].sCmn.frame_length - psEnc->state_Fxx[ 1 ].sCmn.inputBufIx;
253             nSamplesToBuffer  = silk_min( nSamplesToBuffer, 10 * nBlocksOf10ms * psEnc->state_Fxx[ 1 ].sCmn.fs_kHz );
254             for( n = 0; n < nSamplesFromInput; n++ ) {
255                 buf[ n + delay ] = samplesIn[ 2 * n + 1 ];
256             }
257             silk_memcpy(buf, &psEnc->state_Fxx[ 1 ].sCmn.delayBuf[ MAX_ENCODER_DELAY - delay ], delay * sizeof(opus_int16));
258             ret += silk_resampler( &psEnc->state_Fxx[ 1 ].sCmn.resampler_state,
259                 &psEnc->state_Fxx[ 1 ].sCmn.inputBuf[ psEnc->state_Fxx[ 1 ].sCmn.inputBufIx + 2 ], buf, nSamplesFromInput );
260             silk_memcpy(psEnc->state_Fxx[ 1 ].sCmn.delayBuf, buf + nSamplesFromInput + delay - MAX_ENCODER_DELAY, MAX_ENCODER_DELAY*sizeof(opus_int16));
261
262             psEnc->state_Fxx[ 1 ].sCmn.inputBufIx += nSamplesToBuffer;
263         } else if( encControl->nChannelsAPI == 2 && encControl->nChannelsInternal == 1 ) {
264             /* Combine left and right channels before resampling */
265             for( n = 0; n < nSamplesFromInput; n++ ) {
266                 buf[ n + delay ] = (opus_int16)silk_RSHIFT_ROUND( samplesIn[ 2 * n ] + samplesIn[ 2 * n + 1 ],  1 );
267             }
268             if(psEnc->nPrevChannelsInternal == 2 && psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded==0) {
269                for ( n = 0; n<MAX_ENCODER_DELAY; n++ )
270                   psEnc->state_Fxx[ 0 ].sCmn.delayBuf[ n ] = silk_RSHIFT(psEnc->state_Fxx[ 0 ].sCmn.delayBuf[ n ]+(opus_int32)psEnc->state_Fxx[ 1 ].sCmn.delayBuf[ n ], 1);
271             }
272             silk_memcpy(buf, &psEnc->state_Fxx[ 0 ].sCmn.delayBuf[ MAX_ENCODER_DELAY - delay ], delay * sizeof(opus_int16));
273             ret += silk_resampler( &psEnc->state_Fxx[ 0 ].sCmn.resampler_state,
274                 &psEnc->state_Fxx[ 0 ].sCmn.inputBuf[ psEnc->state_Fxx[ 0 ].sCmn.inputBufIx + 2 ], buf, nSamplesFromInput );
275             /* On the first mono frame, average the results for the two resampler states  */
276             if (psEnc->nPrevChannelsInternal == 2 && psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded==0) {
277                ret += silk_resampler( &psEnc->state_Fxx[ 1 ].sCmn.resampler_state,
278                    &psEnc->state_Fxx[ 1 ].sCmn.inputBuf[ psEnc->state_Fxx[ 1 ].sCmn.inputBufIx + 2 ], buf, nSamplesFromInput );
279                for ( n = 0; n < psEnc->state_Fxx[ 0 ].sCmn.frame_length; n++ ) {
280                   psEnc->state_Fxx[ 0 ].sCmn.inputBuf[ psEnc->state_Fxx[ 0 ].sCmn.inputBufIx+n+2 ] =
281                         silk_RSHIFT(psEnc->state_Fxx[ 0 ].sCmn.inputBuf[ psEnc->state_Fxx[ 0 ].sCmn.inputBufIx+n+2 ]
282                                   + psEnc->state_Fxx[ 1 ].sCmn.inputBuf[ psEnc->state_Fxx[ 1 ].sCmn.inputBufIx+n+2 ], 1);
283                }
284             }
285             silk_memcpy(psEnc->state_Fxx[ 0 ].sCmn.delayBuf, buf + nSamplesFromInput + delay - MAX_ENCODER_DELAY, MAX_ENCODER_DELAY*sizeof(opus_int16));
286             psEnc->state_Fxx[ 0 ].sCmn.inputBufIx += nSamplesToBuffer;
287         } else {
288             silk_assert( encControl->nChannelsAPI == 1 && encControl->nChannelsInternal == 1 );
289             silk_memcpy(buf + delay, samplesIn, nSamplesFromInput*sizeof(opus_int16));
290             silk_memcpy(buf, &psEnc->state_Fxx[ 0 ].sCmn.delayBuf[ MAX_ENCODER_DELAY - delay ], delay * sizeof(opus_int16));
291             ret += silk_resampler( &psEnc->state_Fxx[ 0 ].sCmn.resampler_state,
292                 &psEnc->state_Fxx[ 0 ].sCmn.inputBuf[ psEnc->state_Fxx[ 0 ].sCmn.inputBufIx + 2 ], buf, nSamplesFromInput );
293             silk_memcpy(psEnc->state_Fxx[ 0 ].sCmn.delayBuf, buf + nSamplesFromInput + delay - MAX_ENCODER_DELAY, MAX_ENCODER_DELAY*sizeof(opus_int16));
294             psEnc->state_Fxx[ 0 ].sCmn.inputBufIx += nSamplesToBuffer;
295         }
296
297         samplesIn  += nSamplesFromInput * encControl->nChannelsAPI;
298         nSamplesIn -= nSamplesFromInput;
299
300         /* Default */
301         psEnc->allowBandwidthSwitch = 0;
302
303         /* Silk encoder */
304         if( psEnc->state_Fxx[ 0 ].sCmn.inputBufIx >= psEnc->state_Fxx[ 0 ].sCmn.frame_length ) {
305             /* Enough data in input buffer, so encode */
306             silk_assert( psEnc->state_Fxx[ 0 ].sCmn.inputBufIx == psEnc->state_Fxx[ 0 ].sCmn.frame_length );
307             silk_assert( encControl->nChannelsInternal == 1 || psEnc->state_Fxx[ 1 ].sCmn.inputBufIx == psEnc->state_Fxx[ 1 ].sCmn.frame_length );
308
309             /* Deal with LBRR data */
310             if( psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded == 0 && !prefillFlag ) {
311                 /* Create space at start of payload for VAD and FEC flags */
312                 opus_uint8 iCDF[ 2 ] = { 0, 0 };
313                 iCDF[ 0 ] = 256 - silk_RSHIFT( 256, ( psEnc->state_Fxx[ 0 ].sCmn.nFramesPerPacket + 1 ) * encControl->nChannelsInternal );
314                 ec_enc_icdf( psRangeEnc, 0, iCDF, 8 );
315
316                 /* Encode any LBRR data from previous packet */
317                 /* Encode LBRR flags */
318                 for( n = 0; n < encControl->nChannelsInternal; n++ ) {
319                     LBRR_symbol = 0;
320                     for( i = 0; i < psEnc->state_Fxx[ n ].sCmn.nFramesPerPacket; i++ ) {
321                         LBRR_symbol |= silk_LSHIFT( psEnc->state_Fxx[ n ].sCmn.LBRR_flags[ i ], i );
322                     }
323                     psEnc->state_Fxx[ n ].sCmn.LBRR_flag = LBRR_symbol > 0 ? 1 : 0;
324                     if( LBRR_symbol && psEnc->state_Fxx[ n ].sCmn.nFramesPerPacket > 1 ) {
325                         ec_enc_icdf( psRangeEnc, LBRR_symbol - 1, silk_LBRR_flags_iCDF_ptr[ psEnc->state_Fxx[ n ].sCmn.nFramesPerPacket - 2 ], 8 );
326                     }
327                 }
328
329                 /* Code LBRR indices and excitation signals */
330                 for( i = 0; i < psEnc->state_Fxx[ 0 ].sCmn.nFramesPerPacket; i++ ) {
331                     for( n = 0; n < encControl->nChannelsInternal; n++ ) {
332                         if( psEnc->state_Fxx[ n ].sCmn.LBRR_flags[ i ] ) {
333                             if( encControl->nChannelsInternal == 2 && n == 0 ) {
334                                 silk_stereo_encode_pred( psRangeEnc, psEnc->sStereo.predIx[ i ] );
335                                 /* For LBRR data there's no need to code the mid-only flag if the side-channel LBRR flag is set */
336                                 if( psEnc->state_Fxx[ 1 ].sCmn.LBRR_flags[ i ] == 0 ) {
337                                     silk_stereo_encode_mid_only( psRangeEnc, psEnc->sStereo.mid_only_flags[ i ] );
338                                 }
339                             }
340                             silk_encode_indices( &psEnc->state_Fxx[ n ].sCmn, psRangeEnc, i, 1 );
341                             silk_encode_pulses( psRangeEnc, psEnc->state_Fxx[ n ].sCmn.indices_LBRR[i].signalType, psEnc->state_Fxx[ n ].sCmn.indices_LBRR[i].quantOffsetType,
342                                 psEnc->state_Fxx[ n ].sCmn.pulses_LBRR[ i ], psEnc->state_Fxx[ n ].sCmn.frame_length );
343                         }
344                     }
345                 }
346
347                 /* Reset LBRR flags */
348                 for( n = 0; n < encControl->nChannelsInternal; n++ ) {
349                     silk_memset( psEnc->state_Fxx[ n ].sCmn.LBRR_flags, 0, sizeof( psEnc->state_Fxx[ n ].sCmn.LBRR_flags ) );
350                 }
351             }
352
353             silk_HP_variable_cutoff( psEnc->state_Fxx );
354
355             /* Total target bits for packet */
356             nBits = silk_DIV32_16( silk_MUL( encControl->bitRate, encControl->payloadSize_ms ), 1000 );
357             /* Subtract half of the bits already used */
358             if (!prefillFlag)
359                 nBits -= ec_tell( psRangeEnc ) >> 1;
360             /* Divide by number of uncoded frames left in packet */
361             nBits = silk_DIV32_16( nBits, psEnc->state_Fxx[ 0 ].sCmn.nFramesPerPacket - psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded );
362             /* Convert to bits/second */
363             if( encControl->payloadSize_ms == 10 ) {
364                 TargetRate_bps = silk_SMULBB( nBits, 100 );
365             } else {
366                 TargetRate_bps = silk_SMULBB( nBits, 50 );
367             }
368             /* Subtract fraction of bits in excess of target in previous packets */
369             TargetRate_bps -= silk_DIV32_16( silk_MUL( psEnc->nBitsExceeded, 1000 ), BITRESERVOIR_DECAY_TIME_MS );
370             /* Never exceed input bitrate */
371             TargetRate_bps = silk_LIMIT( TargetRate_bps, encControl->bitRate, 5000 );
372
373             /* Convert Left/Right to Mid/Side */
374             if( encControl->nChannelsInternal == 2 ) {
375                 silk_stereo_LR_to_MS( &psEnc->sStereo, &psEnc->state_Fxx[ 0 ].sCmn.inputBuf[ 2 ], &psEnc->state_Fxx[ 1 ].sCmn.inputBuf[ 2 ],
376                     psEnc->sStereo.predIx[ psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded ], &psEnc->sStereo.mid_only_flags[ psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded ],
377                     MStargetRates_bps, TargetRate_bps, psEnc->state_Fxx[ 0 ].sCmn.speech_activity_Q8, encControl->toMono,
378                     psEnc->state_Fxx[ 0 ].sCmn.fs_kHz, psEnc->state_Fxx[ 0 ].sCmn.frame_length );
379                 if( !prefillFlag ) {
380                     silk_stereo_encode_pred( psRangeEnc, psEnc->sStereo.predIx[ psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded ] );
381                     silk_stereo_encode_mid_only( psRangeEnc, psEnc->sStereo.mid_only_flags[ psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded ] );
382                 }
383             } else {
384                 /* Buffering */
385                 silk_memcpy( psEnc->state_Fxx[ 0 ].sCmn.inputBuf, psEnc->sStereo.sMid, 2 * sizeof( opus_int16 ) );
386                 silk_memcpy( psEnc->sStereo.sMid, &psEnc->state_Fxx[ 0 ].sCmn.inputBuf[ psEnc->state_Fxx[ 0 ].sCmn.frame_length ], 2 * sizeof( opus_int16 ) );
387             }
388
389             /* Reset side channel encoder memory for first frame with side coding */
390             if( encControl->nChannelsInternal == 2 && psEnc->sStereo.mid_only_flags[ psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded ] == 0 && psEnc->prev_decode_only_middle == 1 ) {
391                 silk_memset( &psEnc->state_Fxx[ 1 ].sShape,               0, sizeof( psEnc->state_Fxx[ 1 ].sShape ) );
392                 silk_memset( &psEnc->state_Fxx[ 1 ].sPrefilt,             0, sizeof( psEnc->state_Fxx[ 1 ].sPrefilt ) );
393                 silk_memset( &psEnc->state_Fxx[ 1 ].sCmn.sNSQ,            0, sizeof( psEnc->state_Fxx[ 1 ].sCmn.sNSQ ) );
394                 silk_memset( psEnc->state_Fxx[ 1 ].sCmn.prev_NLSFq_Q15,   0, sizeof( psEnc->state_Fxx[ 1 ].sCmn.prev_NLSFq_Q15 ) );
395                 silk_memset( &psEnc->state_Fxx[ 1 ].sCmn.sLP.In_LP_State, 0, sizeof( psEnc->state_Fxx[ 1 ].sCmn.sLP.In_LP_State ) );
396                 silk_memset( &psEnc->state_Fxx[ 1 ].sCmn.inputBuf,        0, sizeof( psEnc->state_Fxx[ 1 ].sCmn.inputBuf ) );
397                 psEnc->state_Fxx[ 1 ].sCmn.prevLag                = 100;
398                 psEnc->state_Fxx[ 1 ].sCmn.sNSQ.lagPrev           = 100;
399                 psEnc->state_Fxx[ 1 ].sShape.LastGainIndex        = 10;
400                 psEnc->state_Fxx[ 1 ].sCmn.prevSignalType         = TYPE_NO_VOICE_ACTIVITY;
401                 psEnc->state_Fxx[ 1 ].sCmn.sNSQ.prev_inv_gain_Q16 = 65536;
402             }
403             psEnc->prev_decode_only_middle = psEnc->sStereo.mid_only_flags[ psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded ];
404
405             /* Encode */
406             for( n = 0; n < encControl->nChannelsInternal; n++ ) {
407                 if( encControl->nChannelsInternal == 1 ) {
408                     channelRate_bps = TargetRate_bps;
409                 } else {
410                     channelRate_bps = MStargetRates_bps[ n ];
411                 }
412
413                 if( channelRate_bps > 0 ) {
414                     silk_control_SNR( &psEnc->state_Fxx[ n ].sCmn, channelRate_bps );
415
416                     if( ( ret = silk_encode_frame_Fxx( &psEnc->state_Fxx[ n ], nBytesOut, psRangeEnc ) ) != 0 ) {
417                         silk_assert( 0 );
418                     }
419                     psEnc->state_Fxx[ n ].sCmn.nFramesEncoded++;
420                 }
421                 psEnc->state_Fxx[ n ].sCmn.controlled_since_last_payload = 0;
422                 psEnc->state_Fxx[ n ].sCmn.inputBufIx = 0;
423             }
424
425             /* Insert VAD and FEC flags at beginning of bitstream */
426             if( *nBytesOut > 0 && psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded == psEnc->state_Fxx[ 0 ].sCmn.nFramesPerPacket) {
427                 flags = 0;
428                 for( n = 0; n < encControl->nChannelsInternal; n++ ) {
429                     for( i = 0; i < psEnc->state_Fxx[ n ].sCmn.nFramesPerPacket; i++ ) {
430                         flags  = silk_LSHIFT( flags, 1 );
431                         flags |= psEnc->state_Fxx[ n ].sCmn.VAD_flags[ i ];
432                     }
433                     flags  = silk_LSHIFT( flags, 1 );
434                     flags |= psEnc->state_Fxx[ n ].sCmn.LBRR_flag;
435                 }
436                 if( !prefillFlag ) {
437                     ec_enc_patch_initial_bits( psRangeEnc, flags, ( psEnc->state_Fxx[ 0 ].sCmn.nFramesPerPacket + 1 ) * encControl->nChannelsInternal );
438                 }
439
440                 /* Return zero bytes if all channels DTXed */
441                 if( psEnc->state_Fxx[ 0 ].sCmn.inDTX && ( encControl->nChannelsInternal == 1 || psEnc->state_Fxx[ 1 ].sCmn.inDTX ) ) {
442                     *nBytesOut = 0;
443                 }
444
445                 psEnc->nBitsExceeded += *nBytesOut * 8;
446                 psEnc->nBitsExceeded -= silk_DIV32_16( silk_MUL( encControl->bitRate, encControl->payloadSize_ms ), 1000 );
447                 psEnc->nBitsExceeded  = silk_LIMIT( psEnc->nBitsExceeded, 0, 10000 );
448
449                 /* Update flag indicating if bandwidth switching is allowed */
450                 speech_act_thr_for_switch_Q8 = silk_SMLAWB( SILK_FIX_CONST( SPEECH_ACTIVITY_DTX_THRES, 8 ),
451                     SILK_FIX_CONST( ( 1 - SPEECH_ACTIVITY_DTX_THRES ) / MAX_BANDWIDTH_SWITCH_DELAY_MS, 16 + 8 ), psEnc->timeSinceSwitchAllowed_ms );
452                 if( psEnc->state_Fxx[ 0 ].sCmn.speech_activity_Q8 < speech_act_thr_for_switch_Q8 ) {
453                     psEnc->allowBandwidthSwitch = 1;
454                     psEnc->timeSinceSwitchAllowed_ms = 0;
455                 } else {
456                     psEnc->allowBandwidthSwitch = 0;
457                     psEnc->timeSinceSwitchAllowed_ms += encControl->payloadSize_ms;
458                 }
459             }
460
461             if( nSamplesIn == 0 ) {
462                 break;
463             }
464         } else {
465             break;
466         }
467     }
468
469     psEnc->nPrevChannelsInternal = encControl->nChannelsInternal;
470
471     encControl->allowBandwidthSwitch = psEnc->allowBandwidthSwitch;
472     encControl->inWBmodeWithoutVariableLP = psEnc->state_Fxx[ 0 ].sCmn.fs_kHz == 16 && psEnc->state_Fxx[ 0 ].sCmn.sLP.mode == 0;
473     encControl->internalSampleRate = silk_SMULBB( psEnc->state_Fxx[ 0 ].sCmn.fs_kHz, 1000 );
474     encControl->stereoWidth_Q14 = encControl->toMono ? 0 : psEnc->sStereo.smth_width_Q14;
475     if( prefillFlag ) {
476         encControl->payloadSize_ms = tmp_payloadSize_ms;
477         encControl->complexity = tmp_complexity;
478         for( n = 0; n < encControl->nChannelsInternal; n++ ) {
479             psEnc->state_Fxx[ n ].sCmn.controlled_since_last_payload = 0;
480             psEnc->state_Fxx[ n ].sCmn.prefillFlag = 0;
481         }
482     }
483
484     return ret;
485 }
486