Cleaner way to take into account the prediction for stereo width
[opus.git] / silk / enc_API.c
1 /***********************************************************************
2 Copyright (c) 2006-2011, Skype Limited. All rights reserved.
3 Redistribution and use in source and binary forms, with or without
4 modification, (subject to the limitations in the disclaimer below)
5 are permitted provided that the following conditions are met:
6 - Redistributions of source code must retain the above copyright notice,
7 this list of conditions and the following disclaimer.
8 - Redistributions in binary form must reproduce the above copyright
9 notice, this list of conditions and the following disclaimer in the
10 documentation and/or other materials provided with the distribution.
11 - Neither the name of Skype Limited, nor the names of specific
12 contributors, may be used to endorse or promote products derived from
13 this software without specific prior written permission.
14 NO EXPRESS OR IMPLIED LICENSES TO ANY PARTY'S PATENT RIGHTS ARE GRANTED
15 BY THIS LICENSE. THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND
16 CONTRIBUTORS ''AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING,
17 BUT NOT LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND
18 FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE
19 COPYRIGHT OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT,
20 INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
21 NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF
22 USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON
23 ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
24 (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
25 OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
26 ***********************************************************************/
27
28 #ifdef HAVE_CONFIG_H
29 #include "config.h"
30 #endif
31 #include "define.h"
32 #include "API.h"
33 #include "control.h"
34 #include "typedef.h"
35 #include "structs.h"
36 #include "tuning_parameters.h"
37 #ifdef FIXED_POINT
38 #include "main_FIX.h"
39 #else
40 #include "main_FLP.h"
41 #endif
42
43 /****************************************/
44 /* Encoder functions                    */
45 /****************************************/
46
47 opus_int silk_Get_Encoder_Size( int *encSizeBytes )
48 {
49     opus_int ret = SILK_NO_ERROR;
50
51     *encSizeBytes = sizeof( silk_encoder );
52
53     return ret;
54 }
55
56 /*************************/
57 /* Init or Reset encoder */
58 /*************************/
59 opus_int silk_InitEncoder(
60     void                            *encState,          /* I/O: State                                           */
61     silk_EncControlStruct           *encStatus          /* O:   Control structure                               */
62 )
63 {
64     silk_encoder *psEnc;
65     opus_int n, ret = SILK_NO_ERROR;
66
67     psEnc = (silk_encoder *)encState;
68
69     /* Reset encoder */
70     silk_memset( psEnc, 0, sizeof( silk_encoder ) );
71     for( n = 0; n < ENCODER_NUM_CHANNELS; n++ ) {
72         if( ret += silk_init_encoder( &psEnc->state_Fxx[ n ] ) ) {
73             silk_assert( 0 );
74         }
75     }
76
77     psEnc->nChannelsAPI = 1;
78     psEnc->nChannelsInternal = 1;
79
80     /* Read control structure */
81     if( ret += silk_QueryEncoder( encState, encStatus ) ) {
82         silk_assert( 0 );
83     }
84
85     return ret;
86 }
87
88 /***************************************/
89 /* Read control structure from encoder */
90 /***************************************/
91 opus_int silk_QueryEncoder(
92     const void *encState,                       /* I:   State Vector                                    */
93     silk_EncControlStruct *encStatus            /* O:   Control Structure                               */
94 )
95 {
96     opus_int ret = SILK_NO_ERROR;
97     silk_encoder_state_Fxx *state_Fxx;
98     silk_encoder *psEnc = (silk_encoder *)encState;
99
100     state_Fxx = psEnc->state_Fxx;
101
102     encStatus->nChannelsAPI              = psEnc->nChannelsAPI;
103     encStatus->nChannelsInternal         = psEnc->nChannelsInternal;
104     encStatus->API_sampleRate            = state_Fxx[ 0 ].sCmn.API_fs_Hz;
105     encStatus->maxInternalSampleRate     = state_Fxx[ 0 ].sCmn.maxInternal_fs_Hz;
106     encStatus->minInternalSampleRate     = state_Fxx[ 0 ].sCmn.minInternal_fs_Hz;
107     encStatus->desiredInternalSampleRate = state_Fxx[ 0 ].sCmn.desiredInternal_fs_Hz;
108     encStatus->payloadSize_ms            = state_Fxx[ 0 ].sCmn.PacketSize_ms;
109     encStatus->bitRate                   = state_Fxx[ 0 ].sCmn.TargetRate_bps;
110     encStatus->packetLossPercentage      = state_Fxx[ 0 ].sCmn.PacketLoss_perc;
111     encStatus->complexity                = state_Fxx[ 0 ].sCmn.Complexity;
112     encStatus->useInBandFEC              = state_Fxx[ 0 ].sCmn.useInBandFEC;
113     encStatus->useDTX                    = state_Fxx[ 0 ].sCmn.useDTX;
114     encStatus->useCBR                    = state_Fxx[ 0 ].sCmn.useCBR;
115     encStatus->internalSampleRate        = silk_SMULBB( state_Fxx[ 0 ].sCmn.fs_kHz, 1000 );
116     encStatus->allowBandwidthSwitch      = state_Fxx[ 0 ].sCmn.allow_bandwidth_switch;
117     encStatus->inWBmodeWithoutVariableLP = state_Fxx[ 0 ].sCmn.fs_kHz == 16 && state_Fxx[ 0 ].sCmn.sLP.mode == 0;
118
119     return ret;
120 }
121
122
123 /**************************/
124 /* Encode frame with Silk */
125 /**************************/
126 opus_int silk_Encode(
127     void                                *encState,      /* I/O: State                                           */
128     silk_EncControlStruct               *encControl,    /* I:   Control structure                               */
129     const opus_int16                     *samplesIn,     /* I:   Speech sample input vector                      */
130     opus_int                             nSamplesIn,     /* I:   Number of samples in input vector               */
131     ec_enc                              *psRangeEnc,    /* I/O  Compressor data structure                       */
132     opus_int                             *nBytesOut,     /* I/O: Number of bytes in payload (input: Max bytes)   */
133     const opus_int                       prefillFlag     /* I:   Flag to indicate prefilling buffers; no coding  */
134 )
135 {
136     opus_int   n, i, nBits, flags, tmp_payloadSize_ms = 0, tmp_complexity = 0, ret = 0;
137     opus_int   nSamplesToBuffer, nBlocksOf10ms, nSamplesFromInput = 0;
138     opus_int   speech_act_thr_for_switch_Q8;
139     opus_int32 TargetRate_bps, MStargetRates_bps[ 2 ], channelRate_bps, LBRR_symbol;
140     silk_encoder *psEnc = ( silk_encoder * )encState;
141     opus_int16 buf[ MAX_FRAME_LENGTH_MS * MAX_API_FS_KHZ + MAX_ENCODER_DELAY];
142     opus_int transition, delay;
143
144     psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded = psEnc->state_Fxx[ 1 ].sCmn.nFramesEncoded = 0;
145
146     /* Check values in encoder control structure */
147     if( ( ret = check_control_input( encControl ) != 0 ) ) {
148         silk_assert( 0 );
149         return ret;
150     }
151
152     if( encControl->nChannelsInternal > psEnc->nChannelsInternal ) {
153         /* Mono -> Stereo transition: init state of second channel and stereo state */
154         ret += silk_init_encoder( &psEnc->state_Fxx[ 1 ] );
155         silk_memset( psEnc->sStereo.pred_prev_Q13, 0, sizeof( psEnc->sStereo.pred_prev_Q13 ) );
156         silk_memset( psEnc->sStereo.sSide, 0, sizeof( psEnc->sStereo.sSide ) );
157         psEnc->sStereo.mid_side_amp_Q0[ 0 ] = 0;
158         psEnc->sStereo.mid_side_amp_Q0[ 1 ] = 1;
159         psEnc->sStereo.mid_side_amp_Q0[ 2 ] = 0;
160         psEnc->sStereo.mid_side_amp_Q0[ 3 ] = 1;
161         psEnc->sStereo.width_prev_Q14 = 0;
162         psEnc->sStereo.smth_width_Q14 = SILK_FIX_CONST( 1, 14 );
163         if( psEnc->nChannelsAPI == 2 ) {
164             silk_memcpy( &psEnc->state_Fxx[ 1 ].sCmn.resampler_state, &psEnc->state_Fxx[ 0 ].sCmn.resampler_state, sizeof( silk_resampler_state_struct ) );
165             silk_memcpy( &psEnc->state_Fxx[ 1 ].sCmn.In_HP_State,     &psEnc->state_Fxx[ 0 ].sCmn.In_HP_State,     sizeof( psEnc->state_Fxx[ 1 ].sCmn.In_HP_State ) );
166         }
167     }
168
169     transition = (encControl->payloadSize_ms != psEnc->state_Fxx[ 0 ].sCmn.PacketSize_ms) || (psEnc->nChannelsInternal != encControl->nChannelsInternal);
170
171     psEnc->nChannelsAPI = encControl->nChannelsAPI;
172     psEnc->nChannelsInternal = encControl->nChannelsInternal;
173
174     nBlocksOf10ms = silk_DIV32( 100 * nSamplesIn, encControl->API_sampleRate );
175     if( prefillFlag ) {
176         /* Only accept input length of 10 ms */
177         if( nBlocksOf10ms != 1 ) {
178             ret = SILK_ENC_INPUT_INVALID_NO_OF_SAMPLES;
179             silk_assert( 0 );
180             return ret;
181         }
182         /* Reset Encoder */
183         for( n = 0; n < encControl->nChannelsInternal; n++ ) {
184             if( (ret = silk_init_encoder( &psEnc->state_Fxx[ n ] ) ) != 0 ) {
185                 silk_assert( 0 );
186             }
187         }
188         tmp_payloadSize_ms = encControl->payloadSize_ms;
189         encControl->payloadSize_ms = 10;
190         tmp_complexity = encControl->complexity;
191         encControl->complexity = 0;
192         for( n = 0; n < encControl->nChannelsInternal; n++ ) {
193             psEnc->state_Fxx[ n ].sCmn.controlled_since_last_payload = 0;
194             psEnc->state_Fxx[ n ].sCmn.prefillFlag = 1;
195         }
196     } else {
197         /* Only accept input lengths that are a multiple of 10 ms */
198         if( nBlocksOf10ms * encControl->API_sampleRate != 100 * nSamplesIn || nSamplesIn < 0 ) {
199             ret = SILK_ENC_INPUT_INVALID_NO_OF_SAMPLES;
200             silk_assert( 0 );
201             return ret;
202         }
203         /* Make sure no more than one packet can be produced */
204         if( 1000 * (opus_int32)nSamplesIn > encControl->payloadSize_ms * encControl->API_sampleRate ) {
205             ret = SILK_ENC_INPUT_INVALID_NO_OF_SAMPLES;
206             silk_assert( 0 );
207             return ret;
208         }
209     }
210
211     TargetRate_bps = silk_RSHIFT32( encControl->bitRate, encControl->nChannelsInternal - 1 );
212     for( n = 0; n < encControl->nChannelsInternal; n++ ) {
213         /* JMV: Force the side channel to the same rate as the mid. Is this the right way? */
214         int force_fs_kHz = (n==1) ? psEnc->state_Fxx[0].sCmn.fs_kHz : 0;
215         if( ( ret = silk_control_encoder( &psEnc->state_Fxx[ n ], encControl, TargetRate_bps, psEnc->allowBandwidthSwitch, n, force_fs_kHz ) ) != 0 ) {
216             silk_assert( 0 );
217             return ret;
218         }
219         if (psEnc->state_Fxx[n].sCmn.first_frame_after_reset || transition)
220         {
221             for( i = 0; i < psEnc->state_Fxx[ 0 ].sCmn.nFramesPerPacket; i++ ) {
222                 psEnc->state_Fxx[ n ].sCmn.LBRR_flags[ i ] = 0;
223             }
224         }
225     }
226     silk_assert( encControl->nChannelsInternal == 1 || psEnc->state_Fxx[ 0 ].sCmn.fs_kHz == psEnc->state_Fxx[ 1 ].sCmn.fs_kHz );
227
228     delay = psEnc->state_Fxx[ 0 ].sCmn.delay;
229     /* Input buffering/resampling and encoding */
230     while( 1 ) {
231         nSamplesToBuffer  = psEnc->state_Fxx[ 0 ].sCmn.frame_length - psEnc->state_Fxx[ 0 ].sCmn.inputBufIx;
232         nSamplesToBuffer  = silk_min( nSamplesToBuffer, 10 * nBlocksOf10ms * psEnc->state_Fxx[ 0 ].sCmn.fs_kHz );
233         nSamplesFromInput = silk_DIV32_16( nSamplesToBuffer * psEnc->state_Fxx[ 0 ].sCmn.API_fs_Hz, psEnc->state_Fxx[ 0 ].sCmn.fs_kHz * 1000 );
234         /* Resample and write to buffer */
235         if( encControl->nChannelsAPI == 2 && encControl->nChannelsInternal == 2 ) {
236             int id = psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded;
237             for( n = 0; n < nSamplesFromInput; n++ ) {
238                 buf[ n+delay ] = samplesIn[ 2 * n ];
239             }
240             silk_memcpy(buf, &psEnc->state_Fxx[ 0 ].sCmn.delayBuf[MAX_ENCODER_DELAY-delay], delay*sizeof(opus_int16));
241             /* Making sure to start both resamplers from the same state when switching from mono to stereo */
242             if(psEnc->nPrevChannelsInternal == 1 && id==0) {
243                silk_memcpy( &psEnc->state_Fxx[ 1 ].sCmn.resampler_state, &psEnc->state_Fxx[ 0 ].sCmn.resampler_state, sizeof(psEnc->state_Fxx[ 1 ].sCmn.resampler_state));
244                silk_memcpy( &psEnc->state_Fxx[ 1 ].sCmn.delayBuf, &psEnc->state_Fxx[ 0 ].sCmn.delayBuf, MAX_ENCODER_DELAY*sizeof(opus_int16));
245             }
246             silk_memcpy(psEnc->state_Fxx[ 0 ].sCmn.delayBuf, buf+nSamplesFromInput+delay-MAX_ENCODER_DELAY, MAX_ENCODER_DELAY*sizeof(opus_int16));
247
248             ret += silk_resampler( &psEnc->state_Fxx[ 0 ].sCmn.resampler_state,
249                 &psEnc->state_Fxx[ 0 ].sCmn.inputBuf[ psEnc->state_Fxx[ 0 ].sCmn.inputBufIx + 2 ], buf, nSamplesFromInput );
250             psEnc->state_Fxx[ 0 ].sCmn.inputBufIx += nSamplesToBuffer;
251
252             nSamplesToBuffer  = psEnc->state_Fxx[ 1 ].sCmn.frame_length - psEnc->state_Fxx[ 1 ].sCmn.inputBufIx;
253             nSamplesToBuffer  = silk_min( nSamplesToBuffer, 10 * nBlocksOf10ms * psEnc->state_Fxx[ 1 ].sCmn.fs_kHz );
254             for( n = 0; n < nSamplesFromInput; n++ ) {
255                 buf[ n+delay ] = samplesIn[ 2 * n + 1 ];
256             }
257             silk_memcpy(buf, &psEnc->state_Fxx[ 1 ].sCmn.delayBuf[MAX_ENCODER_DELAY-delay], delay*sizeof(opus_int16));
258             ret += silk_resampler( &psEnc->state_Fxx[ 1 ].sCmn.resampler_state,
259                 &psEnc->state_Fxx[ 1 ].sCmn.inputBuf[ psEnc->state_Fxx[ 1 ].sCmn.inputBufIx + 2 ], buf, nSamplesFromInput );
260             silk_memcpy(psEnc->state_Fxx[ 1 ].sCmn.delayBuf, buf+nSamplesFromInput+delay-MAX_ENCODER_DELAY, MAX_ENCODER_DELAY*sizeof(opus_int16));
261
262             psEnc->state_Fxx[ 1 ].sCmn.inputBufIx += nSamplesToBuffer;
263         } else if( encControl->nChannelsAPI == 2 && encControl->nChannelsInternal == 1 ) {
264             /* Combine left and right channels before resampling */
265             for( n = 0; n < nSamplesFromInput; n++ ) {
266                 buf[ n+delay ] = (opus_int16)silk_RSHIFT_ROUND( samplesIn[ 2 * n ] + samplesIn[ 2 * n + 1 ],  1 );
267             }
268             if(psEnc->nPrevChannelsInternal == 2 && psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded==0) {
269                for ( n = 0; n<MAX_ENCODER_DELAY; n++ )
270                   psEnc->state_Fxx[ 0 ].sCmn.delayBuf[ n ] = silk_RSHIFT(psEnc->state_Fxx[ 0 ].sCmn.delayBuf[ n ]+(opus_int32)psEnc->state_Fxx[ 1 ].sCmn.delayBuf[ n ], 1);
271             }
272             silk_memcpy(buf, &psEnc->state_Fxx[ 0 ].sCmn.delayBuf[MAX_ENCODER_DELAY-delay], delay*sizeof(opus_int16));
273             ret += silk_resampler( &psEnc->state_Fxx[ 0 ].sCmn.resampler_state,
274                 &psEnc->state_Fxx[ 0 ].sCmn.inputBuf[ psEnc->state_Fxx[ 0 ].sCmn.inputBufIx + 2 ], buf, nSamplesFromInput );
275             /* On the first mono frame, average the results for the two resampler states  */
276             if (psEnc->nPrevChannelsInternal == 2 && psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded==0) {
277                ret += silk_resampler( &psEnc->state_Fxx[ 1 ].sCmn.resampler_state,
278                    &psEnc->state_Fxx[ 1 ].sCmn.inputBuf[ psEnc->state_Fxx[ 1 ].sCmn.inputBufIx + 2 ], buf, nSamplesFromInput );
279                for ( n = 0; n < psEnc->state_Fxx[ 0 ].sCmn.frame_length; n++ ) {
280                   psEnc->state_Fxx[ 0 ].sCmn.inputBuf[ psEnc->state_Fxx[ 0 ].sCmn.inputBufIx+n+2 ] =
281                         silk_RSHIFT(psEnc->state_Fxx[ 0 ].sCmn.inputBuf[ psEnc->state_Fxx[ 0 ].sCmn.inputBufIx+n+2 ]
282                                   + psEnc->state_Fxx[ 1 ].sCmn.inputBuf[ psEnc->state_Fxx[ 1 ].sCmn.inputBufIx+n+2 ], 1);
283                }
284
285             }
286             silk_memcpy(psEnc->state_Fxx[ 0 ].sCmn.delayBuf, buf+nSamplesFromInput+delay-MAX_ENCODER_DELAY, MAX_ENCODER_DELAY*sizeof(opus_int16));
287             psEnc->state_Fxx[ 0 ].sCmn.inputBufIx += nSamplesToBuffer;
288         } else {
289             silk_assert( encControl->nChannelsAPI == 1 && encControl->nChannelsInternal == 1 );
290             silk_memcpy(buf+delay, samplesIn, nSamplesFromInput*sizeof(opus_int16));
291             silk_memcpy(buf, &psEnc->state_Fxx[ 0 ].sCmn.delayBuf[MAX_ENCODER_DELAY-delay], delay*sizeof(opus_int16));
292             ret += silk_resampler( &psEnc->state_Fxx[ 0 ].sCmn.resampler_state,
293                 &psEnc->state_Fxx[ 0 ].sCmn.inputBuf[ psEnc->state_Fxx[ 0 ].sCmn.inputBufIx + 2 ], buf, nSamplesFromInput );
294             silk_memcpy(psEnc->state_Fxx[ 0 ].sCmn.delayBuf, buf+nSamplesFromInput+delay-MAX_ENCODER_DELAY, MAX_ENCODER_DELAY*sizeof(opus_int16));
295             psEnc->state_Fxx[ 0 ].sCmn.inputBufIx += nSamplesToBuffer;
296         }
297
298         samplesIn  += nSamplesFromInput * encControl->nChannelsAPI;
299         nSamplesIn -= nSamplesFromInput;
300
301         /* Default */
302         psEnc->allowBandwidthSwitch = 0;
303
304         /* Silk encoder */
305         if( psEnc->state_Fxx[ 0 ].sCmn.inputBufIx >= psEnc->state_Fxx[ 0 ].sCmn.frame_length ) {
306             /* Enough data in input buffer, so encode */
307             silk_assert( psEnc->state_Fxx[ 0 ].sCmn.inputBufIx == psEnc->state_Fxx[ 0 ].sCmn.frame_length );
308             silk_assert( encControl->nChannelsInternal == 1 || psEnc->state_Fxx[ 1 ].sCmn.inputBufIx == psEnc->state_Fxx[ 1 ].sCmn.frame_length );
309
310             /* Deal with LBRR data */
311             if( psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded == 0 && !prefillFlag ) {
312                 /* Create space at start of payload for VAD and FEC flags */
313                 opus_uint8 iCDF[ 2 ] = { 0, 0 };
314                 iCDF[ 0 ] = 256 - silk_RSHIFT( 256, ( psEnc->state_Fxx[ 0 ].sCmn.nFramesPerPacket + 1 ) * encControl->nChannelsInternal );
315                 ec_enc_icdf( psRangeEnc, 0, iCDF, 8 );
316
317                 /* Encode any LBRR data from previous packet */
318                 /* Encode LBRR flags */
319                 for( n = 0; n < encControl->nChannelsInternal; n++ ) {
320                     LBRR_symbol = 0;
321                     for( i = 0; i < psEnc->state_Fxx[ n ].sCmn.nFramesPerPacket; i++ ) {
322                         LBRR_symbol |= silk_LSHIFT( psEnc->state_Fxx[ n ].sCmn.LBRR_flags[ i ], i );
323                     }
324                     psEnc->state_Fxx[ n ].sCmn.LBRR_flag = LBRR_symbol > 0 ? 1 : 0;
325                     if( LBRR_symbol && psEnc->state_Fxx[ n ].sCmn.nFramesPerPacket > 1 ) {
326                         ec_enc_icdf( psRangeEnc, LBRR_symbol - 1, silk_LBRR_flags_iCDF_ptr[ psEnc->state_Fxx[ n ].sCmn.nFramesPerPacket - 2 ], 8 );
327                     }
328                 }
329
330                 /* Code LBRR indices and excitation signals */
331                 for( i = 0; i < psEnc->state_Fxx[ 0 ].sCmn.nFramesPerPacket; i++ ) {
332                     for( n = 0; n < encControl->nChannelsInternal; n++ ) {
333                         if( psEnc->state_Fxx[ n ].sCmn.LBRR_flags[ i ] ) {
334                             if( encControl->nChannelsInternal == 2 && n == 0 ) {
335                                 silk_stereo_encode_pred( psRangeEnc, psEnc->sStereo.predIx[ i ] );
336                                 /* For LBRR data there's no need to code the mid-only flag if the side-channel LBRR flag is set */
337                                 if( psEnc->state_Fxx[ 1 ].sCmn.LBRR_flags[ i ] == 0 ) {
338                                     silk_stereo_encode_mid_only( psRangeEnc, psEnc->sStereo.mid_only_flags[ i ] );
339                                 }
340                             }
341                             silk_encode_indices( &psEnc->state_Fxx[ n ].sCmn, psRangeEnc, i, 1 );
342                             silk_encode_pulses( psRangeEnc, psEnc->state_Fxx[ n ].sCmn.indices_LBRR[i].signalType, psEnc->state_Fxx[ n ].sCmn.indices_LBRR[i].quantOffsetType,
343                                 psEnc->state_Fxx[ n ].sCmn.pulses_LBRR[ i ], psEnc->state_Fxx[ n ].sCmn.frame_length );
344                         }
345                     }
346                 }
347
348                 /* Reset LBRR flags */
349                 for( n = 0; n < encControl->nChannelsInternal; n++ ) {
350                     silk_memset( psEnc->state_Fxx[ n ].sCmn.LBRR_flags, 0, sizeof( psEnc->state_Fxx[ n ].sCmn.LBRR_flags ) );
351                 }
352             }
353
354             silk_HP_variable_cutoff( psEnc->state_Fxx );
355
356             /* Total target bits for packet */
357             nBits = silk_DIV32_16( silk_MUL( encControl->bitRate, encControl->payloadSize_ms ), 1000 );
358             /* Subtract half of the bits already used */
359             if (!prefillFlag)
360                 nBits -= ec_tell( psRangeEnc ) >> 1;
361             /* Divide by number of uncoded frames left in packet */
362             nBits = silk_DIV32_16( nBits, psEnc->state_Fxx[ 0 ].sCmn.nFramesPerPacket - psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded );
363             /* Convert to bits/second */
364             if( encControl->payloadSize_ms == 10 ) {
365                 TargetRate_bps = silk_SMULBB( nBits, 100 );
366             } else {
367                 TargetRate_bps = silk_SMULBB( nBits, 50 );
368             }
369             /* Subtract fraction of bits in excess of target in previous packets */
370             TargetRate_bps -= silk_DIV32_16( silk_MUL( psEnc->nBitsExceeded, 1000 ), BITRESERVOIR_DECAY_TIME_MS );
371             /* Never exceed input bitrate */
372             TargetRate_bps = silk_LIMIT( TargetRate_bps, encControl->bitRate, 5000 );
373
374             /* Convert Left/Right to Mid/Side */
375             if( encControl->nChannelsInternal == 2 ) {
376                 silk_stereo_LR_to_MS( &psEnc->sStereo, &psEnc->state_Fxx[ 0 ].sCmn.inputBuf[ 2 ], &psEnc->state_Fxx[ 1 ].sCmn.inputBuf[ 2 ],
377                     psEnc->sStereo.predIx[ psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded ], &psEnc->sStereo.mid_only_flags[ psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded ],
378                     MStargetRates_bps, TargetRate_bps, psEnc->state_Fxx[ 0 ].sCmn.speech_activity_Q8, encControl->toMono,
379                     psEnc->state_Fxx[ 0 ].sCmn.fs_kHz, psEnc->state_Fxx[ 0 ].sCmn.frame_length );
380                 if( !prefillFlag ) {
381                     silk_stereo_encode_pred( psRangeEnc, psEnc->sStereo.predIx[ psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded ] );
382                     silk_stereo_encode_mid_only( psRangeEnc, psEnc->sStereo.mid_only_flags[ psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded ] );
383                 }
384             } else {
385                 /* Buffering */
386                 silk_memcpy( psEnc->state_Fxx[ 0 ].sCmn.inputBuf, psEnc->sStereo.sMid, 2 * sizeof( opus_int16 ) );
387                 silk_memcpy( psEnc->sStereo.sMid, &psEnc->state_Fxx[ 0 ].sCmn.inputBuf[ psEnc->state_Fxx[ 0 ].sCmn.frame_length ], 2 * sizeof( opus_int16 ) );
388             }
389
390             /* Encode */
391             for( n = 0; n < encControl->nChannelsInternal; n++ ) {
392                 if( encControl->nChannelsInternal == 1 ) {
393                     channelRate_bps = TargetRate_bps;
394                 } else {
395                     channelRate_bps = MStargetRates_bps[ n ];
396                 }
397
398                 if( channelRate_bps > 0 ) {
399                     silk_control_SNR( &psEnc->state_Fxx[ n ].sCmn, channelRate_bps );
400
401                     if( ( ret = silk_encode_frame_Fxx( &psEnc->state_Fxx[ n ], nBytesOut, psRangeEnc ) ) != 0 ) {
402                         silk_assert( 0 );
403                     }
404                     psEnc->state_Fxx[ n ].sCmn.nFramesEncoded++;
405                 }
406                 psEnc->state_Fxx[ n ].sCmn.controlled_since_last_payload = 0;
407                 psEnc->state_Fxx[ n ].sCmn.inputBufIx = 0;
408             }
409
410             /* Insert VAD and FEC flags at beginning of bitstream */
411             if( *nBytesOut > 0 && psEnc->state_Fxx[ 0 ].sCmn.nFramesEncoded == psEnc->state_Fxx[ 0 ].sCmn.nFramesPerPacket) {
412                 flags = 0;
413                 for( n = 0; n < encControl->nChannelsInternal; n++ ) {
414                     for( i = 0; i < psEnc->state_Fxx[ n ].sCmn.nFramesPerPacket; i++ ) {
415                         flags  = silk_LSHIFT( flags, 1 );
416                         flags |= psEnc->state_Fxx[ n ].sCmn.VAD_flags[ i ];
417                     }
418                     flags  = silk_LSHIFT( flags, 1 );
419                     flags |= psEnc->state_Fxx[ n ].sCmn.LBRR_flag;
420                 }
421                 if( !prefillFlag ) {
422                     ec_enc_patch_initial_bits( psRangeEnc, flags, ( psEnc->state_Fxx[ 0 ].sCmn.nFramesPerPacket + 1 ) * encControl->nChannelsInternal );
423                 }
424
425                 /* Return zero bytes if all channels DTXed */
426                 if( psEnc->state_Fxx[ 0 ].sCmn.inDTX && ( encControl->nChannelsInternal == 1 || psEnc->state_Fxx[ 1 ].sCmn.inDTX ) ) {
427                     *nBytesOut = 0;
428                 }
429
430                 psEnc->nBitsExceeded += *nBytesOut * 8;
431                 psEnc->nBitsExceeded -= silk_DIV32_16( silk_MUL( encControl->bitRate, encControl->payloadSize_ms ), 1000 );
432                 psEnc->nBitsExceeded  = silk_LIMIT( psEnc->nBitsExceeded, 0, 10000 );
433
434                 /* Update flag indicating if bandwidth switching is allowed */
435                 speech_act_thr_for_switch_Q8 = silk_SMLAWB( SILK_FIX_CONST( SPEECH_ACTIVITY_DTX_THRES, 8 ),
436                     SILK_FIX_CONST( ( 1 - SPEECH_ACTIVITY_DTX_THRES ) / MAX_BANDWIDTH_SWITCH_DELAY_MS, 16 + 8 ), psEnc->timeSinceSwitchAllowed_ms );
437                 if( psEnc->state_Fxx[ 0 ].sCmn.speech_activity_Q8 < speech_act_thr_for_switch_Q8 ) {
438                     psEnc->allowBandwidthSwitch = 1;
439                     psEnc->timeSinceSwitchAllowed_ms = 0;
440                 } else {
441                     psEnc->allowBandwidthSwitch = 0;
442                     psEnc->timeSinceSwitchAllowed_ms += encControl->payloadSize_ms;
443                 }
444             }
445
446             if( nSamplesIn == 0 ) {
447                 break;
448             }
449         } else {
450             break;
451         }
452     }
453     psEnc->nPrevChannelsInternal = encControl->nChannelsInternal;
454
455     encControl->allowBandwidthSwitch = psEnc->allowBandwidthSwitch;
456     encControl->inWBmodeWithoutVariableLP = psEnc->state_Fxx[ 0 ].sCmn.fs_kHz == 16 && psEnc->state_Fxx[ 0 ].sCmn.sLP.mode == 0;
457     encControl->internalSampleRate = silk_SMULBB( psEnc->state_Fxx[ 0 ].sCmn.fs_kHz, 1000 );
458     encControl->stereoWidth_Q14 = encControl->toMono ? 0 : psEnc->sStereo.smth_width_Q14;
459     if( prefillFlag ) {
460         encControl->payloadSize_ms = tmp_payloadSize_ms;
461         encControl->complexity = tmp_complexity;
462         for( n = 0; n < encControl->nChannelsInternal; n++ ) {
463             psEnc->state_Fxx[ n ].sCmn.controlled_since_last_payload = 0;
464             psEnc->state_Fxx[ n ].sCmn.prefillFlag = 0;
465         }
466     }
467
468     return ret;
469 }
470