Fixes more warnings
[opus.git] / celt / celt_encoder.c
1 /* Copyright (c) 2007-2008 CSIRO
2    Copyright (c) 2007-2010 Xiph.Org Foundation
3    Copyright (c) 2008 Gregory Maxwell
4    Written by Jean-Marc Valin and Gregory Maxwell */
5 /*
6    Redistribution and use in source and binary forms, with or without
7    modification, are permitted provided that the following conditions
8    are met:
9
10    - Redistributions of source code must retain the above copyright
11    notice, this list of conditions and the following disclaimer.
12
13    - Redistributions in binary form must reproduce the above copyright
14    notice, this list of conditions and the following disclaimer in the
15    documentation and/or other materials provided with the distribution.
16
17    THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
18    ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
19    LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
20    A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT OWNER
21    OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
22    EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
23    PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
24    PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF
25    LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING
26    NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS
27    SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
28 */
29
30 #ifdef HAVE_CONFIG_H
31 #include "config.h"
32 #endif
33
34 #define CELT_ENCODER_C
35
36 #include "cpu_support.h"
37 #include "os_support.h"
38 #include "mdct.h"
39 #include <math.h>
40 #include "celt.h"
41 #include "pitch.h"
42 #include "bands.h"
43 #include "modes.h"
44 #include "entcode.h"
45 #include "quant_bands.h"
46 #include "rate.h"
47 #include "stack_alloc.h"
48 #include "mathops.h"
49 #include "float_cast.h"
50 #include <stdarg.h>
51 #include "celt_lpc.h"
52 #include "vq.h"
53
54
55 /** Encoder state
56  @brief Encoder state
57  */
58 struct OpusCustomEncoder {
59    const OpusCustomMode *mode;     /**< Mode used by the encoder */
60    int overlap;
61    int channels;
62    int stream_channels;
63
64    int force_intra;
65    int clip;
66    int disable_pf;
67    int complexity;
68    int upsample;
69    int start, end;
70
71    opus_int32 bitrate;
72    int vbr;
73    int signalling;
74    int constrained_vbr;      /* If zero, VBR can do whatever it likes with the rate */
75    int loss_rate;
76    int lsb_depth;
77    int variable_duration;
78    int lfe;
79    int arch;
80
81    /* Everything beyond this point gets cleared on a reset */
82 #define ENCODER_RESET_START rng
83
84    opus_uint32 rng;
85    int spread_decision;
86    opus_val32 delayedIntra;
87    int tonal_average;
88    int lastCodedBands;
89    int hf_average;
90    int tapset_decision;
91
92    int prefilter_period;
93    opus_val16 prefilter_gain;
94    int prefilter_tapset;
95 #ifdef RESYNTH
96    int prefilter_period_old;
97    opus_val16 prefilter_gain_old;
98    int prefilter_tapset_old;
99 #endif
100    int consec_transient;
101    AnalysisInfo analysis;
102
103    opus_val32 preemph_memE[2];
104    opus_val32 preemph_memD[2];
105
106    /* VBR-related parameters */
107    opus_int32 vbr_reservoir;
108    opus_int32 vbr_drift;
109    opus_int32 vbr_offset;
110    opus_int32 vbr_count;
111    opus_val32 overlap_max;
112    opus_val16 stereo_saving;
113    int intensity;
114    opus_val16 *energy_mask;
115    opus_val16 spec_avg;
116
117 #ifdef RESYNTH
118    /* +MAX_PERIOD/2 to make space for overlap */
119    celt_sig syn_mem[2][2*MAX_PERIOD+MAX_PERIOD/2];
120 #endif
121
122    celt_sig in_mem[1]; /* Size = channels*mode->overlap */
123    /* celt_sig prefilter_mem[],  Size = channels*COMBFILTER_MAXPERIOD */
124    /* opus_val16 oldBandE[],     Size = channels*mode->nbEBands */
125    /* opus_val16 oldLogE[],      Size = channels*mode->nbEBands */
126    /* opus_val16 oldLogE2[],     Size = channels*mode->nbEBands */
127 };
128
129 int celt_encoder_get_size(int channels)
130 {
131    CELTMode *mode = opus_custom_mode_create(48000, 960, NULL);
132    return opus_custom_encoder_get_size(mode, channels);
133 }
134
135 OPUS_CUSTOM_NOSTATIC int opus_custom_encoder_get_size(const CELTMode *mode, int channels)
136 {
137    int size = sizeof(struct CELTEncoder)
138          + (channels*mode->overlap-1)*sizeof(celt_sig)    /* celt_sig in_mem[channels*mode->overlap]; */
139          + channels*COMBFILTER_MAXPERIOD*sizeof(celt_sig) /* celt_sig prefilter_mem[channels*COMBFILTER_MAXPERIOD]; */
140          + 3*channels*mode->nbEBands*sizeof(opus_val16);  /* opus_val16 oldBandE[channels*mode->nbEBands]; */
141                                                           /* opus_val16 oldLogE[channels*mode->nbEBands]; */
142                                                           /* opus_val16 oldLogE2[channels*mode->nbEBands]; */
143    return size;
144 }
145
146 #ifdef CUSTOM_MODES
147 CELTEncoder *opus_custom_encoder_create(const CELTMode *mode, int channels, int *error)
148 {
149    int ret;
150    CELTEncoder *st = (CELTEncoder *)opus_alloc(opus_custom_encoder_get_size(mode, channels));
151    /* init will handle the NULL case */
152    ret = opus_custom_encoder_init(st, mode, channels);
153    if (ret != OPUS_OK)
154    {
155       opus_custom_encoder_destroy(st);
156       st = NULL;
157    }
158    if (error)
159       *error = ret;
160    return st;
161 }
162 #endif /* CUSTOM_MODES */
163
164 int celt_encoder_init(CELTEncoder *st, opus_int32 sampling_rate, int channels)
165 {
166    int ret;
167    ret = opus_custom_encoder_init(st, opus_custom_mode_create(48000, 960, NULL), channels);
168    if (ret != OPUS_OK)
169       return ret;
170    st->upsample = resampling_factor(sampling_rate);
171    return OPUS_OK;
172 }
173
174 OPUS_CUSTOM_NOSTATIC int opus_custom_encoder_init(CELTEncoder *st, const CELTMode *mode, int channels)
175 {
176    if (channels < 0 || channels > 2)
177       return OPUS_BAD_ARG;
178
179    if (st==NULL || mode==NULL)
180       return OPUS_ALLOC_FAIL;
181
182    OPUS_CLEAR((char*)st, opus_custom_encoder_get_size(mode, channels));
183
184    st->mode = mode;
185    st->overlap = mode->overlap;
186    st->stream_channels = st->channels = channels;
187
188    st->upsample = 1;
189    st->start = 0;
190    st->end = st->mode->effEBands;
191    st->signalling = 1;
192
193    st->arch = opus_select_arch();
194
195    st->constrained_vbr = 1;
196    st->clip = 1;
197
198    st->bitrate = OPUS_BITRATE_MAX;
199    st->vbr = 0;
200    st->force_intra  = 0;
201    st->complexity = 5;
202    st->lsb_depth=24;
203
204    opus_custom_encoder_ctl(st, OPUS_RESET_STATE);
205
206    return OPUS_OK;
207 }
208
209 #ifdef CUSTOM_MODES
210 void opus_custom_encoder_destroy(CELTEncoder *st)
211 {
212    opus_free(st);
213 }
214 #endif /* CUSTOM_MODES */
215
216
217 static int transient_analysis(const opus_val32 * OPUS_RESTRICT in, int len, int C,
218                               opus_val16 *tf_estimate, int *tf_chan)
219 {
220    int i;
221    VARDECL(opus_val16, tmp);
222    opus_val32 mem0,mem1;
223    int is_transient = 0;
224    opus_int32 mask_metric = 0;
225    int c;
226    opus_val16 tf_max;
227    int len2;
228    /* Table of 6*64/x, trained on real data to minimize the average error */
229    static const unsigned char inv_table[128] = {
230          255,255,156,110, 86, 70, 59, 51, 45, 40, 37, 33, 31, 28, 26, 25,
231           23, 22, 21, 20, 19, 18, 17, 16, 16, 15, 15, 14, 13, 13, 12, 12,
232           12, 12, 11, 11, 11, 10, 10, 10,  9,  9,  9,  9,  9,  9,  8,  8,
233            8,  8,  8,  7,  7,  7,  7,  7,  7,  6,  6,  6,  6,  6,  6,  6,
234            6,  6,  6,  6,  6,  6,  6,  6,  6,  5,  5,  5,  5,  5,  5,  5,
235            5,  5,  5,  5,  5,  4,  4,  4,  4,  4,  4,  4,  4,  4,  4,  4,
236            4,  4,  4,  4,  4,  4,  4,  4,  4,  4,  4,  4,  4,  4,  3,  3,
237            3,  3,  3,  3,  3,  3,  3,  3,  3,  3,  3,  3,  3,  3,  3,  2,
238    };
239    SAVE_STACK;
240    ALLOC(tmp, len, opus_val16);
241
242    len2=len/2;
243    for (c=0;c<C;c++)
244    {
245       opus_val32 mean;
246       opus_int32 unmask=0;
247       opus_val32 norm;
248       opus_val16 maxE;
249       mem0=0;
250       mem1=0;
251       /* High-pass filter: (1 - 2*z^-1 + z^-2) / (1 - z^-1 + .5*z^-2) */
252       for (i=0;i<len;i++)
253       {
254          opus_val32 x,y;
255          x = SHR32(in[i+c*len],SIG_SHIFT);
256          y = ADD32(mem0, x);
257 #ifdef FIXED_POINT
258          mem0 = mem1 + y - SHL32(x,1);
259          mem1 = x - SHR32(y,1);
260 #else
261          mem0 = mem1 + y - 2*x;
262          mem1 = x - .5f*y;
263 #endif
264          tmp[i] = EXTRACT16(SHR32(y,2));
265          /*printf("%f ", tmp[i]);*/
266       }
267       /*printf("\n");*/
268       /* First few samples are bad because we don't propagate the memory */
269       for (i=0;i<12;i++)
270          tmp[i] = 0;
271
272 #ifdef FIXED_POINT
273       /* Normalize tmp to max range */
274       {
275          int shift=0;
276          shift = 14-celt_ilog2(1+celt_maxabs16(tmp, len));
277          if (shift!=0)
278          {
279             for (i=0;i<len;i++)
280                tmp[i] = SHL16(tmp[i], shift);
281          }
282       }
283 #endif
284
285       mean=0;
286       mem0=0;
287       /* Grouping by two to reduce complexity */
288       /* Forward pass to compute the post-echo threshold*/
289       for (i=0;i<len2;i++)
290       {
291          opus_val16 x2 = PSHR32(MULT16_16(tmp[2*i],tmp[2*i]) + MULT16_16(tmp[2*i+1],tmp[2*i+1]),16);
292          mean += x2;
293 #ifdef FIXED_POINT
294          /* FIXME: Use PSHR16() instead */
295          tmp[i] = mem0 + PSHR32(x2-mem0,4);
296 #else
297          tmp[i] = mem0 + MULT16_16_P15(QCONST16(.0625f,15),x2-mem0);
298 #endif
299          mem0 = tmp[i];
300       }
301
302       mem0=0;
303       maxE=0;
304       /* Backward pass to compute the pre-echo threshold */
305       for (i=len2-1;i>=0;i--)
306       {
307 #ifdef FIXED_POINT
308          /* FIXME: Use PSHR16() instead */
309          tmp[i] = mem0 + PSHR32(tmp[i]-mem0,3);
310 #else
311          tmp[i] = mem0 + MULT16_16_P15(QCONST16(0.125f,15),tmp[i]-mem0);
312 #endif
313          mem0 = tmp[i];
314          maxE = MAX16(maxE, mem0);
315       }
316       /*for (i=0;i<len2;i++)printf("%f ", tmp[i]/mean);printf("\n");*/
317
318       /* Compute the ratio of the "frame energy" over the harmonic mean of the energy.
319          This essentially corresponds to a bitrate-normalized temporal noise-to-mask
320          ratio */
321
322       /* As a compromise with the old transient detector, frame energy is the
323          geometric mean of the energy and half the max */
324 #ifdef FIXED_POINT
325       /* Costs two sqrt() to avoid overflows */
326       mean = MULT16_16(celt_sqrt(mean), celt_sqrt(MULT16_16(maxE,len2>>1)));
327 #else
328       mean = celt_sqrt(mean * maxE*.5*len2);
329 #endif
330       /* Inverse of the mean energy in Q15+6 */
331       norm = SHL32(EXTEND32(len2),6+14)/ADD32(EPSILON,SHR32(mean,1));
332       /* Compute harmonic mean discarding the unreliable boundaries
333          The data is smooth, so we only take 1/4th of the samples */
334       unmask=0;
335       for (i=12;i<len2-5;i+=4)
336       {
337          int id;
338 #ifdef FIXED_POINT
339          id = IMAX(0,IMIN(127,MULT16_32_Q15(tmp[i],norm))); /* Do not round to nearest */
340 #else
341          id = IMAX(0,IMIN(127,(int)floor(64*norm*tmp[i]))); /* Do not round to nearest */
342 #endif
343          unmask += inv_table[id];
344       }
345       /*printf("%d\n", unmask);*/
346       /* Normalize, compensate for the 1/4th of the sample and the factor of 6 in the inverse table */
347       unmask = 64*unmask*4/(6*(len2-17));
348       if (unmask>mask_metric)
349       {
350          *tf_chan = c;
351          mask_metric = unmask;
352       }
353    }
354    is_transient = mask_metric>200;
355
356    /* Arbitrary metric for VBR boost */
357    tf_max = MAX16(0,celt_sqrt(27*mask_metric)-42);
358    /* *tf_estimate = 1 + MIN16(1, sqrt(MAX16(0, tf_max-30))/20); */
359    *tf_estimate = celt_sqrt(MAX16(0, SHL32(MULT16_16(QCONST16(0.0069,14),MIN16(163,tf_max)),14)-QCONST32(0.139,28)));
360    /*printf("%d %f\n", tf_max, mask_metric);*/
361    RESTORE_STACK;
362 #ifdef FUZZING
363    is_transient = rand()&0x1;
364 #endif
365    /*printf("%d %f %d\n", is_transient, (float)*tf_estimate, tf_max);*/
366    return is_transient;
367 }
368
369 /* Looks for sudden increases of energy to decide whether we need to patch
370    the transient decision */
371 int patch_transient_decision(opus_val16 *newE, opus_val16 *oldE, int nbEBands,
372       int end, int C)
373 {
374    int i, c;
375    opus_val32 mean_diff=0;
376    opus_val16 spread_old[26];
377    /* Apply an aggressive (-6 dB/Bark) spreading function to the old frame to
378       avoid false detection caused by irrelevant bands */
379    if (C==1)
380    {
381       spread_old[0] = oldE[0];
382       for (i=1;i<end;i++)
383          spread_old[i] = MAX16(spread_old[i-1]-QCONST16(1.0f, DB_SHIFT), oldE[i]);
384    } else {
385       spread_old[0] = MAX16(oldE[0],oldE[nbEBands]);
386       for (i=1;i<end;i++)
387          spread_old[i] = MAX16(spread_old[i-1]-QCONST16(1.0f, DB_SHIFT),
388                                MAX16(oldE[i],oldE[i+nbEBands]));
389    }
390    for (i=end-2;i>=0;i--)
391       spread_old[i] = MAX16(spread_old[i], spread_old[i+1]-QCONST16(1.0f, DB_SHIFT));
392    /* Compute mean increase */
393    c=0; do {
394       for (i=2;i<end-1;i++)
395       {
396          opus_val16 x1, x2;
397          x1 = MAX16(0, newE[i]);
398          x2 = MAX16(0, spread_old[i]);
399          mean_diff = ADD32(mean_diff, EXTEND32(MAX16(0, SUB16(x1, x2))));
400       }
401    } while (++c<C);
402    mean_diff = DIV32(mean_diff, C*(end-3));
403    /*printf("%f %f %d\n", mean_diff, max_diff, count);*/
404    return mean_diff > QCONST16(1.f, DB_SHIFT);
405 }
406
407 /** Apply window and compute the MDCT for all sub-frames and
408     all channels in a frame */
409 static void compute_mdcts(const CELTMode *mode, int shortBlocks, celt_sig * OPUS_RESTRICT in,
410                           celt_sig * OPUS_RESTRICT out, int C, int CC, int LM, int upsample)
411 {
412    const int overlap = OVERLAP(mode);
413    int N;
414    int B;
415    int shift;
416    int i, b, c;
417    if (shortBlocks)
418    {
419       B = shortBlocks;
420       N = mode->shortMdctSize;
421       shift = mode->maxLM;
422    } else {
423       B = 1;
424       N = mode->shortMdctSize<<LM;
425       shift = mode->maxLM-LM;
426    }
427    c=0; do {
428       for (b=0;b<B;b++)
429       {
430          /* Interleaving the sub-frames while doing the MDCTs */
431          clt_mdct_forward(&mode->mdct, in+c*(B*N+overlap)+b*N, &out[b+c*N*B], mode->window, overlap, shift, B);
432       }
433    } while (++c<CC);
434    if (CC==2&&C==1)
435    {
436       for (i=0;i<B*N;i++)
437          out[i] = ADD32(HALF32(out[i]), HALF32(out[B*N+i]));
438    }
439    if (upsample != 1)
440    {
441       c=0; do
442       {
443          int bound = B*N/upsample;
444          for (i=0;i<bound;i++)
445             out[c*B*N+i] *= upsample;
446          for (;i<B*N;i++)
447             out[c*B*N+i] = 0;
448       } while (++c<C);
449    }
450 }
451
452
453 void preemphasis(const opus_val16 * OPUS_RESTRICT pcmp, celt_sig * OPUS_RESTRICT inp,
454                         int N, int CC, int upsample, const opus_val16 *coef, celt_sig *mem, int clip)
455 {
456    int i;
457    opus_val16 coef0;
458    celt_sig m;
459    int Nu;
460
461    coef0 = coef[0];
462
463
464    Nu = N/upsample;
465    if (upsample!=1)
466    {
467       for (i=0;i<N;i++)
468          inp[i] = 0;
469    }
470    for (i=0;i<Nu;i++)
471    {
472       celt_sig x;
473
474       x = SCALEIN(pcmp[CC*i]);
475 #ifndef FIXED_POINT
476       /* Replace NaNs with zeros */
477       if (!(x==x))
478          x = 0;
479 #endif
480       inp[i*upsample] = x;
481    }
482
483 #ifndef FIXED_POINT
484    if (clip)
485    {
486       /* Clip input to avoid encoding non-portable files */
487       for (i=0;i<Nu;i++)
488          inp[i*upsample] = MAX32(-65536.f, MIN32(65536.f,inp[i*upsample]));
489    }
490 #endif
491    m = *mem;
492 #ifdef CUSTOM_MODES
493    if (coef[1] != 0)
494    {
495       opus_val16 coef1 = coef[1];
496       opus_val16 coef2 = coef[2];
497       for (i=0;i<N;i++)
498       {
499          opus_val16 x, tmp;
500          x = inp[i];
501          /* Apply pre-emphasis */
502          tmp = MULT16_16(coef2, x);
503          inp[i] = tmp + m;
504          m = MULT16_32_Q15(coef1, inp[i]) - MULT16_32_Q15(coef0, tmp);
505       }
506    } else
507 #endif
508    {
509       for (i=0;i<N;i++)
510       {
511          celt_sig x;
512          x = SHL32(inp[i], SIG_SHIFT);
513          /* Apply pre-emphasis */
514          inp[i] = x + m;
515          m = - MULT16_32_Q15(coef0, x);
516       }
517    }
518    *mem = m;
519 }
520
521
522
523 static opus_val32 l1_metric(const celt_norm *tmp, int N, int LM, opus_val16 bias)
524 {
525    int i;
526    opus_val32 L1;
527    L1 = 0;
528    for (i=0;i<N;i++)
529       L1 += EXTEND32(ABS16(tmp[i]));
530    /* When in doubt, prefer good freq resolution */
531    L1 = MAC16_32_Q15(L1, LM*bias, L1);
532    return L1;
533
534 }
535
536 static int tf_analysis(const CELTMode *m, int len, int isTransient,
537       int *tf_res, int lambda, celt_norm *X, int N0, int LM,
538       int *tf_sum, opus_val16 tf_estimate, int tf_chan)
539 {
540    int i;
541    VARDECL(int, metric);
542    int cost0;
543    int cost1;
544    VARDECL(int, path0);
545    VARDECL(int, path1);
546    VARDECL(celt_norm, tmp);
547    VARDECL(celt_norm, tmp_1);
548    int sel;
549    int selcost[2];
550    int tf_select=0;
551    opus_val16 bias;
552
553    SAVE_STACK;
554    bias = MULT16_16_Q14(QCONST16(.04f,15), MAX16(-QCONST16(.25f,14), QCONST16(.5f,14)-tf_estimate));
555    /*printf("%f ", bias);*/
556
557    ALLOC(metric, len, int);
558    ALLOC(tmp, (m->eBands[len]-m->eBands[len-1])<<LM, celt_norm);
559    ALLOC(tmp_1, (m->eBands[len]-m->eBands[len-1])<<LM, celt_norm);
560    ALLOC(path0, len, int);
561    ALLOC(path1, len, int);
562
563    *tf_sum = 0;
564    for (i=0;i<len;i++)
565    {
566       int j, k, N;
567       int narrow;
568       opus_val32 L1, best_L1;
569       int best_level=0;
570       N = (m->eBands[i+1]-m->eBands[i])<<LM;
571       /* band is too narrow to be split down to LM=-1 */
572       narrow = (m->eBands[i+1]-m->eBands[i])==1;
573       for (j=0;j<N;j++)
574          tmp[j] = X[tf_chan*N0 + j+(m->eBands[i]<<LM)];
575       /* Just add the right channel if we're in stereo */
576       /*if (C==2)
577          for (j=0;j<N;j++)
578             tmp[j] = ADD16(SHR16(tmp[j], 1),SHR16(X[N0+j+(m->eBands[i]<<LM)], 1));*/
579       L1 = l1_metric(tmp, N, isTransient ? LM : 0, bias);
580       best_L1 = L1;
581       /* Check the -1 case for transients */
582       if (isTransient && !narrow)
583       {
584          for (j=0;j<N;j++)
585             tmp_1[j] = tmp[j];
586          haar1(tmp_1, N>>LM, 1<<LM);
587          L1 = l1_metric(tmp_1, N, LM+1, bias);
588          if (L1<best_L1)
589          {
590             best_L1 = L1;
591             best_level = -1;
592          }
593       }
594       /*printf ("%f ", L1);*/
595       for (k=0;k<LM+!(isTransient||narrow);k++)
596       {
597          int B;
598
599          if (isTransient)
600             B = (LM-k-1);
601          else
602             B = k+1;
603
604          haar1(tmp, N>>k, 1<<k);
605
606          L1 = l1_metric(tmp, N, B, bias);
607
608          if (L1 < best_L1)
609          {
610             best_L1 = L1;
611             best_level = k+1;
612          }
613       }
614       /*printf ("%d ", isTransient ? LM-best_level : best_level);*/
615       /* metric is in Q1 to be able to select the mid-point (-0.5) for narrower bands */
616       if (isTransient)
617          metric[i] = 2*best_level;
618       else
619          metric[i] = -2*best_level;
620       *tf_sum += (isTransient ? LM : 0) - metric[i]/2;
621       /* For bands that can't be split to -1, set the metric to the half-way point to avoid
622          biasing the decision */
623       if (narrow && (metric[i]==0 || metric[i]==-2*LM))
624          metric[i]-=1;
625       /*printf("%d ", metric[i]);*/
626    }
627    /*printf("\n");*/
628    /* Search for the optimal tf resolution, including tf_select */
629    tf_select = 0;
630    for (sel=0;sel<2;sel++)
631    {
632       cost0 = 0;
633       cost1 = isTransient ? 0 : lambda;
634       for (i=1;i<len;i++)
635       {
636          int curr0, curr1;
637          curr0 = IMIN(cost0, cost1 + lambda);
638          curr1 = IMIN(cost0 + lambda, cost1);
639          cost0 = curr0 + abs(metric[i]-2*tf_select_table[LM][4*isTransient+2*sel+0]);
640          cost1 = curr1 + abs(metric[i]-2*tf_select_table[LM][4*isTransient+2*sel+1]);
641       }
642       cost0 = IMIN(cost0, cost1);
643       selcost[sel]=cost0;
644    }
645    /* For now, we're conservative and only allow tf_select=1 for transients.
646     * If tests confirm it's useful for non-transients, we could allow it. */
647    if (selcost[1]<selcost[0] && isTransient)
648       tf_select=1;
649    cost0 = 0;
650    cost1 = isTransient ? 0 : lambda;
651    /* Viterbi forward pass */
652    for (i=1;i<len;i++)
653    {
654       int curr0, curr1;
655       int from0, from1;
656
657       from0 = cost0;
658       from1 = cost1 + lambda;
659       if (from0 < from1)
660       {
661          curr0 = from0;
662          path0[i]= 0;
663       } else {
664          curr0 = from1;
665          path0[i]= 1;
666       }
667
668       from0 = cost0 + lambda;
669       from1 = cost1;
670       if (from0 < from1)
671       {
672          curr1 = from0;
673          path1[i]= 0;
674       } else {
675          curr1 = from1;
676          path1[i]= 1;
677       }
678       cost0 = curr0 + abs(metric[i]-2*tf_select_table[LM][4*isTransient+2*tf_select+0]);
679       cost1 = curr1 + abs(metric[i]-2*tf_select_table[LM][4*isTransient+2*tf_select+1]);
680    }
681    tf_res[len-1] = cost0 < cost1 ? 0 : 1;
682    /* Viterbi backward pass to check the decisions */
683    for (i=len-2;i>=0;i--)
684    {
685       if (tf_res[i+1] == 1)
686          tf_res[i] = path1[i+1];
687       else
688          tf_res[i] = path0[i+1];
689    }
690    /*printf("%d %f\n", *tf_sum, tf_estimate);*/
691    RESTORE_STACK;
692 #ifdef FUZZING
693    tf_select = rand()&0x1;
694    tf_res[0] = rand()&0x1;
695    for (i=1;i<len;i++)
696       tf_res[i] = tf_res[i-1] ^ ((rand()&0xF) == 0);
697 #endif
698    return tf_select;
699 }
700
701 static void tf_encode(int start, int end, int isTransient, int *tf_res, int LM, int tf_select, ec_enc *enc)
702 {
703    int curr, i;
704    int tf_select_rsv;
705    int tf_changed;
706    int logp;
707    opus_uint32 budget;
708    opus_uint32 tell;
709    budget = enc->storage*8;
710    tell = ec_tell(enc);
711    logp = isTransient ? 2 : 4;
712    /* Reserve space to code the tf_select decision. */
713    tf_select_rsv = LM>0 && tell+logp+1 <= budget;
714    budget -= tf_select_rsv;
715    curr = tf_changed = 0;
716    for (i=start;i<end;i++)
717    {
718       if (tell+logp<=budget)
719       {
720          ec_enc_bit_logp(enc, tf_res[i] ^ curr, logp);
721          tell = ec_tell(enc);
722          curr = tf_res[i];
723          tf_changed |= curr;
724       }
725       else
726          tf_res[i] = curr;
727       logp = isTransient ? 4 : 5;
728    }
729    /* Only code tf_select if it would actually make a difference. */
730    if (tf_select_rsv &&
731          tf_select_table[LM][4*isTransient+0+tf_changed]!=
732          tf_select_table[LM][4*isTransient+2+tf_changed])
733       ec_enc_bit_logp(enc, tf_select, 1);
734    else
735       tf_select = 0;
736    for (i=start;i<end;i++)
737       tf_res[i] = tf_select_table[LM][4*isTransient+2*tf_select+tf_res[i]];
738    /*for(i=0;i<end;i++)printf("%d ", isTransient ? tf_res[i] : LM+tf_res[i]);printf("\n");*/
739 }
740
741
742 static int alloc_trim_analysis(const CELTMode *m, const celt_norm *X,
743       const opus_val16 *bandLogE, int end, int LM, int C, int N0,
744       AnalysisInfo *analysis, opus_val16 *stereo_saving, opus_val16 tf_estimate,
745       int intensity, opus_val16 surround_trim)
746 {
747    int i;
748    opus_val32 diff=0;
749    int c;
750    int trim_index = 5;
751    opus_val16 trim = QCONST16(5.f, 8);
752    opus_val16 logXC, logXC2;
753    if (C==2)
754    {
755       opus_val16 sum = 0; /* Q10 */
756       opus_val16 minXC; /* Q10 */
757       /* Compute inter-channel correlation for low frequencies */
758       for (i=0;i<8;i++)
759       {
760          int j;
761          opus_val32 partial = 0;
762          for (j=m->eBands[i]<<LM;j<m->eBands[i+1]<<LM;j++)
763             partial = MAC16_16(partial, X[j], X[N0+j]);
764          sum = ADD16(sum, EXTRACT16(SHR32(partial, 18)));
765       }
766       sum = MULT16_16_Q15(QCONST16(1.f/8, 15), sum);
767       sum = MIN16(QCONST16(1.f, 10), ABS16(sum));
768       minXC = sum;
769       for (i=8;i<intensity;i++)
770       {
771          int j;
772          opus_val32 partial = 0;
773          for (j=m->eBands[i]<<LM;j<m->eBands[i+1]<<LM;j++)
774             partial = MAC16_16(partial, X[j], X[N0+j]);
775          minXC = MIN16(minXC, ABS16(EXTRACT16(SHR32(partial, 18))));
776       }
777       minXC = MIN16(QCONST16(1.f, 10), ABS16(minXC));
778       /*printf ("%f\n", sum);*/
779       if (sum > QCONST16(.995f,10))
780          trim_index-=4;
781       else if (sum > QCONST16(.92f,10))
782          trim_index-=3;
783       else if (sum > QCONST16(.85f,10))
784          trim_index-=2;
785       else if (sum > QCONST16(.8f,10))
786          trim_index-=1;
787       /* mid-side savings estimations based on the LF average*/
788       logXC = celt_log2(QCONST32(1.001f, 20)-MULT16_16(sum, sum));
789       /* mid-side savings estimations based on min correlation */
790       logXC2 = MAX16(HALF16(logXC), celt_log2(QCONST32(1.001f, 20)-MULT16_16(minXC, minXC)));
791 #ifdef FIXED_POINT
792       /* Compensate for Q20 vs Q14 input and convert output to Q8 */
793       logXC = PSHR32(logXC-QCONST16(6.f, DB_SHIFT),DB_SHIFT-8);
794       logXC2 = PSHR32(logXC2-QCONST16(6.f, DB_SHIFT),DB_SHIFT-8);
795 #endif
796
797       trim += MAX16(-QCONST16(4.f, 8), MULT16_16_Q15(QCONST16(.75f,15),logXC));
798       *stereo_saving = MIN16(*stereo_saving + QCONST16(0.25f, 8), -HALF16(logXC2));
799    }
800
801    /* Estimate spectral tilt */
802    c=0; do {
803       for (i=0;i<end-1;i++)
804       {
805          diff += bandLogE[i+c*m->nbEBands]*(opus_int32)(2+2*i-end);
806       }
807    } while (++c<C);
808    diff /= C*(end-1);
809    /*printf("%f\n", diff);*/
810    if (diff > QCONST16(2.f, DB_SHIFT))
811       trim_index--;
812    if (diff > QCONST16(8.f, DB_SHIFT))
813       trim_index--;
814    if (diff < -QCONST16(4.f, DB_SHIFT))
815       trim_index++;
816    if (diff < -QCONST16(10.f, DB_SHIFT))
817       trim_index++;
818    trim -= MAX16(-QCONST16(2.f, 8), MIN16(QCONST16(2.f, 8), SHR16(diff+QCONST16(1.f, DB_SHIFT),DB_SHIFT-8)/6 ));
819    trim -= SHR16(surround_trim, DB_SHIFT-8);
820    trim -= 2*SHR16(tf_estimate, 14-8);
821 #ifndef DISABLE_FLOAT_API
822    if (analysis->valid)
823    {
824       trim -= MAX16(-QCONST16(2.f, 8), MIN16(QCONST16(2.f, 8),
825             (opus_val16)(QCONST16(2.f, 8)*(analysis->tonality_slope+.05f))));
826    }
827 #endif
828
829 #ifdef FIXED_POINT
830    trim_index = PSHR32(trim, 8);
831 #else
832    trim_index = (int)floor(.5f+trim);
833 #endif
834    if (trim_index<0)
835       trim_index = 0;
836    if (trim_index>10)
837       trim_index = 10;
838    /*printf("%d\n", trim_index);*/
839 #ifdef FUZZING
840    trim_index = rand()%11;
841 #endif
842    return trim_index;
843 }
844
845 static int stereo_analysis(const CELTMode *m, const celt_norm *X,
846       int LM, int N0)
847 {
848    int i;
849    int thetas;
850    opus_val32 sumLR = EPSILON, sumMS = EPSILON;
851
852    /* Use the L1 norm to model the entropy of the L/R signal vs the M/S signal */
853    for (i=0;i<13;i++)
854    {
855       int j;
856       for (j=m->eBands[i]<<LM;j<m->eBands[i+1]<<LM;j++)
857       {
858          opus_val32 L, R, M, S;
859          /* We cast to 32-bit first because of the -32768 case */
860          L = EXTEND32(X[j]);
861          R = EXTEND32(X[N0+j]);
862          M = ADD32(L, R);
863          S = SUB32(L, R);
864          sumLR = ADD32(sumLR, ADD32(ABS32(L), ABS32(R)));
865          sumMS = ADD32(sumMS, ADD32(ABS32(M), ABS32(S)));
866       }
867    }
868    sumMS = MULT16_32_Q15(QCONST16(0.707107f, 15), sumMS);
869    thetas = 13;
870    /* We don't need thetas for lower bands with LM<=1 */
871    if (LM<=1)
872       thetas -= 8;
873    return MULT16_32_Q15((m->eBands[13]<<(LM+1))+thetas, sumMS)
874          > MULT16_32_Q15(m->eBands[13]<<(LM+1), sumLR);
875 }
876
877 static opus_val16 dynalloc_analysis(const opus_val16 *bandLogE, const opus_val16 *bandLogE2,
878       int nbEBands, int start, int end, int C, int *offsets, int lsb_depth, const opus_int16 *logN,
879       int isTransient, int vbr, int constrained_vbr, const opus_int16 *eBands, int LM,
880       int effectiveBytes, opus_int32 *tot_boost_, int lfe, opus_val16 *surround_dynalloc)
881 {
882    int i, c;
883    opus_int32 tot_boost=0;
884    opus_val16 maxDepth;
885    VARDECL(opus_val16, follower);
886    VARDECL(opus_val16, noise_floor);
887    SAVE_STACK;
888    ALLOC(follower, C*nbEBands, opus_val16);
889    ALLOC(noise_floor, C*nbEBands, opus_val16);
890    for (i=0;i<nbEBands;i++)
891       offsets[i] = 0;
892    /* Dynamic allocation code */
893    maxDepth=-QCONST16(31.9f, DB_SHIFT);
894    for (i=0;i<end;i++)
895    {
896       /* Noise floor must take into account eMeans, the depth, the width of the bands
897          and the preemphasis filter (approx. square of bark band ID) */
898       noise_floor[i] = MULT16_16(QCONST16(0.0625f, DB_SHIFT),logN[i])
899             +QCONST16(.5f,DB_SHIFT)+SHL16(9-lsb_depth,DB_SHIFT)-SHL16(eMeans[i],6)
900             +MULT16_16(QCONST16(.0062,DB_SHIFT),(i+5)*(i+5));
901    }
902    c=0;do
903    {
904       for (i=0;i<end;i++)
905          maxDepth = MAX16(maxDepth, bandLogE[c*nbEBands+i]-noise_floor[i]);
906    } while (++c<C);
907    /* Make sure that dynamic allocation can't make us bust the budget */
908    if (effectiveBytes > 50 && LM>=1 && !lfe)
909    {
910       int last=0;
911       c=0;do
912       {
913          follower[c*nbEBands] = bandLogE2[c*nbEBands];
914          for (i=1;i<end;i++)
915          {
916             /* The last band to be at least 3 dB higher than the previous one
917                is the last we'll consider. Otherwise, we run into problems on
918                bandlimited signals. */
919             if (bandLogE2[c*nbEBands+i] > bandLogE2[c*nbEBands+i-1]+QCONST16(.5f,DB_SHIFT))
920                last=i;
921             follower[c*nbEBands+i] = MIN16(follower[c*nbEBands+i-1]+QCONST16(1.5f,DB_SHIFT), bandLogE2[c*nbEBands+i]);
922          }
923          for (i=last-1;i>=0;i--)
924             follower[c*nbEBands+i] = MIN16(follower[c*nbEBands+i], MIN16(follower[c*nbEBands+i+1]+QCONST16(2.f,DB_SHIFT), bandLogE2[c*nbEBands+i]));
925          for (i=0;i<end;i++)
926             follower[c*nbEBands+i] = MAX16(follower[c*nbEBands+i], noise_floor[i]);
927       } while (++c<C);
928       if (C==2)
929       {
930          for (i=start;i<end;i++)
931          {
932             /* Consider 24 dB "cross-talk" */
933             follower[nbEBands+i] = MAX16(follower[nbEBands+i], follower[         i]-QCONST16(4.f,DB_SHIFT));
934             follower[         i] = MAX16(follower[         i], follower[nbEBands+i]-QCONST16(4.f,DB_SHIFT));
935             follower[i] = HALF16(MAX16(0, bandLogE[i]-follower[i]) + MAX16(0, bandLogE[nbEBands+i]-follower[nbEBands+i]));
936          }
937       } else {
938          for (i=start;i<end;i++)
939          {
940             follower[i] = MAX16(0, bandLogE[i]-follower[i]);
941          }
942       }
943       for (i=start;i<end;i++)
944          follower[i] = MAX16(follower[i], surround_dynalloc[i]);
945       /* For non-transient CBR/CVBR frames, halve the dynalloc contribution */
946       if ((!vbr || constrained_vbr)&&!isTransient)
947       {
948          for (i=start;i<end;i++)
949             follower[i] = HALF16(follower[i]);
950       }
951       for (i=start;i<end;i++)
952       {
953          int width;
954          int boost;
955          int boost_bits;
956
957          if (i<8)
958             follower[i] *= 2;
959          if (i>=12)
960             follower[i] = HALF16(follower[i]);
961          follower[i] = MIN16(follower[i], QCONST16(4, DB_SHIFT));
962
963          width = C*(eBands[i+1]-eBands[i])<<LM;
964          if (width<6)
965          {
966             boost = (int)SHR32(EXTEND32(follower[i]),DB_SHIFT);
967             boost_bits = boost*width<<BITRES;
968          } else if (width > 48) {
969             boost = (int)SHR32(EXTEND32(follower[i])*8,DB_SHIFT);
970             boost_bits = (boost*width<<BITRES)/8;
971          } else {
972             boost = (int)SHR32(EXTEND32(follower[i])*width/6,DB_SHIFT);
973             boost_bits = boost*6<<BITRES;
974          }
975          /* For CBR and non-transient CVBR frames, limit dynalloc to 1/4 of the bits */
976          if ((!vbr || (constrained_vbr&&!isTransient))
977                && (tot_boost+boost_bits)>>BITRES>>3 > effectiveBytes/4)
978          {
979             opus_int32 cap = ((effectiveBytes/4)<<BITRES<<3);
980             offsets[i] = cap-tot_boost;
981             tot_boost = cap;
982             break;
983          } else {
984             offsets[i] = boost;
985             tot_boost += boost_bits;
986          }
987       }
988    }
989    *tot_boost_ = tot_boost;
990    RESTORE_STACK;
991    return maxDepth;
992 }
993
994
995 static int run_prefilter(CELTEncoder *st, celt_sig *in, celt_sig *prefilter_mem, int CC, int N,
996       int prefilter_tapset, int *pitch, opus_val16 *gain, int *qgain, int enabled, int nbAvailableBytes)
997 {
998    int c;
999    VARDECL(celt_sig, _pre);
1000    celt_sig *pre[2];
1001    const CELTMode *mode;
1002    int pitch_index;
1003    opus_val16 gain1;
1004    opus_val16 pf_threshold;
1005    int pf_on;
1006    int qg;
1007    SAVE_STACK;
1008
1009    mode = st->mode;
1010    ALLOC(_pre, CC*(N+COMBFILTER_MAXPERIOD), celt_sig);
1011
1012    pre[0] = _pre;
1013    pre[1] = _pre + (N+COMBFILTER_MAXPERIOD);
1014
1015
1016    c=0; do {
1017       OPUS_COPY(pre[c], prefilter_mem+c*COMBFILTER_MAXPERIOD, COMBFILTER_MAXPERIOD);
1018       OPUS_COPY(pre[c]+COMBFILTER_MAXPERIOD, in+c*(N+st->overlap)+st->overlap, N);
1019    } while (++c<CC);
1020
1021    if (enabled)
1022    {
1023       VARDECL(opus_val16, pitch_buf);
1024       ALLOC(pitch_buf, (COMBFILTER_MAXPERIOD+N)>>1, opus_val16);
1025
1026       pitch_downsample(pre, pitch_buf, COMBFILTER_MAXPERIOD+N, CC);
1027       /* Don't search for the fir last 1.5 octave of the range because
1028          there's too many false-positives due to short-term correlation */
1029       pitch_search(pitch_buf+(COMBFILTER_MAXPERIOD>>1), pitch_buf, N,
1030             COMBFILTER_MAXPERIOD-3*COMBFILTER_MINPERIOD, &pitch_index);
1031       pitch_index = COMBFILTER_MAXPERIOD-pitch_index;
1032
1033       gain1 = remove_doubling(pitch_buf, COMBFILTER_MAXPERIOD, COMBFILTER_MINPERIOD,
1034             N, &pitch_index, st->prefilter_period, st->prefilter_gain);
1035       if (pitch_index > COMBFILTER_MAXPERIOD-2)
1036          pitch_index = COMBFILTER_MAXPERIOD-2;
1037       gain1 = MULT16_16_Q15(QCONST16(.7f,15),gain1);
1038       /*printf("%d %d %f %f\n", pitch_change, pitch_index, gain1, st->analysis.tonality);*/
1039       if (st->loss_rate>2)
1040          gain1 = HALF32(gain1);
1041       if (st->loss_rate>4)
1042          gain1 = HALF32(gain1);
1043       if (st->loss_rate>8)
1044          gain1 = 0;
1045    } else {
1046       gain1 = 0;
1047       pitch_index = COMBFILTER_MINPERIOD;
1048    }
1049
1050    /* Gain threshold for enabling the prefilter/postfilter */
1051    pf_threshold = QCONST16(.2f,15);
1052
1053    /* Adjusting the threshold based on rate and continuity */
1054    if (abs(pitch_index-st->prefilter_period)*10>pitch_index)
1055       pf_threshold += QCONST16(.2f,15);
1056    if (nbAvailableBytes<25)
1057       pf_threshold += QCONST16(.1f,15);
1058    if (nbAvailableBytes<35)
1059       pf_threshold += QCONST16(.1f,15);
1060    if (st->prefilter_gain > QCONST16(.4f,15))
1061       pf_threshold -= QCONST16(.1f,15);
1062    if (st->prefilter_gain > QCONST16(.55f,15))
1063       pf_threshold -= QCONST16(.1f,15);
1064
1065    /* Hard threshold at 0.2 */
1066    pf_threshold = MAX16(pf_threshold, QCONST16(.2f,15));
1067    if (gain1<pf_threshold)
1068    {
1069       gain1 = 0;
1070       pf_on = 0;
1071       qg = 0;
1072    } else {
1073       /*This block is not gated by a total bits check only because
1074         of the nbAvailableBytes check above.*/
1075       if (ABS16(gain1-st->prefilter_gain)<QCONST16(.1f,15))
1076          gain1=st->prefilter_gain;
1077
1078 #ifdef FIXED_POINT
1079       qg = ((gain1+1536)>>10)/3-1;
1080 #else
1081       qg = (int)floor(.5f+gain1*32/3)-1;
1082 #endif
1083       qg = IMAX(0, IMIN(7, qg));
1084       gain1 = QCONST16(0.09375f,15)*(qg+1);
1085       pf_on = 1;
1086    }
1087    /*printf("%d %f\n", pitch_index, gain1);*/
1088
1089    c=0; do {
1090       int offset = mode->shortMdctSize-st->overlap;
1091       st->prefilter_period=IMAX(st->prefilter_period, COMBFILTER_MINPERIOD);
1092       OPUS_COPY(in+c*(N+st->overlap), st->in_mem+c*(st->overlap), st->overlap);
1093       if (offset)
1094          comb_filter(in+c*(N+st->overlap)+st->overlap, pre[c]+COMBFILTER_MAXPERIOD,
1095                st->prefilter_period, st->prefilter_period, offset, -st->prefilter_gain, -st->prefilter_gain,
1096                st->prefilter_tapset, st->prefilter_tapset, NULL, 0);
1097
1098       comb_filter(in+c*(N+st->overlap)+st->overlap+offset, pre[c]+COMBFILTER_MAXPERIOD+offset,
1099             st->prefilter_period, pitch_index, N-offset, -st->prefilter_gain, -gain1,
1100             st->prefilter_tapset, prefilter_tapset, mode->window, st->overlap);
1101       OPUS_COPY(st->in_mem+c*(st->overlap), in+c*(N+st->overlap)+N, st->overlap);
1102
1103       if (N>COMBFILTER_MAXPERIOD)
1104       {
1105          OPUS_MOVE(prefilter_mem+c*COMBFILTER_MAXPERIOD, pre[c]+N, COMBFILTER_MAXPERIOD);
1106       } else {
1107          OPUS_MOVE(prefilter_mem+c*COMBFILTER_MAXPERIOD, prefilter_mem+c*COMBFILTER_MAXPERIOD+N, COMBFILTER_MAXPERIOD-N);
1108          OPUS_MOVE(prefilter_mem+c*COMBFILTER_MAXPERIOD+COMBFILTER_MAXPERIOD-N, pre[c]+COMBFILTER_MAXPERIOD, N);
1109       }
1110    } while (++c<CC);
1111
1112    RESTORE_STACK;
1113    *gain = gain1;
1114    *pitch = pitch_index;
1115    *qgain = qg;
1116    return pf_on;
1117 }
1118
1119 static int compute_vbr(const CELTMode *mode, AnalysisInfo *analysis, opus_int32 base_target,
1120       int LM, opus_int32 bitrate, int lastCodedBands, int C, int intensity,
1121       int constrained_vbr, opus_val16 stereo_saving, int tot_boost,
1122       opus_val16 tf_estimate, int pitch_change, opus_val16 maxDepth,
1123       int variable_duration, int lfe, int has_surround_mask, opus_val16 surround_masking,
1124       opus_val16 temporal_vbr)
1125 {
1126    /* The target rate in 8th bits per frame */
1127    opus_int32 target;
1128    int coded_bins;
1129    int coded_bands;
1130    opus_val16 tf_calibration;
1131    int nbEBands;
1132    const opus_int16 *eBands;
1133
1134    nbEBands = mode->nbEBands;
1135    eBands = mode->eBands;
1136
1137    coded_bands = lastCodedBands ? lastCodedBands : nbEBands;
1138    coded_bins = eBands[coded_bands]<<LM;
1139    if (C==2)
1140       coded_bins += eBands[IMIN(intensity, coded_bands)]<<LM;
1141
1142    target = base_target;
1143
1144    /*printf("%f %f %f %f %d %d ", st->analysis.activity, st->analysis.tonality, tf_estimate, st->stereo_saving, tot_boost, coded_bands);*/
1145 #ifndef DISABLE_FLOAT_API
1146    if (analysis->valid && analysis->activity<.4)
1147       target -= (opus_int32)((coded_bins<<BITRES)*(.4f-analysis->activity));
1148 #endif
1149    /* Stereo savings */
1150    if (C==2)
1151    {
1152       int coded_stereo_bands;
1153       int coded_stereo_dof;
1154       opus_val16 max_frac;
1155       coded_stereo_bands = IMIN(intensity, coded_bands);
1156       coded_stereo_dof = (eBands[coded_stereo_bands]<<LM)-coded_stereo_bands;
1157       /* Maximum fraction of the bits we can save if the signal is mono. */
1158       max_frac = DIV32_16(MULT16_16(QCONST16(0.8f, 15), coded_stereo_dof), coded_bins);
1159       stereo_saving = MIN16(stereo_saving, QCONST16(1.f, 8));
1160       /*printf("%d %d %d ", coded_stereo_dof, coded_bins, tot_boost);*/
1161       target -= (opus_int32)MIN32(MULT16_32_Q15(max_frac,target),
1162                       SHR32(MULT16_16(stereo_saving-QCONST16(0.1f,8),(coded_stereo_dof<<BITRES)),8));
1163    }
1164    /* Boost the rate according to dynalloc (minus the dynalloc average for calibration). */
1165    target += tot_boost-(16<<LM);
1166    /* Apply transient boost, compensating for average boost. */
1167    tf_calibration = variable_duration==OPUS_FRAMESIZE_VARIABLE ?
1168                     QCONST16(0.02f,14) : QCONST16(0.04f,14);
1169    target += (opus_int32)SHL32(MULT16_32_Q15(tf_estimate-tf_calibration, target),1);
1170
1171 #ifndef DISABLE_FLOAT_API
1172    /* Apply tonality boost */
1173    if (analysis->valid && !lfe)
1174    {
1175       opus_int32 tonal_target;
1176       float tonal;
1177
1178       /* Tonality boost (compensating for the average). */
1179       tonal = MAX16(0.f,analysis->tonality-.15f)-0.09f;
1180       tonal_target = target + (opus_int32)((coded_bins<<BITRES)*1.2f*tonal);
1181       if (pitch_change)
1182          tonal_target +=  (opus_int32)((coded_bins<<BITRES)*.8f);
1183       /*printf("%f %f ", analysis->tonality, tonal);*/
1184       target = tonal_target;
1185    }
1186 #endif
1187
1188    if (has_surround_mask&&!lfe)
1189    {
1190       opus_int32 surround_target = target + (opus_int32)SHR32(MULT16_16(surround_masking,coded_bins<<BITRES), DB_SHIFT);
1191       /*printf("%f %d %d %d %d %d %d ", surround_masking, coded_bins, st->end, st->intensity, surround_target, target, st->bitrate);*/
1192       target = IMAX(target/4, surround_target);
1193    }
1194
1195    {
1196       opus_int32 floor_depth;
1197       int bins;
1198       bins = eBands[nbEBands-2]<<LM;
1199       /*floor_depth = SHR32(MULT16_16((C*bins<<BITRES),celt_log2(SHL32(MAX16(1,sample_max),13))), DB_SHIFT);*/
1200       floor_depth = (opus_int32)SHR32(MULT16_16((C*bins<<BITRES),maxDepth), DB_SHIFT);
1201       floor_depth = IMAX(floor_depth, target>>2);
1202       target = IMIN(target, floor_depth);
1203       /*printf("%f %d\n", maxDepth, floor_depth);*/
1204    }
1205
1206    if ((!has_surround_mask||lfe) && (constrained_vbr || bitrate<64000))
1207    {
1208       opus_val16 rate_factor;
1209 #ifdef FIXED_POINT
1210       rate_factor = MAX16(0,(bitrate-32000));
1211 #else
1212       rate_factor = MAX16(0,(1.f/32768)*(bitrate-32000));
1213 #endif
1214       if (constrained_vbr)
1215          rate_factor = MIN16(rate_factor, QCONST16(0.67f, 15));
1216       target = base_target + (opus_int32)MULT16_32_Q15(rate_factor, target-base_target);
1217
1218    }
1219
1220    if (!has_surround_mask && tf_estimate < QCONST16(.2f, 14))
1221    {
1222       opus_val16 amount;
1223       opus_val16 tvbr_factor;
1224       amount = MULT16_16_Q15(QCONST16(.0000031f, 30), IMAX(0, IMIN(32000, 96000-bitrate)));
1225       tvbr_factor = SHR32(MULT16_16(temporal_vbr, amount), DB_SHIFT);
1226       target += (opus_int32)MULT16_32_Q15(tvbr_factor, target);
1227    }
1228
1229    /* Don't allow more than doubling the rate */
1230    target = IMIN(2*base_target, target);
1231
1232    return target;
1233 }
1234
1235 int celt_encode_with_ec(CELTEncoder * OPUS_RESTRICT st, const opus_val16 * pcm, int frame_size, unsigned char *compressed, int nbCompressedBytes, ec_enc *enc)
1236 {
1237    int i, c, N;
1238    opus_int32 bits;
1239    ec_enc _enc;
1240    VARDECL(celt_sig, in);
1241    VARDECL(celt_sig, freq);
1242    VARDECL(celt_norm, X);
1243    VARDECL(celt_ener, bandE);
1244    VARDECL(opus_val16, bandLogE);
1245    VARDECL(opus_val16, bandLogE2);
1246    VARDECL(int, fine_quant);
1247    VARDECL(opus_val16, error);
1248    VARDECL(int, pulses);
1249    VARDECL(int, cap);
1250    VARDECL(int, offsets);
1251    VARDECL(int, fine_priority);
1252    VARDECL(int, tf_res);
1253    VARDECL(unsigned char, collapse_masks);
1254    celt_sig *prefilter_mem;
1255    opus_val16 *oldBandE, *oldLogE, *oldLogE2;
1256    int shortBlocks=0;
1257    int isTransient=0;
1258    const int CC = st->channels;
1259    const int C = st->stream_channels;
1260    int LM, M;
1261    int tf_select;
1262    int nbFilledBytes, nbAvailableBytes;
1263    int effEnd;
1264    int codedBands;
1265    int tf_sum;
1266    int alloc_trim;
1267    int pitch_index=COMBFILTER_MINPERIOD;
1268    opus_val16 gain1 = 0;
1269    int dual_stereo=0;
1270    int effectiveBytes;
1271    int dynalloc_logp;
1272    opus_int32 vbr_rate;
1273    opus_int32 total_bits;
1274    opus_int32 total_boost;
1275    opus_int32 balance;
1276    opus_int32 tell;
1277    int prefilter_tapset=0;
1278    int pf_on;
1279    int anti_collapse_rsv;
1280    int anti_collapse_on=0;
1281    int silence=0;
1282    int tf_chan = 0;
1283    opus_val16 tf_estimate;
1284    int pitch_change=0;
1285    opus_int32 tot_boost;
1286    opus_val32 sample_max;
1287    opus_val16 maxDepth;
1288    const OpusCustomMode *mode;
1289    int nbEBands;
1290    int overlap;
1291    const opus_int16 *eBands;
1292    int secondMdct;
1293    int signalBandwidth;
1294    int transient_got_disabled=0;
1295    opus_val16 surround_masking=0;
1296    opus_val16 temporal_vbr=0;
1297    opus_val16 surround_trim = 0;
1298    opus_int32 equiv_rate = 510000;
1299    VARDECL(opus_val16, surround_dynalloc);
1300    ALLOC_STACK;
1301
1302    mode = st->mode;
1303    nbEBands = mode->nbEBands;
1304    overlap = mode->overlap;
1305    eBands = mode->eBands;
1306    tf_estimate = 0;
1307    if (nbCompressedBytes<2 || pcm==NULL)
1308      return OPUS_BAD_ARG;
1309
1310    frame_size *= st->upsample;
1311    for (LM=0;LM<=mode->maxLM;LM++)
1312       if (mode->shortMdctSize<<LM==frame_size)
1313          break;
1314    if (LM>mode->maxLM)
1315       return OPUS_BAD_ARG;
1316    M=1<<LM;
1317    N = M*mode->shortMdctSize;
1318
1319    prefilter_mem = st->in_mem+CC*(st->overlap);
1320    oldBandE = (opus_val16*)(st->in_mem+CC*(st->overlap+COMBFILTER_MAXPERIOD));
1321    oldLogE = oldBandE + CC*nbEBands;
1322    oldLogE2 = oldLogE + CC*nbEBands;
1323
1324    if (enc==NULL)
1325    {
1326       tell=1;
1327       nbFilledBytes=0;
1328    } else {
1329       tell=ec_tell(enc);
1330       nbFilledBytes=(tell+4)>>3;
1331    }
1332
1333 #ifdef CUSTOM_MODES
1334    if (st->signalling && enc==NULL)
1335    {
1336       int tmp = (mode->effEBands-st->end)>>1;
1337       st->end = IMAX(1, mode->effEBands-tmp);
1338       compressed[0] = tmp<<5;
1339       compressed[0] |= LM<<3;
1340       compressed[0] |= (C==2)<<2;
1341       /* Convert "standard mode" to Opus header */
1342       if (mode->Fs==48000 && mode->shortMdctSize==120)
1343       {
1344          int c0 = toOpus(compressed[0]);
1345          if (c0<0)
1346             return OPUS_BAD_ARG;
1347          compressed[0] = c0;
1348       }
1349       compressed++;
1350       nbCompressedBytes--;
1351    }
1352 #else
1353    celt_assert(st->signalling==0);
1354 #endif
1355
1356    /* Can't produce more than 1275 output bytes */
1357    nbCompressedBytes = IMIN(nbCompressedBytes,1275);
1358    nbAvailableBytes = nbCompressedBytes - nbFilledBytes;
1359
1360    if (st->vbr && st->bitrate!=OPUS_BITRATE_MAX)
1361    {
1362       opus_int32 den=mode->Fs>>BITRES;
1363       vbr_rate=(st->bitrate*frame_size+(den>>1))/den;
1364 #ifdef CUSTOM_MODES
1365       if (st->signalling)
1366          vbr_rate -= 8<<BITRES;
1367 #endif
1368       effectiveBytes = vbr_rate>>(3+BITRES);
1369    } else {
1370       opus_int32 tmp;
1371       vbr_rate = 0;
1372       tmp = st->bitrate*frame_size;
1373       if (tell>1)
1374          tmp += tell;
1375       if (st->bitrate!=OPUS_BITRATE_MAX)
1376          nbCompressedBytes = IMAX(2, IMIN(nbCompressedBytes,
1377                (tmp+4*mode->Fs)/(8*mode->Fs)-!!st->signalling));
1378       effectiveBytes = nbCompressedBytes;
1379    }
1380    if (st->bitrate != OPUS_BITRATE_MAX)
1381       equiv_rate = st->bitrate - (40*C+20)*((400>>LM) - 50);
1382
1383    if (enc==NULL)
1384    {
1385       ec_enc_init(&_enc, compressed, nbCompressedBytes);
1386       enc = &_enc;
1387    }
1388
1389    if (vbr_rate>0)
1390    {
1391       /* Computes the max bit-rate allowed in VBR mode to avoid violating the
1392           target rate and buffering.
1393          We must do this up front so that bust-prevention logic triggers
1394           correctly if we don't have enough bits. */
1395       if (st->constrained_vbr)
1396       {
1397          opus_int32 vbr_bound;
1398          opus_int32 max_allowed;
1399          /* We could use any multiple of vbr_rate as bound (depending on the
1400              delay).
1401             This is clamped to ensure we use at least two bytes if the encoder
1402              was entirely empty, but to allow 0 in hybrid mode. */
1403          vbr_bound = vbr_rate;
1404          max_allowed = IMIN(IMAX(tell==1?2:0,
1405                (vbr_rate+vbr_bound-st->vbr_reservoir)>>(BITRES+3)),
1406                nbAvailableBytes);
1407          if(max_allowed < nbAvailableBytes)
1408          {
1409             nbCompressedBytes = nbFilledBytes+max_allowed;
1410             nbAvailableBytes = max_allowed;
1411             ec_enc_shrink(enc, nbCompressedBytes);
1412          }
1413       }
1414    }
1415    total_bits = nbCompressedBytes*8;
1416
1417    effEnd = st->end;
1418    if (effEnd > mode->effEBands)
1419       effEnd = mode->effEBands;
1420
1421    ALLOC(in, CC*(N+st->overlap), celt_sig);
1422
1423    sample_max=MAX32(st->overlap_max, celt_maxabs16(pcm, C*(N-overlap)/st->upsample));
1424    st->overlap_max=celt_maxabs16(pcm+C*(N-overlap)/st->upsample, C*overlap/st->upsample);
1425    sample_max=MAX32(sample_max, st->overlap_max);
1426 #ifdef FIXED_POINT
1427    silence = (sample_max==0);
1428 #else
1429    silence = (sample_max <= (opus_val16)1/(1<<st->lsb_depth));
1430 #endif
1431 #ifdef FUZZING
1432    if ((rand()&0x3F)==0)
1433       silence = 1;
1434 #endif
1435    if (tell==1)
1436       ec_enc_bit_logp(enc, silence, 15);
1437    else
1438       silence=0;
1439    if (silence)
1440    {
1441       /*In VBR mode there is no need to send more than the minimum. */
1442       if (vbr_rate>0)
1443       {
1444          effectiveBytes=nbCompressedBytes=IMIN(nbCompressedBytes, nbFilledBytes+2);
1445          total_bits=nbCompressedBytes*8;
1446          nbAvailableBytes=2;
1447          ec_enc_shrink(enc, nbCompressedBytes);
1448       }
1449       /* Pretend we've filled all the remaining bits with zeros
1450             (that's what the initialiser did anyway) */
1451       tell = nbCompressedBytes*8;
1452       enc->nbits_total+=tell-ec_tell(enc);
1453    }
1454    c=0; do {
1455       preemphasis(pcm+c, in+c*(N+st->overlap)+st->overlap, N, CC, st->upsample,
1456                   mode->preemph, st->preemph_memE+c, st->clip);
1457    } while (++c<CC);
1458
1459
1460
1461    /* Find pitch period and gain */
1462    {
1463       int enabled;
1464       int qg;
1465       enabled = ((st->lfe&&nbAvailableBytes>3) || nbAvailableBytes>12*C) && st->start==0 && !silence && !st->disable_pf
1466             && st->complexity >= 5 && !(st->consec_transient && LM!=3 && st->variable_duration==OPUS_FRAMESIZE_VARIABLE);
1467
1468       prefilter_tapset = st->tapset_decision;
1469       pf_on = run_prefilter(st, in, prefilter_mem, CC, N, prefilter_tapset, &pitch_index, &gain1, &qg, enabled, nbAvailableBytes);
1470       if ((gain1 > QCONST16(.4f,15) || st->prefilter_gain > QCONST16(.4f,15)) && (!st->analysis.valid || st->analysis.tonality > .3)
1471             && (pitch_index > 1.26*st->prefilter_period || pitch_index < .79*st->prefilter_period))
1472          pitch_change = 1;
1473       if (pf_on==0)
1474       {
1475          if(st->start==0 && tell+16<=total_bits)
1476             ec_enc_bit_logp(enc, 0, 1);
1477       } else {
1478          /*This block is not gated by a total bits check only because
1479            of the nbAvailableBytes check above.*/
1480          int octave;
1481          ec_enc_bit_logp(enc, 1, 1);
1482          pitch_index += 1;
1483          octave = EC_ILOG(pitch_index)-5;
1484          ec_enc_uint(enc, octave, 6);
1485          ec_enc_bits(enc, pitch_index-(16<<octave), 4+octave);
1486          pitch_index -= 1;
1487          ec_enc_bits(enc, qg, 3);
1488          ec_enc_icdf(enc, prefilter_tapset, tapset_icdf, 2);
1489       }
1490    }
1491
1492    isTransient = 0;
1493    shortBlocks = 0;
1494    if (st->complexity >= 1 && !st->lfe)
1495    {
1496       isTransient = transient_analysis(in, N+st->overlap, CC,
1497             &tf_estimate, &tf_chan);
1498    }
1499    if (LM>0 && ec_tell(enc)+3<=total_bits)
1500    {
1501       if (isTransient)
1502          shortBlocks = M;
1503    } else {
1504       isTransient = 0;
1505       transient_got_disabled=1;
1506    }
1507
1508    ALLOC(freq, CC*N, celt_sig); /**< Interleaved signal MDCTs */
1509    ALLOC(bandE,nbEBands*CC, celt_ener);
1510    ALLOC(bandLogE,nbEBands*CC, opus_val16);
1511
1512    secondMdct = shortBlocks && st->complexity>=8;
1513    ALLOC(bandLogE2, C*nbEBands, opus_val16);
1514    if (secondMdct)
1515    {
1516       compute_mdcts(mode, 0, in, freq, C, CC, LM, st->upsample);
1517       compute_band_energies(mode, freq, bandE, effEnd, C, M);
1518       amp2Log2(mode, effEnd, st->end, bandE, bandLogE2, C);
1519       for (i=0;i<C*nbEBands;i++)
1520          bandLogE2[i] += HALF16(SHL16(LM, DB_SHIFT));
1521    }
1522
1523    compute_mdcts(mode, shortBlocks, in, freq, C, CC, LM, st->upsample);
1524    if (CC==2&&C==1)
1525       tf_chan = 0;
1526    compute_band_energies(mode, freq, bandE, effEnd, C, M);
1527
1528    if (st->lfe)
1529    {
1530       for (i=2;i<st->end;i++)
1531       {
1532          bandE[i] = IMIN(bandE[i], MULT16_32_Q15(QCONST16(1e-4f,15),bandE[0]));
1533          bandE[i] = MAX32(bandE[i], EPSILON);
1534       }
1535    }
1536    amp2Log2(mode, effEnd, st->end, bandE, bandLogE, C);
1537
1538    ALLOC(surround_dynalloc, C*nbEBands, opus_val16);
1539    for(i=0;i<st->end;i++)
1540       surround_dynalloc[i] = 0;
1541    /* This computes how much masking takes place between surround channels */
1542    if (st->start==0&&st->energy_mask&&!st->lfe)
1543    {
1544       int mask_end;
1545       int midband;
1546       int count_dynalloc;
1547       opus_val32 mask_avg=0;
1548       opus_val32 diff=0;
1549       int count=0;
1550       mask_end = IMAX(2,st->lastCodedBands);
1551       for (c=0;c<C;c++)
1552       {
1553          for(i=0;i<mask_end;i++)
1554          {
1555             opus_val16 mask;
1556             mask = MAX16(MIN16(st->energy_mask[nbEBands*c+i],
1557                    QCONST16(.25f, DB_SHIFT)), -QCONST16(2.0f, DB_SHIFT));
1558             if (mask > 0)
1559                mask = HALF16(mask);
1560             mask_avg += MULT16_16(mask, eBands[i+1]-eBands[i]);
1561             count += eBands[i+1]-eBands[i];
1562             diff += MULT16_16(mask, 1+2*i-mask_end);
1563          }
1564       }
1565       mask_avg = DIV32_16(mask_avg,count);
1566       mask_avg += QCONST16(.2f, DB_SHIFT);
1567       diff = diff*6/(C*(mask_end-1)*(mask_end+1)*mask_end);
1568       /* Again, being conservative */
1569       diff = HALF32(diff);
1570       diff = MAX32(MIN32(diff, QCONST32(.031f, DB_SHIFT)), -QCONST32(.031f, DB_SHIFT));
1571       /* Find the band that's in the middle of the coded spectrum */
1572       for (midband=0;eBands[midband+1] < eBands[mask_end]/2;midband++);
1573       count_dynalloc=0;
1574       for(i=0;i<mask_end;i++)
1575       {
1576          opus_val32 lin;
1577          opus_val16 unmask;
1578          lin = mask_avg + diff*(i-midband);
1579          if (C==2)
1580             unmask = MAX16(st->energy_mask[i], st->energy_mask[nbEBands+i]);
1581          else
1582             unmask = st->energy_mask[i];
1583          unmask = MIN16(unmask, QCONST16(.0f, DB_SHIFT));
1584          unmask -= lin;
1585          if (unmask > QCONST16(.25f, DB_SHIFT))
1586          {
1587             surround_dynalloc[i] = unmask - QCONST16(.25f, DB_SHIFT);
1588             count_dynalloc++;
1589          }
1590       }
1591       if (count_dynalloc>=3)
1592       {
1593          /* If we need dynalloc in many bands, it's probably because our
1594             initial masking rate was too low. */
1595          mask_avg += QCONST16(.25f, DB_SHIFT);
1596          if (mask_avg>0)
1597          {
1598             /* Something went really wrong in the original calculations,
1599                disabling masking. */
1600             mask_avg = 0;
1601             diff = 0;
1602             for(i=0;i<mask_end;i++)
1603                surround_dynalloc[i] = 0;
1604          } else {
1605             for(i=0;i<mask_end;i++)
1606                surround_dynalloc[i] = MAX16(0, surround_dynalloc[i]-QCONST16(.25f, DB_SHIFT));
1607          }
1608       }
1609       mask_avg += QCONST16(.2f, DB_SHIFT);
1610       /* Convert to 1/64th units used for the trim */
1611       surround_trim = 64*diff;
1612       /*printf("%d %d ", mask_avg, surround_trim);*/
1613       surround_masking = mask_avg;
1614    }
1615    /* Temporal VBR (but not for LFE) */
1616    if (!st->lfe)
1617    {
1618       opus_val16 follow=-QCONST16(10.0f,DB_SHIFT);
1619       opus_val32 frame_avg=0;
1620       opus_val16 offset = shortBlocks?HALF16(SHL16(LM, DB_SHIFT)):0;
1621       for(i=st->start;i<st->end;i++)
1622       {
1623          follow = MAX16(follow-QCONST16(1.f, DB_SHIFT), bandLogE[i]-offset);
1624          if (C==2)
1625             follow = MAX16(follow, bandLogE[i+nbEBands]-offset);
1626          frame_avg += follow;
1627       }
1628       frame_avg /= (st->end-st->start);
1629       temporal_vbr = SUB16(frame_avg,st->spec_avg);
1630       temporal_vbr = MIN16(QCONST16(3.f, DB_SHIFT), MAX16(-QCONST16(1.5f, DB_SHIFT), temporal_vbr));
1631       st->spec_avg += MULT16_16_Q15(QCONST16(.02f, 15), temporal_vbr);
1632    }
1633    /*for (i=0;i<21;i++)
1634       printf("%f ", bandLogE[i]);
1635    printf("\n");*/
1636
1637    if (!secondMdct)
1638    {
1639       for (i=0;i<C*nbEBands;i++)
1640          bandLogE2[i] = bandLogE[i];
1641    }
1642
1643    /* Last chance to catch any transient we might have missed in the
1644       time-domain analysis */
1645    if (LM>0 && ec_tell(enc)+3<=total_bits && !isTransient && st->complexity>=5 && !st->lfe)
1646    {
1647       if (patch_transient_decision(bandLogE, oldBandE, nbEBands, st->end, C))
1648       {
1649          isTransient = 1;
1650          shortBlocks = M;
1651          compute_mdcts(mode, shortBlocks, in, freq, C, CC, LM, st->upsample);
1652          compute_band_energies(mode, freq, bandE, effEnd, C, M);
1653          amp2Log2(mode, effEnd, st->end, bandE, bandLogE, C);
1654          /* Compensate for the scaling of short vs long mdcts */
1655          for (i=0;i<C*nbEBands;i++)
1656             bandLogE2[i] += HALF16(SHL16(LM, DB_SHIFT));
1657          tf_estimate = QCONST16(.2f,14);
1658       }
1659    }
1660
1661    if (LM>0 && ec_tell(enc)+3<=total_bits)
1662       ec_enc_bit_logp(enc, isTransient, 3);
1663
1664    ALLOC(X, C*N, celt_norm);         /**< Interleaved normalised MDCTs */
1665
1666    /* Band normalisation */
1667    normalise_bands(mode, freq, X, bandE, effEnd, C, M);
1668
1669    ALLOC(tf_res, nbEBands, int);
1670    /* Disable variable tf resolution for hybrid and at very low bitrate */
1671    if (effectiveBytes>=15*C && st->start==0 && st->complexity>=2 && !st->lfe)
1672    {
1673       int lambda;
1674       if (effectiveBytes<40)
1675          lambda = 12;
1676       else if (effectiveBytes<60)
1677          lambda = 6;
1678       else if (effectiveBytes<100)
1679          lambda = 4;
1680       else
1681          lambda = 3;
1682       lambda*=2;
1683       tf_select = tf_analysis(mode, effEnd, isTransient, tf_res, lambda, X, N, LM, &tf_sum, tf_estimate, tf_chan);
1684       for (i=effEnd;i<st->end;i++)
1685          tf_res[i] = tf_res[effEnd-1];
1686    } else {
1687       tf_sum = 0;
1688       for (i=0;i<st->end;i++)
1689          tf_res[i] = isTransient;
1690       tf_select=0;
1691    }
1692
1693    ALLOC(error, C*nbEBands, opus_val16);
1694    quant_coarse_energy(mode, st->start, st->end, effEnd, bandLogE,
1695          oldBandE, total_bits, error, enc,
1696          C, LM, nbAvailableBytes, st->force_intra,
1697          &st->delayedIntra, st->complexity >= 4, st->loss_rate, st->lfe);
1698
1699    tf_encode(st->start, st->end, isTransient, tf_res, LM, tf_select, enc);
1700
1701    if (ec_tell(enc)+4<=total_bits)
1702    {
1703       if (st->lfe)
1704       {
1705          st->tapset_decision = 0;
1706          st->spread_decision = SPREAD_NORMAL;
1707       } else if (shortBlocks || st->complexity < 3 || nbAvailableBytes < 10*C || st->start != 0)
1708       {
1709          if (st->complexity == 0)
1710             st->spread_decision = SPREAD_NONE;
1711          else
1712             st->spread_decision = SPREAD_NORMAL;
1713       } else {
1714          /* Disable new spreading+tapset estimator until we can show it works
1715             better than the old one. So far it seems like spreading_decision()
1716             works best. */
1717 #if 0
1718          if (st->analysis.valid)
1719          {
1720             static const opus_val16 spread_thresholds[3] = {-QCONST16(.6f, 15), -QCONST16(.2f, 15), -QCONST16(.07f, 15)};
1721             static const opus_val16 spread_histeresis[3] = {QCONST16(.15f, 15), QCONST16(.07f, 15), QCONST16(.02f, 15)};
1722             static const opus_val16 tapset_thresholds[2] = {QCONST16(.0f, 15), QCONST16(.15f, 15)};
1723             static const opus_val16 tapset_histeresis[2] = {QCONST16(.1f, 15), QCONST16(.05f, 15)};
1724             st->spread_decision = hysteresis_decision(-st->analysis.tonality, spread_thresholds, spread_histeresis, 3, st->spread_decision);
1725             st->tapset_decision = hysteresis_decision(st->analysis.tonality_slope, tapset_thresholds, tapset_histeresis, 2, st->tapset_decision);
1726          } else
1727 #endif
1728          {
1729             st->spread_decision = spreading_decision(mode, X,
1730                   &st->tonal_average, st->spread_decision, &st->hf_average,
1731                   &st->tapset_decision, pf_on&&!shortBlocks, effEnd, C, M);
1732          }
1733          /*printf("%d %d\n", st->tapset_decision, st->spread_decision);*/
1734          /*printf("%f %d %f %d\n\n", st->analysis.tonality, st->spread_decision, st->analysis.tonality_slope, st->tapset_decision);*/
1735       }
1736       ec_enc_icdf(enc, st->spread_decision, spread_icdf, 5);
1737    }
1738
1739    ALLOC(offsets, nbEBands, int);
1740
1741    maxDepth = dynalloc_analysis(bandLogE, bandLogE2, nbEBands, st->start, st->end, C, offsets,
1742          st->lsb_depth, mode->logN, isTransient, st->vbr, st->constrained_vbr,
1743          eBands, LM, effectiveBytes, &tot_boost, st->lfe, surround_dynalloc);
1744    /* For LFE, everything interesting is in the first band */
1745    if (st->lfe)
1746       offsets[0] = IMIN(8, effectiveBytes/3);
1747    ALLOC(cap, nbEBands, int);
1748    init_caps(mode,cap,LM,C);
1749
1750    dynalloc_logp = 6;
1751    total_bits<<=BITRES;
1752    total_boost = 0;
1753    tell = ec_tell_frac(enc);
1754    for (i=st->start;i<st->end;i++)
1755    {
1756       int width, quanta;
1757       int dynalloc_loop_logp;
1758       int boost;
1759       int j;
1760       width = C*(eBands[i+1]-eBands[i])<<LM;
1761       /* quanta is 6 bits, but no more than 1 bit/sample
1762          and no less than 1/8 bit/sample */
1763       quanta = IMIN(width<<BITRES, IMAX(6<<BITRES, width));
1764       dynalloc_loop_logp = dynalloc_logp;
1765       boost = 0;
1766       for (j = 0; tell+(dynalloc_loop_logp<<BITRES) < total_bits-total_boost
1767             && boost < cap[i]; j++)
1768       {
1769          int flag;
1770          flag = j<offsets[i];
1771          ec_enc_bit_logp(enc, flag, dynalloc_loop_logp);
1772          tell = ec_tell_frac(enc);
1773          if (!flag)
1774             break;
1775          boost += quanta;
1776          total_boost += quanta;
1777          dynalloc_loop_logp = 1;
1778       }
1779       /* Making dynalloc more likely */
1780       if (j)
1781          dynalloc_logp = IMAX(2, dynalloc_logp-1);
1782       offsets[i] = boost;
1783    }
1784
1785    if (C==2)
1786    {
1787       int effectiveRate;
1788
1789       static const opus_val16 intensity_thresholds[21]=
1790       /* 0  1  2  3  4  5  6  7  8  9 10 11 12 13 14 15 16 17 18 19  20  off*/
1791         { 16,21,23,25,27,29,31,33,35,38,42,46,50,54,58,63,68,75,84,102,130};
1792       static const opus_val16 intensity_histeresis[21]=
1793         {  2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 3, 4, 5, 6,  8, 12};
1794
1795       /* Always use MS for 2.5 ms frames until we can do a better analysis */
1796       if (LM!=0)
1797          dual_stereo = stereo_analysis(mode, X, LM, N);
1798
1799       /* Account for coarse energy */
1800       effectiveRate = (8*effectiveBytes - 80)>>LM;
1801
1802       /* effectiveRate in kb/s */
1803       effectiveRate = 2*effectiveRate/5;
1804
1805       st->intensity = hysteresis_decision((opus_val16)effectiveRate, intensity_thresholds, intensity_histeresis, 21, st->intensity);
1806       st->intensity = IMIN(st->end,IMAX(st->start, st->intensity));
1807    }
1808
1809    alloc_trim = 5;
1810    if (tell+(6<<BITRES) <= total_bits - total_boost)
1811    {
1812       if (st->lfe)
1813          alloc_trim = 5;
1814       else
1815          alloc_trim = alloc_trim_analysis(mode, X, bandLogE,
1816             st->end, LM, C, N, &st->analysis, &st->stereo_saving, tf_estimate, st->intensity, surround_trim);
1817       ec_enc_icdf(enc, alloc_trim, trim_icdf, 7);
1818       tell = ec_tell_frac(enc);
1819    }
1820
1821    /* Variable bitrate */
1822    if (vbr_rate>0)
1823    {
1824      opus_val16 alpha;
1825      opus_int32 delta;
1826      /* The target rate in 8th bits per frame */
1827      opus_int32 target, base_target;
1828      opus_int32 min_allowed;
1829      int lm_diff = mode->maxLM - LM;
1830
1831      /* Don't attempt to use more than 510 kb/s, even for frames smaller than 20 ms.
1832         The CELT allocator will just not be able to use more than that anyway. */
1833      nbCompressedBytes = IMIN(nbCompressedBytes,1275>>(3-LM));
1834      base_target = vbr_rate - ((40*C+20)<<BITRES);
1835
1836      if (st->constrained_vbr)
1837         base_target += (st->vbr_offset>>lm_diff);
1838
1839      target = compute_vbr(mode, &st->analysis, base_target, LM, equiv_rate,
1840            st->lastCodedBands, C, st->intensity, st->constrained_vbr,
1841            st->stereo_saving, tot_boost, tf_estimate, pitch_change, maxDepth,
1842            st->variable_duration, st->lfe, st->energy_mask!=NULL, surround_masking,
1843            temporal_vbr);
1844
1845      /* The current offset is removed from the target and the space used
1846         so far is added*/
1847      target=target+tell;
1848      /* In VBR mode the frame size must not be reduced so much that it would
1849          result in the encoder running out of bits.
1850         The margin of 2 bytes ensures that none of the bust-prevention logic
1851          in the decoder will have triggered so far. */
1852      min_allowed = ((tell+total_boost+(1<<(BITRES+3))-1)>>(BITRES+3)) + 2 - nbFilledBytes;
1853
1854      nbAvailableBytes = (target+(1<<(BITRES+2)))>>(BITRES+3);
1855      nbAvailableBytes = IMAX(min_allowed,nbAvailableBytes);
1856      nbAvailableBytes = IMIN(nbCompressedBytes,nbAvailableBytes+nbFilledBytes) - nbFilledBytes;
1857
1858      /* By how much did we "miss" the target on that frame */
1859      delta = target - vbr_rate;
1860
1861      target=nbAvailableBytes<<(BITRES+3);
1862
1863      /*If the frame is silent we don't adjust our drift, otherwise
1864        the encoder will shoot to very high rates after hitting a
1865        span of silence, but we do allow the bitres to refill.
1866        This means that we'll undershoot our target in CVBR/VBR modes
1867        on files with lots of silence. */
1868      if(silence)
1869      {
1870        nbAvailableBytes = 2;
1871        target = 2*8<<BITRES;
1872        delta = 0;
1873      }
1874
1875      if (st->vbr_count < 970)
1876      {
1877         st->vbr_count++;
1878         alpha = celt_rcp(SHL32(EXTEND32(st->vbr_count+20),16));
1879      } else
1880         alpha = QCONST16(.001f,15);
1881      /* How many bits have we used in excess of what we're allowed */
1882      if (st->constrained_vbr)
1883         st->vbr_reservoir += target - vbr_rate;
1884      /*printf ("%d\n", st->vbr_reservoir);*/
1885
1886      /* Compute the offset we need to apply in order to reach the target */
1887      if (st->constrained_vbr)
1888      {
1889         st->vbr_drift += (opus_int32)MULT16_32_Q15(alpha,(delta*(1<<lm_diff))-st->vbr_offset-st->vbr_drift);
1890         st->vbr_offset = -st->vbr_drift;
1891      }
1892      /*printf ("%d\n", st->vbr_drift);*/
1893
1894      if (st->constrained_vbr && st->vbr_reservoir < 0)
1895      {
1896         /* We're under the min value -- increase rate */
1897         int adjust = (-st->vbr_reservoir)/(8<<BITRES);
1898         /* Unless we're just coding silence */
1899         nbAvailableBytes += silence?0:adjust;
1900         st->vbr_reservoir = 0;
1901         /*printf ("+%d\n", adjust);*/
1902      }
1903      nbCompressedBytes = IMIN(nbCompressedBytes,nbAvailableBytes+nbFilledBytes);
1904      /*printf("%d\n", nbCompressedBytes*50*8);*/
1905      /* This moves the raw bits to take into account the new compressed size */
1906      ec_enc_shrink(enc, nbCompressedBytes);
1907    }
1908
1909    /* Bit allocation */
1910    ALLOC(fine_quant, nbEBands, int);
1911    ALLOC(pulses, nbEBands, int);
1912    ALLOC(fine_priority, nbEBands, int);
1913
1914    /* bits =           packet size                    - where we are - safety*/
1915    bits = (((opus_int32)nbCompressedBytes*8)<<BITRES) - ec_tell_frac(enc) - 1;
1916    anti_collapse_rsv = isTransient&&LM>=2&&bits>=((LM+2)<<BITRES) ? (1<<BITRES) : 0;
1917    bits -= anti_collapse_rsv;
1918    signalBandwidth = st->end-1;
1919 #ifndef DISABLE_FLOAT_API
1920    if (st->analysis.valid)
1921    {
1922       int min_bandwidth;
1923       if (equiv_rate < (opus_int32)32000*C)
1924          min_bandwidth = 13;
1925       else if (equiv_rate < (opus_int32)48000*C)
1926          min_bandwidth = 16;
1927       else if (equiv_rate < (opus_int32)60000*C)
1928          min_bandwidth = 18;
1929       else  if (equiv_rate < (opus_int32)80000*C)
1930          min_bandwidth = 19;
1931       else
1932          min_bandwidth = 20;
1933       signalBandwidth = IMAX(st->analysis.bandwidth, min_bandwidth);
1934    }
1935 #endif
1936    if (st->lfe)
1937       signalBandwidth = 1;
1938    codedBands = compute_allocation(mode, st->start, st->end, offsets, cap,
1939          alloc_trim, &st->intensity, &dual_stereo, bits, &balance, pulses,
1940          fine_quant, fine_priority, C, LM, enc, 1, st->lastCodedBands, signalBandwidth);
1941    if (st->lastCodedBands)
1942       st->lastCodedBands = IMIN(st->lastCodedBands+1,IMAX(st->lastCodedBands-1,codedBands));
1943    else
1944       st->lastCodedBands = codedBands;
1945
1946    quant_fine_energy(mode, st->start, st->end, oldBandE, error, fine_quant, enc, C);
1947
1948    /* Residual quantisation */
1949    ALLOC(collapse_masks, C*nbEBands, unsigned char);
1950    quant_all_bands(1, mode, st->start, st->end, X, C==2 ? X+N : NULL, collapse_masks,
1951          bandE, pulses, shortBlocks, st->spread_decision, dual_stereo, st->intensity, tf_res,
1952          nbCompressedBytes*(8<<BITRES)-anti_collapse_rsv, balance, enc, LM, codedBands, &st->rng);
1953
1954    if (anti_collapse_rsv > 0)
1955    {
1956       anti_collapse_on = st->consec_transient<2;
1957 #ifdef FUZZING
1958       anti_collapse_on = rand()&0x1;
1959 #endif
1960       ec_enc_bits(enc, anti_collapse_on, 1);
1961    }
1962    quant_energy_finalise(mode, st->start, st->end, oldBandE, error, fine_quant, fine_priority, nbCompressedBytes*8-ec_tell(enc), enc, C);
1963
1964    if (silence)
1965    {
1966       for (i=0;i<C*nbEBands;i++)
1967          oldBandE[i] = -QCONST16(28.f,DB_SHIFT);
1968    }
1969
1970 #ifdef RESYNTH
1971    /* Re-synthesis of the coded audio if required */
1972    {
1973       celt_sig *out_mem[2];
1974
1975       if (anti_collapse_on)
1976       {
1977          anti_collapse(mode, X, collapse_masks, LM, C, N,
1978                st->start, st->end, oldBandE, oldLogE, oldLogE2, pulses, st->rng);
1979       }
1980
1981       if (silence)
1982       {
1983          for (i=0;i<C*N;i++)
1984             freq[i] = 0;
1985       } else {
1986          /* Synthesis */
1987          denormalise_bands(mode, X, freq, oldBandE, st->start, effEnd, C, M);
1988       }
1989
1990       c=0; do {
1991          OPUS_MOVE(st->syn_mem[c], st->syn_mem[c]+N, 2*MAX_PERIOD-N+overlap/2);
1992       } while (++c<CC);
1993
1994       if (CC==2&&C==1)
1995       {
1996          for (i=0;i<N;i++)
1997             freq[N+i] = freq[i];
1998       }
1999
2000       c=0; do {
2001          out_mem[c] = st->syn_mem[c]+2*MAX_PERIOD-N;
2002       } while (++c<CC);
2003
2004       compute_inv_mdcts(mode, shortBlocks, freq, out_mem, CC, LM);
2005
2006       c=0; do {
2007          st->prefilter_period=IMAX(st->prefilter_period, COMBFILTER_MINPERIOD);
2008          st->prefilter_period_old=IMAX(st->prefilter_period_old, COMBFILTER_MINPERIOD);
2009          comb_filter(out_mem[c], out_mem[c], st->prefilter_period_old, st->prefilter_period, mode->shortMdctSize,
2010                st->prefilter_gain_old, st->prefilter_gain, st->prefilter_tapset_old, st->prefilter_tapset,
2011                mode->window, st->overlap);
2012          if (LM!=0)
2013             comb_filter(out_mem[c]+mode->shortMdctSize, out_mem[c]+mode->shortMdctSize, st->prefilter_period, pitch_index, N-mode->shortMdctSize,
2014                   st->prefilter_gain, gain1, st->prefilter_tapset, prefilter_tapset,
2015                   mode->window, overlap);
2016       } while (++c<CC);
2017
2018       /* We reuse freq[] as scratch space for the de-emphasis */
2019       deemphasis(out_mem, (opus_val16*)pcm, N, CC, st->upsample, mode->preemph, st->preemph_memD, freq);
2020       st->prefilter_period_old = st->prefilter_period;
2021       st->prefilter_gain_old = st->prefilter_gain;
2022       st->prefilter_tapset_old = st->prefilter_tapset;
2023    }
2024 #endif
2025
2026    st->prefilter_period = pitch_index;
2027    st->prefilter_gain = gain1;
2028    st->prefilter_tapset = prefilter_tapset;
2029 #ifdef RESYNTH
2030    if (LM!=0)
2031    {
2032       st->prefilter_period_old = st->prefilter_period;
2033       st->prefilter_gain_old = st->prefilter_gain;
2034       st->prefilter_tapset_old = st->prefilter_tapset;
2035    }
2036 #endif
2037
2038    if (CC==2&&C==1) {
2039       for (i=0;i<nbEBands;i++)
2040          oldBandE[nbEBands+i]=oldBandE[i];
2041    }
2042
2043    if (!isTransient)
2044    {
2045       for (i=0;i<CC*nbEBands;i++)
2046          oldLogE2[i] = oldLogE[i];
2047       for (i=0;i<CC*nbEBands;i++)
2048          oldLogE[i] = oldBandE[i];
2049    } else {
2050       for (i=0;i<CC*nbEBands;i++)
2051          oldLogE[i] = MIN16(oldLogE[i], oldBandE[i]);
2052    }
2053    /* In case start or end were to change */
2054    c=0; do
2055    {
2056       for (i=0;i<st->start;i++)
2057       {
2058          oldBandE[c*nbEBands+i]=0;
2059          oldLogE[c*nbEBands+i]=oldLogE2[c*nbEBands+i]=-QCONST16(28.f,DB_SHIFT);
2060       }
2061       for (i=st->end;i<nbEBands;i++)
2062       {
2063          oldBandE[c*nbEBands+i]=0;
2064          oldLogE[c*nbEBands+i]=oldLogE2[c*nbEBands+i]=-QCONST16(28.f,DB_SHIFT);
2065       }
2066    } while (++c<CC);
2067
2068    if (isTransient || transient_got_disabled)
2069       st->consec_transient++;
2070    else
2071       st->consec_transient=0;
2072    st->rng = enc->rng;
2073
2074    /* If there's any room left (can only happen for very high rates),
2075       it's already filled with zeros */
2076    ec_enc_done(enc);
2077
2078 #ifdef CUSTOM_MODES
2079    if (st->signalling)
2080       nbCompressedBytes++;
2081 #endif
2082
2083    RESTORE_STACK;
2084    if (ec_get_error(enc))
2085       return OPUS_INTERNAL_ERROR;
2086    else
2087       return nbCompressedBytes;
2088 }
2089
2090
2091 #ifdef CUSTOM_MODES
2092
2093 #ifdef FIXED_POINT
2094 int opus_custom_encode(CELTEncoder * OPUS_RESTRICT st, const opus_int16 * pcm, int frame_size, unsigned char *compressed, int nbCompressedBytes)
2095 {
2096    return celt_encode_with_ec(st, pcm, frame_size, compressed, nbCompressedBytes, NULL);
2097 }
2098
2099 #ifndef DISABLE_FLOAT_API
2100 int opus_custom_encode_float(CELTEncoder * OPUS_RESTRICT st, const float * pcm, int frame_size, unsigned char *compressed, int nbCompressedBytes)
2101 {
2102    int j, ret, C, N;
2103    VARDECL(opus_int16, in);
2104    ALLOC_STACK;
2105
2106    if (pcm==NULL)
2107       return OPUS_BAD_ARG;
2108
2109    C = st->channels;
2110    N = frame_size;
2111    ALLOC(in, C*N, opus_int16);
2112
2113    for (j=0;j<C*N;j++)
2114      in[j] = FLOAT2INT16(pcm[j]);
2115
2116    ret=celt_encode_with_ec(st,in,frame_size,compressed,nbCompressedBytes, NULL);
2117 #ifdef RESYNTH
2118    for (j=0;j<C*N;j++)
2119       ((float*)pcm)[j]=in[j]*(1.f/32768.f);
2120 #endif
2121    RESTORE_STACK;
2122    return ret;
2123 }
2124 #endif /* DISABLE_FLOAT_API */
2125 #else
2126
2127 int opus_custom_encode(CELTEncoder * OPUS_RESTRICT st, const opus_int16 * pcm, int frame_size, unsigned char *compressed, int nbCompressedBytes)
2128 {
2129    int j, ret, C, N;
2130    VARDECL(celt_sig, in);
2131    ALLOC_STACK;
2132
2133    if (pcm==NULL)
2134       return OPUS_BAD_ARG;
2135
2136    C=st->channels;
2137    N=frame_size;
2138    ALLOC(in, C*N, celt_sig);
2139    for (j=0;j<C*N;j++) {
2140      in[j] = SCALEOUT(pcm[j]);
2141    }
2142
2143    ret = celt_encode_with_ec(st,in,frame_size,compressed,nbCompressedBytes, NULL);
2144 #ifdef RESYNTH
2145    for (j=0;j<C*N;j++)
2146       ((opus_int16*)pcm)[j] = FLOAT2INT16(in[j]);
2147 #endif
2148    RESTORE_STACK;
2149    return ret;
2150 }
2151
2152 int opus_custom_encode_float(CELTEncoder * OPUS_RESTRICT st, const float * pcm, int frame_size, unsigned char *compressed, int nbCompressedBytes)
2153 {
2154    return celt_encode_with_ec(st, pcm, frame_size, compressed, nbCompressedBytes, NULL);
2155 }
2156
2157 #endif
2158
2159 #endif /* CUSTOM_MODES */
2160
2161 int opus_custom_encoder_ctl(CELTEncoder * OPUS_RESTRICT st, int request, ...)
2162 {
2163    va_list ap;
2164
2165    va_start(ap, request);
2166    switch (request)
2167    {
2168       case OPUS_SET_COMPLEXITY_REQUEST:
2169       {
2170          int value = va_arg(ap, opus_int32);
2171          if (value<0 || value>10)
2172             goto bad_arg;
2173          st->complexity = value;
2174       }
2175       break;
2176       case CELT_SET_START_BAND_REQUEST:
2177       {
2178          opus_int32 value = va_arg(ap, opus_int32);
2179          if (value<0 || value>=st->mode->nbEBands)
2180             goto bad_arg;
2181          st->start = value;
2182       }
2183       break;
2184       case CELT_SET_END_BAND_REQUEST:
2185       {
2186          opus_int32 value = va_arg(ap, opus_int32);
2187          if (value<1 || value>st->mode->nbEBands)
2188             goto bad_arg;
2189          st->end = value;
2190       }
2191       break;
2192       case CELT_SET_PREDICTION_REQUEST:
2193       {
2194          int value = va_arg(ap, opus_int32);
2195          if (value<0 || value>2)
2196             goto bad_arg;
2197          st->disable_pf = value<=1;
2198          st->force_intra = value==0;
2199       }
2200       break;
2201       case OPUS_SET_PACKET_LOSS_PERC_REQUEST:
2202       {
2203          int value = va_arg(ap, opus_int32);
2204          if (value<0 || value>100)
2205             goto bad_arg;
2206          st->loss_rate = value;
2207       }
2208       break;
2209       case OPUS_SET_VBR_CONSTRAINT_REQUEST:
2210       {
2211          opus_int32 value = va_arg(ap, opus_int32);
2212          st->constrained_vbr = value;
2213       }
2214       break;
2215       case OPUS_SET_VBR_REQUEST:
2216       {
2217          opus_int32 value = va_arg(ap, opus_int32);
2218          st->vbr = value;
2219       }
2220       break;
2221       case OPUS_SET_BITRATE_REQUEST:
2222       {
2223          opus_int32 value = va_arg(ap, opus_int32);
2224          if (value<=500 && value!=OPUS_BITRATE_MAX)
2225             goto bad_arg;
2226          value = IMIN(value, 260000*st->channels);
2227          st->bitrate = value;
2228       }
2229       break;
2230       case CELT_SET_CHANNELS_REQUEST:
2231       {
2232          opus_int32 value = va_arg(ap, opus_int32);
2233          if (value<1 || value>2)
2234             goto bad_arg;
2235          st->stream_channels = value;
2236       }
2237       break;
2238       case OPUS_SET_LSB_DEPTH_REQUEST:
2239       {
2240           opus_int32 value = va_arg(ap, opus_int32);
2241           if (value<8 || value>24)
2242              goto bad_arg;
2243           st->lsb_depth=value;
2244       }
2245       break;
2246       case OPUS_GET_LSB_DEPTH_REQUEST:
2247       {
2248           opus_int32 *value = va_arg(ap, opus_int32*);
2249           *value=st->lsb_depth;
2250       }
2251       break;
2252       case OPUS_SET_EXPERT_FRAME_DURATION_REQUEST:
2253       {
2254           opus_int32 value = va_arg(ap, opus_int32);
2255           st->variable_duration = value;
2256       }
2257       break;
2258       case OPUS_RESET_STATE:
2259       {
2260          int i;
2261          opus_val16 *oldBandE, *oldLogE, *oldLogE2;
2262          oldBandE = (opus_val16*)(st->in_mem+st->channels*(st->overlap+COMBFILTER_MAXPERIOD));
2263          oldLogE = oldBandE + st->channels*st->mode->nbEBands;
2264          oldLogE2 = oldLogE + st->channels*st->mode->nbEBands;
2265          OPUS_CLEAR((char*)&st->ENCODER_RESET_START,
2266                opus_custom_encoder_get_size(st->mode, st->channels)-
2267                ((char*)&st->ENCODER_RESET_START - (char*)st));
2268          for (i=0;i<st->channels*st->mode->nbEBands;i++)
2269             oldLogE[i]=oldLogE2[i]=-QCONST16(28.f,DB_SHIFT);
2270          st->vbr_offset = 0;
2271          st->delayedIntra = 1;
2272          st->spread_decision = SPREAD_NORMAL;
2273          st->tonal_average = 256;
2274          st->hf_average = 0;
2275          st->tapset_decision = 0;
2276       }
2277       break;
2278 #ifdef CUSTOM_MODES
2279       case CELT_SET_INPUT_CLIPPING_REQUEST:
2280       {
2281          opus_int32 value = va_arg(ap, opus_int32);
2282          st->clip = value;
2283       }
2284       break;
2285 #endif
2286       case CELT_SET_SIGNALLING_REQUEST:
2287       {
2288          opus_int32 value = va_arg(ap, opus_int32);
2289          st->signalling = value;
2290       }
2291       break;
2292       case CELT_SET_ANALYSIS_REQUEST:
2293       {
2294          AnalysisInfo *info = va_arg(ap, AnalysisInfo *);
2295          if (info)
2296             OPUS_COPY(&st->analysis, info, 1);
2297       }
2298       break;
2299       case CELT_GET_MODE_REQUEST:
2300       {
2301          const CELTMode ** value = va_arg(ap, const CELTMode**);
2302          if (value==0)
2303             goto bad_arg;
2304          *value=st->mode;
2305       }
2306       break;
2307       case OPUS_GET_FINAL_RANGE_REQUEST:
2308       {
2309          opus_uint32 * value = va_arg(ap, opus_uint32 *);
2310          if (value==0)
2311             goto bad_arg;
2312          *value=st->rng;
2313       }
2314       break;
2315       case OPUS_SET_LFE_REQUEST:
2316       {
2317           opus_int32 value = va_arg(ap, opus_int32);
2318           st->lfe = value;
2319       }
2320       break;
2321       case OPUS_SET_ENERGY_MASK_REQUEST:
2322       {
2323           opus_val16 *value = va_arg(ap, opus_val16*);
2324           st->energy_mask = value;
2325       }
2326       break;
2327       default:
2328          goto bad_request;
2329    }
2330    va_end(ap);
2331    return OPUS_OK;
2332 bad_arg:
2333    va_end(ap);
2334    return OPUS_BAD_ARG;
2335 bad_request:
2336    va_end(ap);
2337    return OPUS_UNIMPLEMENTED;
2338 }