correct phone number
[opus.git] / doc / draft-valin-codec-prototype.xml
1 <?xml version='1.0'?>
2 <!DOCTYPE rfc SYSTEM 'rfc2629.dtd'>
3 <?rfc toc="yes" symrefs="yes" ?>
4
5 <rfc ipr="trust200902" category="std" docName="draft-valin-codec-prototype-01">
6
7 <front>
8 <title abbrev="Codec Prototype">Prototype for IETF Interactive Audio Codec</title>
9
10
11 <author initials="JM" surname="Valin" fullname="Jean-Marc Valin">
12 <organization>Octasic Inc.</organization>
13 <address>
14 <postal>
15 <street>4101, Molson Street</street>
16 <city>Montreal</city>
17 <region>Quebec</region>
18 <code></code>
19 <country>Canada</country>
20 </postal>
21 <phone>+1 514 282-8858</phone>
22 <email>jean-marc.valin@octasic.com</email>
23 </address>
24 </author>
25
26 <author initials="K." surname="Vos" fullname="Koen Vos">
27 <organization>Skype Technologies S.A.</organization>
28 <address>
29 <postal>
30 <street>Stadsgaarden 6</street>
31 <city>Stockholm</city>
32 <region></region>
33 <code>11645</code>
34 <country>SE</country>
35 </postal>
36 <phone>+46 855 921 989</phone>
37 <email>koen.vos@skype.net</email>
38 </address>
39 </author>
40
41
42 <date day="8" month="July" year="2010" />
43
44 <area>General</area>
45
46 <workgroup></workgroup>
47
48 <abstract>
49 <t>
50 This document provides a quick overview of a prototype codec combining a linear
51 prediction layer (SILK) with an MDCT-based layer (CELT).
52 These codecs are
53 used because of the authors' familiarity with the source code, but it does
54 not prevent inclusion of code from other codecs as well. This is a
55 work in progress.
56 </t>
57 </abstract>
58 </front>
59
60 <middle>
61
62 <section anchor="introduction" title="Introduction">
63 <t>
64 We propose a hybrid codec based on a linear prediction layer (LP) and an
65 MDCT-based enhancement layer. The main idea behind the proposal is that
66 the speech low frequencies are usually more efficiently coded using
67 linear prediction codecs (such as CELP variants), while the higher frequencies
68 are more efficiently coded in the transform domain (e.g. MDCT). For low 
69 sampling rates, the MDCT layer is not useful and only the LP-based layer is
70 used. On the other hand, non-speech signals are not always adequately coded
71 using linear prediction, so for music only the MDCT-based layer is used.
72 </t>
73
74 <t>
75 In this proposed prototype, the LP layer is based on the 
76 <eref target='http://developer.skype.com/silk'>SILK</eref> codec 
77 <xref target="SILK"></xref> and the MDCT layer is based on the 
78 <eref target='http://www.celt-codec.org/'>CELT</eref>  codec
79  <xref target="CELT"></xref>. These codecs are
80 used because of the authors' familiarity with the source code, but it does
81 not prevent inclusion of code from other codecs in the future.
82 </t>
83
84 <t>This is a work in progress.</t>
85 </section>
86
87 <section anchor="hybrid" title="Hybrid Codec">
88
89 <t>
90 In hybrid mode, each frame is coded first by the LP layer and then by the MDCT 
91 layer. In the current prototype, the cutoff frequency is 8 kHz. In the MDCT
92 layer, all bands below 8 kHz are discarded, such that there is no coding
93 redundancy between the two layers. Also both layers use the same instance of 
94 the range coder to encode the signal, which ensures that no "padding bits" are
95 wasted. The hybrid approach makes it easy to support both constant bit-rate
96 (CBR) and varaible bit-rate (VBR) coding. Although the SILK layer used is VBR,
97 it is easy to make the bit allocation of the CELT layer produce a final stream
98 that is CBR by using all the bits left unused by the SILK layer.
99 </t>
100
101 <t>The implementation of SILK-based LP layer is similar to the description in
102 the <xref target="SILK">SILK Internet-Draft</xref> with the main exception that 
103 SILK was modified to 
104 use the same range coder as CELT. The implementation of the CELT-based MDCT
105 layer is available from the CELT website and is a more recent version (0.8.1) 
106 of the <xref target="CELT">CELT Internet-Draft</xref>. 
107 The main changes
108 include better support for 20 ms frames as well as the ability to encode 
109 only the higher bands using a range coder partially filled by the SILK layer.</t>
110
111 <t>
112 In addition to their frame size, the SILK and CELT codecs require
113 a look-ahead of 5.2 ms and 2.5 ms, respectively. SILK's look-ahead is due to
114 noise shaping estimation (5 ms) and the internal resampling (0.2 ms), while
115 CELT's look-ahead is due to the overlapping MDCT windows. To compensate for the
116 difference, the CELT encoder input is delayed by 2.7 ms. This ensures that low
117 frequencies and high frequencies arrive at the same time.
118 </t>
119
120
121 <section title="Source Code">
122 <t>
123 The source code is currently available in a
124 <eref target='git://git.xiph.org/users/jm/ietfcodec.git'>Git repository</eref> 
125 which references two other
126 repositories (for SILK and CELT). Some snapshots are provided for 
127 convenience at <eref target='http://people.xiph.org/~jm/ietfcodec/'/> along
128 with sample files.
129 Although the build system is very primitive, some instructions are provided 
130 in the toplevel README file.
131 This is very early development so both the quality and feature set should
132 greatly improve over time. In the current version, only 48 kHz audio is 
133 supported, but support for all configurations listed in 
134 <xref target="modes"></xref> is planned. 
135 </t>
136 </section>
137
138 </section>
139
140 <section anchor="modes" title="Codec Modes">
141 <t>
142 There are three possible operating modes for the proposed prototype:
143 <list style="numbers">
144 <t>A linear prediction (LP) mode for use in low bit-rate connections with up to 8 kHz audio bandwidth (16 kHz sampling rate)</t>
145 <t>A hybrid (LP+MDCT) mode for full-bandwidth speech at medium bitrates</t>
146 <t>An MDCT-only mode for very low delay speech transmission as well as music transmission.</t>
147 </list>
148 Each of these modes supports a number of difference frame sizes and sampling
149 rates. In order to distinguish between the various modes and configurations,
150 we need to define a simple header that can used in the transport layer 
151 (e.g RTP) to signal this information. The following describes the proposed
152 header.
153 </t>
154
155 <t>
156 The LP mode supports the following configurations (numbered from 00000...01011 in binary):
157 <list style="symbols">
158 <t>16 kHz: 10, 20, 40, 60 ms (00000...00011)</t>
159 <t>12 kHz: 10, 20, 40, 60 ms (00100...00111)</t>
160 <t>8 kHz:  10, 20, 40, 60 ms (01000...01011)</t>
161 </list>
162 for a total of 12 configurations.
163 </t>
164
165 <t>
166 The hybrid mode supports the following configurations (numbered from 01100...01111):
167 <list style="symbols">
168 <t>48 kHz: 10, 20 ms (01100...01101)</t>
169 <t>32 kHz: 10, 20 ms (01110...01111)</t>
170 </list>
171 for a total of 4 configurations.
172 </t>
173
174 <t>
175 The MDCT-only mode supports the following configurations (numbered from 10000...11101):
176 <list style="symbols">
177 <t>48 kHz: 2.5, 5, 10, 20 ms (10000...10011)</t>
178 <t>32 kHz: 2.5, 5, 10, 20 ms (10100...10111)</t>
179 <t>16 kHz: 2.5, 5, 10, 20 ms (11000...11011)</t>
180 <t>8 kHz:  2.5, 5, 10, 20 ms (11100...11111)</t>
181 </list>
182 for a total of 16 configurations.
183 </t>
184
185 <t>
186 There is thus a total of 32 configurations, so 5 bits are necessary to 
187 indicate the mode, frame size and sampling rate (MFS). This leaves 3 bits for the number of frames per packets (codes 0 to 7):
188 <list style="symbols">
189 <t>0-2:  1-3 frames in the packet, each with equal compressed size</t>
190 <t>3:    arbitrary number of frames in the packet, each with equal compressed size (one size needs to be encoded)</t>
191 <t>4-5:  2-3 frames in the packet, with different compressed sizes, which need to be encoded (except the last one)</t>
192 <t>6:    arbitrary number of frames in the packet, with different compressed sizes, each of which needs to be encoded</t>
193 <t>7:    The first frame has this MFS, but others have different MFS. Each compressed size needs to be encoded.</t>
194 </list>
195 When code 7 is used and the last frames of a packet have the same MFS, it is 
196 allowed to switch to another code for them.
197 </t>
198
199 <t>
200 The compressed size of the frames (if needed) is indicated -- usually -- with one byte, with the following meaning:
201 <list style="symbols">
202 <t>0:          No frame (DTX or lost packet)</t>
203 <t>1-251:    Size of the frame in bytes</t>
204 <t>252-255: A second byte is needed. The total size is (size[1]*4)+(size[0]%4)+252</t>
205 </list>
206 </t>
207
208 <t>
209 The maximum size representable is 255*4+3+252=1275 bytes. For 20 ms frames, that 
210 represents a bit-rate of 510 kb/s, which is really the highest rate anyone would want 
211 to use in stereo mode (beyond that point, lossless codecs would be more appropriate).
212 </t>
213
214 <section anchor="examples" title="Examples">
215 <t>
216 Simplest case: one packet
217 </t>
218
219 <t>
220 <figure>
221 <artwork><![CDATA[
222  0                   1                   2                   3
223  0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1
224 +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
225 |   MFS   |0|0|0|               compressed data...              |
226 +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
227 ]]></artwork>
228 </figure>
229 </t>
230
231 <t>
232 Four frames of the same compressed size:
233 </t>
234
235 <t>
236 <figure>
237 <artwork><![CDATA[
238  0                   1                   2                   3
239  0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1
240 +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
241 |   MFS   |0|1|1|               compressed data...              |
242 +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
243 ]]></artwork>
244 </figure>
245 </t>
246
247 <t>
248 Two frames of different compressed size:
249 </t>
250
251 <t>
252 <figure>
253 <artwork><![CDATA[
254  0                   1                   2                   3
255  0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1
256 +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
257 |   MFS   |1|0|1|   frame size  |        compressed data...     |
258 +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
259 ]]></artwork>
260 </figure>
261 </t>
262
263 <t>
264 Three frames of different <spanx style="emph">durations</spanx>:
265
266 </t>
267
268 <t>
269 <figure>
270 <artwork><![CDATA[
271  0                   1                   2                   3
272  0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1
273 +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
274 | 1st MFS |1|1|1|   frame size  | 2nd MFS |1|1|1|   frame size  |
275 +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
276 | 3rd MFS |1|1|1|   frame size  |      compressed data...       |
277 +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
278 ]]></artwork>
279 </figure>
280 </t>
281 </section>
282
283
284 </section>
285
286 <section anchor="security" title="Security Considerations">
287
288 <t>
289 The codec needs to take appropriate security considerations 
290 into account, as outlined in <xref target="DOS"/> and <xref target="SECGUIDE"/>.
291 It is extremely important for the decoder to be robust against malicious
292 payloads. Malicious payloads must not cause the decoder to overrun its
293 allocated memory or to take much more resources to decode. Although problems
294 in encoders are typically rarer, the same applies to the encoder. Malicious
295 audio stream must not cause the encoder to misbehave because this would
296 allow an attacker to attack transcoding gateways.
297 </t>
298 <t>
299 In its current version, this prototype codec likely does NOT meet these
300 security considerations, so it should be used with caution.
301 </t>
302 </section> 
303
304
305 <section title="IANA Considerations ">
306 <t>
307 This document has no actions for IANA.
308 </t>
309 </section>
310
311 <section anchor="Acknowledgments" title="Acknowledgments">
312 <t>
313 Thanks to all other developers, including Soeren Skak Jensen, Gregory Maxwell, 
314 Christopher Montgomery, Karsten Vandborg Soerensen, and Timothy Terriberry.
315 </t>
316 </section> 
317
318 </middle>
319
320 <back>
321
322 <references title="Informative References">
323
324 <reference anchor='SILK'>
325 <front>
326 <title>SILK Speech Codec</title>
327 <author initials='K.' surname='Vos' fullname='K. Vos'>
328 <organization /></author>
329 <author initials='S.' surname='Jensen' fullname='S. Jensen'>
330 <organization /></author>
331 <author initials='K.' surname='Soerensen' fullname='K. Soerensen'>
332 <organization /></author>
333 <date year='2010' month='March' />
334 <abstract>
335 <t></t>
336 </abstract></front>
337 <seriesInfo name='Internet-Draft' value='draft-vos-silk-01' />
338 <format type='TXT' target='http://tools.ietf.org/html/draft-vos-silk-01' />
339 </reference>
340
341 <reference anchor='CELT'>
342 <front>
343 <title>Constrained-Energy Lapped Transform (CELT) Codec</title>
344 <author initials='J-M.' surname='Valin' fullname='J-M. Valin'>
345 <organization /></author>
346 <author initials='T.' surname='Terriberry' fullname='T. Terriberry'>
347 <organization /></author>
348 <author initials='G.' surname='Maxwell' fullname='G. Maxwell'>
349 <organization /></author>
350 <author initials='C.' surname='Montgomery' fullname='C. Montgomery'>
351 <organization /></author>
352 <date year='2010' month='July' />
353 <abstract>
354 <t></t>
355 </abstract></front>
356 <seriesInfo name='Internet-Draft' value='draft-valin-celt-codec-02' />
357 <format type='TXT' target='http://tools.ietf.org/html/draft-valin-celt-codec-02' />
358 </reference>
359
360 <reference anchor='DOS'>
361 <front>
362 <title>Internet Denial-of-Service Considerations</title>
363 <author initials='M.' surname='Handley' fullname='M. Handley'>
364 <organization /></author>
365 <author initials='E.' surname='Rescorla' fullname='E. Rescorla'>
366 <organization /></author>
367 <author>
368 <organization>IAB</organization></author>
369 <date year='2006' month='December' />
370 <abstract>
371 <t>This document provides an overview of possible avenues for denial-of-service (DoS) attack on Internet systems.  The aim is to encourage protocol designers and network engineers towards designs that are more robust.  We discuss partial solutions that reduce the effectiveness of attacks, and how some solutions might inadvertently open up alternative vulnerabilities.  This memo provides information for the Internet community.</t></abstract></front>
372 <seriesInfo name='RFC' value='4732' />
373 <format type='TXT' octets='91844' target='ftp://ftp.isi.edu/in-notes/rfc4732.txt' />
374 </reference>
375
376 <reference anchor='SECGUIDE'>
377 <front>
378 <title>Guidelines for Writing RFC Text on Security Considerations</title>
379 <author initials='E.' surname='Rescorla' fullname='E. Rescorla'>
380 <organization /></author>
381 <author initials='B.' surname='Korver' fullname='B. Korver'>
382 <organization /></author>
383 <date year='2003' month='July' />
384 <abstract>
385 <t>All RFCs are required to have a Security Considerations section.  Historically, such sections have been relatively weak.  This document provides guidelines to RFC authors on how to write a good Security Considerations section.  This document specifies an Internet Best Current Practices for the Internet Community, and requests discussion and suggestions for improvements.</t></abstract></front>
386
387 <seriesInfo name='BCP' value='72' />
388 <seriesInfo name='RFC' value='3552' />
389 <format type='TXT' octets='110393' target='ftp://ftp.isi.edu/in-notes/rfc3552.txt' />
390 </reference>
391
392
393 </references> 
394
395 </back>
396
397 </rfc>