IETF draft
[opus.git] / doc / draft-valin-codec-prototype.xml
1 <?xml version='1.0'?>
2 <!DOCTYPE rfc SYSTEM 'rfc2629.dtd'>
3 <?rfc toc="yes" symrefs="yes" ?>
4
5 <rfc ipr="trust200902" category="std" docName="draft-valin-codec-prototype-00">
6
7 <front>
8 <title abbrev="Codec Prototype">Prototype for IETF Interactive Audio Codec</title>
9
10
11 <author initials="JM" surname="Valin" fullname="Jean-Marc Valin">
12 <organization>Octasic Inc.</organization>
13 <address>
14 <postal>
15 <street>4101, Molson Street</street>
16 <city>Montreal</city>
17 <region>Quebec</region>
18 <code></code>
19 <country>Canada</country>
20 </postal>
21 <phone>+1 514 383-8858</phone>
22 <email>jean-marc.valin@octasic.com</email>
23 </address>
24 </author>
25
26 <author initials="K." surname="Vos" fullname="Koen Vos">
27 <organization>Skype Technologies S.A.</organization>
28 <address>
29 <postal>
30 <street>Stadsgaarden 6</street>
31 <city>Stockholm</city>
32 <region></region>
33 <code>11645</code>
34 <country>SE</country>
35 </postal>
36 <phone>+46 855 921 989</phone>
37 <email>koen.vos@skype.net</email>
38 </address>
39 </author>
40
41
42 <date day="5" month="July" year="2010" />
43
44 <area>General</area>
45
46 <workgroup></workgroup>
47
48 <abstract>
49 <t>
50 This document provides a quick overview of a prototype codec combining a linear
51 prediction layer (SILK) with an MDCT-based layer (CELT).
52 These codecs are
53 used because of the authors' familiarity with the source code, but it does
54 not prevent inclusion of code from other codecs as well. This is a
55 work in progress.
56 </t>
57 </abstract>
58 </front>
59
60 <middle>
61
62 <section anchor="introduction" title="Introduction">
63 <t>
64 We propose a hybrid codec based on a linear prediction layer (LP) and an
65 MDCT-based enhancement layer. The main idea behind the proposal is that
66 the speech low frequencies are usually more efficiently coded using
67 linear prediction codecs (such as CELP variants), while the higher frequencies
68 are more efficiently coded in the transform domain (e.g. MDCT). For low 
69 sampling rates, the MDCT layer is not useful and only the LP-based layer is
70 used. On the other hand, non-speech signals are sometimes adequately coded
71 using linear prediction, so for music only the MDCT-based layer is used.
72 </t>
73
74 <t>
75 In this proposed prototype, the LP layer is based on the SILK codec 
76 <xref target="SILK"></xref> and the MDCT layer is based on CELT codec
77  <xref target="CELT"></xref>. These codecs are
78 used because of the authors' familiarity with the source code, but it does
79 not prevent inclusion of code from other codecs in the future.
80 </t>
81
82 <t>This is a work in progress.</t>
83 </section>
84
85 <section anchor="hybrid" title="Hybrid Codec">
86
87 <t>
88 In hybrid mode, each frame is coded first by the LP layer and then by the MDCT 
89 layer. In the current prototype, the cutoff frequency is 8 kHz. In the MDCT
90 layer, all bands below 8 kHz are discarded, such that there is no coding
91 redundancy between the two layers. Also both layers use the same instance of 
92 the range coder to encode the signal, which ensures that no "padding bits" are
93 wasted. The hybrid approach makes it easy to support both constant bit-rate
94 (CBR) and varaible bit-rate (VBR) coding. Although the SILK layer used is VBR,
95 it is easy to make the bit allocation of the CELT layer produce a final stream
96 that is CBR by using all the bits left unused by the SILK layer.
97 </t>
98
99 <section title="Source Code">
100 <t>
101 The source code is currently available in a
102 <eref target='git://git.xiph.org/users/jm/ietfcodec.git'>Git repository</eref> 
103 which references two other
104 repositories (for SILK and CELT). Although the build system is very primitive
105 (and inconsistent), some instructions are provided in the toplevel README file.
106 This is very early development so both the quality and feature set should
107 greatly improve over time. In the current version, only 48 kHz audio with 20 ms
108 frames are supported, but support for all configurations listed in 
109 <xref target="modes"></xref> is planned. 
110 </t>
111 </section>
112
113 </section>
114
115 <section anchor="modes" title="Codec Modes">
116 <t>
117 There are three possible operating modes for the proposed prototype:
118 <list style="numbers">
119 <t>A linear prediction (LP) mode for use in low bit-rate connections with up to 8 kHz audio bandwidth (16 kHz sampling rate)</t>
120 <t>A hybrid (LP+MDCT) mode for full-bandwidth speech at medium bitrates</t>
121 <t>An MDCT-only mode for very low delay speech transmission as well as music transmission.</t>
122 </list>
123 Each of these modes supports a number of difference frame sizes and sampling
124 rates. In order to distinguish between the various modes and configurations,
125 we need to define a simple header that can used in the transport layer 
126 (e.g RTP) to signal this information. The following describes the proposed
127 header.
128 </t>
129
130 <t>
131 The LP mode supports the following configurations (numbered from 00000...01011 in binary):
132 <list style="symbols">
133 <t>16 kHz: 10, 20, 40, 60 ms (00000...00011)</t>
134 <t>12 kHz: 10, 20, 40, 60 ms (00100...00111)</t>
135 <t>8 kHz:  10, 20, 40, 60 ms (01000...01011)</t>
136 </list>
137 for a total of 12 configurations.
138 </t>
139
140 <t>
141 The hybrid mode supports the following configurations (numbered from 01100...01111):
142 <list style="symbols">
143 <t>48 kHz: 10, 20 ms (01100...01101)</t>
144 <t>32 kHz: 10, 20 ms (01110...01111)</t>
145 </list>
146 for a total of 4 configurations.
147 </t>
148
149 <t>
150 The MDCT-only mode supports the following configurations (numbered from 10000...11101):
151 <list style="symbols">
152 <t>48 kHz: 2.5, 5, 10, 20 ms (10000...10011)</t>
153 <t>32 kHz: 2.5, 5, 10, 20 ms (10100...10111)</t>
154 <t>16 kHz:      5, 10, 20 ms (11000...11010)</t>
155 <t>8 kHz:       5, 10, 20 ms (11011...11101)</t>
156 </list>
157 for a total of 14 configurations.
158 </t>
159
160 <t>
161 There is thus a total of 30 configurations, so 5 bits are necessary (with 2 codes unused) to 
162 indicate the mode, frame size and sampling rate (MFS). This leaves 3 bits for the number of frames per packets (codes 0 to 7):
163 <list style="symbols">
164 <t>0-3:  1-4 frames in the packet, each with equal compressed size</t>
165 <t>4-6:  1-3 frames in the packet, with different compressed sizes, which need to be encoded</t>
166 <t>7:     The first frame has this MFS, but others have different MFS. Compressed sizes need to be encoded.</t>
167 </list>
168 </t>
169
170 <t>
171 The compressed size of the frames (if needed) is indicated -- usually -- with one byte, with the following meaning:
172 <list style="symbols">
173 <t>0:          No frame (DTX)</t>
174 <t>1-251:    Size of the frame in bytes</t>
175 <t>252-255: A second byte is needed. The total size is (size[1]*4)+(size[0]%4)+252</t>
176 </list>
177 </t>
178
179 <t>
180 The maximum size representable is 255*4+3+252=1275 bytes. For 20 ms frames, that 
181 represents a bit-rate of 510 kb/s, which is really the highest rate anyone would want 
182 to use in stereo mode (beyond that point, lossless codecs would be more appropriate).
183 </t>
184
185 <section anchor="examples" title="Examples">
186 <t>
187 Simplest case: one packet
188 </t>
189
190 <t>
191 <figure>
192 <artwork><![CDATA[
193  0                   1                   2                   3
194  0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1
195 +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
196 |   MFS   |0|0|0|               compressed data...              |
197 +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
198 ]]></artwork>
199 </figure>
200 </t>
201
202 <t>
203 Four frames of the same compressed size:
204 </t>
205
206 <t>
207 <figure>
208 <artwork><![CDATA[
209  0                   1                   2                   3
210  0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1
211 +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
212 |   MFS   |0|1|1|               compressed data...              |
213 +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
214 ]]></artwork>
215 </figure>
216 </t>
217
218 <t>
219 Two frames of different compressed size:
220 </t>
221
222 <t>
223 <figure>
224 <artwork><![CDATA[
225  0                   1                   2                   3
226  0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1
227 +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
228 |   MFS   |1|0|1|   frame size  |        compressed data...     |
229 +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
230 ]]></artwork>
231 </figure>
232 </t>
233
234 <t>
235 Three frames of different *durations*:
236
237 </t>
238
239 <t>
240 <figure>
241 <artwork><![CDATA[
242  0                   1                   2                   3
243  0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1
244 +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
245 | 1st MFS |1|1|1|   frame size  | 2nd MFS |1|1|1|   frame size  |
246 +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
247 | 3rd MFS |1|1|1|   frame size  |      compressed data...       |
248 +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
249 ]]></artwork>
250 </figure>
251 </t>
252 </section>
253
254
255 </section>
256
257 <section anchor="security" title="Security Considerations">
258
259 <t>
260 The codec needs to take appropriate
261 security considerations into account, for example as outlined in 
262 <xref target="DOS"/> and <xref target="SECGUIDE"/>.
263 </t>
264
265 </section> 
266
267
268 <section title="IANA Considerations ">
269 <t>
270 This document has no actions for IANA.
271 </t>
272 </section>
273
274 <!--
275 <section anchor="Acknowledgments" title="Acknowledgments">
276 <t>
277 </t>
278 </section> 
279 -->
280
281 </middle>
282
283 <back>
284
285 <references title="Informative References">
286
287 <reference anchor='SILK'>
288 <front>
289 <title>SILK Speech Codec</title>
290 <author initials='K.' surname='Koen' fullname='K. Vos'>
291 <organization /></author>
292 <author initials='S.' surname='Soeren Skak' fullname='S. Jensen'>
293 <organization /></author>
294 <author initials='K.' surname='Karsten Vandborg' fullname='K. Soerensen'>
295 <organization /></author>
296 <date year='2010' month='March' />
297 <abstract>
298 <t></t>
299 </abstract></front>
300 <seriesInfo name='Internet-Draft' value='draft-vos-silk-01' />
301 <format type='TXT' target='http://tools.ietf.org/html/draft-vos-silk-01' />
302 </reference>
303
304 <reference anchor='CELT'>
305 <front>
306 <title>Constrained-Energy Lapped Transform (CELT) Codec</title>
307 <author initials='J.' surname='Jean-Marc' fullname='J. Valin'>
308 <organization /></author>
309 <author initials='T.' surname='Timothy' fullname='T. Terriberry'>
310 <organization /></author>
311 <author initials='G.' surname='Gregory' fullname='G. Maxwell'>
312 <organization /></author>
313 <author initials='C.' surname='Christopher' fullname='C. Montgomery'>
314 <organization /></author>
315 <date year='2009' month='July' />
316 <abstract>
317 <t></t>
318 </abstract></front>
319 <seriesInfo name='Internet-Draft' value='draft-valin-celt-codec-01' />
320 <format type='TXT' target='http://tools.ietf.org/html/draft-valin-celt-codec-01' />
321 </reference>
322
323 <reference anchor='DOS'>
324 <front>
325 <title>Internet Denial-of-Service Considerations</title>
326 <author initials='M.' surname='Handley' fullname='M. Handley'>
327 <organization /></author>
328 <author initials='E.' surname='Rescorla' fullname='E. Rescorla'>
329 <organization /></author>
330 <author>
331 <organization>IAB</organization></author>
332 <date year='2006' month='December' />
333 <abstract>
334 <t>This document provides an overview of possible avenues for denial-of-service (DoS) attack on Internet systems.  The aim is to encourage protocol designers and network engineers towards designs that are more robust.  We discuss partial solutions that reduce the effectiveness of attacks, and how some solutions might inadvertently open up alternative vulnerabilities.  This memo provides information for the Internet community.</t></abstract></front>
335 <seriesInfo name='RFC' value='4732' />
336 <format type='TXT' octets='91844' target='ftp://ftp.isi.edu/in-notes/rfc4732.txt' />
337 </reference>
338
339 <reference anchor='SECGUIDE'>
340 <front>
341 <title>Guidelines for Writing RFC Text on Security Considerations</title>
342 <author initials='E.' surname='Rescorla' fullname='E. Rescorla'>
343 <organization /></author>
344 <author initials='B.' surname='Korver' fullname='B. Korver'>
345 <organization /></author>
346 <date year='2003' month='July' />
347 <abstract>
348 <t>All RFCs are required to have a Security Considerations section.  Historically, such sections have been relatively weak.  This document provides guidelines to RFC authors on how to write a good Security Considerations section.  This document specifies an Internet Best Current Practices for the Internet Community, and requests discussion and suggestions for improvements.</t></abstract></front>
349
350 <seriesInfo name='BCP' value='72' />
351 <seriesInfo name='RFC' value='3552' />
352 <format type='TXT' octets='110393' target='ftp://ftp.isi.edu/in-notes/rfc3552.txt' />
353 </reference>
354
355
356 </references> 
357
358 </back>
359
360 </rfc>