Mintavételezési frekvencia A digitalizálás során használt legfontosabb minőségi tényező a mintavételezési frekvencia, vagy mintavételezési gyakoriság (angolul: sampling frequency). A mintavételezési frekvencia az az adott frekvencia, amely megadja, hogy az A/D (analóg-digitális átalakító) hány mintát vesz az adott adattárolón található jelből másodpercenként. A szabványos zenei CD-lemez mintavételezési frekvenciája 44,1 kHz. Természetesen a mintavételezés gyakoriságával javul a felvétel minősége. Legtöbbet használt jelölése:

A frekvencia 0-től 100-ig

Néhány mintavételezési frekvenciaadat

Sávszélesség az analóg rendszerekben A sávszélesség egy négypólus jellemző, amit hertzben mérnek. A sávszélesség alapvető jelentőséggel bír több területen, legfontosabbak ezek közül az információelmélet, a rádiós kommunikáció, a jelfeldolgozás és a spektroszkópia. A sávszélesség felmerül még az adatrátákkal kapcsolatosan, valamilyen közvetítő közeg vagy berendezés vonatkozásában is. A Shannon–Hartley-tétel szerint egy működő kommunikáció esetén az adatráta egyenesen arányos az átvitel során használt frekvencia-tartomány nagyságával. Ebben az értelemben a sávszélesség az adatrátára vagy kommunikációs rendszerben használt frekvencia-tartományra vonatkozik (vagy mindkettőre). A sávszélesség alkalmazása alapvetően fontos egyes területeken. A rádiókommunikáció esetén például a sávszélesség egymástól elválasztott frekvenciatartomány(oka)t jelöl, amelyek a modulált vivőhullámok számára fenntartottak, míg például az optikában egy különálló színképvonal szélességét jelenti, vagy egy színképtartományt. A sávszélességre nincs egyetlen, átfogóan pontos meghatározás, általában lényeges a környezet és a mérési módszer. Például egy bizonyos meghatározás[forrás?] szerint a sávszélesség a frekvenciáknak egy olyan tartománya, amelyekre igaz az, hogy e tartományon kívüli frekvenciákra egy bizonyos függvény értéke nulla. (Ebben az értelemben a matematikai jelentés, mármint egy függvény nullától különböző „hossza”, még valamilyen értelemben kapcsolatba is hozható a „szélesség”-gel.) Más meghatározások nem ennyire pontosak, és nem is utalnak arra a frekvenciára, amelynél egy függvény értéke kicsi[forrás?]. A kicsi ebben az esetben azt jelenti, hogy kisebb, mint 3 dB, azaz a maximális érték felénél is kisebb, de egy pontosan meghatározott értéknél kisebbet is jelenthet. A meghatározás általában valamilyen szélesség jellegű tulajdonsághoz kapcsolódik, az alkalmazási területtől függő értelemben.

Analóg rendszerek Az analóg jelek esetén, amelyek matematikai értelemben idő függvényei, a sávszélesség egy olyan frekvenciatartomány szélessége, amelyben a jel Fourier-transzformáltja nem nulla. Egy jel sávszélességét mérhetjük azzal, hogy milyen gyorsan ingadozik idő szerint: minél nagyobb a sávszélesség, annál gyorsabban változhat a jel. A sávszélesség kifejezést alkalmazhatjuk jelekre, de alkalmazhatjuk rendszerre is. Ebben az esetben ha a rendszernek van egy adott sávszélessége, akkor ez azt jelenti, hogy a rendszer átviteli függvényének is van egy adott sávszélessége. Például 3 dB-es sávszélesség az ábra szerinti függvény esetében nem más, mint, viszont más meghatározások alapján a sávszélességre más értéket is kaphatunk. Tény, hogy a valódi alapsávi rendszereknél létezik negatív és pozitív frekvencia is, ami zavarokat okozhat a sávszélesség értelmezésénél. Ilyen esetben a pozitív oldalt (síknegyedet) vesszük csak figyelembe, és a sávszélességet a képlettel számoljuk, ahol a teljes sávszélesség, és a pozitív sávszélesség. Például a jelet egy aluláteresztő szűrő, amelynek a vágási frekvenciája legalább, változatlanul hagyja. Egy elektronikus szűrő sávszélessége az a frekvenciatartomány, amelyen belül a kimenő frekvencia a középfrekvencia (fközép) csúcsértékénél 3dB-lel nem kisebb. A jelfeldolgozás és a szabályzástechnika a sávszélességet úgy definiálja, hogy az a frekvencia, amikor a rendszer zárt hurkú erősítése ‒ 3 dB alá esik. Az elektronikus áramkörök elméletéből ismert szűrőknél a sávszélességet sávszűrők és sáváteresztő szűrők esetében annak a két pontnak a távolsága jelenti, ahol a frekvenciatartományban a jel erőssége a maximális jelerősségre vonatkoztatva.

Az optoelektronikában (fotonika) a sávszélesség nagyon sok mindent jelenthet: egy optikai fényforrás kimenő sávszélességét, (például lézer); egy nagyon rövid optikai impulzus sávszélességét; egy száloptikán átvihető frekvenciatartomány szélességét; egy optikai erősítő erősítési sávszélességét; néhány egyéb jelenség tartományának a szélességét (például visszaverődés, rezonancia, egy nemlineáris eljárás fázistolása); egy optikai modulátor maximális modulációs frekvenciáját (vagy a modulációs frekvenciák tartományát); azt a frekvenciatartományt, amelyet néhány mérőberendezés (például teljesítménymérő) kezelni képes; az optikai kommunikáció esetén elérhető adatrátát (Gbit/s-ban).

Digitális rendszerek A sávszélességnek a digitális kommunikációs rendszerekben két jelentése is van. Technikai értelemben a sávszélesség megfelel a baudrátának, azaz az időegység alatt átvitt szimbólumok számát jelenti. Használják ugyanakkor a csatornakapacitás meghatározására, azaz annak a bitekben mért információmennyiségnek a meghatározására, amennyit időegység alatt a rendszer átvinni képes. Ennélfogva egy 66 MHz-es digitális adatbuszra a 32 elkülönített adatvonalával mondhatjuk, hogy a sávszélessége 66 MHz és a kapacitása 2,1 Gbit/s – de nem kell meglepődni azon sem, ha valaki azt mondja a buszra, hogy „2,1 Gbit/s-os a sávszélessége”. Hasonlóan zavaró lehet a kétféle jelentés az analóg modemek esetében, ahol minden szimbólum több bit információt hordoz, így a modem képes a 56 kbit/s átviteli sebességre egy olyan telefonvonalon, amelynek a sávszélessége csak 12 kHz. A diszkrét idejű rendszereknél és a digitális jelfeldolgozásnál a sávszélesség szoros kapcsolatban van a mintavételi ráta értékével, a Nyquist-Shannon mintavételi elvnek megfelelően. Sávszélesség használatos közösségi értelemben, valaminek a határára, korlátjára vonatkozóan. Ilyen értelemben a kommunikációs költségek sávszélessége, valami más megengedhetelen használata nevezhető sávszélességlopásnak is.

kvantálási mélység torzítás – kerekítési hibák (minél nagyobb a kvantálási mélység, a relatív hiba annál kisebb) mintavételezési frekvencia (Shannon - Nyquist tétel: a minimális mintavételezési frekvenciának legalább a hangban elõforduló legmagasabb frekvenciakomponens kétszeresének kell lennie) digitális telefonhálózaton: 8 kHz (8000 mintavétel másodpercenként; mivel a beszédhangok frekvenciatartománya kb Hz, azaz jóval kisebb, mint 4000 Hz = 4 kHz, a Shannon-Nyquist tétel értelmében a 8 kHz mintavételezési frekvencia megfelelõ minõségû hangvisszaadást tesz lehetõvé; de ha énelekni vagy zenélni akarunk, akkor sem kerülünk nagy bajba, mivel a zenei hangok frekvenciatartománya is csak kb Hz; megjegyzés: az "egyvonalas" a hang frekvenciája a1 = 440 Hz) HiFi CD minõségben: 44.1 kHz még jobb minõségben (pl. Dolby Digital): 48 kHz

kvantálási mélység digitalizálási vagy kvantálási mélység (az adatszó digitális számjegyeinek száma) – digitális telefonhálózaton: 8 bit (2 8 = 256 lehetséges érték) – HiFi CD minõségben: 16 bit (2 16 = 65,536 lehetséges érték) – még jobb minõségben (pl. Dolby Digital): 24 bit (2 16 = 16,777,216 lehetséges érték) csatornák száma – digitális telefonhálózaton: 1 csatorna (mono) – HiFi CD minõségben: 2 csatorna (sztereo) – még jobb minõségben (pl. Dolby Digital): 5.1 csatorna (az élethû térhangzás érdekében 5 teljes sávszélességû csatorna - bal és jobb elsõ csatorna, bal és jobb hátsó csatorna, valamint egy un. középcsatorna - és egy csökkentett sávszélességû, mély hangokat visszaadó "szubbasszus" csatorna) tömörítés (hangállományok esetén többnyire veszteséges)

Fontosabb hangformátumok – PCM (audio/ basic ; tömörítetlen digitális adatfolyam, pl. audio CD-k vagy digitális telefonálás esetén) – WAV (audio/x- wav ; tömörítetlen digitális hangállomány) – MP3 (audio/x- mpeg 2; veszteségesen, nagy hatékonysággal tömörített állomány; lehetõség van különbözõ minõségû kódolásra az MP3 állományok lejátszásához szükséges sávszélesség, un. bitráta meghatározásával; a veszteséges tömörítés az emberi fül "tökéletlenségét" használja ki - amit amúgy sem hallanánk meg, elvileg elhagyhatjuk az állományból) konstans bitráta (CBR; viszonylag gyors kódolás) – gyenge minõség, inkább csak beszédhangokra: 96 kbps (kbit/s) alatt – közel CD minõség: 128 kbps (az Interneten ez a legelterjedtebb) – CD minõség: 160 kbps vagy ennél magasabb bitráta változó bitráta (VBR; lassabb kódolás, de nagyobb hatékonyság)