capitolul 2. noţiuni avansate de procese aleatoareaenescu/ssdt/cap2.pdf · 2010. 10. 9. ·...

Capitolul 2. Noţiuni avansate de procese aleatoare

1Saturday, October 9, 2010


Cuprins

2

Proprietăţi ale proceselor aleatoare staţionare Răspunsul SDLIT la procese aleatoare Estimatori statistici Efecte ale implementării în precizie finită



Procese aleatoare

3

x(n) sunt variabile aleatoare din cadrul procesului

Realizări diferite ale procesului aleator X(n)

x :→



Densitatea de probabilitate

4

Densitatea de probabilitate a lui x(n): wx(n)(x)

Densitatea de probabilitate a unei perechi de variabile



Densitatea de probabilitate (2)

5

Procese independente:

Pentru o funcţie de x(n): f(x(n))

E{f(x(n))} este valoarea medie statistică a lui f(x(n)) Valoarea medie a procesului x(n):



Funcţia de intercorelaţie

6

Cât de bine “seamănă” x(l) şi y(p)? Produsul de intercorelaţie:

Procese independente:



Funcţia de corelaţie / covarianţă

7

Funcţia de covarianţă = funcţia de intercorelaţie a proceselor centrate

Dacă => procese necorelate Procese independente => procese necorelate

Reciproca nu este valabilă întotdeauna!



Procese necorelate - exemplu

8

Fie z(n) şi s(n) două procese aleatoare necorelate

Definim alte două procese:

Procesele x şi y sunt tot necorelate!! Funcţia de intercorelaţie: Funcţia de covarianţă: Funcţia de covarianţă (nu cea de intercorelaţie) măsoară

de fapt corelaţia între două procese aleatoare Dacă => procese ortogonale



Funcţia de autocorelaţie

9

Pentru cazul x = y => funcţia de autocorelaţie

Funcţia de autocovarianţă:

Cele două funcţii ne arată cât de bine “seamănă” porţiuni diferite în timp ale aceluiaşi proces aleator.

Procese ortogonale => Procese necorelate =>



Procese aleatoare staţionare

10

Proces nestaţionar

Nestaţionar => proprietăţile statistice variază în timp Staţionar => proprietăţile statistice sunt independente în

timp



Procese aleatoare staţionare (2)

11

Procese staţionare de ordinul 1:

Procese staţionare de ordinul II:

La un proces staţionar de ordin II, funcţia de autocorelaţie depinde doar de diferenţa dintre momentele de timp

Staţionaritate în sens larg (SSL): momentele de ordin I şi II Staţionaritate în sens strict (SSS): momentele de orice ordin




12

Funcţia de intercorelaţie:

Funcţia de autocorelaţie:

Funcţia de autocorelaţie este conjugat-simetrică




13

Funcţia de covarianţă:

Funcţia de autocovarianţă:

Valoarea medie pătratică a semnalului:

Varianţa semnalului:= dispersia



Procese aleatoare ergodice

14

=> ergodic în medie



Procese aleatoare ergodice (2)

15

Variaţia erorii cu N:

Media temporală Eroarea

Eroarea în dB



Estimatorul funcţiei de autocorelaţie

16

Dacă Procesul este ergodic în autocorelaţie

În acest caz, valoarea medie pătratică = puterea medie:

Puterea componentelor variabile / aleatoare Puterea componentei fixe / deterministe

E i{ }→ 1

2N +1i( )

k=−N

N

∑



Densitatea spectrală de putere

17

Definiţie:

Domeniul de convergenţă:

Pentru semnale reale:

Dacă Dacă

Tema


Dacă

Puterea medie:


Densitatea spectrală de putere (2)

18

Relaţiile Wiener - Hincin

Puterea semnalului se obţine integrând peste densitatea spectrală de putere în toată banda

C ⊂ D⇒ Pxx ejω( ) = Pxx z( ) z→e jω



Exemplu: Zgomotul alb de medie nulă

19

Oricare două eşantioane diferite sunt necorelate

Densitatea spectrală de putere:

Puterea medie:



Exemplu: Zgomotul alb de medie nenulă

20

Densitatea spectrală de putere:

Puterea medie:

Tema



Densitatea spectrală a proceselor aleatoare de medie nenulă

21

În acest caz: Densitatea spectrală de putere:

În frecvenţă, apar impulsuri Dirac



Exemplu (2)

22

dacă

Tema



Cuprins

23




Răspunsul SDLIT la procese aleatoare

24

Încă valabilă, dar...1. Nu suntem siguri că există X(z)2. Analiza spectrală se face acum cu d.s.p.3. Nu ne foloseşte la nimic...



Răspunsul SDLIT la procese aleatoare (2)

25



Exemplu: Zgomot alb filtrat

Puterea medie la ieşirea SDLIT

26

(medie nulă)



Exemplu

27

Zgomot alb filtrat de FTJ – simulare pe 216 eşantioane

Nefiltrat ft=0.25 ft=0.125

Eşantioane corelate

Eşantioane mai corelate

Jumătate de bandă, jumătate de energie

Un sfert de bandă, un sfert de energie



Cuprins

28




Estimatori statistici

29

Nevoia de a estima parametri ai un proces aleator (medie, varianţă, autocorelaţie etc.) Parametrii statistici necesită medierea peste toate realizările

posibile ale procesului În practică, deţinem o singură realizare, cea aflată în desfăşurare Dacă procesul este ergodic => putem înlocui media statistică cu

cea temporală Pentru media temporală, este nevoie de o prelucrare a tuturor

eşantioanelor realizării În realitate se utilizează un set finit de eşantioane în vederea

prelucrării în timp real (estimatori pe termen scurt) Erori de estimare



Estimatori statistici pe termen scurt

30

Setul de observaţii:

Densitatea de probabilitate:

Parametrul de estimat:

Parametrul estimat:



Performanţele estimatorilor

31

Deplasarea: Estimator nedeplasat: Estimator asimptotic nedeplasat:

Eroarea medie pătratică: Varianţa: Funcţia de plauzibilitate (likelihood function):

Funcţia de plauzibilitate în domeniu logaritmic (loglikelihood function):

=>estimator MMSE



Performanţele estimatorilor (2)

32

Estimatorul de maximă plauzibilitate (ML – Maximum Likelihood):

Informaţia parametrului în sens Fischer:

Marginea Cramer-Rao pentru estimatori nedeplasaţi:

Dacă marginea este atinsă => estimator de varianţă minimă (estimator eficient)

Estimator MMSE:



Estimarea ML a mediei

33

Proces aleator Gaussian

Set de valori independente: Densitatea de probabilitate a vectorului de valori:

Funcţia de plauzibilitate:

Estimatul ML:



Estimarea ML a mediei (2)

34

Deplasare: Estimator nedeplasat

Varianţa: Informaţia în sens Fischer:

Estimator de varianţă minimă (atinge marginea Cramer-Rao)



Estimarea ML a varianţei

35

Funcţia de plauzibilitate:

Estimatul ML:

Estimator deplasat, dar asimptotic nedeplasat:

Varianta nedeplasată:Tema

Ce dezavantaj are?



Estimatori pe termen scurt

36

Setul de observaţii: Densitatea de probabilitate este irelevantă Parametrul de estimat: Parametrul estimat: Estimarea parametrilor se poate extinde şi la mărimi

statistice

Estimarea parametrilor nu se bazează numai pe estimarea exclusivă a operatorului de mediere statistică ...dar este cea mai simplă formă de estimare



Estimatori pe termen scurt

37

Estimarea nu se face pe considerente statistice Se decupează din semnal un cadru de lungime N



Estimatori pe termen scurt (2)

38

Metoda 1: trunchiere + aplicarea operatorului

Metoda 2: aplicarea operatorului + trunchiere



Estimarea funcţiei de autocorelaţie

39

Estimatorul 1: metoda 1

Hint: calculăm numai pentru k>=0:

Estimator deplasat, dar asimptotic nedeplasat Ineficient la valori mari ale lui k

Mediere pe N termeni Nu există mediere!

Normare incorectă



Estimarea funcţiei de autocorelaţie (2)

40

Eliminarea decalajului:

Estimatorul 2 este nedeplasat Estimatorul 2 are probleme mai mari pentru valori mari

ale lui k decât estimatorul 1 Varianţa estimatorului este mare pentru k mare În plus, la aceste valori împărţirea se face cu o valoare mică,N-k

La valori mici ale lui k Performanţele sunt identice cu ale estimatorului 1 Volumul de calcul este mai mare (împărţirea cu N-k)



Estimarea funcţiei de autocorelaţie (3)

41

Estimatorul 3: metoda 2

Estimator nedeplasat La valori mici ale lui k => performanţe identice cu estimatorii

1,2 La valori mari => performanţe net superioare Prelucrările nu se fac mereu în acelaşi cadru

Complexitate mai ridicată Capacitatea de stocare mai mare



Utilizarea estimatorilor

42

=> estimatorul 1

Complexitate minimă, performanţe identice

=> estimatorul 2 Estimator nedeplasat cu utilizarea eşantioanelor din cadrul

curent

=> estimatorul 3 Varianţa cea mai mică



Cuprins

43




Principii ale implementării în precizie finită

44

În procesoarele de semnal, eşantioanele sunt codate pe biţi:

Se pot reprezenta exact doar 2B+1 valori ale eşantioanelor x(n)

Există mai multe posibile legi de corespondenţă între valorile x(n) şi codurile aferente, în funcţie de: Tipul procesorului Resursele de care el dispune Precizia în care dorim să lucrăm



Ne referim numai la reprezentarea în complement faţă de 2 (C2) Este cea mai cunoscută Admite mai multe formulări Dacă se cunoaşte codul eşantionului, pe B+1 biţi, valoarea este:

Gama dinamică:

Principii ale implementării în precizie finită (2)

45



Semnul numerelor în C2

46

Bitul b0 este bitul de semn

Calculul opusului în C2 (-x => ?)



Semnul numerelor în C2 (2)

47

0 1 0 1 +0 0 0 1

0 1 1 0

1

0.75



Exemplu: C2 (3+1 biţi)

48

b0 b1 b2 b3 x

0 0 0 0 0

0 0 0 1 0.125

0 0 1 0 0.25

0 0 1 1 0.375

0 1 0 0 0.5

0 1 0 1 0.625

0 1 1 0 0.75

0 1 1 1 0.875

1 0 0 0 -1

1 0 0 1 -0.875

1 0 1 0 -0.75

1 0 1 1 -0.625

1 1 0 0 -0.5

1 1 0 1 -0.375

1 1 1 0 -0.25

1 1 1 1 -0.125

24 = 16 niveluri



Codarea eşantioanelor

49

Până acum am văzut căror valori corespund anumite coduri

Dacă se cunoaşte valoarea eşantionului, cum se poate alege codul a.î. corespondenţa să fie biunivocă? Sunt 2B+1 coduri pe B+1 biţi, deci tot atîtea niveluri Există o infinitate de numere între -1 şi +1

NU putem stabili o astfel de corespondenţă bijectivă Un cod/nivel va corespunde mai multor valori

Pierdere de informaţie Operaţia se cheamă cuantizare

Dacă se cunoaşte x(n), se calculează xq(n) ca fiind unul dintre cele mai apropiate 2 niveluri între care se află x(n)



Cuantizarea eşantioanelor

50

Exemplu: B+1= 3 => 8 posibile coduri

x(n)

xq(n)

0 0.25 0.5 0.75-0.25-0.5-0.75-1 +1

0.25

0.5

0.75

+1

-0.5

-0.75

-1

0.3

0.25

0.5

0.4

0.25

0.5

Trunchiere

Rotunjire

Trunchiere – se alege cel mai apropiat nivel inferiorRotunjire – se alege cel mai apropiat nivel

-0.25



Cuantizarea - o abordare matematică

51

se poate dezvolta într-o serie de puteri ca cea de mai jos

Orice număr se poate reprezenta perfect pe o infinitate de biţi.

Trunchiere

Rotunjire



Exemplu de cuantizare

52

B+1 = 8 biţi

Trunchiere

Rotunjire



Propunere de algoritm de conversie

53

Avem de convertit x pe B+1 biţi prin rotunjire sau trunchiere (Exemplu, x = -0.8 pe B+1 = 6)

1. Considerăm |x| (|x| = 0.8) 2. Înmulţim |x| 2B (0.7 x 25 = 25.6) 3. Trunchiem sau rotunjim la cel mai apropiat întreg

(Rotunjire => 26, trunchiere => 25) 4. Reprezentăm întregul pe B+1 biţi (Rotunjire: 26 =

[011010], trunchiere: 25 = [011001]) 5. Dacă numărul a fost negativ, îi calculăm opusul (Rotunjire:

[100110], trunchiere: [100111])



Erori de cuantizare

54

Eroarea de cuantizare:

Poate fi modelată ca un zgomot

Eroarea de cuantizare va fi modelată ca un proces aleator Trebuie să îi determinăm propietăţile statistice: densitate de

probabilitate, medie, varianţă, funcţie de autocorelaţie etc.

Q



Erori de cuantizare

55

Trunchiere:

Rotunjire:

x

xq

x

xq



Densitatea de probabilitate

56

Dacă , putem presupune că zgomotul de cuantizare este distribuit uniform în intervalul în care poate lua valori.

Exemplu: x(n) este un proces aleator uniform distribuit între -1 şi +1

Histogramele erorii de cuantizare (512 eşantioane):

RotunjireTrunchiere



Densitatea de probabilitate (2)

57

RotunjireTrunchiere



Funcţia de autocorelaţie

58

Dacă semnalul de intrare este necorelat sau puţin corelat, are sens să presupunem că zgomotul de cuantizare este alb

Puterea zgomotului de cuantizare prin trunchiere este mai mare

RotunjireTrunchiere



Efectul cuantizării la ieşirea schemei

59

Ne interesează cât de deranjant este zgomotul de cuantizare la ieşirea schemei digitale

Analiza răspunsului sistemelor la zgomotul de cuantizare se face similar cu analiza de la procese aleatoare

Se utilizează funcţia de autocorelaţie şi densitatea spectrală de putere

A/D



Răspunsul sistemelor la zgomotul de cuantizare

60

În cazul zgomotului de cuantizare de trunchiere, d.s.p. nu există (proces de medie nenulă).

Se lucrează mai degrabă cu TFTD a funcţiei de autocovarianţă



Răspunsul sistemelor la zgomotul de cuantizare (2)

61

Puterea zgomotului la ieşire


capitolul 2. noţiuni avansate de procese aleatoareaenescu/ssdt/cap2.pdf · 2010. 10. 9. ·...

Documents