2017 -2018 ilie beriliu · un sistem de n evenimente a i pentru care: unde: e este evenimentul...

22
TTI Ilie Beriliu

Upload: others

Post on 11-Dec-2020

3 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

TTI

Ilie Beriliu2017 -2018

Page 2: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

0. Introducere

NECESITATEA TRANSMISIEI INFORMATIEI

Industria comunicațiilor digitale este una enorma si cu unfactor de creștere foarte ridicat, comparabila numai cuindustria calculatoarelor

Industria comunicațiilor acoperă un spectru foarte larg, de la comunicația vocala la cea video, de la comunicația proprietara de date la internet.

Comunicațiile digitale sunt un domeniu in care ideile teoretice au un impact major in proiectarea sistemelor si in practica

Dezvoltarea practica a domeniului a venit odată cudezvoltarea electronicii si cu apariția microprocesoarelor

2

Page 3: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

0. Introducere

CERINŢELE UNUI SISTEM DE TRANSMISIUNE A INFORMAŢIEI

Sarcina unui sistem de transmisiune a informației este de a pune la dispoziția utilizatorului informația generată de sursă, cu un grad de deteriorare specificat, admis.

Un sistem de comunicație trebuie sa îndeplinească aceasta cerință cu un cost minim, atât de utilizare cât și în ceea ce privește investiția inițială in echipament.

În tehnicile de comunicații se obișnuiește să se introducă un criteriu de fidelitate, pentru aprecierea reproducerii semnalului generat de sursă la utilizator.

3

Page 4: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

0. Introducere

STRUCTURA UNUI SISTEM DE TRANSMISIE A INFORMATIEI

4

Page 5: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

0. Introducere

STRUCTURA UNUI SISTEM DE TRANSMISIE A INFORMATIEI

SURSA DE INFORMAŢIE – un echipament tehnic sau o procedură matematică care poate alege şi emite un mesaj dintr-un ansamblu de mesaje posibile, alegerea făcându-se în mod aleator.Sursa de informație se caracterizează prin setul de mesaje posibil a fi selectate denumite simboluri sau litere.

UTILIZATOR – destinația finală la care trebuie să ajungă mesajul transmis de către sursă.

CANAL – totalitatea mijloacelor destinate transmiterii mesajului; prin mijloace înțelegem atât aparatura cât și mediul prin care se poate transmite, incluzand toate sursele de perturbații.

5

Page 6: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

0. Introducere

STRUCTURA UNUI SISTEM DE TRANSMISIE A INFORMATIEI

MODULARE – transformarea unui mesaj într-un semnal, cu scopul de a facilita transmisiunea printr-un canal dat sau de a realiza transmisiuni multiple prin acelaşi mediu. Scopul secundar al modulaţiei este de a mări eficienţa transmisiunii prin micşorarea efectului perturbaţiilor ce intervin în pocesulde transmisiune.

DEMODULARE – operaţia inversă modulării. CODARE- prelucrarea discretă a mesajului cu scopul măririi

eficienţei de transmisie. Uneori termenul de codare înglobează şi modularea.

DECODARE – operaţia inversă codării

6

Page 7: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

Elemente de teoria probabilităților

Curs 1.

1.1 Scurt istoric

1.2 Probabilitate

1.3 Variabile aleatoare, discrete și continue.

1.4 Funcții de repartiție. Densitate de probabilitate.

1.5 Valori medii ale variabilelor aleatoare.

7

Page 8: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

1.1 Scurt istoric

Teoria modernă a informaţiei a fost fundamentată

de matematicianul Claude Shannon (1916 – 2001) in

lucrarea :

“A Mathematical Theory of Communication”

El s-a bazat în acest demers pe teoria probabilităților

Accesul la teoria informației implică cunoașterea

bazelor teoriei probabilităților.

8

Page 9: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

1.1 Scurt istoric

Bazele teoriei probabilităților au fost puse mijlocul secolului XVII

Pierre de Fermat (1601–1665)

Blaise Pascal (1623–1662)

Christian Huygens (1629–1695)

Cercetările lor erau inspirate de jocurile de noroc

Au introdus concepte importante:

probabilitatea unui eveniment aleator

valoarea medie sau aşteptată a unei variabile aleatoare

9

Page 10: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

1.1 Scurt istoric

Contribuții au adus şi:

Jacob Bernoulli (1654–1705),

Abraham de Moivre (1667–1754),

reverendul Thomas Bayes (1702–1761),

marchizul Pierre Simon Laplace (1729–1827)

Johann Friedrich Carl Gauss (1777–1855)

Siméon Denis Poisson (1781–1840)

P. L. Cebîşev (1821–1894)

A. Markov (1856–1922)

A. M. Liapunov (1857–1918)

Andrei Nicolaevici Kolmogorov

Paul Lévy

Richard von Mises (frecvență relativă)

10

Page 11: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

1.2 Noţiunea de probabilitate

O teorie se numeşte deterministă dacă stabileşte relaţiimatematice precise între diversele mărimi cu care operează,bazate pe cauzalitate

Rezultatele unor măsurări efectuate practic diferă însă de valorilede calcul teoretic stabilite pe baza relaţiilor de legătură dintremărimile cu care se operează

Exemplu:Se măsoară curentul care parcurge un rezistor de 1 k alimentat de la obaterie de 9 V c.c. Măsurând curentul cu un miliampermetru analogic găsim o valoare

apropiată de 9 mA, afectată de erori (inclusiv de citire); Măsurând cu un aparat digital găsim 9,09113 mA; Înlocuind rezistorul cu unul de aceeaşi valoare nominală, citim 8,97893 mA; Păstrând rezistorul, dar înlocuind bateria cu o alta, de aceiași valoare

nominală, citim 9,11023 mA; Rezistoarele, produse la anumite valori nominale, prezintă dispersii față de

aceste valori (suficient de mici pentru a fi acceptate în practică); Se observă că efectuând măsurarea unui număr mare de rezistoare de 1 kΩ

şi calculând media aritmetică a valorilor, aceasta se va apropia cu atât maimult de 1, cu cât dispunem de mai multe măsurări;

11

Page 12: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

1.2 Noţiunea de probabilitate

Valoarea mediei rămâne aceeaşi dacă se calculează pe orice

subşir specificat înainte de începerea experimentului;

Teoria probabilităţilor se ocupă tocmai cu aceasta:

evaluarea mediilor unor fenomene de masă produse succesiv sau simultan;

Exemple de astfel de fenomene: emisia electronilor la catodul unui tub electronic; apelurile telefonice; defectări în sistemele tehnice; rata natalităţii şi cea a mortalităţii; zgomotul în sistemele electronice, etc.

12

Page 13: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

1.2 Noţiunea de probabilitate

Teoria probabilităţilor estimează aşadar mediile unor astfel de

şiruri de evenimente. Jocul de şah – absolut determinist Jocurile de noroc (barbut, loteria de stat, jocuri de cazino, etc.) au caracter

probabilist prin excelenţă

exemplu tipic: aruncarea unei monede nu se poate afirma dinainte care din feţe va fi în sus; dacă din n încercări nc sunt pentru cap şi np pentru pajură (stemă) în

mod evident:

pentru un număr mic de aruncări n

pe măsură însă ce n crește valorile nc şi np devin tot mai apropiate, tinzând să devină egale;

13

nnpnc

npnc

Page 14: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

1.2 Noţiunea de probabilitate

Terminologie:

o aruncare a monedei în exemplul menționat anterior: un experiment;

efectuarea experimentului: o încercare; situaţia cu care se soldează încercarea (căderea monedei cu o faţă

sau alta în sus): rezultatul încercării; spațiul de probabilitate (spațiul eșantioanelor) al unui experiment

constă din mulțimea tuturor rezultatelor posibile: S = {capul, pajura} pt. aruncarea monedei

S = {f1,f2,f3,f4,f5,f6} pt. aruncarea zarului;

cele două rezultate posibile: punctele eșantion ale experimentului;

probabilitatea producerii unui eveniment A, care apare de m ori

(cazuri favorabile) din n încercări (totalitatea cazurilor) este:

14n

m)A(P

Page 15: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

1.2 Noţiunea de probabilitate

dacă P(A) = 0 (m = 0) → A este evenimentul imposibil; dacă P(A) = 1 (m = n) → A este evenimentul sigur (E).

Axiomele teoriei probabilităţilor

1. P(A) ≥ 0

2. P(E) =1

3. Dacă: A B = {Ø} p(A B) = p(A) + p(B)

4. Dacă evenimentele A1, A2, ..., sunt independente, atunci:

15

Page 16: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

1.2 Proprietățile funcției probabilitate

Proprietăţile funcţiei probabilitate decurg din axiomele

anterioare:

P1. Probabilitatea evenimentului imposibil este zero:

P {∅} = 0

P2. Pentru orice eveniment A:

P3. Pentru orice evenimente A şi B compatibile (se pot produce

în acelaşi timp):

(10)

16

Page 17: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

1.2 Proprietățile funcției probabilitate

dacă A şi B sunt evenimente incompatibile (nu se pot produce în acelaşi timp)

avem:

P4. Dacă B A,

P5. Pentru evenimente independente probabilistic:

P6. Un sistem de n evenimente Ai pentru care:

unde: E este evenimentul sigur pt. i ≠ j şi i,j 0,n,

(Ai şi Aj sunt evenimente independente două câte două)

este denumit sistem complet de evenimente și avem: P(E)=1

17

Page 18: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

1.2 Proprietățile funcției probabilitate

P7. Pentru evenimente compatibile, dar independente probabilistic (producerea evenimentului A nu influenţează producerea lui B şi reciproc):

𝑃 𝐴 ∩ 𝐵 = 𝑃 𝐴 × 𝑃 𝐵𝑃 𝐵 ∩ 𝐴 = 𝑃(𝐵) × 𝑃(𝐴)

P8. Pentru evenimente condiționate (dependente) se calculează probabilitatea condiționată:

unde P(A/B) este probabilitatea evenimentului A condiționat de B rezultă:

18

)A(p

)BA(p)A/B(P

)B(p

)BA(p)B/A(P

)A(P)A/B(P)B(P)B/A(P)BA(P

Page 19: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

1.3 Variabile aleatoare

O variabilă aleatoare X este o mărime care, în funcţie de

rezultatul unui experiment, poate lua o valoare dintr-o mulţime

definită (variabilă aleatoare discretă);

Pentru ca un eveniment să fie aleator, trebuie să satisfacă trei

cerinţe:

1. experimentul prin care se generează evenimentul să fie repetabil în

condiţii identice

2. la orice încercare a experimentului, rezultatul să fie imprevizibil

3. pentru un număr mare de încercări ale experimentului, rezultatele să

prezinte regularitate statistică (dacă se repetă experimentul de un

număr mare de ori, se observă că rezultatele au medii definite).

19

Page 20: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

1.3 Variabile aleatoare

Repartiţia unei variabile aleatoare discrete reprezintă o mulţime

ordonată de perechi ale valorilor posibile ale variabilei aleatoare

şi probabilităţile corespunzătoare:

sau

Funcţia de repartiţie a unei variabile aleatoare X este o funcţie:

şi poate lua valori pe intervalul [0,1]: 0 ≤ F(x) ≤ 1;

F(- ∞) = 0 și F(∞) = 1

20

ni21

ni21

P ,...,P,...,P ,P

x...,,x..., , x,x:X

i

i

P

x:X

x- )xX(P)x(F

Page 21: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

1.4 Funcții de repartiție. Densitate de probabilitate

dacă F(x) este continuă, variabila aleatoare X va fi continuă, definim:

Funcţia densitate de probabilitate

cu proprietăţile:

1. f(x) ≥ 0

2.

3.

21

x - ;dx

)x(dF)x(f

1)x(d)x(f

2

1

x

x1221 )x(F)x(Fdx)x(f)xxx(P

Page 22: 2017 -2018 Ilie Beriliu · Un sistem de n evenimente A i pentru care: unde: E este evenimentul sigur pt. i ≠ j şii,j 0,n , (A i şiA j sunt evenimente independente două câte

1.5 Valorea medie a unei variabile aleatoare

Valoarea medie a unei variabile aleatoare:

- discrete:

- continuă:

22

n

1iiiPx)x(M

dx)x(fx)x(M