SYGNAŁY STOCHASTYCZNE Przestrzeń probabilistyczna i zmienna losowa Definicja Przestrzenią probabilistyczną (doświadczeniem) nazywamy trójkę uporządkowaną (E, B, P ), gdzie: E przestrzeń zdarzeń elementarnych; elementy e E zdarzenia elementarne, B zbiór podzbiorów zbioru E zdarzenia losowe, P : B [0, 1] funkcja odwzorowująca zbiór B w zbiór liczb rzeczywistych z przedziału [0, 1] miara prawdopodobieństwa. Funkcja P spełnia następujące aksjomaty: 1. 0 P (β) 1 β B 2. P (E) = 1 TSIM W3: Sygnały stochastyczne 1/27
3. Dla każdego przeliczalnego zbioru {β n } B zdarzeń spełniających warunek β i β j = dla i j zachodzi równość ( ) P β n = P (β n ) n n Wartość funkcji P (β) dla zdarzenia β B jest nazywana prawdopodobieństwem tego zdarzenia. Definicja Zmienną losową rzeczywistą nazywamy funkcję ξ : E R odwzorowującą przestrzeń zdarzeń elementarnych w zbiór liczb rzeczywistych i spełniającą warunki: 1. {e : ξ(e) < x} B x R 2. P {e : ξ(e) = } = P {e : ξ(e) = } = 0 TSIM W3: Sygnały stochastyczne 2/27
Dystrybuanta i funkcja gęstości prawdopodobieństwa Definicja Niech ξ będzie zmienną losową rzeczywistą określoną na zbiorze zdarzeń elementarnych przestrzeni probabilistycznej (E, B, P ) i przyjmującą wartości x w zbiorze ξ(e) R. Dystrybuantą zmiennej losowej ξ nazywamy funkcję F ξ : R [0, 1] taką, że F ξ (x) = P {e E : ξ(e) < x}. Właściwości: 1. F ξ ( ) = 0; F ξ ( ) = 1. 2. Dystrybuanta jest funkcją niemalejącą. 3. Dystrybuanta jest funkcją co najmniej lewostronnie ciągłą. TSIM W3: Sygnały stochastyczne 3/27
Definicja Funkcją gęstości prawdopodobieństwa zmiennej losowej ξ nazywamy funkcję f ξ : ξ(e) R taką, że dla x ξ(e) Właściwości: f ξ (x) = lim x 0 P {e E : x ξ(e) < x + x}. x f ξ (x) = df ξ(x) dx, F ξ(x) = 1. f ξ (x) 0 dla każdego x ξ(e) 2. f ξ(x)dx = 1 x f ξ (x )dx TSIM W3: Sygnały stochastyczne 4/27
Równość zmiennych losowych Definicja (równość wszędzie) Dwie zmienne losowe są równe wszędzie, jeżeli są one określone na zbiorze zdarzeń elementarnych E tej samej przestrzeni probabilistycznej (E, B, P ) i jeśli dla każdego zdarzenia elementarnego e E realizacje obu zmiennych losowych są jednakowe. Definicja (równość prawie wszędzie) Dwie zmienne losowe ξ i η są równe z prawdopodobieństwem 1 (prawie wszędzie), jeżeli są one określone na zbiorze zdarzeń elementarnych E tej samej przestrzeni probabilistycznej (E, B, P ) i jeśli P {e E : ξ(e) = η(x)} = 1 TSIM W3: Sygnały stochastyczne 5/27
Definicja (równość średniokwadratowa) Dwie zmienne losowe ξ i η są równe w sensie średniokwadratowym, jeżeli są one określone na zbiorze zdarzeń elementarnych tej samej przestrzeni i jeśli E [ (ξ η) 2] = 0 Pojęcie zbieżności zmiennych losowych Definicja (zbieżność wszędzie) Ciąg zmiennych losowych ξ 1,..., ξ n,... określony na zbiorze zdarzeń elementarnych E jest zbieżny wszędzie do zmiennej losowej ξ określonej na tym samym zbiorze, jeżeli ξ(e) = lim ξ n(e) n e E gdzie ξ(e) jest realizacją zmiennej losowej ξ, a ξ n (e) są realizacjami zmiennych losowych ξ n, określonymi dla tego samego e E. TSIM W3: Sygnały stochastyczne 6/27
Definicja (zbieżność prawie wszędzie) Ciąg zmiennych losowych {ξ n } jest zbieżny do zmiennej losowej ξ z prawdopodobieństwem 1 (prawie wszędzie), jeżeli P {e E : lim n ξ n(e) = ξ(e)} = 1 Definicja (zbieżność średniokwadratowa) Ciąg zmiennych losowych {ξ n } jest zbieżny do zmiennej losowej ξ w sensie średniokwadratowym, jeżeli lim E [ (ξ ξ n ) 2] = 0 n TSIM W3: Sygnały stochastyczne 7/27
Pojęcie procesu stochastycznego sygnał stochastyczny Definicja Niech (E, B, P ) będzie przestrzenią probabilistyczną, a T niepustym podzbiorem zbioru liczb rzeczywistych T R. Procesem stochastycznym rzeczywistym nazywamy funkcję ξ : E T R taką, że dla każdego ustalonego t T funkcja ξ(t) : E R jest zmienną losową rzeczywistą określoną na zbiorze zdarzeń elementarnych E przestrzeni probabilistycznej (E, B, P ). Sposoby rozpatrywania sygnałów stochastycznych: zbiór deterministycznych funkcji czasu będących realizacjami sygnału {x e (t) : e E} zbiór zmiennych losowych będących wartościami procesu {ξ(t) : t T } TSIM W3: Sygnały stochastyczne 8/27
Sposoby opisu sygnałów stochastycznych jednowymiarowa funkcja gęstości prawdopodobieństwa (FGP) f(x 1 ; t 1 ) łączna n-wymiarowa FGP f(x 1, x 2,..., x n ; t 1, t 2..., t n ) Momenty sygnału stochastycznego 1. Wartość oczekiwana (wartość średnia, moment rzędu pierwszego) µ ξ (t) E[ξ(t)] = x f(x; t)dx 2. Wartość średniokwadratowa (moment zwykły rzędu drugiego) E [ ξ 2 (t) ] = x 2 f(x; t)dx TSIM W3: Sygnały stochastyczne 9/27
3. Wariancja (moment centralny rzędu drugiego) σ 2 ξ E [ (ξ(t) µ ξ (t)) 2] = [x µ ξ (t)] 2 f(x; t)dx 4. Funkcja autokorelacji (moment mieszany zwykły rzędu drugiego) R ξ (t 1, t 2 ) E[ξ(t 1 )ξ(t 2 )] = x 1 x 2 f(x 1, x 2 ; t 1, t 2 )dx 1 dx 2 5. Funkcja autokowariancji (moment mieszany centralny rzędu drugiego) C ξ (t 1, t 2 ) E {[ξ(t 1 ) µ ξ (t 1 )][ξ(t 2 ) µ ξ (t 2 )]} = [x 1 µ ξ (t 1 )][x 2 µ ξ (t 2 )] f(x 1, x 2 ; t 1, t 2 )dx 1 dx 2 TSIM W3: Sygnały stochastyczne 10/27
Związki między momentami: E [ ξ 2 (t) ] = σ 2 ξ(t) + µ 2 ξ(t) R ξ (t, t) = E [ ξ 2 (t) ] C ξ (t, t) = σ 2 ξ(t) TSIM W3: Sygnały stochastyczne 11/27
Sygnały stacjonarne Definicja (stacjonarność w ścisłym sensie) Sygnał stochastyczny ξ(t) określony w zbiorze T (, ) jest stacjonarny w ścisłym sensie, jeżeli dla każdej liczby naturalnej n i dla każdej liczby rzeczywistej ε łączne n-wymiarowe funkcje gęstości prawdopodobieństwa sygnału ξ(t) i sygnału przesuniętego ξ(t + ε) są sobie równe dla każdego ciągu punktów t 1,..., t n, t i T, i = 1,..., n, tzn. jeżeli f ξ1...ξ n (x 1,..., x n ; t 1,..., t n ) = f ξ 1...ξ n (x 1,..., x n ; t 1 + ε,..., t n + ε) ξ i = ξ(t i ), ξ i = ξ(t i + ε) TSIM W3: Sygnały stochastyczne 12/27
Definicja (stacjonarność w szerszym sensie) Sygnał stochastyczny ξ(t) nazywamy sygnałem stacjonarnym w szerszym sensie (słabo stacjonarnym), jeżeli spełnione są następujące warunki: 1. E[ξ(t)] = µ ξ = const, t (, ) 2. R ξ (t 1, t 2 ) = R ξ (τ), τ = t 1 t 2, τ (, ) E [ ξ 2 (t) ] = E[ξ 2 ] = const σ 2 ξ(t) = σ 2 ξ = const TSIM W3: Sygnały stochastyczne 13/27
Właściwości momentów sygnałów stacjonarnych: C ξ (τ) = R ξ (τ) µ 2 ξ R ξ (τ) = R ξ ( τ), C ξ (τ) = C ξ ( τ) R ξ (0) = E[ξ 2 ], R ξ (τ) R ξ (0), τ C ξ (0) = σξ 2 C ξ (τ) C ξ (0) τ TSIM W3: Sygnały stochastyczne 14/27
Sygnały ergodyczne Niech sygnał x(t) będzie realizacją stacjonarnego sygnału stochastycznego ξ(t) o wartości średniej µ ξ i funkcji autokorelacji R ξ (τ). Definiujemy średnie czasowe: x(t) = lim T ψ x (τ) = lim T 1 2T 1 2T T T T T x(t)dt x(t)x(t τ)dt Definicja (ergodyczność ze względu na wartość średnią) Sygnał ξ(t) nazywamy ergodycznym ze względu na wartość średnią, jeżeli dla prawie wszystkich jego realizacji x(t), tzn. z prawdopodobieństwem 1, jest spełniona równość: x(t) µ ξ TSIM W3: Sygnały stochastyczne 15/27
Definicja (ergodyczność ze względu na funkcję autokorelacji) Sygnał ξ(t) nazywamy ergodycznym ze względu na funkcję autokorelacji, jeżeli dla prawie wszystkich jego realizacji x(t) jest spełniona równość: ψ x (τ) R ξ (τ) Estymaty wartości oczekiwanej i funkcji autokorelacji ˆµ ξ = 1 T 0 T0 0 x(t)dt ˆR ξ (τ) = 1 T 0 T0 0 x(t)x(t + τ)dt TSIM W3: Sygnały stochastyczne 16/27
Sygnały gaussowskie Definicja Stacjonarny sygnał stochastyczny ξ(t) o wartości średniej µ ξ, wariancji σ 2 ξ i funkcji autokowariancji C ξ(τ) opisany łączną n-wymiarową FGP nazywamy sygnałem gaussowskim (normalnym), jeśli dla dowolnego zbioru chwil t 1,..., t n i dowolnego n n-wymiarowa FGP ma postać: f(x 1,..., x n ; t 1,..., t n ) = 1 (2π)n det(c) exp 1 2 det(c) = n i=1 n j=1 C ij (x i µ ξ )(x j µ ξ ) 1 (2π)n det(c) exp [ x T C 1 x ] C = [C ij ] n n, C ij = C ξ (t i t j ), x = [x 1 µ ξ,..., x n µ ξ ] T TSIM W3: Sygnały stochastyczne 17/27
Widmo stochastyczne sygnału stacjonarnego Rozważmy stacjonarny sygnał stochastyczny ξ(t) o zerowej wartości średniej µ ξ = 0 i załóżmy, że dla każdej jego realizacji x(t) o skończonej mocy istnieje widmo Fouriera w sensie granicznym: X(ω) = x(t)e jωt dt X(ω) jest realizacją procesu stochastycznego Ξ ξ (ω) w dziedzinie częstotliwości: Ξ ξ (ω) = ξ(t)e jωt dt Proces stochastyczny Ξ ξ (ω) nazywamy widmem stochastycznym sygnału ξ(t). TSIM W3: Sygnały stochastyczne 18/27
Widmo mocy sygnału stacjonarnego E[Ξ ξ (ω)] 0 E [ Ξ ξ (ω)ξ ξ(ω ) ] = 2πS ξ (ω)δ(ω ω ) Twierdzenie Wienera-Chinczyna Funkcja autokorelacji R ξ (τ) stacjonarnego sygnału stochastycznego ξ(t) oraz jego widmo mocy S ξ (ω) tworzą parę transformat Fouriera: S ξ (ω) = R ξ (τ) = 1 2π R ξ (τ)e jωτ dτ S ξ (ω)e jωτ dω TSIM W3: Sygnały stochastyczne 19/27
Widmo mocy sygnału o niezerowej wartości średniej S ξ (ω) = 2πµ 2 ξδ(ω) + S ξ(ω), S ξ(ω) = F[C ξ (τ)] ξ(t) = µ ξ + ξ(t) E[ξ 2 ] = µ 2 ξ + σ 2 ξ Właściwości widma mocy 1. Widmo mocy S ξ (ω) jest funkcją rzeczywistą, ponieważ funkcja autokorelacji jest funkcją hermitowską, tzn. R ξ (τ) = R ξ ( τ). 2. Jeżeli sygnał ξ(t) jest rzeczywisty, to S ξ (ω) jest funkcją rzeczywistą TSIM W3: Sygnały stochastyczne 20/27
parzystą o dodatnich wartościach, tzn. S ξ (ω) = S ξ ( ω) oraz ω 3. Moc średnia sygnału ξ(t) jest równa: S ξ (ω) 0 ω R ξ (0) = 1 2π S ξ (ω)dω = 1 π 0 S ξ (ω)dω = E[ξ 2 ] TSIM W3: Sygnały stochastyczne 21/27
Przykłady sygnałów stacjonarnych Szum biały S w (ω) = S 0 = const, ω (, ) R w (τ) = F 1 [S 0 ] = S 0 δ(τ) TSIM W3: Sygnały stochastyczne 22/27
Idealny dolnopasmowy sygnał stochastyczny S ξ (ω) = S 0 dla ω < ω m 0 dla ω ω m R ξ (τ) = S 0ω m π sin ω m τ ω m τ TSIM W3: Sygnały stochastyczne 23/27
Stochastyczny sygnał harmoniczny ξ(t) = A sin(ω 0 t + ϕ) R ξ (τ) = 1 2 A2 cos(ω 0 τ), S ξ (ω) = π 2 A2 [δ(ω ω 0 ) + δ(ω + ω 0 ] TSIM W3: Sygnały stochastyczne 24/27
Stochastyczny sygnał harmoniczny zakłócany addytywnym szumem białym ξ(t) = A sin(ω 0 t + ϕ) + w(t) R ξ (τ) = 1 2 A2 cos(ω 0 τ)+s 0 δ(τ), S ξ (ω) = π 2 A2 [δ(ω ω 0 )+δ(ω+ω 0 ]+S 0 TSIM W3: Sygnały stochastyczne 25/27
Przetwarzanie sygnałów stochastycznych przez liniowe układy stacjonarne µ η = H(0)µ ξ R η (τ) = h(τ) h( τ) R ξ (τ) S η (ω) = H(jω) 2 S ξ (ω) E[η 2 ] = R η (0) = 1 π 0 S ξ (ω) H(jω) 2 dω TSIM W3: Sygnały stochastyczne 26/27
Efektywny czas korelacji i efektywna szerokość pasma sygnału τ ef = 1 R ξ (0) 0 R ξ (τ)dτ ω ef = 1 1 π S max ω ef = 1 π 0 S max S ξ (ω)dω 0 S ξ (ω)dω ξ sk = Smax ωef π TSIM W3: Sygnały stochastyczne 27/27