PZEWAZAIE SYGAŁÓW SEMES V Człowie- ajlepsza iwestcja Projet współfiasowa przez Uię Europejsą w ramach Europejsiego Fuduszu Społeczego Wład III Proces stochastcze Elemet estmacji parametrów procesów losowch
Proces stochastcze Proces losowe stochastcze { } rodzia fucji zmieej losowej i czasu proces stochastcz -ta realizacja procesu - fucja czasu dla pewej wartości zmieej losowej wiu zdarzeia losowego Xt i wartości procesu dla ustaloego czasu są wartościami zmieej losowej Zmiea losowa fucja oreśloa a zbiorze zdarzeń i przjmująca wartości rzeczwiste z oreślom prawdopodobieństwem
Opis procesu stochastczego Właściwości statstcze procesu w pewm przedziale czasu są oreśloe, jeśli dla tego przedziału za jest rozład łącz prawdopodobieństwa zmiech losowch Xt, Xt,... Xt. ai rozład łącz prawdopodobieństwa azwam gęstością procesu p,t ;,t ;... i,t i...;,t. ozład te oreśla prawdopodobieństwo, z jaim zmiea losowa X przjmuje wartości z przedziału i, i +Δ dla ażdego t. Wzaczeie tego rozładu wmaga dspoowaia zbiorem wszstich realizacji procesu i może bć bardzo trude do przeprowadzeia ierealizowale w waruach pomiarów fizczch. Opis sgałów losowch stochastczch Sgał losow - wartość średia i średiowadratowa, wariacja momet - rozład prawdopodobieństwa - ocea przedziału wartości przjmowach przez proces, wiosowaie o właściwościach rozładu amplitud - fucja i współczi orelacji i autoorelacji - wrwaie podobch/ powtarzającch się oresowch strutur w sgale, pomiar czasu opóźieia - widmowa gęstość moc - ocea właściwości sgału, ocea właściwości toru sgałowego, optmalizacja filtracji Para sgałów losowch: - fucja i współczi orelacji wzajemej 3
Wielości charaterzujące proces stochastcz I ieograiczoa liczba realizacji procesu, wartości procesu, E operator wzaczaia wartości oczeiwaej, m wartość średia procesu, p, jedowmiarowa fucja gęstości prawdopodobieństwa, ew. fucja czasu wartość średia pierwsz momet zwł m E[ ] p, d wartość średiowadratowa -gi momet zwł m E[ ] p, d wariacja drugi momet cetral s E[ m ] [ m ] p, d Wielości te mogą bć fucjami czasu!!!! Wielości charaterzujące proces stochastcz II ieograiczoa liczba realizacji procesu, wartości procesu, E operator wzaczaia wartości oczeiwaej, m wartość średia procesu, p dwuwmiarowa fucja gęstości prawdopodobieństwa, ew. fucja czasu fucja autoorelacji t, t E[ t t ] t t p,, t, t d d często stosuje się zapis - opóźieie t, t t, t E[ t, t ] fucja autoowariacji C t, t E[ t m t t m t ] t m t t m t p,, t, t d d Wielości te mogą bć fucjami czasu!!!! 4
Proces stacjoar Jeśli momet m i m ie są fucjami t, a jest jedie fucją, proces jest słabo stacjoar w szerszm sesie. - 4 6 8 4 Jeśli dla dowolego rozład łącz prawdopodobieństwa zmiech losowch Xt, Xt,... Xt jest tai sam ja rozład łącz zmiech Xt +, Xt +,... Xt +, i wszstie momet ie zależą od czasu, proces jest ściśle stacjoar w węższm sesie. - 4 6 8 4 3-4 6 8 4 4-4 6 8 4 t t t 3... t + t + Proces ergodcz Momet i fucja orelacji pojedczej realizacji słabo stacjoarego procesu: m lim dt s E[ m ], lim t t dt lim [ m ] dt Jeśli wii uzsae w powższ sposób są idetcze z uzsami dla zbioru realizacji proces jest ergodcz. Więszość obserwowach stacjoarch procesów fizczch to proces ergodcze. - 4 6 8 4-4 6 8 4 3-4 6 8 4 4-4 6 8 4
Proces ergodcz Jeśli uzsae dla pojedczej realizacji wii są idetcze z uzsami dla zbioru realizacji procesu proces jest ergodcz. Proces ergodcze - są imi słabo stacjoare proces ormale ormal rozład prawdopodobieństwa, m i ie zależą od spełiające warue: lim C d Więszość obserwowach stacjoarch procesów fizczch to proces ergodcze. - 4 6 8 4-4 6 8 4 3-4 6 8 4 4-4 6 8 4 Wzaczaie parametrów procesu ergodczego I Parametr procesu losowego ergodczego obliczae dla pojedczej realizacji : Wartość oczeiwaa średia Wariacja: wadrat wartości średiowadratowej sładowej zmieej procesu m lim s E[ m ] dt lim [ m ] dt Fucja autoowariacji C E[ m t m] lim t m t m dt 6
Wzaczaie parametrów procesu ergodczego II Parametr procesu losowego ergodczego obliczae dla pojedczej realizacji: Fucja autoorelacji Widmowa gęstość moc WGM jest trasformatą Fouriera fucji autoorelacji procesu tw. Wieera-Chicza: G f=f{ } Fucja autoorelacji jest odwrotą trasformatą Fouriera WGM procesu: =F - {G f} G lim t t dt f ep jf G f ep jf df dt Fucja orelacji wzajemej Jest to wartość oczeiwaa iloczu sgałów ilocz salar. Argumetem fucji orelacji jest czas opóźieie, o tór przesuięto aalizowae sgał. Fucja ta staowi miarę podobieństwa tch sgałów dla daego. E[ t ] lim t t dt Uwaga! Poieważ fucja orelacji wzajemej jest w mśl defiicji wartością średią iloczu wartości sgałów i t+, ustuowach w putach t i t+, uśredieie powio zostać przeprowadzoe dla iesończoej liczb tch iloczów wzaczoch dla daego dla różch t wzdłuż całej osi czasu. Stąd dążąc do iesończoości przedział całowaia - w pomiarach fizczch warue te ie jest realizowal. 7
Fucja orelacji wzajemej Jest to wartość oczeiwaa iloczu sgałów, tóra staowi miarę podobieństwa tch sgałów. Argumetem fucji orelacji jest czas iaczej opóźieie, o tór przesuięto względem siebie aalizowae sgał. Sgał rzeczwiste i t t dt lim Sgał idetcze - wsoa wartość fucji orelacji wzajemej dla =, - czas trwaia sgału. Sgał przesuięte - isa wartość fucji orelacji wzajemej dla =, wsoa dla pewej wartości ; Fucja autoorelacji orelacji własej Sgał rzeczwist lim t t dt Właściwości:. dla. = - fucja rzeczwista, parzsta 3. wadrat wartości suteczej drugi momet zwł wariacja w przpadu zerowej wartości średiej sgału 8
Fucja orelacji wzajemej Jest to wartość oczeiwaa iloczu sgałów, tóra staowi miarę podobieństwa tch sgałów. Argumetem fucji orelacji jest czas, o tór przesuięto orelowae sgał. Właściwości:. τ= -τ lim t t dt. aaliza wróżia wrażeia E[a+bt+ ] =a +ab +b, b 3. ½[ + ] aaliza wrażeia [ + ] oraz właściwość 4. τ= => sgał i są iesorelowae W stuacjach pratczej aaliz sgałów odcie aalizowaego sgału jest ograiczo, a w związu z tm graica musi zostać zastąpioa całą: t t dt Współczi orelacji Dwa proces ergodcze, Uormowaa fucja owariacji wzajemej współczi orelacji wzajemej: lim [ m ][ t m ] dt C C C s s gdzie: m, m s, s C, C, C wartości oczeiwae wariacje owariacje m lim s lim C lim dt [ m ] dt [ m ][ t m ] dt 9
Współczi orelacji Dwa proces ergodcze, Współczi orelacji wzajemej: lim [ m ][ t m ] dt C C C s s Wielość ta istotie różi się od fucji orelacji wartość tego współczia iesie ilościową iformację o podobieństwie dwóch sgałów losowch. Podczas gd wartość masimum fucji orelacji jest zależa od amplitud obu sgałów, wartość ρ ie zależ od tch amplitud. Wartość ρ rówa jedości ozacza idetczość obu sgałów, wartość blisa jedości zacze podobieństwo tch sgałów. Współczi te spełia warue ρ =<. Współczi autoorelacji Proces ergodcz Uormowaa fucja autoowariacji współczi autoorelacji: lim t m t m dt [ ][ ] C C C s Współczi te spełia warue:
Zastosowaie fucji i współczia orelacji Estmacja czasu opóźieia I Sgał ergodcz i jego opóźioa i przesalowaa wersja a<: =at-τ Fucja orelacji wzajemej dla sgałów i E[ t ] E[ a t ] ae[ t ] a Fucja więc fucją autoorelacji sgału, przesuiętą o τ i pomożoą przez współczi a. Wartość masmala tej fucji leż dla τ=τ i jest rówa Zalezieie masimum pozwala wzaczć opóźieie sgałów i. a a a Zastosowaie fucji i współczia orelacji Estmacja czasu opóźieia II Sgał ergodcz i jego opóźioa i przesalowaa wersja =at-τ Fucja orelacji wzajemej dla sgałów i : a a poieważ C a a s Współczi orelacji wzajemej procesów i ma w ogólości postać: poieważ w aalizowam przpadu: mam: a C a a
Zastosowaie fucji i współczia orelacji Estmacja czasu opóźieia III -. sigal 4 6 8 autoorelacja sgalu =at-τ, a= C -. - replia - 4 6 8 fucja orelacji wzajemej. -. 4 6 8 wspólczi orelacji wzajemej - 4 6 8 Fucja orelacji sgałów determiistczch Fucję orelacji wzajemej, autoorelacji, współczi autoorelacji i orelacji możem wzaczać taże dla sgałów determiistczch. Stosujem te same formuł co w przpadu sgałów losowch, dostosowae do właściwości eergetczch sgału, p. dla fucji orelacji: Sgał o sończoej eergii t t dt Sgał oresowe ores lub sgał o sończom czasie trwaia t t dt Sgał o sończoej moc średiej lim t t dt
Fucja autoorelacji ombiacji liiowej sgałów =a + b sgal Sgał o sończoej eergii t dt. 3 3 sgal przesuiet o próbe τ=e[a + b a t+τ + b t+ τ]= = E[a t+τ+ b t+τ + ab t+τ + ab t+τ]=. 3 sgal przesuiet o próbe = a τ+ b τ+ab τ+ τ;. = pole pod wadratem całego sgału є, pole pod wadratem części sgału є, pole rówe zero jest fucją parzstą i przjmuje masmalą wartość dla =!!!! 3 4 fucja autoorelacji.. -4-4 Przład fucji autoorelacji procesów losowch sgał siusoidal siω t o si si t dt cos to szum losow szeroopasmow biał wadrat wartości wartość suteczej 3 sgał siusoidal plus szum biał iesorelowa z sgałem si jest fucją parzstą i przjmuje masmalą wartość dla =!!!! = zerowe opóźieie 3
Przład fucji autoorelacji i WGM procesów G f ep jf df G f ep jf dt si szum biał cost si + szum biał +cost o ile szum i si iesorelowae, jeśli sorelowae pojawia się orelacja wzajema Elemet estmacji parametrów procesów losowch 4
Podstawowe pojęcia teorii estmacji Estmacja parametrów Estmator Właściwości estmatorów jaość estmatorów G rzeczwista wartość parametru estmowaego Ĝ estmator zmiea losowa!! rozład, wariacja, obciążeie E[Ĝ ] wartość średia oczeiwaa estmatora Podstawowe pojęcia teorii estmacji Wi pomiaru Ĝ będzie róż od rzeczwistej wartości G ; wstąpić mogą dwojaiego rodzaju błęd: obciążeie - G - E[Ĝ ] -błąd sstematcz wariacja - Ĝ - E[Ĝ ] - błąd przpadow Błęd te ujmuje sumarczie błąd średiowadratow: MSE=E[Ĝ - G ]
Błąd średiowadratow Miara względa błędu: względ błąd średiowadratow MSE: MSE G f Właściwości estmatorów Oczeujem, że dobr estmator ie będzie wazwał obciążeia, a jego wariacja będzie ja ajmiejsza Jeśli wartość oczeiwaa estmatora jest rówa wartości parametru estmowaego estmator ieobciążo. ^ E[ G ] G Pożądae jest, b estmator miał ja ajmiejsz błąd średiowadratow, czli małą wariację i bł ieobciążo ^ E[ G G ] Estmator ajefetwiejsz estmator ieobciążo o ajmiejszej wariacji Jeśli rozmiar próbi rosą i zachodzi zależość: estmator jest zgod ^ lim E[ G G ] 6
Wariacja sum procesów losowch I Wariacja sum sgałów stochastczch gaussowsich iesorelowach p. szum biał o zerowej wartości średiej i wariacji s sgał stochastcze X uśredioa suma sgałów wartość oczeiwaa sum sgałów E[ ] X E[ X] E[ t ] E[ ] wariacja sum sgałów s E[ X EX ] E[ X XEX EX ] E[ X ] E[ XEX ] E EX E[ X ] E EX E[ X ] EX Poieważ EX=: s E[ X ] Wariacja sum procesów losowch II Wariacja uśredioej sum sgałów stochastczch gaussowsich iesorelowach p. szum biał o zerowej wartości średiej i wariacji s s E[ ] E[... poieważ szum jest iesorelowa, dla m p ] E[ ] E[ m p ]= X t poieważ E [ ] s s s E[ ] Wariacja uśredioej sum sgałów losowch jest rówa s /, a więc -rotie miejsza iż wariacja ażdego z sgałów losowch tworzącch sumę. Odchleie stadardowe po uśredieiu jest raz miejsze. 7
Estmacja fucji orelacji autoorelacji Estmator fucji orelacji wzajemej: iesończo czas całowaia uśrediaia estmatora!!! lim t dt Estmator fucji orelacji wzajemej stosowae w obliczeiach omputerowch a rzeczwistch dach: ^ ieobciążo ^ obciążo sończoa liczba próbe sgału!!!! ograiczeie liczb uśrediach iloczów!!! Estmacja fucji orelacji autoorelacji ^ 3 realizacje szumu białego, =, =±,,...999 Szum biał oczeujem fucji autoorelacji w postaci delt Diraca, o wsoości, ustuowaej w początu uładu!!! Wi delta Diraca o wsoości oraz??? Widocze różice poszczególch wiów estmacji, wzrost zmieości wariacji estmatora ze wzrostem opóźieia oraz spade zmieości estmatora uśredioego w porówaiu z ażdm z pojedńczch estmatorów.. f.autoorelacji t -. 4 6 8 f.autoorelacji t. estmata r. -. 4 6 8 f.autoorelacji t3.. -. 4 6 8 sredia f.autoorelacji.. estmata r estmata r 3 estmata uśredioa -. 4 6 8 8
Estmacja fucji orelacji autoorelacji Sgał - szum olorow, wi ograiczeia pasma szumu białego estmator ieobciązo estmator obciążo ^ ^ Liczba par {, +} tworzącch wartości iloczu maleje ze wzrostem!! coloured, próbe - fucja autoorelacji, est. ieobciazo. -. 4 6 8 coloured oise, próbe - fucja autoorelacji, est. obciazo uśredio estmator fucji autoorelacji, ubiased, 6* próbe,.4. -. -.4 4 6 8 uśredio estmator fucji autoorelacji, biased, 6* próbe,.. -. 4 6 8 -. -.4 4 6 8 Pojedcz wi estmacji Wi estmacji po 6 uśredieiach Widmowa gęstość moc 9
Widmowa gęstość moc Sgał ciągłe Uwaruowaia pratcze: F = lim Φω = Fω / Sgał spróbowae/dsrete X G / f s f s ep j położeie wartości G f f s WGM jest wielością rzeczwistą. Ze względu a smetrię wartości X dla rzeczwistch wartości mam smetrię G względem / G =G - Z tego względu wstarcza przedstawieie G w zaresie =,,.../-, tór odpowiada zaresowi -. częstotliwości próbowaia. Oprogramowaie/ aalizator widma prezetują widmową gęstość moc pomożoą w taim właśie przedziale. Jest to tzw. jedostroa widmowa gęstość moc: X G / f s Widmowa gęstość moc procedura obliczaia. Zebrać ciąg próbe sgału, =,,...-. Zastosować fucję graic w : w, =,,...- ew. uzupełić ciąg zerami FF próbe 3. Wzaczć DF X ciągu w, =,,...-, =,,... - ew. ciągu uzupełioego zerami FF próbe 4. Wzaczć wadrat modułu DF dla =,,.. /- f s G w ep j
Estmacja WGM procesów ormalch metodą DF Względ błąd średiowadratow MSE estmatora jest w przbliżeiu rów gdzie B rozdzielczość częstotliwościowa aaliz, długość odcia czasowego poddawaego aalizie odstęp czasow międz olejmi próbami wosi /f s f s - częstotliwość próbowaia, ciąg próbe poddawa DF trwa =/f s, rozdzielczość częstotliwościowa odległość międz olejmi wartościami DF jest odwrotie proporcjoala do : B=f s /=/, czli /B=!!! Błąd średiowadratow związa z wariacją jest rów wadratowi wartości estmowaej!!!! Obo - wii estmacji WGM dla 4 realizacji procesu smulowa szum biał oczeujem stałej wartości WGM w całm paśmie - widocza zacza wariacja estmatora. B Metod popraw właściwości estmatorów WGM Estmator WGM uzsa metodą DF zmiea losowa o wariacji rówej wadratowi wartości estmowaej odchleie stadardowe rówe wartości estmowaej. ozważaia dotczące reducji wariacji estmatora będącego wiiem uśredieia pojedczch estmatorów moża zastosować rówież do estmatora widmowej gęstości moc. Estmator WGM będąc wartością średią estmatorów pojedczch WGM ma wariację miejszą w porówaiu z pojedczmi estmatorami. Uśredio estmator DF WGM Ie metod średia ruchoma
Wielości charaterzujące sgał dsrete determiistcze lub losowe, ergodcze liczba próbe, M masmale opóźieie orelacji fucja orelacji wzajemej, =,,...M prz = - f. autoorelacji estmator obciążo estmator ieobciążo wariacja wartość średia m m s ] [ współczi orelacji wzajemej prz = - wsp. autoorelacji =,,...M widmowa gęstość moc Wieer- Chicz, m,=,,... M ep M m M m j m G m m m m ] [ ] [ ] ][ [ ep s j f G widmowa gęstość moc bezp. F,,=,,... M Wielości charaterzujące sgał dsrete determiistcze lub losowe, ergodcze liczba próbe, M masmale opóźieie orelacji