Zmienne losowe i wprowadzenie do modelowania stochastycznego Opracował: Zbigniew Rudnicki 1 Spis treści Modele matematyczne Zmienne deterministyczne i zmienne losowe Ciąg realizacji zmiennej losowej i jego statystyki Szeregi, histogramy, rozkład doświadczalny z próby Estymacja parametrów rozkładów z populacji Wybrane rozkłady teoretyczne Proces stochastyczny 2 1
Modele i symulacja Praktyka inżynierska często wymaga badania układów niedostępnych lub jeszcze nie istniejących (projektowanych) bądź badania układów istniejących w zakresie niemożliwym do zrealizowania lub nieopłacalnym. W tym celu stosuje się badania symulacyjne na różnego rodzaju modelach. Najczęściej stosowane są modele matematyczne. 3 Każdy model a więc i matematyczny, jest tylko hipotetycznym oraz przybliżonym i uproszczonym odwzorowaniem wybranych cech rzeczywistego układu. 4 2
Modelowanie matematyczne Modelowanie matematyczne polega na opisywaniu funkcjonowania układów (mechanicznych, elektrycznych, biologicznych, ekonomicznych czy innych) językiem matematyki przy użyciu równań oraz nierówności zawierających stałe, zmienne, operatory działań oraz funkcje. Jednym z najważniejszych i najbardziej podstawowych pojęć jest zmienna. 5 DEFINICJA ZMIENNEJ Zmienna to symboliczna reprezentacja cechy, która posiada: NAZWĘ lub inny identyfikator np.: adres TYP określony przez strukturę (skalar, wektor, macierz, rekord, lista,...) rodzaj wartości (liczbowe, tekstowe, logiczne,...) dopuszczalny zakres wartości konkretną WARTOŚĆ (lub zbiór wartości) w danej chwili 6 3
Zmienne Model matematyczny bada zależności zmiennych wyjściowych od zmiennych wejściowych. Zmienne wejściowe Układ Zmienne wyjściowe Za zmienne wyjściowe przyjmowane są takie wielkości fizyczne, których otrzymywanie jest celem działania układu. Pozostałe mogą być uznawane za wejściowe. W maszynach i układach mechanicznych zmiennymi są np: siły. momenty, naprężenia, odkształcenia, parametry geometryczne i materiałowe, nazwy elementów, rodzaje więzów i in. 7 Zmienne c.d. Zazwyczaj wśród zmiennych wejściowych wyróżnia się: zmienne sterowalne i mierzalne zwane też zmiennymi decyzyjnymi zmienne wejściowe mierzalne lecz niesterowalne (na przykład temperatura otoczenia) zmienne mierzalne, niesterowalne i zachowujące w przybliżeniu stałe wartości w trakcie badań zmienne niesterowalne i niemierzalne uznawane za zakłócenia 8 4
cechy mierzalne: otoczenia Zmienne wyrażają przetwarzanych mediów (materiałów, energii, informacji) elementów układu (maszyny) a także mogą reprezentować: nazwy lub umowne wartości przypisane cechom niemierzalnym 9 Zmienne ciągłe i zmienne dyskretne Zmienne DYSKRETNE (czyli skokowe) przyjmują tylko określone wartości ze skończonego lub przeliczalnego zbioru (np.: liczba zębów, liczba uszkodzeń, znormalizowana średnica) Zmienne CIĄGŁE - posiadają nieskończenie wiele wartości w każdym dowolnym skończonym przedziale Przykłady: siła, temperatura, naprężenie W praktyce - przy ograniczonej dokładności pomiaru - zmienne ciągłe ulegają dyskretyzacji 10 5
Niektóre TYPY zmiennych ze względu na strukturę: zmienna skalarna - jej wartość w danym momencie jest pojedynczą liczbą wektor n wymiarowy - jego wartość jest ciągiem n liczb np.: może reprezentować przebieg zmian siły macierz dwuwymiarowa (przestrzennie) np.: obraz zużytej powierzchni łożyska macierz trójwymiarowa (przestrzennie) (ciąg macierzy dwuwymiarowych) np.: film pokazujący przebieg zużycia powierzchni 11 Losowy charakter zmiennych Mimo powtarzania badania w możliwie tych samych warunkach nie uzyskujemy jednakowych wyników, bo: istnieją błędy pomiaru i błędy zadawania wartości powszechne są zakłócenia szczególnie w warunkach przemysłowych losowy charakter zmiennych może wynikać ze złożoności zjawisk np.:niestabilność, b.wiele stopni swobody,... 12 6
Zmienne i zmienne losowe W modelu deterministycznym zmienna zwykła (deterministyczna) posiada w każdym momencie wartość określoną (zdeterminowaną): albo jako dana lub jako wynik obliczeń dla określonych danych Jednak dla większości wielkości fizycznych spotykanych w przemyśle nie jesteśmy w stanie ustalić ani przewidzieć dokładnej wartości (zakłócenia, błędy, rozrzut). Takie zmienne to ZMIENNE LOSOWE 13 Definicja zmiennej losowej Zmienna losowa to zmienna dla której nie da się przewidzieć ani określić jaką konkretną przyjmie wartość a jedynie można oszacować (lub założyć) rozkład prawdopodobieństwa występowania: a) poszczególnych wartości (dla zmiennej dyskretnej), b) lub wartości z poszczególnych przedziałów (dla zmiennej ciągłej) Rozkład ten może być stały w czasie (stacjonarny) lub zmienny (niestacjonarny) 14 7
Badanie zmiennych losowych 1) Wielokrotny pomiar = zebranie danych statystycznych - ZBIORÓW REALIZACJI zmiennych losowych. 2) Badanie czy pewne wartości występują częściej niż inne przez sporządzenie HISTOGRAMU. 3) Jeśli histogram ma kształt zbliżony do krzywej Gauss a to: wyznaczenie parametrów (miar) tendencji centralnej wyznaczenie parametrów (miar) rozproszenia wyznaczenie parametrów (miar) odchyleń od rozkł. normalnego 4) Zastąpienie histogramu - przez dopasowaną do niego krzywą teoretyczną, na przykład: rozkład normalny, rozkład Gamma,.... inny rozkład 15 Badanie częstości występowania różnych wartości zmiennej losowej Sporządzenie HISTOGRAMU na przykład przez uporządkowanie rosnące ciągu wyników pomiarów podział zakresu zmienności na przedziały zliczenie ile wyników pomiarów mieści się w każdym przedziale przedstawienie tego na wykresie słupkowym 16 8
Opis zmiennej losowej - podstawowe statystyki Dla zbioru realizacji zmiennej losowej można wyznaczać podstawowe parametry statystyczne opisowe - zwane STATYSTYKAMI Ich główne kategorie to: 1) miary tendencji centralnej 2) miary rozproszenia 3) miary odchyleń od rozkładu normalnego 17 Przykład: Z dwu pól A i B zebrano po N=9 owoców borówki amerykańskiej wyniki pomiarów średnic przedstawiono w tabeli. Wartości średnie są takie same ale rozproszenie wyników inne 18 9
Miary tendencji centralnej Wartość oczekiwana (średnia, nadzieja matematyczna) ( X ) = E i= 1 Mediana = wartość w środku uporządkowanego rosnąco ciągu Moda = wartość najczęściej występująca n x i p i 19 Miary rozproszenia Wariancja = suma kwadratów odchyleń od średniej/n Odchylenie standardowe = pierwiastek z wariancji 20 10
Średnia i wariancja - przykład 21 Uogólnienie statystyk - momenty A więc: wartość oczekiwana - to moment zwykły rzędu pierwszego wariancja - to moment centralny rzędu drugiego 22 11
Miary odchyleń od normalności Skośność i kurtoza (eksces) histogramu Skośność określa asymetrię Eksces określa jak ostry krzywej histogramu lub łagodny kształt ma histogram 23 Miary odchyleń od normalności 24 12
Szeregi, histogram Mały ciąg realizacji (o liczności < 30) można uporządkować rosnąco. Powstaje w ten sposób: SZEREG POZYCYJNY Liczniejsze ciągi (>30) po uporządkowaniu dzieli się na przedziały i zlicza wartości w każdym przedziale. Powstaje w ten sposób: SZEREG ROZDZIELCZY Graficznym przedstawieniem szeregu rozdzielczego jest HISTOGRAM 25 Histogram Matematycznie - to wektor o tylu składowych ile mamy wartości lub przedziałów wartości zmiennej losowej. Każda składowa podaje częstość wystąpień wartości zmiennej losowej zawierających się w przedziale przypisanym tej składowej. Graficznie: - to słupkowy wykres częstości występowania poszczególnych wartości (lub wartości z kolejnych przedziałów) zmiennej losowej. 26 13
Przykładowe zadanie Skontrolowano długość 1000 gwoździ, które nominalnie powinny mieć 3 cm a w praktyce długość ich wahała się w granicach: 25mm do 35mm Na podstawie danych pomiarowych sporządzić histogram o 10-ciu przedziałach 27 Przykład Histogramu oszacuj prawdopodobieństwo, że dł.< 34,99mm 28 14
Wyznaczanie histogramu w Mathcadzie: Dany ciąg X = {X i } oraz liczba przedziałów M 1) Wyznaczyć X min, X max 2) szerokość przedziału: Dx=(X max -X min )/M 3) wyznaczyć wektor początków przedziałów: XB k = X min + (k-1)*dx dla k = 1..M+1 Dla poszczególnych przedziałów wyznaczyć liczbę zawartych w nich X i (w Mathcadzie): H = hist(xb, X) 29 Histogram - przykład 2 Przez 12 miesięcy notowano ile razy w miesiącu nastąpiło awaryjne wyłączenie pewnej maszyny z powodu przeciążenia. Wyniki zamieszczono w tabeli poniżej. Przez W oznaczono liczbę wyłączeń. Sporządzić HISTOGRAM Wmin = 1 Wmax = 4 liczba przedziałów: m=4 Powtórzenia 6 5 4 3 2 1 Histogram liczby awarii na miesiąc 0 1 2 3 4 Liczba awarii/m-c 30 15
Histogram znormalizowany Po podzieleniu składowych histogramu przez liczbę wszystkich pomiarów otrzymujemy histogram znormalizowany podający względną częstość i stanowiący oszacowanie prawdopodobieństwa wystąpienia poszczególnych wartości zmiennej losowej P rawdopodobieństwo liczby awarii / m-c 0 6/12 5/12 4/12 3/12 2/12 1/12 1 2 3 4 Liczba awarii na mies iąc 31 Histogram znormalizowany czyli doświadczalnie otrzymany, szacunkowy rozkład prawdopodobieństwa Graficznie - to słupkowy wykres częstości względnej występowania wartości zmiennej losowej. Matematycznie - to wektor o tylu składowych ile mamy wartości lub przedziałów wartości zmiennej losowej. Każda składowa podaje względną częstość wystąpień: poszczególnych wartości - zmiennej losowej dyskretnej wartości w poszczególnych przedziałach - dla zmiennej losowej ciągłej 32 16
Histogram znormalizowany dla zmiennej losowej dyskretnej: podaje zbadaną doświadczalnie względną częstość występowania poszczególnych wartości zmiennej losowej względna częstość to ułamek (<1) który podaje ile razy wystąpiła dana wartość zm. losowej w stosunku do liczby wszystkich pomiarów 33 Histogram znormalizowany dla zmiennej losowej ciągłej: podaje zbadaną doświadczalnie względną częstość występowania wartości zmiennej losowej w przedziałach na jakie podzielono cały zakres. Względna częstość to ułamek (<1) który podaje ile razy wystąpiły wartości zm. losowej ciągłej mieszczące się w danym przedziale, w stosunku do liczby wszystkich pomiarów. Zadanie przykładowe: Skontrolowano długość 1000 gwoździ, które nominalnie powinny mieć 3 cm a praktyce długość wahała się w granicach -5mm, +5mm Mając dane pomiarowe sporządzić histogram o 10-ciu przedziałach 34 17
Empiryczny rozkład prawdopodobieństwa Zakładając, że zjawiska będą w przyszłości zachodziły z podobną częstością - możemy słupki histogramu znormalizowanego traktować jako: oszacowanie prawdopodobieństwa To założenie jest słuszne dla procesów stacjonarnych - czyli takich, których parametry statystyczne nie zmieniają się w czasie Histogram znormalizowany jest w takim przypadku - otrzymanym w wyniku doświadczeń czyli empirycznym - rozkładem prawdopodobieństwa 35 Od histogramu do krzywej ciągłej Gdy N jest liczbą danych to suma słupków histogramu zwykłego = N suma słupków histogramu znormalizowanego = N/N = 1 A więc - przy zwiększaniu liczby słupków histogramu znormalizowanego maleje ich wysokość, przy nieskończonej liczbie słupków wysokość = 0 dlatego ciągłą krzywą definiuje się najpierw dla ROZKŁADU SKUMULOWANEGO czyli DYSTRYBUANTY 36 18
ROZKŁAD SKUMULOWANY czyli DYSTRYBUANTA (ang.: CDF - Cumulative Distribution Function) : Definicja: F(x) = p(x<x) jest to wyznaczane dla poszczególnych x prawdopodobieństwo, że zmienna losowa przyjmie wartość mniejszą od tego x 37 Rozkład normalny f(x) = gęstość prawdopodobieństwa, F(x) = dystrybuanta Funkcja f(x) gęstości (ang.: density) rozkładu prawdopodobieństwa jest pochodną dystrybuanty F(x) Dystrybuanta F(x) czyli rozkład skumulowany jest całką funkcji f(x) gęstości rozkładu prawdopodobieństwa 38 19
Rozkłady teoretyczne Rozkłady teoretyczne to krzywe (funkcje) opisane wzorami, które dopasowuje się do rozkładów doświadczalnych (czyli histogramów znormalizowanych) Najbardziej znany i najczęściej stosowany jest ROZKŁAD NORMALNY wyrażony krzywą Gauss a Inne rozkłady używane w badaniach eksploatacyjnych to np.: Log-normalny Wykładniczy Weibull a Raileigh a Beta Poisson a Gama 39 Rozkład normalny (gęstości prawdopodobieństwa) Jednym z podstawowych rozkładów zmiennej losowej ciągłej jest rozkład normalny. Jest on opisany symetryczną krzywą Gaussa. W przedziale: m ± 3σ mieści się 99.73% wartości zmiennej losowej = Reguła trzech sigm m ± 2σ mieści się 95,45% wartości zmiennej losowej, m ± σ mieści się 68,27% wartości zmiennej losowej. 40 20
Reguła trzech sigm 41 Od histogramu do rozkładu Przykład 2 - obliczenia w Mathcadzie (1) W ciągu dwu miesięcy rejestrowano godziny przyjazdu autobusu a dokładniej ile minut po ósmej przyjechał autobus, który według rozkładu powinien być 10 minut po ósmej. Chcemy wykreślić HISTOGRAM czyli słupkowy wykres częstości przyjazdu dla poszczególnych minut (po ósmej).użyjemy do tego funkcji hist. 1) Najpierw z pliku dyskowego wczytamy do wektora t dane o przyjazdach autobusu: t := READPRN( AUTOBUS.PRN ) Elementy wektorów będziemy numerować od 1: ORIGIN := 1 Liczba wczytanych danych: N := length(t) N = 60 42 21
Od histogramu do rozkładu Przykład 2 - obliczenia w Mathcadzie (2) 2) wyznaczamy minimalną i maksymalną daną: tmin := min(t) tmin = 8 tmax := max(t) tmax = 16 3) ustalamy szerokość przedziału na 1 min: Dt := 1 w takim razie liczba przedziałów M będzie wynosić: M := (tmax-tmin) / Dt M = 8 Histogram H poda liczbę wystąpień wartości zmiennej losowej t w poszczególnych przedziałach zakresu (tmin.. tmax): 4) Wyznaczamy wektor T początków przedziałów: i := 1.. M+1 T i := tmin + (i-1) Dt 5) Wyznaczamy histogram przy pomocy funkcji hist: H := hist(t, t) 43 Od histogramu do rozkładu Przykład 2 - obliczenia w Mathcadzie (3) 44 22
Od histogramu do rozkładu c.d Do doświadczalnego wykresu histogramu znormalizowanego chcemy dopasować krzywą rozkładu teoretycznego (np. krzywą Gauss a) Pozwoli nam to uprościć dalsze obliczenia i sprowadzić działania na zmiennej losowej do szacunkowych działań arytmetycznych na parametrach tej krzywej Na przykład korzystać z reguły trzech sigm 45 Który rozkład teoretyczny wybrać? Do dyspozycji mamy wiele różnych wzorów i krzywych określających rozkłady teoretyczne np.: Wykładniczy Weibull a Raileigh a Beta Poisson a........ 46 23
Rozkład normalny 47 Rozkład Gamma 48 24
Kiedy spodziewać się rozkładu normalnego? Gdy zmienna teoretycznie powinna mieć stałą wartość ale wskutek zakłóceń czy błędów wykazuje losowy rozrzut to kształt histogramu może być zbliżony do krzywej Gauss'a. Wtedy można założyć (z większym czy mniejszym błędem), że jest to zmienna losowa o rozkładzie normalnym. Oczywiście dla histogramów wyraźnie niesymetrycznych lub wykazujących wiele maksimów założenie takie nie byłoby słuszne i popełnilibyśmy wtedy błąd. 49 Testy normalności Dla danego zbioru danych doświadczalnych można przeprowadzić testy normalności stwierdzające czy rozrzut jest zgodny z rozkładem normalnym np.: test Shapiro-Wilka i inne dostępne w programie STATISTICA 50 25
Dopasowanie krzywej Gauss a przy założeniu normalności rozkładu Wystarcza wyznaczenie dwu parametrów krzywej Gauss a: wartości średniej zbioru danych (położenie maksimum krzywej) odchylenia standardowego (pierwiastka z wariancji) - będącego miarą rozrzutu wokół średniej 51 52 26
Zastosowania rozkładów teoretycznych A) Do wyznaczania (szacowania) prawdopodobieństwa zjawisk na podstawie przyjętych funkcji rozkładów - są to operacje na zdeterminowanych liczbach i funkcjach B) Do symulacji zjawisk losowych przez generowanie liczb losowych zgodnie z przyjętymi rozkładami teoretycznymi - metody Monte Carlo 53 Przykłady 54 27
A) Wyznaczanie prawdopodobieństwa na podstawie przyjętych rozkładów 55 C.d. - prawdopodobieństwo pchnięcia skrzyni: 56 28
B) Obliczanie całki metodą Monte Carlo 57 Procesy stochastyczne Charakter zmiennej losowej określony jest rozkładem prawdopodobieństwa występowania jej wartości Proces stochastyczny to przebieg zmian tego rozkładu w funkcji czasu albo innych zmiennych (np.: położenia w przestrzeni) Proces stochastyczny jest więc funkcją (najczęściej czasu), której wartości są zmiennymi losowymi Przykładem procesu stochastycznego mogą być przewidywane zmiany oporów czy luzów w łożyskach w funkcji czasu eksploatacji maszyny. 58 29
Procesy stochastyczne c.d. W praktyce dziedziną jest najczęściej przedział czasowy (taki proces stochastyczny nazywany jest szeregiem czasowym) lub obszar przestrzeni (wtedy nazywany jest polem losowym). Jako przykłady szeregów czasowych można podać: fluktuacje giełdowe, sygnały, takie jak mowa, dźwięk i wideo, dane medyczne takie jak EKG i EEG, ciśnienie krwi i temperatura ciała, losowe ruchy takie jak ruchy Browna. Przykładami pól losowych są statyczne obrazy, losowe krajobrazy i układ składników w niejednorodnych materiałach. 59 30