Statystyka matematyczna. dr Katarzyna Góral-Radziszewska Katedra Genetyki i Ogólnej Hodowli Zwierząt

Transkrypt

1 Statystyka matematyczna dr Katarzyna Góral-Radziszewska Katedra Genetyki i Ogólnej Hodowli Zwierząt

2 Wykład Rachunek prawdopodobieństwa Kombinatoryka Zmienne losowe Rozkłady zmiennych losowych Twierdzenia graniczne Rozkłady statystyk z próby na podstawie: Olech i Wieczorek. 01. Zastosowanie metod statystyki w doświadczalnictwie zootechnicznym. Wydawnictwo SGGW, Warszawa

3 Rachunek prawdopodobieństwa

4 Rachunek prawdopodobieństwa podstawowe pojęcia Doświadczenie losowe - czynność którą wykonujemy, np.: rzut kostką, wybór dnia tygodnia. Zdarzenie elementarne - zdarzenie (tylko jedno!) jakie może wydarzyć się w doświadczeniu losowym, np.: wypadło 5 oczek, wybrano środę. Zdarzenie losowe - zbiór jednego lub kilku zdarzeń elementarnych, np.: wypadła parzysta liczba oczek (, 4, lub 6), wybrano dzień powszedni. Moc zbioru - liczba elementów danego zbioru, np.: {,4,6} =3, {dni powszednie} =5.

5 Stosowane oznaczenia Ω - zbiór wszystkich zdarzeń elementarnych doświadczenia losowego, np.: dla rzutu kostką Ω={1,,3,4,5,6}. A - zdarzenie losowe (podzbiór Ω), np.: jeżeli A to zdarzenie polegające na tym, że wypadła parzysta liczba oczek, to: A={,4,6}. A zdarzenie przeciwne, np.: że wypadła nieparzysta liczba oczek, A ={1,3,5}. Ø zbiór pusty, np.: wypadła 7 suma zdarzeń losowych (alternatywa) iloczyn zdarzeń losowych (koniunkcja)

6 Rachunek prawdopodobieństwa pomaga obliczyć szansę zaistnienia pewnego określonego zdarzenia Aby obliczyć szansę dowolnego zdarzenia, należy określić liczbę zdarzeń sprzyjających oraz liczbę wszystkich możliwych zdarzeń Jaka jest szansa, że dzisiaj jest sobota? Ω = 7 P(A) = 1/7

7 Własności prawdopodobieństwa umaszczenie prawdopodobieństwo biszkoptowe 0,5 brązowe 0, czarne 0,3 1. P(A) 0 i P(A) 1. P(Ø) = 0 (zdarzenie niemożliwe) 3. P(Ω) = 1 (zdarzenie pewne) 4. P(A) + P(A ) = 1 5. jeżeli A należy do B, to P(A) P(B) psy.pl

8 Prawdopodobieństwo całkowite P( A) P( A/ A ) P( A ) P( A/ A ) P( A )... P( A/ A ) P( A ) 1 1 n n ZADANIE Wydawnictwo wydrukowało 80% nakładu pewnej książki w drukarni I, a pozostałe 0% w drukarni II. Wady ma 0,01% książek z drukarni I i 0,06% książek z drukarni II. Jakie jest prawdopodobieństwo, że losowo wybrana książka jest wadliwa? P(A n ) P(A A n ) I drukarnia 0,8 0,001 II drukarnia 0, 0,006 P(A) = 0,8*0, ,*0,006 = 0,00

9 Prawdopodobieństwo warunkowe ZADANIE P A W P ( A ( / ) W ) P( W) Urzędnik bankowy wie, że 1% kredytobiorców hipotecznych traci pracę i przestaje spłacać pożyczkę w ciągu 5 lat. Wie też, że 0% kredytobiorców hipotecznych traci pracę w ciągu 5 lat. Przy założeniu, że kredytobiorca hipoteczny stracił pracę, jakie jest prawdopodobieństwo, iż przestanie spłacać pożyczkę. P(A) prawdopodobieństwo utraty pracy = 0, P(W) prawdopodobieństwo niespłacenia kredytu P(A W) prawdopodobieństwo niespłacania kredytu po utracie pracy = 0,1 0,1 P( A/ W ) 0, 0,6

10 Doświadczenie wieloetapowe ZADANIE W urnie I są 3 kule białe i czarne, W urnie II jest 1 kula biała i czarne. Rzucamy monetą. Jeśli wypadnie orzeł to losujemy jedną kulę z urny I, jeśli reszkę to z urny II. Oblicz prawdopodobieństwo wylosowania kuli białej. P(Biała) = ½*3/5 + ½*1/3 = 14/30 = 0,46(6)

11 Kombinatoryka dział matematyki zajmujący się metodami zliczania liczby wszystkich zdarzeń oraz liczby zdarzeń sprzyjających

12 Czy ważna jest kolejność występowania elementów? NIE kombinacje bez powtórzeń TAK Czy elementy mogą się powtarzać? TAK wariacje z powtórzeniami NIE Czy wszystkie elementy są wykorzystywane? TAK permutacje NIE wariacje bez powtórzeń

13 Silnia n! = 1**3*.*n 1! = 1 0! = 1 6! = 5!*6 = 4!*5*6=3!*4*5*6=..

14 Kombinacje bez powtórzeń poszczególne elementy się nie powtarzają kolejność ustawienia elementów nie jest ważna ZADANIE Spotyka się ośmiu kolegów. Ile nastąpi powitań?

15 Wariacje z powtórzeniami poszczególne elementy mogą się powtarzać kolejność ustawienia elementów jest ważna ZADANIE Tworzymy pewien kod z trzech liter wybranych spośród następujących: A, B, C, D, E, F, G, H, litery mogą się powtarzać. Ile jest takich kodów?

16 Wariacje bez powtórzeń poszczególne elementy się nie powtarzają kolejność ustawienia elementów jest ważna ZADANIE Tworzymy pewien kod z trzech liter wybranych spośród następujących: A, B, C, D, E, F, G, H, przy czym litery nie mogą się powtarzać. Ile jest takich kodów?

17 Permutacje poszczególne elementy się nie powtarzają kolejność ustawienia elementów jest ważna wykorzystuje się wszystkie elementy ZADANIE Na ile sposobów może ustawić się w szeregu grupa 5 chłopców i 5 dziewcząt, tak aby dwie osoby tej samej płci nie stały obok siebie? chłopców możemy ustawić na 5! sposobów dziewczęta możemy ustawić na 5! sposobów 5!*5! szereg ten może zaczynać się od chłopca albo dziewczynki, więc mamy dodatkowo różne ustawienia *5!*5!

18 Reguła mnożenia Jeżeli pewien wybór polega na podjęciu n decyzji, przy czym pierwszą podejmujemy na k 1 sposobów, drugą na k sposobów, n-tą na k n sposobów, to takiego wyboru można dokonać na k 1 *k *.*k n sposobów ZADANIE Tworzymy pewien kod z trzech liter wybranych spośród następujących: A, B, C, D, E, F, G, H, przy czym litery nie mogą się powtarzać. Ile jest takich kodów? pierwszą liczbę kodu możemy wybrać na 8 sposobów, drugą już na 7 sposobów trzecią na 6 8 * 7 * 6 = 336

19 Zmienna losowa skokowa gdy zbiór wartości zmiennej jest skończony lub nieskończony, ale przeliczalny ciągła gdy zbiór wartości zmiennej jest nieprzeliczalny (jest przedziałem lub sumą przedziałów)

20 Zmienna losowa funkcja, która przyporządkowuje każdemu zdarzeniu elementarnemu (A i ) ze zbioru zdarzeń elementarnych (Ω) liczbę rzeczywistą (x i ) PRZYKŁAD Zmienna losowa opisuje liczbę piskląt, które mogą się wykluć z 4 jaj: wartość zmiennej losowej (x i ) Funkcja rozkładu prawdopodobieństwa przyporządkowuje każdej wartości zmiennej losowej (x i ) prawdopodobieństwo wystąpienia tej wartości

21 Zmienna losowa funkcja, która przyporządkowuje każdemu zdarzeniu elementarnemu (A i ) ze zbioru zdarzeń elementarnych (Ω) liczbę rzeczywistą (x i ) PRZYKŁAD Zmienna losowa opisuje liczbę piskląt, które mogą się wykluć z 4 jaj: wartość zmiennej losowej (x i ) prawdopodobieństwo wystąpienia X i P(X=xi) 0,05 0,15 0, 0,35 0,5 P(A i ) = P(X=x i ) = 1 Funkcja rozkładu prawdopodobieństwa przyporządkowuje każdej wartości zmiennej losowej (X i ) prawdopodobieństwo wystąpienia tej wartości

22 Dystrybuanta zmiennej losowej F(x) kumuluje prawdopodobieństwo rozpoczynając od najmniejszej wartości zmiennej losowej. Własności dystrybuanty: określona dla liczb rzeczywistych (- ; + ), ograniczona do przedziału <0; 1>, niemalejąca, przynajmniej prawostronnie ciągła.

23 Zmienna losowa a dystrybuanta xi P(X=xi) 0,05 0,15 0, 0,35 0,5 X (- ; 0) <0; 1) <1; ) <; 3) <3; 4) <4; + ) F(x) 0

24 Zmienna losowa a dystrybuanta xi P(X=xi) 0,05 0,15 0, 0,35 0,5 X (- ; 0) <0; 1) <1; ) <; 3) <3; 4) <4; + ) F(x) 0 0,05 0, 0,4 0,75 1

25 Zmienna losowa a dystrybuanta xi P(X=xi) 0,05 0,15 0, 0,35 0,5 0,4 0,35 0,3 0,5 0, 0,15 0,1 0, X (- ; 0) <0; 1) <1; ) <; 3) <3; 4) <4; + ) F(x) 0 0,05 0, 0,4 0,75 1 1, 1 0,8 0,6 0,4 0,

26 Parametry zmiennych losowych wartość oczekiwana położenie najbardziej prawdopodobnej wartości zmiennej losowej EX x p k i1 i wariancja średnia wartość kwadratu rozrzutu wokół wartości oczekiwanej i współczynnik zmienności V DX EX 100%

27 Parametry zmiennych losowych xi P(X=xi) 0,05 0,15 0, 0,35 0,5 EX = 0*0,05 + 1*0,15 + *0, + 3*0,35 + 4*0,5 =,6 D X = 0 *0, *0,15 + *0, + 3 *0, *0,5,6 = 1,34 DX = 1,158 V = 1,158/,6*100% = 44,5% D = 3 X (- ; 0) <0; 1) <1; ) <; 3) <3; 4) <4; + ) F(x) 0 0,05 0, 0,4 0,75 1 Q1 Q=Q3

28 Zmienna losowa skokowa a ciągła

29 Wybrane rozkłady zmiennych losowych

30 Rozkład Bernoulliego (dwumianowy) wykonywane jest n niezależnych doświadczeń w niezmienionym schemacie, każde może zakończyć się sukcesem (p) lub porażką (1-p) wartościami zmiennej losowej jest liczba sukcesów k=0; 1;.., n zmienna losowa skokowa, rozkład liczby samców w miotach określonej wielkości, rozkład liczby genów dominujących, rozkład liczby osobników odpornych w grupie określonej wielkości.

31 Rozkład Bernoulliego (dwumianowy) X~B(p) P k n k X k P k p 1 p n, p n k EX np D X np(1 p)

32 Rozkład Bernoulliego (dwumianowy) ZADANIE Wiadomo, że pośród cieląt 70% jest odpornych na dany rodzaj wirusa. Niech zmienną losową będzie liczba odpornych spośród czterech cieląt. Określić rozkład zmiennej losowej. P n k n X k p 1 p k k

33 Rozkład Bernoulliego (dwumianowy) n=8 X i =k P(X i ) n=8 0 0, p=0,3 p=0,5 1 0, , , , , , , ,559E-05 X i =k P(X i ) 0 0, ,0315 0, , , , , , , ,35 0,3 0,3 0,5 0,5 0, 0,15 0,1 0, 0,15 0,1 0,05 0,

34 Rozkład Poissona rozkład graniczny dla ciągu zmiennych losowych mających rozkład dwumianowy, wraz ze wzrostem serii maleje prawdopodobieństwo sukcesu, parametrem rozkładu jest λ, λ = n * p zmienna losowa skokowa, liczba wypadków w jednostce czasu, liczba bakterii w danej objętości, liczba zachorowań na rzadkie choroby

35 Rozkład Poissona X~P(λ) P k k k! e np EX D X

36 Rozkład Poissona ZADANIE Ciężkie porody występują u około 4% klaczy ras czystej krwi. Jakie jest prawdopodobieństwo, że w stadninie liczącej 110 matek, będą takie przypadki? Jakie jest prawdopodobieństwo, że wszystkie porody odbędą się bez komplikacji? λ = 0,04*110 = 4,4 = EX P(X=) =? P(X=0) =? P k k e k!

37 Rozkład Poissona

38 Rozkład Poissona

39 Rozkład normalny Rozkład normalny z wielu względów jest najważniejszym rozkładem zmiennej losowej ciągłej. Cechy bezpośrednio mierzone, takie jak masy ciała, wysokości, długości, powierzchnie, objętości, wydajności mają w populacji rozkład normalny. Błędy losowe mają rozkład normalny. Ponadto wiele rozkładów dąży do rozkładu normalnego w określonych warunkach, czyli rozkład ten jest graniczny dla wielu innych rozkładów.

40 Rozkład normalny Funkcja gęstości rozkładu normalnego określona dla wszystkich liczb rzeczywistych f ( x) 1 ( x) e Dwa parametry rozkładu normalnego: EX DX

41 Rozkład normalny różne 0,

42 Różne wartości odchylenia standardowego 0,45 1 1,

43 Własności rozkładu normalnego każdy rozkład jest jednoznacznie określony przez swoje dwa parametry: wartość oczekiwaną μ i odchylenie standardowe, co zapisujemy: X~N(μ ; ), jest symetryczny względem prostej x = μ, funkcja gęstości osiąga maksimum dla EX, stąd wartość oczekiwana, modalna i mediana są sobie równe, jest określony dla liczb rzeczywistych, prawdopodobieństwo występowania wartości zmiennej losowej w przedziałach liczbowych o końcach wyznaczonych przez parametry rozkładu (μ i ) jest jednakowe dla każdej zmiennej o rozkładzie normalnym. Zasada ta nazywana jest regułą trzech sigm tzn: P( m X P( m P( m 3 m ) 0,686 X m ) 0,9544 X m 3 ) 0,9974

44 Przykład Obliczyć P(7<X<16) wiedząc, że zmienna X~N(10 ; 4) dla zmiennej losowej ciągłej wystarczy obliczyć wartości dystrybuanty dla końców przedziału P(7<X<16) = F(X=16) - F(X=7) f ( x) 1 ( x) e

45

46 Standaryzacja Przekształcenie zwane standaryzacją, jest liniowym przekształceniem, w wyniku którego uzyskujemy zmienną losową o wartości oczekiwanej równej zero i odchyleniu standardowym równym jeden. Jeśli zmienna X~N(μ; ) to zmienna U zdefiniowana jako ma rozkład U X normalny o parametrach 0 i 1, czyli zmienna U~N(0 ; 1). U X

47 Przykład cd. Obliczyć P(7<X<16) wiedząc, że zmienna X~N(10 ; 4). dla zm. los. ciągłej P(7<X<16) = F(X=16) - F(X=7) wystarczy obliczyć wartości dystrybuanty dla końców przedziału Skorzystamy z tablic dystrybuanty standaryzowanego rozkładu normalnego: F( X 16) F( U ) F( U 1,5) 4 0, F( X 7) F( U ) F( U 0,75) 1 F( U 0,75) 1 0, ,66 P( 7 X 16) F( X 16) F( X 7) 0,933 0,66 0,7066

48 Opis próby - kurtoza współczynnik kurtozy miara koncentracji / spłaszczenia N K i1 x i N S 4 x 4 statystykaopisowa.com

49 Twierdzenia graniczne

50 Twierdzenia graniczne Jeżeli rozpatrujemy ciąg zmiennych losowych {X 1 ; X ;...; X n }, to zdarza się, że ich rozkłady przy n mogą być zbieżne do jednego rozkładu, który będzie nazywany rozkładem granicznym (asymptotycznym) dla tego ciągu zmiennych losowych.

51 Złote twierdzenie Bernoulli ego Podstawa statystycznej definicji prawdopodobieństwa. Prawo wielkich liczb: wraz ze wzrostem liczby przeprowadzanych doświadczeń, z których każde może zakończyć się sukcesem lub porażką, zaobserwowana częstość sukcesu skupia się wokół pewnej stałej, równej prawdopodobieństwu sukcesu p.

52

53 Centralne twierdzenie graniczne Lindenberg a-levy ego Zmienne, których wartości kształtują się pod wpływem złożenia wielkiej liczby czynników losowych mają rozkład normalny.

54 Centralne twierdzenie graniczne jeżeli X k jest ciągiem niezależnych zmiennych losowych o tym samym rozkładzie i n skończonej wariancji to ciąg zmiennych losowych zdąża przy Z n n X i i1 do rozkładu normalnego N( nex ; ndx) Sumę można zastąpić średnią, wtedy ciąg zmiennych losowych V 1 n n X i n i1 zdąża do rozkładu normalnego DX N( EX ; ) n

55 Przykład Kontrola celna pasażerów przybywających na lotnisko we Frankfurcie wykazała, że dziennie 40 przewozi towary niedozwolone, a odchylenie standardowe wynosi 10. Jakie jest prawdopodobieństwo, iż w ciągu 16 losowo wybranych dni średnia liczba pasażerów przewożących towary niedozwolone przekroczy 46? Zmienna V (liczba pasażerów) ma rozkład 10 N( 40; ) N(40;,5) 16 zatem P(V>46)= = 1 P(V < 46) = = 1- F(V=46) = 1 F(U=(46-40)/,5) = 1- F(U=,8) = = 1 0,9974 = 0,006

56 Wnioskowanie statystyczne

57 Rozkłady statystyk z próby Próba losowa pobrana z populacji stanowi realizacje zmiennej losowej jak ciąg N zmiennych losowych (X 1, X,... X N ) niezależnych i mających ten sam rozkład jak rozkład zmiennej losowej w populacji. Statystyką z próby nazywamy zmienną losową (np. Z N ), będącą funkcją zmiennych X 1, X,... X N. Statystykami z próby są średnia arytmetyczna, wariancja, inne parametry Rozkład statystyki z próby zależy od rozkładu zmiennych losowych X 1, X,... X N i wielkości próby.

58 Rozkłady statystyk z próby Próba Parametr Populacja x średnia arytmetyczna wartość oczekiwana EX ; S² wariancja D X ; ² S odchylenie standardowe DX ; w częstość empiryczna - prawdopodobieństwo p

59 Rozkłady statystyk z próby Jeżeli znany jest rozkład statystyki z próby to na tej podstawie można szacować wartości nieznanych parametrów populacji. Znajomość rozkładów statystyk z próby jest zatem niezbędna we wnioskowaniu statystycznym. Rozkłady statystyk z próby, w których parametrem jest liczba stopni swobody (zależna od liczebności próby) nazywane są dokładnymi i są wykorzystywane w przypadku małych prób. Jeżeli znalezienie dokładnego rozkładu statystyki nie jest możliwe, wykorzystywane są rozkłady graniczne statystyk, ale wtedy wymagana jest duża próba.

60 Rozkłady statystyk z próby Średnia - wartość oczekiwana 1. X~N oraz znamy zmienność w populacji. X~N oraz nie znamy zmienności w populacji 3. rozkład jest dowolny

61 Rozkłady statystyk z próby Średnia - wartość oczekiwana X~N(,) znane w populacji x N ~ N(, N ) po standaryzacji x N N ~ N(0,1)

62 Rozkłady statystyk z próby Średnia - wartość oczekiwana X~N(,) - nie znane w populacji x N S N ~ t( N 1) ma rozkład t-studenta z lss () = (N 1)

63 Rozkład t-studenta 0,5 0, 0,15 0,1 0, N 1 Et 0 D t N 3

64 Rozkład t-studenta

65

66 Rozkłady statystyk z próby Średnia - wartość oczekiwana Jeżeli zmienna ma dowolny rozkład to na mocy centralnego twierdzenia granicznego, dla dużych prób: x N ~ N( EX, DX N )

67 Rozkłady statystyk z próby różnica średnich - wartości oczekiwanych 1. X~N oraz znamy zmienność w populacji. X~N oraz nie znamy zmienności w populacji 3. rozkład jest dowolny

68 Rozkłady statystyk z próby różnica średnich - wartości oczekiwanych Jeśli X 1 ~N(µ 1, 1 ) oraz X ~N(µ, ) i znane są odchylenia standardowe obu rozkładów to różnica średnich prób ma rozkład normalny: a po standaryzacji ; ~ N N N x x (0;1) ~ ) ( ) ( N N N x x

69 Rozkłady statystyk z próby różnica średnich - wartości oczekiwanych Jeśli X 1 ~N(µ 1, 1 ) oraz X ~N(µ, ) - odchylenia standardowe są nieznane, to wyrażenie zawierające różnicę między średnimi dwóch prób ma rozkład t-studenta z liczbą stopni swobody = N 1 + N. ) ( ~ ) ( ) ( N N t S x x x x ) ( 1) ( 1 N N N N S N S N S x x

70 Rozkłady statystyk z próby różnica średnich - wartości oczekiwanych Jeśli zmienne X 1 oraz X są zmiennymi losowymi o dowolnym rozkładzie to na mocy centralnego twierdzenia granicznego dla dużych prób rozkład różnicy dwóch średnich arytmetycznych jest rozkładem normalnym: x 1 x ~ N EX 1 EX ; S N 1 1 S N

71 Rozkłady statystyk z próby Wariancja w próbie wariancja w populacji Jeżeli zmienna losowa X ma rozkład normalny (X~N(µ, )), to dla dowolnej N-elementowej próby poniższa statystyka ma rozkład Chi-kwadrat Pearson a ( N 1) S ~ ( N 1)

72 Rozkład chi-kwadrat 1 0,9 0,8 0,7 0,6 =4 0,5 0,4 0,3 0, 0, E² = D²²=

73 Rozkład chi-kwadrat

74 Rozkłady statystyk z próby odchylenie standardowe w próbie i w populacji Jeśli zmienna losowa X ma rozkład normalny (X~N(µ,)) oraz próba jest duża, (licząca co najmniej 10 elementów), to odchylenie standardowe tej próby będzie miało rozkład normalny: S ~ N( ; N ) Dla nieznanego odchylenia standardowego w populacji stosuje się przybliżenie: S ~ N( ; S N )

75 Rozkłady statystyk z próby Iloraz wariancji próby i populacji Jeśli zmienna losowa X 1 ~N(µ 1, 1 ) oraz zmienna losowa X ~N(µ, ) to iloraz wariancji dwóch prób o liczebnościach N 1 i N pobranych z dwóch populacji ma rozkład F Snedecora 1) 1; ( ~ N N F S S S S

76 Rozkład F - Snedecora 0,8 0,7 0,6 0,5 1 =4 v =14 0,4 0,3 0, 0, EF D F ( 1 ) ( ) ( 4) 1

77 Rozkład F - Snedecora

78 Rozkłady statystyk z próby Częstość empiryczna prawdopodobieństwo Jeżeli próba jest duża (co najmniej elementów) i obserwujemy w niej cechę o rozkładzie dwupunktowym, to częstość empiryczna sukcesu na mocy twierdzeń granicznych, będzie miała rozkład normalny: N n w i N w w p N w ) (1 ; ~ (0;1) ~ ) (1 N N w w p w

79 Rozkłady statystyk z próby różnica częstości empirycznych prawdopodobieństw Jeżeli próby pochodzące z dwóch populacji są duże (co najmniej elementów w każdej) i w każdej populacji obserwujemy tę samą cechę o rozkładzie dwupunktowym, to różnica częstości empirycznych sukcesów (w 1 - w ), na mocy twierdzeń granicznych, będzie miała rozkład normalny: gdzie 1 1 ) (1 ; ~ N N n n w N N w w p p N w w