Powtórzeie z algebry, rachuku prawdopodobieństwa i statystyki Zadaia. Pokazać, że dla dowolego odwracalego A,.. Pokazać z defiicji, że macierz jest ieujemie określoa. 3. Pokazać (z defiicji liiowej iezależości), że macierz jest ieosobliwa, jeśli kolumy macierzy X są liiowo iezależe. 4. Udowodić, że dla macierzy A i B o odpowiedich wymiarach. 5. Pokaż, że dla idempotetego P, jest także idempoteta oraz, że. 6. Pokaż, że macierz dla dowolego A takiego, że jest ieosobliwe, jest idempoteta. 7. Udowodić, że macierz jest macierzą idempotetą rzędu oraz. Policzyć. 8. Udowodić, że: a) macierz X X jest macierzą symetryczą; b) jeśli jest macierzą idempotetą, o wyzacziku różym od, to I; c) ( AB) B A. 9. Które z macierzy mogą być macierzami kowariacji? 3 3 3, 3, 4 3 3 4. amy wektor losowy, przy czym,. Policz wartość oczekiwaą i wariację 5 5, odchyleie stadardowe i, współczyik korelacji między a.. amy zmiee losowe i takie, że,, 3,,,. a) podać waruek jaki muszą spełiać i, by estymator liiowy był ieobciążoy; b) podać jakie powiy być i, by estymator liiowy miał ajiższą wariację i był ieobciążoy; c) dla i mających rozkład ormaly podać rozkład estymatora.. amy estymator parametru i oszacowaie jego błędu stadardowego. Wiemy, że ~ gdzie s jest liczbą obserwacji. Dla,.5, a) zbudować 95% przedział ufości dla ; b) co się staie z przedziałem ufości jeśli zamiast przedziału 95% policzymy przedział 9%? c) co się ajprawdopodobiej staie z przedziałem ufości jeśli zwiększy się liczba obserwacji? d) zweryfikować hipotezę : dla.5. 3. Zaleźć gradiet i Hessia dla fukcji 3 5 4. Wyzaczyć ekstremum tej fukcji i określić jego typ. 4. Zaleźć ekstremum fukcji 4 i określić jego typ. Wyzaczyć ekstremum tej samej fukcji przy waruku poboczym posługując się fukcją agrage i wstawiając ograiczeia bezpośredio do
fukcji celu. Porówać wielkość fukcji celu w ekstremum w przypadku istieia waruku poboczego i w przypadku braku tego waruku. Rozwiązaia wybraych zadań 3. Wprowadzamy astępujące ozaczeia: X x x k O x x k xk c c c k xi xi - i-ta koluma macierzy X x i usimy pokazać, iż z liiowej iezależości x,..., x wyika, że macierz X X jest ieosobliwa. Wystarczy więc i k pokazać, że wyzaczik macierzy X X jest róży od zera. Udowodimy, że liiowa iezależość kolum macierzy X pociąga za sobą dodatią określoość macierzy X X, a z tego już wyika, że wyzaczik macierzy X X jest dodati. Wykorzystamy zadaie. Wiemy, że macierz X X jest ieujemie określoa: c c X Xc. ogą zajść dwa przypadki: ) c X Xc > Ozacza to, że macierz X X jest dodatio określoa, więc jej wyzaczik jest dodati, czyli: X X ) c X Xc Pokażemy, że przy założeiu liiowej iezależości kolum macierzy X, te waruek ie może zachodzić. Wprowadzamy astępujące ozaczeie: a Xc. Poieważ X jest macierzą wymiaru xk oraz c jest wektorem kx, to a jest wektorem wymiaru x. Czyli: a a a c X Xc ( Xc) Xc [ a a ] a i a a a Poieważ c X Xc, to i a i i, co ozacza że i a i. Więc otrzymujemy: x x k c Xc O. Zapisujemy to rówaie, w postaci, w której będziemy mogli wykorzystać liiową x x k c k iezależość kolum macierzy X: x x k c x x x k Xc O c + c +... + c x c + x c +... + x c k k k x x k c k x x x k
gdzie x i ozacza i-tą kolumę macierzy X. Poieważ wektory xi,..., x k są liiowo iezależe (z założeia), więc jedyym rozwiązaiem powyższego rówaia są c c... c k, co w oczywisty sposób przeczy założeiu, że c c. Więc ie może zachodzić c X Xc. c k Podsumowując, przy założeiu, że kolumy macierzy X są liiowo iezależe macierz X X czyli X X >. jest dodatio określoa, 4. Najpierw ustalamy jakich wymiarów muszą być macierze, aby możliwe były odpowiedie możeia: A, B A, B. Przyjmijmy astępujące ozaczeia C ( AB), D B A. usimy pokazać, że C D. xk kxm kx mxk ) Czy wymiary się zgadzają? acierz C jest wymiaru mx, bo AB jest macierzą wymiaru xm. acierz D jest rówież wymiaru mx. ) usimy pokazać, że i, j cij dij Elemet c ij w macierzy C ( AB ) jest elemetem c ji w macierzy AB. Czyli c ji jest wyikiem przemożeia j-tego wiersza macierzy A i i-tej kolumy macierzy B. Elemet d ij w macierzy D B A jest wyikiem przemożeia i-tego wiersza macierzy B (czyli i-tej kolumy macierzy B) i j-tej kolumy macierzy A (czyli j-tego wiersza w macierzy A).. a) Niech t będzie kwatylem rzędu,975 z rozkładu t-studeta o s stopiach swobody (czyli F( t ),975, gdzie F jest dystrybuatą rozkładu t-studeta o s stopiach swobody). Korzystając z symetryczości rozkładu t-studeta mamy: F( t) F( t), 975, 5. Następie liczymy prawdopodobieństwo: ˆ θ θ se( ˆ θ ) P ( t t ) F ( t ) F ( t ),975,5,95 ˆ θ θ P( t ˆ ˆ ˆ ˆ ˆ ˆ ˆ ( ˆ t) P( t se( θ ) θ θ t se( θ )) P( θ t se( θ ) θ θ + t se( θ )) se θ ) P( ˆ θ + t se( ˆ θ ) θ ˆ θ t se( ˆ θ )) Czyli P( ˆ θ + t se( ˆ θ ) θ ˆ θ t se( ˆ θ )),95, co ozacza, że [ ˆ θ t se( ˆ θ ); ˆ θ + t se( ˆ θ )] jest przedziałem ufości a poziomie 95%. Podstawiając dae liczbowe i odczytując z tablic t,8, otrzymamy astępujący przedział ufości: [,4;,4] b) Jeśli poziom ufości wyosi 9%, to ozacza, że: P( ˆ θ + t se( ˆ θ ) θ ˆ θ t se( ˆ θ )),9,95,95 3
Długość przedziału ufości wyosi t ˆ,95 se( θ ). Zmiaa poziomu ufości powoduje jedyie zmiaę wartości kwatyli odczytywaych z tablic. Poieważ: t > t t se( ˆ θ ) > t se( ˆ θ ),975,95,975,95 to przedział ufości ulegie zmiejszeiu. c) Jeśli zwiększymy ilość obserwacji, to (ajprawdopodobiej!) przełoży się to a spadek błędu stadardowego estymatora. Rówież astąpi (iewielki) spadek wartości kwatyla (im więcej stopi swobody, tym wartości kwatyli rozkładu t-studeta są miejsze). Czyli długość przedziału ( t ˆ,975 * se( θ )) ulegie zmiejszeiu. d) Wyzaczamy wartość statystyki testowej: T ˆ θ θ se( ˆ θ ) / Wyzaczamy obszar krytyczy (obszar odrzuceń hipotezy zerowej): W ( ; t ] [ t ; ) ( ;, 8] [, 8; ) Poieważ T,975;,975; W więc ie ma podstaw do odrzuceia H 3. Zaczyamy od wyzaczeia gradietu i Hessiau: x 4x + 5x 5x + 6x H f f x x x x 4 5 f f 5 6 Aby wyzaczyć ekstermum sprawdzamy waruek koieczy i wystarczający a jego istieie: zerowaie się gradietu oraz dodatia określoość macierzy H w przypadku miimum lub ujema określoość dla maksimum: f 4x + 5x x x x 5x + 6x Czyli aszym puktem podejrzaym jest x * (,). Następie sprawdzamy określoość macierzy H w tym właśie pukcie: 4 5 H ( x*) 5 6 4 5 d det(4) 4 >, d det( ) < 5 6 4
Okazuje się, że macierz H ie jest określoa dodatio, ai też ujemie. Czyli pukt podejrzay ie może być puktem ekstremalym. 4. Część pierwsza tego zadaia jest całkowicie aalogicza do zadaia. iczymy gradiet i przyrówujemy go do zera: x x + x x x x + 8x Wyzaczamy Hessia i badamy jego określoość: H f f x x x x f f 8 Czyli H ((,)) 8 d det() >, d det( ) 5 > 8 Poieważ oba wyzacziki są dodatie, więc macierz H jest dodatio określoa, co ozacza, że pukt (,) jest miimum (lokalym). Jedakże bardzo łatwo zauważyć, że: x x Hx > (bo H ie zależy od puktu, w którym jest wyzaczaa), co ozacza, że wyjściowa fukcja jest wypukła. Dla ciągłej fukcji wypukłej miimum lokale jest rówież miimum globalym! Przechodzimy do wyzaczeia ekstremum tej samej fukcji przy ograiczeiu. Zaczyam od metody polegającej a podstawieiu ograiczeia do wyjściowej fukcji: x + x f ( x ) x + 4( + x ) + x ( + x ) 9x + 7x + 3 Otrzymujemy parabolę z ramioami do góry. Puktem ekstremalym jest wierzchołek, a poieważ ramioa paraboli są skierowae do góry, to jest to miimum: x * b 7 7 a *9 38 x * + x * 9 7 Porówujemy wartości wyjściowej fukcji w (,)(miimum globale) z wartością fukcji w (, ) : 38 9 f * f (,) <,83 f (, ) f ** 7 38 9 5
Oczywiście te wyik ie jest zaskoczeiem, gdyż f* jest miimum globalym dla wyjściowej fukcji, więc zalezioe miimum f** przy ograiczeiu (ozacza zredukowaie dziedziy fukcji) ie może być miejsze od miimum globalego. Jeżeli pukt, w którym fukcja przyjmuje miimum globale spełiałby ałożoe ograiczeie (a w aszym zadaiu tak ie jest: * ), to zachodziłoby: f * f **. Rozwiązaie metodą możików agrage a. Twierdzeie: Niech fukcja f f ( x,..., x m ) podlega warukom poboczym ( < m): g( x,..., x ),..., g( x,..., x ). Aby fukcja f posiadała ekstremum warukowe w pukcie ( x*,..., x *) m m potrzeba i wystarcza, aby fukcja z ( x,..., x m, λ,..., λ ) f ( x,..., x m) λ g k k k posiadała ekstremum w pukcie ( x *,..., x *, λ *,..., λ *). Wystarczy zaleźć pukt, w którym zeruje się gradiet oraz sprawdzić określoość m macierzy H (druga pochoda fukcji f). m ( x, λ) x + 4x + x x λ( x x ) x + x + λ x + 8x λ λ x + 8x ( x x ) Następie podstawiamy λ x + 8x do pierwszego rówaia i rozwiązujemy układ rówań złożoy z pierwszego i trzeciego rówaia: x + x + ( x + 8 x ) x x x x 7 38 9 H ((, )) 8 7 38 9 d det() >, d det( ) 5 > 8 7 Poieważ oba wyzacziki są dodatie, więc macierz H jest dodatio określoa, co ozacza, że pukt (, ) jest miimum. 38 9 6
AGEBRA ożeie macierzy: ( AB) C A( BC) A( B + C) AB + AC ( AB) B A ( ABC) C B A Wyzaczik macierzy jest zdefiioway tylko dla macierzy kwadratowej. Wyzaczik macierzy A (ozaczeie A lub det(a)) defiiujemy w sposób rekurecyjy: i j j ij A a ( ) + A, a a oraz j-tej kolumy. ij Warto pamiętać wzory a wyzaczik w przypadku macierzy x i 3x3: a det a aa aa a a, Aij ozacza macierz powstałą z macierzy A poprzez usuięcie i-tego wiersza a a a3 det a a a a a a + a a a + a a a a a a a a a a a a a3 a3 a 33 3 33 3 3 3 3 3 3 3 3 33 Własości wyzaczika: AB A B A A Powiemy, że macierz A jest dodatio (ujemie) określoa, jeżeli dla każdego iezerowego wektora x zachodzi: x Ax > ( x Ax < ). Powiemy, że macierz A jest ieujemie (iedodatio) określoa, jeżeli dla każdego iezerowego wektora x zachodzi: x Ax ( x Ax ). Jak sprawdzać określoość macierzy w praktyce? Niech a a a a a a a a A a a a a 3 3 3 3 33 3 a a a3 a. Defiiujemy astępujące wyzacziki: a a a a 3 a a a a a a a a a d a d d a a a d a a a a 3 3,, 3 3,..., 3 3 33 3 a a a3 a3 a33 a a a a 3. 7
acierz A jest dodatio określoa i,... d i >. acierz A jest ieujemie określoa i,... d i. acierz A jest ujemie określoa d <, d >, d 3 <... acierz A jest iedodatio określoa d, d, d 3... Ślad macierzy defiiujemy tylko dla macierzy kwadratowej: tr( A) a - suma elemetów stojących a główej przekątej (diagoali). i ii Niech c będzie liczbą, a wektorem kolumowym, A macierzą kwadratową. Wówczas prawdą jest: tr( ca) ctr( A) tr( A ) tr( A) tr( A + B) tr( A) + tr( B) tr( AB) tr( BA) a a tr( a a) tr( aa ) tr( ABC) tr( BCA) tr( CAB) acierz A jest macierzą idempoteta, jeśli AA A iiowa iezależość wektorów Wektory α, α,..., α k są liiowo iezależe, jeśli jedyym rozwiązaiem rówaia: są: b b... b k acierz odwrota α α αk α α α k bα + bα +... + bkα k b + b +... + b k α α α k acierz B jest macierzą odwrotą do macierzy kwadratowej A (ozaczeie podkreślić, iż możeie macierzy przez macierz do iej odwrotą jest przemiee: B A ), jeśli BA I. Warto acierz AA A A I. odwrota ie zawsze istieje. Warukiem koieczym (i wystarczającym) a to, żeby istiała macierz odwrota do macierzy A, jest to, żeby wiersze (kolumy) macierzy A były liiowo iezależe. Taką macierz azywamy ieosobliwą. Jak sprawdzać w praktyce czy macierz odwrota istieje? Wystarczy policzyć wyzaczik macierzy, jeśli jest róży od zera to macierz odwrota istieje! Niech A i B będą macierzami ieosobliwymi (istieją macierze odwrote). Wówczas: A A ( A ) A 8
( A ) ( A ) ( AB) B A Rząd macierzy Rząd kolumowy macierzy A to liczba liiowo iezależych kolum macierzy A. Rząd wierszowy macierzy A to liczba liiowo iezależych wierszy macierzy A. Zawsze rząd kolumowy i wierszowy macierzy A są sobie rówe i będziemy je azywać rzędem macierzy A (ozaczeie r( A )). Dowód twierdzeia, że symetrycza macierz idempoteta ma wartości włase rówe lub oraz r( ) tr( ). (szkic dowodu) Z założeia wiemy, iż. Poieważ (rówież z założeia) jest macierzą symetryczą, to możemy ją przedstawić w astępujący sposób: CΓ C (dekompozycja spektrala), gdzie λ λ Γ O λ, λ i są wartościami własymi macierzy, atomiast w kolejych kolumach macierzy C, stoją wektory włase odpowiadające wartością własym. Wektory włase są ortoormale (tz. c c, c c dla i j), więc C C I. Podsumowując wszystkie dotychczasowe spostrzeżeia otrzymujemy: i i i j λ λ λ λ CΓ C{ C Γ C CΓΓ C C C C C I O O λ λ Przemażamy ostatią rówość z prawej stroy przez C i z lewej stroy przez C i otrzymujemy: λ λ λ λ O O λ λ co ozacza, iż dla każdego i musi zachodzić: wartości włase macierzy są rówe lub. λ λ λ λ λ lub λ. Na razie pokazaliśmy, że i i i i i i W dalszej części będzie am potrzeby astępujący fakt: B i C są ieosobliwe, to r( BAC) r( A). Wracając do aszego dowodu, macierze C i C są ieosobliwe (bo wektory włase są liiowo iezależe), więc: r( ) r( CΓ C ) r( Γ ). acierz Γjest macierzą diagoalą, gdzie a diagoali stoi lub, czyli jej rząd musi być rówy liczbie jedyek a diagoali (w tym przypadku będzie to ślad macierzy), co ozacza: r( ) r( Γ ) tr( Γ ). 9
Z drugiej stroy mamy: tr( ) tr( CΓ C ) tr( Γ C C) tr( Γ ). Ostateczie otrzymujemy: r( ) tr( Γ ) tr( ). Aaliza Warukiem koieczym (ale ie wystarczającym!) a istieie ekstremum fukcji f w pukcie gradietu: * β jest zerowaie się k acierz drugich pochodych - Hessia Niech f ( x,..., x) : R R (fukcja skalara). acierz drugich pochodych fukcji skalarej defiiujemy jako: H ( x) f f f f f f O f f f Jeżeli fukcja f jest ciągła oraz ma ciągłe pochode cząstkowe pierwszego i drugiego rzędu, to Hessia jest macierzą symetryczą. Waruek koieczy i wystarczający a istieie ekstremum dla fukcji skalarej Fukcja f ma maksimum w pukcie x *, jeśli: ( x *,..., x *) ( x *,..., x *) ( x*,..., x*) ( x *,..., x *) k (zerowaie się gradietu) oraz H ( x*,..., x*) f x x f x x f x x ( *,..., *) ( *,..., *) ( *,..., *) f x x f x x f x x ( *,..., *) ( *,..., *) ( *,..., *) O f ( x *,..., x *) f ( x *,..., x *) f x ( *,..., x *) jest ujemie określoa. W przypadku miimum, pierwszy waruek się ie zmieia, atomiast Hessia musi być dodatio określoy.
RACHUNEK PRAWDOPDOBIEŃSTWA. Pojęcie wektora losowego. Wektor losowy to wektor, którego elemety są zmieymi losowymi. Dystrybuata wektora losowego x [ x,..., x ] daa jest wzorem: x x x ( ) ( )... F x f t dt dt dt gdzie f ( x ) ozacza łączą gęstość wektora losowego.. Wartość oczekiwaa wektora losowego. Wartość oczekiwaa wektora losowego (lub macierzy), to wektor (lub macierz) wartości oczekiwaych poszczególych elemetów: 3. Warukowa wartość oczekiwaa. E( x ) µ E( X ) µ E( x ) µ Zaczijmy od zdefiiowaia gęstości rozkładu warukowego zmieej y względem x: f ( y x ) f ( x, y) f ( x) Warukowa wartość oczekiwaa y względem x, to: E( y x) yf ( y x) dy Kilka przydatych własości warukowej wartości oczekiwaej: E( ay + by X ) ae( Y X ) + be( Y X ), gdzie a, b R... Jeżeli X i Y są iezależe, to E( Y X ) EY 3. E( E( Y X )) EY 4. Jeżeli Z f ( X ), to E( ZY X ) ZE( Y X ) 5. Nierówość Jesea: φ : R R wypukła, E φ ( y) <, to E( φ( y) x) φ( E( y x)). 6. Dekompozycja wariacji: Var( y) Var( E( y x)) + E( Var( y x)) 4. acierz wariacji-kowariacji wektora losowego. Najpierw defiiujemy macierz:
( X µ )( µ ) ( x µ )( x µ ) ( x µ )( x µ ) ( x µ )( x µ ) ( x µ )( x µ ) ( x µ )( x µ ) ( x µ )( x µ ) ( x µ )( x µ ) ( x µ )( x µ ) ( x µ )( x µ ) X acierz wariacji-kowariacji wektora losowego X to wartość oczekiwaa powyższej macierzy: σ σ σ σ σ σ E[( X µ )( X µ ) ] E( XX ) µµ O σ σ σ acierz wariacji-kowariacji jest zawsze symetrycza i ieujemie określoa. Przydate własości kowariacji: cov( ax + by, cz + dw ) ac cov( X, Z ) + ad cov( X, W ) + bc cov( Y, Z ) + bd cov( Y, W ) cov( Y, X ) jeśli X i Y są iezależe cov( a, X ) gdzie a, b, c, d to skalary, a X, Y, Z, W to zmiee losowe. Warto rówież pamiętać wzór a wariację sumy zmieych losowych: i i i j i< j var( X +... + X ) var( X ) + cov( X, X ) 5. Rozkład ormaly, chi-kwadrat, t-studeta i F Jeżeli zmiea losowa X ma rozkład N(,), to zmiea losowa σ X + m( σ > ) ma rozkład N( m, σ ). Jeżeli X jest wektorem losowym o rozkładzie N (, I ), to BX + m jest wektorem losowym o rozkładzie N ( m, BB ). W ogólości, w wyiki afiiczego przekształceia BX + m wektora losowego X ~ N ( µ, Γ ), otrzymujemy wektor losowy o rozkładzie N( m + Bµ, BΓ B ) (trzeba założyc jedyie, że det( B) ). Niech X,..., X będą iezależymi zmieymi losowymi o rozkładzie N (,). Wówczas zmiea losowa Y X ma rozkład chi-kwadrat z stopiami swobody ( i Y χ i k przypadkiem rozkładu gamma: χ ( k) Gamma(, ). ~ ( ) ).Rozkład chi-kwadrat jest szczególym Niech X i Y będą iezależymi zmieymi losowymi, X ~ N (,), rozkład t Studeta z stopiami swobody ( Z ~ t( )). Y X χ Zmiea losowa Y / ~ ( ). Z ma Niech X i Y będą iezależymi zmieymi losowymi, X χ ~ ( ), ma rozkład F Sedecora z i m stopiami swobody ( Z ~ F (, m )). Y / χ Wówczas zmiea losowa Z ~ ( m). X Y / m
STATYSTYKA. Pojęcie estymatora Niech X,..., X będzie próbą losową. Powiemy, że statystyka g( X,..., X ) jest estymatorem parametru θ Θ, jeśli ie jest fukcją θ oraz przyjmuje wartości z przestrzei parametrów Θ.. Nieobciążoość estymatora, wariacja i efektywość Niech gˆ( X,... X ) będzie estymatorem g( θ ). Wówczas b( θ ) E ( gˆ ( X,... X ) g( θ )) azywamy obciążeiem estymatora, atomiast R( θ ) E ( gˆ ( X,... X ) g( )) θ θ θ azywamy fukcją ryzyka estymatora. Jeśli ( ) powiemy, że estymator jest ieobciążoy i wówczas R( θ ) Var ( gˆ ( X,... X )). θ b θ to W klasie estymatorów ieobciążoych, estymatorem efektywym azywamy te o ajmiejszej wariacji. Efektywość ieobciążoego estymatora ĝ wielkości g( θ ) określamy jako ef ( gˆ ), d ( θ ) θ ( l (,..., )) dθ θ ozacza iformację Fishera zawartą w ciągu obserwacji X,.... X I E f X X 3. Przedziały ufości ( g ( θ )) Var ( gˆ ) I ( θ ) gdzie Niech g( θ ) będzie fukcją iezaego parametru. Rozważmy dwie statystyki g g( X,..., X ) i g g X X (,..., ). ówimy, że [ g, g ] jest przedziałem ufości dla g( θ ) a poziomie ufości α, jeśli dla każdego θ zachodzi: P( g( X,..., X ) g( θ ) g( X,..., X )) α. W przypadku rozkładów ciągłych mamy: P( g( X,..., X ) g( θ ) g( X,..., X )) α. 4. Testowaie hipotez statystyczych Niech będzie daa przestrzeń statystycza, czyli przestrzeń próbkowa wyposażoa w rodzię rozkładów prawdopodobieństwa { P θ, θ Θ }. Poadto Θ Θ Θ, Θ Θ. ówiąc o zagadieiu testowaia będziemy rozważali hipotezę zerową H : θ Θ i hipotezę alteratywą H : θ Θ. Testem hipotezy H przeciw alteratywie H azywamy statystykę δ : Ω {,}, gdzie ozacza decyzję o odrzuceiu H, atomiast ozacza, że ie odrzucamy H. Iymi słowy, testem statystyczym azywamy metodę postępowaia, która możliwym realizacjom próby losowej X,..., X określoej a przestrzei statystyczej przypisuje decyzję odrzuceia (albo przyjęcia) weryfikowaej hipotezy. W celu zbudowaia testu do weryfikacji postawioej hipotezy H ależy skostruować dwa dopełiające się zbiory W i W ( W W, W W R) oraz pewą statystykę T ( X,..., X ), zwaą statystyką testową, przy czym: jeżeli T ( X,..., X ) W, to H odrzucamy jeżeli T ( X,..., X ) W, to H przyjmujemy. Zbiór W azywamy zbiorem krytyczym, a zbiór W zbiorem przyjęć. Przeważie test ma postać δ ( X,..., X ) I( T( X,..., X ) > c), gdzie cjest liczbą zwaą poziomem krytyczym. W wyiku testowaia hipotezy H możemy popełić jede z dwu astępujących błędów: θ 3
) odrzucimy weryfikowaą hipotezę H, gdy jest oa prawdziwa tzw. błąd pierwszego rodzaju; ) przyjmiemy weryfikowaą hipotezę H, gdy jest oa fałszywa tzw. błąd drugiego rodzaju. Sta rzeczy Decyzja δ δ ( δ ) H prawdziwa O.K. Błąd I rodzaju P H H prawdziwa Błąd II rodzaju P H ( δ ) O.K. P( δ H ) P( δ H ) azywamy fukcją mocy testu dla hipotezy alteratywej. ówimy, że δ jest testem a poziomie istotości α, jeśli sup P( δ H ) α. θ Θ Powtórzeie z Aalizy. Pochoda Niech f ( x,..., x ) : R R (fukcja skalara). Pochodą fukcji skalarej względem wektora x defiiujemy jako wektor pochodych cząstkowych: m Niech f ( x,..., x ) : R R (fukcja wektorowa). Powyższy zapis możemy iterpretować w astępujący sposób: f ( x,..., x ) ( f( x,..., x ),..., fm( x,..., x )), gdzie f i są fukcjami skalarymi. Na przykład: f : R R 3 f ( x, x, x3) ( x, x x3), f( x, x, x3) x, f( x, x, x3) x x3 + +. Pochoda fukcji wektorowej względem wektora x to macierz wymiaru xm: m m m a β. a, a β β a Niech β [ β β β ] a [ a a a ],. Defiiujemy fukcję skalarą: k k 4
f ( β,..., β ) a β a β + a β +... + a β. Dla każdego i k k k skalarej otrzymujemy: βi a i, więc zgodie z defiicją pochodej fukcji (**) a β Pochodą fukcji skalarej f względem x defiiujemy jako: a β a a a k k Korzystając z powyższej defiicji otrzymujemy: a a ak a a β a β a β a β (*) [ ] k Aβ 3. A, A A Niech A będzie macierzą wymiaru x atomiast β wektorem -elemetowym. Wówczas: a a a i i β a β i a a a β a i iβ i Aβ O a a a β a i iβ i. Czyli: a iβ i i a i i i a i iβ i β Aβ {Korzystamy z (*)}A a a a a a a β A [ β β βk ] a i iβi a i iβi a i iβ i, czyli: O a a a a i i a i i i i a i i i A β β β K {Korzystamy z (**)}A Aβ 4. ( A + A ) β β 5
Przy ozaczeiach z podpuktu 3) mamy: β Aβ β β a. Wówczas: Rozwiiemy l-ty elemet powyższej macierzy: Teraz możemy zapisać: Aβ i, j i j ij β β a i, j i j ij β β a Aβ β i, j i j ij β β a i, j i j ij. β...... i, j iβ ja β β ij ja j + β β j j ja j + + βl β j jalj + + β β j jaj l βa l + βa l +... + βlall + β jalj +... + βal β jalj + β ja jl β j ( alj + a jl ) β j ( a j + a j) j β j ( a j + a j) j ( A + A ) β β j ( aj + a j) j l j j j j Aβ Jeśli macierz A jest symetrycza, to A A, co upraszcza powyższy wzór do postaci: β Aβ 5. Warukiem koieczym (ale ie wystarczającym!) a istieie ekstremum fukcji f w pukcie się gradietu: * β jest zerowaie k 6. acierz drugich pochodych - Hessia Niech f ( x,..., x ) : R R (fukcja skalara). acierz drugich pochodych fukcji skalarej defiiujemy jako: 6
H ( x) f f f f f f O f f f Jeżeli fukcja f jest ciągła oraz ma ciągłe pochode cząstkowe pierwszego i drugiego rzędu, to Hessia jest macierzą symetryczą. 7. Waruek koieczy i wystarczający a istieie ekstremum dla fukcji skalarej Fukcja f ma maksimum w pukcie x *, jeśli: ( x *,..., x *) ( x *,..., x *) ( x*,..., x*) ( x *,..., x *) k (zerowaie się gradietu) oraz H ( x*,..., x*) f x x f x x f x x ( *,..., *) ( *,..., *) ( *,..., *) f x x f x x f x x ( *,..., *) ( *,..., *) ( *,..., *) O f ( x *,..., x *) f ( x *,..., x *) f x ( *,..., x *) jest ujemie określoa. W przypadku miimum, pierwszy waruek się ie zmieia, atomiast Hessia musi być dodatio określoy. 7