Regresja 39. REGRESJA.. Regresja perwszego rodzaju Nech (, będze dwuwyarową zeą losową, dla które steje kowaracja. Nech E( y ozacza warukową wartość oczekwaą zdefowaą dla przypadku zeych losowych typu skokowego oraz cągłego. Zbór puktów a płaszczyźe O o współrzędych ( x, E(, x azywa sę lą regresj zeej losowej względe zeej losowej. I aalogcze zbór puktów a płaszczyźe O o współrzędych ( E( y, y azyway lą regresj zeej losowej względe. Z własośc rozkładu oralego (patrz p. Plucńscy, 990 wyka, że dla dwuwyarowego rozkładu oralego zdefowae wyżej le regresj są la prosty. Prosta regresj względe a rówae x + ρ y (. (. Prosta regresj względe a rówae y + ρ x (. (. Dla przypadku dwuwyarowej zeej losowe typu skokowego le regresj są przelczaly zbora puktów. PRZKŁAD. (Plucńscy, 990. Obwód elektryczy składa sę z dealego źródła apęcowego (tz. źródła, a którego zacskach pauje stałe apęce ezależe od obcążea oraz podłączoego do jego zacsków krofou. Opór R krofou zależy od
40 Regresja atężea dźwęków w otoczeu oczywśce jest zeą losową. Iloczy RJ, gdze J jest atężee prądu w obwodze, jest stały rówy sle elektrootoryczej źródła. Ozaczy RJccost. Nech gęstoścą prawdopodobeństwa f R zeej losowej R będze f R ( r e π ( r, gdze >> 0. Zaleźć: a lę regresj zeej losowej J względe zeej losowej R; b wartość oczekwaą E( J. Poeważ dla r 0 dystrybuata warukowa jest postac 0 ~~~~~~ dla ~~~~~~~ j c r, F( j r ~~~~~~ dla ~~~~~~~ j > c r, węc E( J r c r dla r 0. Rozwązae przypadku r 0 jest eteresujące, bowe P( R 0 0. La regresj dla r 0 jest węc gałęzą hperbol. Zauważy, że do rozwązaa tej częśc przykładu e potrzeba była foracja o postac gęstośc prawdopodobeństwa zeej losowej R. Wartość oczekwaa E( J e steje, bowe π exp( ( r dr +. r W rozwązyway przykładze ay do czyea z przypadke, gdy e steje wartość oczekwaa E( J r, atoast dla wszystkch r 0 steje warukowa wartość oczekwaa E( J r. Ogóle oża udowodć, że jeżel steje wartość oczekwaa E( zeej losowej, to steje warukowa wartość oczekwaa E( x zeej losowej względe dowolej zeej losowej dla prawe wszystkch x.
Regresja 4 PRZKŁAD.. Nech gęstoścą prawdopodobeństwa f dwuwyarowej zeej losowej (, będze (, f x y [( ( ] x yaxy + ax + ay a e x > 0, y > 0 0 dla pozosta³ ych x, y gdze 0 < a <. Zaleźć le regresj. Poeważ f x e dla x > 0 ( x 0 dla x 0, węc [ ] ( ( ( f y x + ax + ay a e y ay, dla x > 0, y > 0. I wobec tego ( ( E x a ax yf y x dy + +, 0 ( + ax aalogcze ( E y a ay + + ( + ay. La regresj zeej losowej względe zeej losowej a rówae a ax ( x + +, ( + ax ϕ
4 Regresja a zeej losowej względe rówae + a + ay. ϕ ( + ay Jest oczywste, że jeżel zee losowe, są ezależe ają wartośc oczekwae odpowedo rówe E(, E(, to ( ( ( ( E y E, E x E, czyl le regresj są prosty rówoległy odpowedo do os O oraz O. Le regresj ają astępującą własość alośc dotyczącą alzowaa ze względu a dobór fukcj ϕ kwadratu różcy poędzy zeą losową a zeą losową ϕ(. Twerdzee.. Nech daa będze dwuwyarowa zea losowa (,. Wyrażee E ϕ ( przyjuje wartość ajejszą, czyl ϕ( E (.3 wtedy, gdy z prawdopodobeństwe fukcja ϕ daa jest wzore ( E( x ϕ x czyl ({ ( ( } P x:ϕ x E x. Twerdzee. ożey wykorzystać do celów praktyczych w astępujący sposób.
Regresja 43 Przypuśćy, że zaobserwowao wele wartośc (puktów a płaszczyźe dwuwyarowej zeej losowej (,.Ozaczy je przez ( x, y,,,..,. Przypuśćy, że prawdopodobeństwo każdej z tych wartośc jest rówe. Na podstawe tych obserwacj chcey zaleźć taką fukcję ϕ, która będze ajlepszy obraze zależośc poędzy zey losowy,. Rozpatryway zbór obserwacj (zbór puktów a płaszczyźe oże sugerować, że ależy szukać fukcj ϕ w określoy zborze fukcj, p. w zborze fukcj lowych, weloaów stopa, gdze ekoecze jest, fukcj wykładczych, hperbol td. Dla zadaej postac fukcj proble sprowadza sę do wyzaczea współczyków tej fukcj. Sugesta o postac fukcj opera sę a ty, że względy wzuale ówą o kocetracj puktów w blsk otoczeu tej hpotetyczej l. Na Rys.. przedstawoo zbór puktów przykładowo dwe le, o których jesteśy skło powedzeć, że wokół ch kocetrują sę pukty. Są to sforułowaa eprecyzyje, oża wyczuć jedye ch ses tucyjy. Możey przyjować róże krytera tego, aby lę l Rys.. Róże obrazy kocetracj obserwowaych zależośc. uzać za taką, wokół której kocetrują sę pukty. Na przykład żądać, aby d lub d,
44 Regresja gdze d jest odległoścą puktu ( x, y od l l. Jeżel rówae l l jest x ( y to ożey żądać, aby ϕ, ( y x ϕ ( lub x ( y ϕ (sua odległośc lub kwadratów odległośc erzoych rówolegle do os O. Jeżel rówae l l jest y ϕ ( x, to ożey żądać, aby ( x y ϕ lub ( y ( x ϕ (.4 (sua odległośc lub kwadratów odległośc erzoych rówolegle do os O. Moża zastaowć sę ad poszczególy ara dopasowaa dojść poowe za poprzedka do wosku, że ajlepszy kryteru dopasowaa jest ostate (.4. Dla dwuwyarowej zeej losowej (, typu skokowego waruk (.3 (.4 są rówoważe. Z twerdzea. wyka, że waruek (.3 jest spełoy, jeżel jako ϕ weźey warukową wartość oczekwaą. Jeżel węc jako kryteru doboru ajlepszej fukcj przyjey waruek (.4, to jako ϕ ależy wząć warukową wartość oczekwaą zeej losowej względe... Regresja drugego rodzaju Le regresj perwszego rodzaju tylko w szczególych przypadkach są la prosty. Z drugej stroy zależość lowa jest ajprostszy rodzaje zależośc fukcyjej. Jest to a ogół ajwygodejsza postać do dalszych badań. Mając awet śwadoość popełaa pewych błędów przyjujey, że zależość poędzy rozważay zey jest lowa
Regresja 45 wskazujey jedye etody ajlepszego (w określoy sese doboru współczyków fukcj lowej. Prostą regresj (drugego rodzaju zeej losowej względe zeej losowej azyway prostą + x y, gdze są lczba, dla których spełoa jest zależość E. (.5 Wykażey, że (.5 jest spełoe, jeśl ρ (.6 ρ (.7 Zauważy, że + ( E E + + ( ( E E E, ( ( ϕ ρ + + Aby zaleźć u fukcj ϕ zajdujey jej pochode cząstkowe, przyrówujey je do zera otrzyujey wówczas rówaa 0 ( ρ, 0 Rozwązae tego układu rówań są ρ, ρ Jest oczywste, że dla wyzaczoych jest spełoy waruek (.5. Prosta regresj (drugego rodzaju zeej losowej względe zeej losowej a węc postać ( x y ρ (.8 Prosta regresj (drugego rodzaju Zeej losowej względe zeej losowej a rówae ( y x ρ (.9 Współczyk kerukowe tych prostych zwae współczyka regresj są odpowedo rówe ρ, ρ,, (.0
46 Regresja Proste regresj pokrywają sę, gdy ρ. Porówując rówaa (. (. z (.9 (.8 wdzy, że w przypadku rozkładu oralego le regresj perwszego rodzaju pokrywają sę z prosty regresj drugego rodzaju. Wprowadzoe pojęca l regresj perwszego rodzaju prostych regresj drugego rodzaju uogóla sę a przypadek zeej losowej -wyarowej, gdze. Rozważa sę wtedy powerzche regresj. Teat te przedstawoy jest p. w [6]. PRZKŁAD.3. Dwuwyarowa zea losowa (, a rozkład prawdopodobeństwa poday w tabelce: / 0 4 6 0 /6 0 0 0 0 /6 /6 0 0 /6 /6 0 3 0 0 0 /6 Zaleźć le regresj E ( Ix, E ( Iy oraz proste regresj drugego rodzaju. Zaast E ( Ix psać będzey E (I x. Poeważ E ( 0 P( 0 3 k 0 y P( 0, k y k 0 E ( 3/, E( 4 3/ E( 6 3 węc lą regresj względe jest zbór {(0, 0, (, 3/, (4, 3/, (6,3}. (. Aalogcze lą regresj względe jest zbór (3.00 {(0, 0, (3,, (3,, (6,3}. (. Następe oblczay E (3, V(/6, E(3/, V(/, E(6, ρ, 9 Prostą regresj drugego rodzaju względe jest. a względe jest y 3 9 ( x 3 3 y ( x 3 8 Proste te pokazae są a Rys.. Na ty say rysuku krzyżyka zazaczoo pukty
Regresja 47 zboru (.,a kółeczka pukty zboru (.. y 4 3 3 4 5 6 7 x Rys.. Le regresj perwszego oraz drugego rodzaju.
48 Regresja Probley rozdzału. Le regresj perwszego rodzaju.. Róże krytera dopasowaa l do chury obserwacj. 3. Prosta regresj drugego rodzaju. 4. Proste regresj lowo zależych zeych. 5. Proste regresj dla ezleżych zeych.