Wkład b. odstawowe zadaia idetfikaci. Wbór optmalego model
Wiki: wioski i hipotez metod proektowaia metod zarządzaia algortm sterowaia metod diagostcze odiesieie wików do obiekt Efekt: owa wiedza owe obiekt procedr zarządzaia rządzeia sterące aparatra pomiarowo- -kotrola zawisko proces obiekt ekspermet wiki badacz Cel: pozaie proektowaie zarządzaie sterowaie diagostka itp. model doskoaleie (poprawa) model porówaie
3
Obiekt Idetfikaci Zaa charakterstka obiekt Obiekt w klasie modeli ie est zaa charakterstka obiekt Wbór Optmalego model omiar bez zakłóceń omiar z zakłóceiami Obiekt determiistcz Obiekt losow Wzaczeie parametrów charakterstki obiekt Estmaca parametrów charakterstki obiekt Wbór optmalego model problem determiistcz Wbór optmalego model problem probabilistcz 4
D e t e r m i i s t c z L o s o w Obiekt w klasie modeli U w w Metod: amieszch kwadratów Maksmale wiarogodości Baes a m F F( ) F U df U U F U W Wbór optmalego model f Obiekt idetfikaci f eła iformaca Regresa I rodza Regresa II rodza ( ) iepeła iformaca Estmaca wskaźika akości Estmaca parametrów rozkład Estmaca rozkład 5 mi Model est optmal: dla zadae serii pomiarowe przętego model przętego wskaźika akości idetfikaci f U f U
Obiekt idetfikaci Model Wskaźik akości idetfikaci 6
Obiekt idetfikaci Model Wskaźik akości idetfikaci 7
Sformłowaie problem 8
Sformłowaie problem Carakterstka statcza obiekt: F zaa fkca wektor weść wektor wść U R S R L F Fkca aproksmąca (model): ( ) arbitralie zadaa fkca wektor wść model wektor parametrów model U R R R D U podzbiór przestrzei weść przestrzeń weść przestrzeń wść g L - fkca wagi 9
Sformłowaie problem Miara różic pomiędz wartością fkci aproksmowae i aproksmące w pkcie : D q qf L q l l L ( l) ( l) gdzie p.: q ( l) ( l) wmiarowe wście L q F q F edowmiarowe wście ( L )
Sformłowaie problem Wskaźik akości aproksmaci miara różic pomiędz fkcą Aproksmowaą i aproksmącą ( ) w obszarze F D F D qf g d p. : D F g d D
Sformłowaie problem Wskaźik akości aproksmaci miara różic pomiędz fkcą Aproksmowaą i aproksmącą ( ) w obszarze F D F D maxq F g p.: D max F g D
Sformłowaie problem Optmal model: ( ) gdzie: optmal wektor parametrów model: mi 3
Model: R df gdzie p. : R Wskaźik akości aproksmaci: d g F D d g F D czli: 4 R df
Warek koiecz optmalości wektora : grad R d g F D Rozwiązaie powższego rówaia est astępące: d g F d g D D R R 5
Zaważm że w rozwiązai wstępe macierz: d g d g d g d g d g d g d g d g d g d g R R R R R R D D D D D D D D D D 6
Jeżeli wbierzem fkce i ortoormale czli takie że: D Wówczas macierz : i g d i R for for i i g I d D i algortm aproksmaci praszcza się do postaci: est macierzą edostkową D F g d 7
Charakterstka statcza obiekt (fkca aproksmowaa: F Model (fkca aproksmąca): () () odzbiór przestrzei weść (odciek): Fkca wagi: D R : g for for gdzie: () ( ) g d Wskaźik akości aproksmaci: F D 8
Wskaźik akości aproksmaci przme postać: () () g d d F D grad Warek koiecz optmalości est astępąc: () () d a rozwiązaie ma postać: d d d d 3 d d 3 4 d d 9
..3 3 4 3 4 5 3 4 3 5 4 4 3 4 3 4 5 3 4 3 5 4 4 3 4 3 4 5 3 4 3 5 4 4 3 3 4 3 4 3 3 () () d d d d d d d d d d d d d d o prostch przekształceiach otrzmem:
Model optmal:..3 Iterpretaca graficza:
Obiekt idetfikaci
Sformłowaie problem Ekspermet: U Fkca aproksmąca (model): ( ) Miara różic pomiędz wartością zmierzoą wścia obiekt i wartością wzaczoą z model dla te same wartości weścia t. dla każdego pomiar: q q 3
Sformłowaie problem Wskaźik akości idetfikaci U gdzie: df q q p. : 4
Sformłowaie problem Wskaźik akości idetfikaci U gdzie: df max max q q max max p. : 5
Sformłowaie problem Model optmal: ( ) Obiekt idetfikaci mi Model est optmal: dla zadae serii pomiarowe przętego model przętego wskaźika akości idetfikaci 6
Ekspermet: U () () Model: gdzie () () Wskaźik akości idetfikaci: 7
grad Warki koiecze optmalości maą postać Rozwiązaie powższego rówaia przme postać: () () a po przekształceiach: 8
Wektor parametrów wzaczam a podstawie pomiarów oawia się ow + pomiar Jak wzaczć (poprawić) parametr korzstaąc z owego pomiar? 9 A ` `
rzdate przekształceia algebraicze: CA B CA B D A A C BD A B D C wektor kolmow A A A A A D A A A A A
Ozaczm przez: iech: owższe przme postać:
gdzie: K K
odsmowąc otrzmem astępąc algortm K K A gdzie:
34
35
...... Σ κ S S S s s s Φ fkca aktwaci 36
dla dla erceptro Φ(κ) κ Φ(κ) Adalie Adaptive Liear ero κ e e tah ero sigmoidal e 37
38 U ero Adalie (Adaptive Liear ero) κ S s s s Uczeie: S S o ż bło lb rekrecie
39 U ero Adalie (Adaptive Liear ero) κ S s s s Uczeie: S S o ż bło lb rekrecie
4 K K A
4 U odobie ak ero Adalie (Adaptive Liear ero) κ S s s s Uczeie: S S ` o ż bło lb rekrecie - wzaemie edozacza
4 K K A
43 mercza metoda optmalizaci (to będzie) mi η - współczik czeia ero adalie
44 mercza metoda optmalizaci (to będzie) mi η - współczik czeia ϕ fkca aktwaci różiczkowala
45
46 i s i I s s i i i s i I s s i i i s i I s s i i i s i I s s i i I df I df I i i i i. i i i
47 df I I I. df I I I I I I I. J.. 3 J. J J J J df df Φ Φ Φ Φ L J J J J I J J J L J. df J
L L l l l Φ Φ Φ s i s ~ s i i i s ~ l s ~ s i i s i l s ~ s i i s df l l l l l Φ l L I J i I J J i df i I ~ p p i p dla dla J J J i d ( i df i ) i i d s ~ i s i I df s i s s. i i ~ s ~ s i s i i s I J i I J J. 48
49
Obiekt Idetfikaci Zaa charakterstka obiekt Obiekt w klasie modeli ie est zaa charakterstka obiekt Wbór Optmalego model omiar bez zakłóceń omiar z zakłóceiami Obiekt determiistcz Obiekt losow Wzaczeie parametrów charakterstki obiekt Estmaca parametrów charakterstki obiekt Wbór optmalego model problem determiistcz Wbór optmalego model problem probabilistcz 5
D e t e r m i i s t c z L o s o w Obiekt w klasie modeli U w w Metod: amieszch kwadratów Maksmale wiarogodości Baes a m F F( ) F U df U U F U W Wbór optmalego model f Obiekt idetfikaci f eła iformaca Regresa I rodza Regresa II rodza ( ) iepeła iformaca Estmaca wskaźika akości Estmaca parametrów rozkład Estmaca rozkład 5 mi Model est optmal: dla zadae serii pomiarowe przętego model przętego wskaźika akości idetfikaci f U f U
Są wartościami par zmiech losowch f f 5
Obiekt idetfikaci z losowo zmieą wielkością 53
Sformłowaie problem Charakterstka statcza obiekt idetfikaci : F f wartość zmiee losowe (losowo zmiea wielkość w obiekcie) - fkca gęstości rozkład prawdopodobieństwa zmiee losowe L R F wartość zmiee losowe przekształceie zmiee losowe fkca wzaemie edozacza względem a zatem istiee fkca odwrota : F 54
Warkowa gęstość rozkład prawdopodobieństwa zmiee losowe pod warkiem że zmiea losowa : gdzie f ( ) J F f F F ( ) JF ( ) wartość zmiee losowe o gęstości rozkład prawdopodobieństwa ( ) Weście i wście są wartościami par zmiech losowch f S U R R L 55
Są wartościami par zmiech losowch f f 56
Dwa możliwe przpadki eła iformaca probabilistcza łącza gęstość rozkład prawdopodobieństwa f par zmiech losowch lb warkowa gęstość rozkład prawdopodobieństwa i brzegowa są zae f f iepeła iformaca probabilistcza łącza gęstość rozkład prawdopodobieństwa par zmiech losowch istiee ale ie est zaa W zamia dspoem pomiarami: które są wartościami par zmiech losowch 57
Model: f ( ) f ( ) f - szkam fkci - est zae Wskaźik akości: E q q U Model optmal: mi Obiekt idetfikaci f d d ( ) 58
Dla staloego E E q q warkowa wartość oczekiwaa ma postać: ( ) E q U q Optmal model otrzmem: mi Dla : q( ) f d f d f d Wskaźik akości ma postać: E f d 59
Regresa I rodza E W wik miimalizaci powższego wskaźika względem otrzmem optmal model: f d ( ) E f d 6
rzkład regresa I rodza dla rozkład ormalego Łącza gęstość rozkład par zmiech losowch f LS gdzie : macierz kowariaci m exp m ma postać: m m m m - wartości oczekiwae zmiech losowch odpowiedio : i Warkowa fkca gęstości prawdopodobieństwa ma postać: f L exp m m 6
rzkład regresa I rodza dla rozkład ormalego f L exp m m Macierz kowariaci: Wartość oczekiwaa: m m m Optmal model: ( ) E m m m ( ) A b gdzie: A b m m 6
Model: ( ) - szkam wektora parametrów zadaa fkca U R S Wskaźik akości: E q wektora parametrów model q R L R mi U R f d d Optimal model: ( ) 63
Regresa II rodza Dla: q( ) U f d d mi f f ( ) 64
Cz est akaś relaca pomiędz regresą I rodza i II rodza? Wskaźik akości: rzmąc: E ~? ~ U f d d ( ) ( ) oraz f ( ) f ( ) f ( ) U otrzmem: f f d d 65
U U U f f U U U f d f f f f d d d d d f d f f d f d d d 66
U U U f d f d f f f U U d f d f d d d 67
U f d d f U d mi f mi U d Regresa I rodza Fkca wagi Regresa II rodza est alepszm przbliżeiem regresi I rodza z fkcą wagi będącą gęstością rozkład prawdopodobieństwa weścia 68
Sformłowaie problem 69
Relaca pomiędz regresą I rodza a regresą II rodza o Regresa II rodza est alepszm przbliżeiem regresi I rodza z fkcą wagi będącą gęstością rozkład prawdopodobieństwa weścia f f 7
Łącza gęstość rozkład prawdopodobieństwa par zmiech losowch istiee ale ie est zaa W zamia dspoem pomiarami: które są wartościami par zmiech losowch f f 7
Estmaca wskaźików akości Estmaca parametrów rozkład prawdopodobieństwa ieparametrcza estmaca gęstości rozkładów prawdopodobieństwa 7
Ekspermet: Dla staloego weścia: dokoem wielokrotego pomiar wścia. m W wik otrzmem: 'm' m M m gdzie: M liczba pomiarów wścia dla staloego weścia. liczba różch wartości weść m ' M liczba wszstkich pomiarów 73
Oszacowaie wskaźika akości: E q q f d dla M M mi M q M M M m m M M M 74
Dla q Wskaźik akości: dla staloego E Estimate of I tpe regressio: M M M m m m f d ( ) E M f d M m m 75
Oszacowaie wskaźika akości: lb q M m m q mi d d f E U 76
Estmaca parametrów gęstości rozkład prawdopodobieństwa arametr gęstości rozkład prawdopodobieństwa ie są zae f f f - kow fctio - ieza wektor parametrów A Fkca wiarogodości f L U 77
Oszacowaie: max L U L U U A d d f f q mi d d f f Regresa I rodza Wskaźik akości: Wskaźik akości: d d f q U mi 78
x zmiea losowa fkca gęstości rozkład prawdopodobieństwa istiee lecz ie est zaa. dim x= Obserwace: x x x X Estmator arzea : x f gdzie: przkład f x h x x; X h x h K x x lim h lim h K zaa fkca ądra taka że: x h c c f x x sp K xx x x K xdx K x dx lim K x X x X x x x 79
rzkład fkci ądra x dla x dla x K x x x e x K p p x x x K K x 8
Estmator arzea fkci gęstości rozkład prawdopodobieństwa par zmiech losowch : Estmator arzea fkci gęstości rozkład prawdopodobieństwa zmiee losowe : h K h K h U f S L ; S h K h U f ; 8
Estmator arzea fkci gęstości rozkład warkowego prawdopodobieństwa : f L h K h K h K h U f U f U f ; ; ; 8
Kosekwetie: Dla: d U f q U ; ; U U U U mi ; q L h K d h K h K h d U f U ; ; Regresa I rodza 83
Dla specale postaci fkci takie że mam: K K K L d h K h Wówczas regresa I rodza przme postać: h K h K U ; 84
Optimal model: d d U f q U U ; ; U U U ; mi ; h K h K h U f S L ; 85
D e t e r m i i s t c z L o s o w Obiekt w klasie modeli U w w Metod: amieszch kwadratów Maksmale wiarogodości Baes a m F F( ) F U df U U F U W Wbór optmalego model f Obiekt idetfikaci f eła iformaca Regresa I rodza Regresa II rodza ( ) iepeła iformaca Estmaca wskaźika akości Estmaca parametrów rozkład Estmaca rozkład 86 mi Model est optmal: dla zadae serii pomiarowe przętego model przętego wskaźika akości idetfikaci f U f U
87