Wykład 2a. Podstawowe zadania identyfikacji. Obiekt w klasie modeli

Transkrypt

1 kład a. Podstaoe adaia idetikacji. Obiekt klasie modeli

2 Model jest proscoą repreetacją sstem casie i prestrei storoą amiare romieia acoaia sstem recistego Zesta róań opisjącc bada proces o Zależości statce o łasości damice róaia różickoe różicoe o Modele probabilistce Zesta pradic dań logicc o ieda eksperta

3 iki: ioski i ipote metod projektoaia metod arądaia algortm steroaia metod diagostce odiesieie ikó do obiekt Eekt: oa ieda oe obiekt procedr arądaia rądeia sterjące aparatra pomiaroo- -kotrola jaisko proces obiekt ekspermet iki badac Cel: poaie projektoaie arądaie steroaie diagostka itp. model doskoaleie (popraa) model poróaie 3

4 4

5 Zadaie idetikacji proces toreia model matematcego obiekt a podstaie obiekt ejście Obiekt idetikacji jście Idetikator MODEL 5

6 . Określeie obiekt idetikacji. Określeie klas modeli 3. Orgaiacja ekspermet 4. aceie algortm idetikacji 5. koaie idetikatora 6

7 Obiekt idetikacji ejście jście akłóceia mierale akłóceia iemierale 7

8 Aalia jaisk Aalia dac pomiaroc t t ( t) t Model arbitral Model opart a ied eksperta 8

9 Obiekt klasie modeli Obiekt idetikacji Carakterstka obiekt 9

10 bór optmalego model Obiekt idetikacji Ocea różic pomięd jściem obiekt i model Carakterstka obiekt Model Model 0

11 Obiekt statc Y Carakterstka obiekt

12 Obiekt damic T t) T t t YT ( t t t T ) 0 0 ( Obseracje dskrete t t t Daamic obiekt dskret t t T 0 t ) Y ( t ). ( Y.

13 Ciągł obiekt damic Dla sgał ejścioego lb brac cilac ejść i jść ( t) T t 0 ( t ) ( t ) 0 0 t T t 0 rejestrjm odpoiedi sgał jścio t t t T obserjem odpoiedio ciąg 0

14 Ekspermet pas o Sgał ejścioe : są tlko obseroae Ekspermet akt ( t) T t 0 ( t ) 0 T t o Sgał ejścioe : t t mogą bć 0 aprojektoae (aplaoae) 4

15 ejście Obiekt idetikacji jście Idetikator Y MODEL Y Seria pomiaroa ejść iki pomiaró jść Algortm idetikacji 5

16 Y a Q( a) a * ( a ) 6

17 Algortm idetikacji o Program komptero o Realiacja sprętoa 7

18 Zadaie idetikacji proces toreia model matematcego obiekt a podstaie obiekt aceie parametró carakterstki obiekt Estmacja parametró carakterstki obiekt bór optmalego model problem determiistc bór optmalego model problem probabilistc 8

19 kład a. Podstaoe adaia idetikacji. Obiekt klasie modeli

20 0

21 acaie Parametró Obiekt

22 Obiekt Idetikacji Zaa carakterstka obiekt Obiekt klasie modeli ie jest aa carakterstka obiekt bór Optmalego model Pomiar be akłóceń Pomiar akłóceiami Obiekt determiistc Obiekt loso aceie parametró carakterstki obiekt Estmacja parametró carakterstki obiekt bór optmalego model problem determiistc bór optmalego model problem probabilistc

23 D e t e r m i i s t c L o s o Obiekt klasie modeli Y Metod: ajmiejsc kadrató Maksmalej iarogodości Baes a m F( ) F( ) Y F d ( Y ) ( Y ) F ( ) bór optmalego model Obiekt idetikacji ( ) Peła iormacja Regresja I rodaj Regresja II rodaj ( ) * Q * ( ) * ( ) mi Q ( ) Y Model jest optmal: dla adaej serii pomiaroej prjętego model prjętego skaźika jakości idetikacji ( ) iepeła iormacja Estmacja skaźika jakości Estmacja parametró rokład Estmacja rokład 3 ( Y )

24 Obiekt Idetikacji F( ) 4

25 Sormłoaie problem Carakterstka statca obiekt: F aa kcja ektor ejść ektor jść R Y R S L Y prestreń ejść prestreń jść R iea parametr carakterstki obiekt R prestreń parametró F( ) 5

26 Pomiar: Y 6

27 Pkt pomiaroe pokrają się pktami carakterstki obiekt atem dla każdego pomiar pradie jest róaie: aartm apisie ma oo postać: Oacając pre: kład róań prjmje postać: F( ) F( ) F( ) F( ) F ( ) F( ) F( ) F ( ) Y F ( ) d 7

28 Y F ( ) d ( Y ) ( Y ) F F - Fkcja odrota ględem - Algortm idetikacji Licba koiecc pomiaró spełia arek: L R Y F ( ) 8

29 Prkład Model T ( ) F gdie: ( ( ) ) (R) ( () () R) Z arkiem: R 9

30 Dla daego model kład róań ikając pomiaró ma postać: A artej postaci : lb Y R d ( ) R T T T T ( ) ( ) ( ) R R T R Y T ( ) R 30

31 gdie: d ( ) ( ) ( ) ( ) R R arek idetikoalości: det T 0 R Algortm idetikacji ma postać: R T Y T ( Y ) ( ) R R R R 3

32 Scegól prpadek: carakterstka liioa. tm prpadk kład róań ma postać: a algortm idetikacji: T R Y T R T T R YR R Y R arkiem idetikoalości: det 0 R 3

33 33 Estmacja parametró model

34 Obiekt Idetikacji Zaa carakterstka obiekt Obiekt klasie modeli ie jest aa carakterstka obiekt bór Optmalego model Pomiar be akłóceń Pomiar akłóceiami Obiekt determiistc Obiekt loso aceie parametró carakterstki obiekt Estmacja parametró carakterstki obiekt bór optmalego model problem determiistc bór optmalego model problem probabilistc 34

35 D e t e r m i i s t c L o s o Obiekt klasie modeli Y Metod: ajmiejsc kadrató Maksmalej iarogodości Baes a m F( ) F( ) Y F d ( Y ) ( Y ) F ( ) bór optmalego model Obiekt idetikacji ( ) Peła iormacja Regresja I rodaj Regresja II rodaj ( ) * Q * ( ) * ( ) mi Q ( ) Y Model jest optmal: dla adaej serii pomiaroej prjętego model prjętego skaźika jakości idetikacji ( ) iepeła iormacja Estmacja skaźika jakości Estmacja parametró rokład Estmacja rokład 35 ( Y )

36 iemierale ielkości losoe Zakłóceia poiaroe ejście e Obiekt idetikacji jście Sstem pomiaro ik pomiar Estmata parametró Algortm estmacji 36

37 Zakłóco pomiar ielkości icej

38 Obiekt determiistc akłóco pomiar jścia gdie: algortm estmacji estmata parametr

39 Pomiar jścia obiekt akłóceiami pomiaromi F ( ) ( ) F( ) m 39

40 iemieral loso parametr obiekcie gdie: Y algortm estmacji estmata parametr

41 iemieral loso parametr obiekcie ora akłóco pomiar jścia iemierale ielkości losoe Zakłóceia poiaroe ejście e Obiekt idetikacji jście Sstem pomiaro ik pomiar Estmata parametró Algortm estmacji 4

42 4

43 Sormłoaie problem Opis sstem pomiaroego: v ( ) gdie: v V aa kcja ajemie jedoaca ględem : Z V ( v) v + Prkład kcji : ( ) v V prestreń pomiaró( dim dim L )

44 Sormłoaie problem Zakłóceia pomiaroe: artość mieej losoej prestrei kcja gęstości rokład pradopodobieństa mieej Z obseroa ektor ielkości artość mieej losoej kcja gęstości rokład pradopodobieństa mieej iki pomiaró: V v v v R R

45 Poskjem algortm estmacji: ( V ) Możlie roiąaia: o Metoda ajmiejsc kadrató o Metoda maksmalej iarogodości o Metod Baes a

46 Założeia: v + E Var akłóceia addte 0 artość ocekiaa akłóceń osi ero skońcoa ariacja akłóceń Empirca ariacja akłóceń: Var ( V ) ( v ) Algortm estmacji otrmjem miimalijąc empircą ariacje akłóceń: ( V ) Var ( V ) mivar ( V ) Algortm estmacji: v

47 Metoda maksmalej iarogodości Założeia: ( ) v sstem pomiaro opisa jest doolą kcją ajemie jedoacą ględem Postać kcji gęstości rokład pradopodobieństa akłóceń jest aa Fkcja gęstości rokład pradopodobieństa obseroaej mieej losoej gdie: J v ( v ) ( v) J - Jacobia macier prekstałceia odrotego. gdie: J ( v) v v Fkcja iarogodości ma postać: L ( V ) ( v ) ( v ) v J

48 Metoda maksmalej iarogodości Algortm estmacji otrmjem ik maksmaliacji kcji iarogodości: ( V ) L ( V ) max L ( V )

49 Prkład Carakterstka sstem pomiaroego: ( ) v + Gęstość rokład pradopodobieństa akłóceń: Opis sstem pomiaroego: ( a ) a v + exp ( m ) ( v) v Macier Jakobiego: J ( v) v d dv ( v ) 49

50 Prkład Gęstość rokład pradopodobieństa : exp v m v v Fkcja iarogodości: m v V L exp m v V L exp Algortm estmacji: m v V 50

51 Metoda maksmalej iarogodości Prkład Opis akłóceń: 0 or or 0 0 v Opis sstem pomiaroego: ( v) v ( 0)

52 Prkład Macier Jakobiego: J ( v) d v v dv Fkcja gęstości rokład pradopodobieństa obseroaej mieej losoej: v ( v ) 0 or or v 0 v 0

53 Prkład Fkcja iarogodości: 0 or 0 0 or v v V L v v V L max 0 max or or

54 Prkład Algortm estmacji: v V max Iterpretacja: v max max max

55 Założeia: ( ) v sstem pomiaro opisa jest doolą kcją ajemie jedoacą ględem R obseroa ektor ielkości artość mieej losoej Postacie kcji gęstości rokładó pradopodobieństa ora są ae. Daa jest kcja strat gdie jest artością estmat obseroaej ielkości. Rko: gdie: R d E L( ( V ) L ( V ) ( V ) V L V łąc rokład pradopodobieństa ( V ) ( V ) ( V ) ( V ) R ( ) d dv gdie jest arkoą a bregoą kcją gęstości rokład pradopodobieństa

56 Problem: R mi R R r L( ( V )) V d ( V ) gdie: V d dv ( V ) EL( ) V L( ( V )) ( V ) d r rko arkoe Problem sproada się do astępjącego adaia : ( V ) r( V ) mi r( V )

57 cost J v d J v J v d v v d V V V v v V V V pomiaroej serii dla daej cost d J v J v V Gdie kcja gęstości rokład pradopodobieństa a posteriori:

58 Prkład Opis akłóceń: Rokład pradopodobieństa: ( ) exp exp ( m ) Opis sstem pomiaroego: ( ) ( ) v + v v Fkcja strat: L ( ) ( )

59 Prkład Macier Jakobiego: v dv d v v J Fkcja gęstości rokład pradopodobieństa obseroaej mieej: exp v v v Fkcja gęstości rokład pradopodobieństa a posteriori v m J v V ' exp exp

60 Prkład v m J v V exp Dla kcji strat: L rko arkoe: v m J v V d V V L V L E V r d exp Fkcja gęstości rokład pradopodobieństa a posteriori po prekstałceiac:

61 Prkład ik miimaliacji rka arkoego otrmjem algortm estmacji: Dsksja: o mała licba pomiaró m m + ( V ) + pomiar beartościoe o v - dobre pomiar v

62 6

63 Pomiar jścia akłóceiami ora losoo mie parametr obiekt ( ) F m

64 Prpomieie ( V ) Możlie roiąaia: o Metoda ajmiejsc kadrató o Metoda maksmalej iarogodości o Metod Baes a

65 Pomiar jścia obiekt akłóceiami pomiaromi F ( ) ( ) F( ) m 65

66 Sormłoaie problem Carakterstka statca obiekt: F( ) Opis sstem pomiaroego: ( ) gdie: ik pomiar kcja ajemie jedoaca ględem dim dim L : Y Z ( ) prestreń pomiaró Zakłóceia pomiaroe a Z - artość mieej losoej - prestreń akłóceń kcja gęstości rokład pradopodobieństa akłóceń - artość mieej losoej - prestreń parametró ( ) a A kcja gęstości rokład pradopodobieństa parametró iki pomiaró: 66

67 Poskjem algortm estmacji: ( ) Możlie podejścia: o Metoda ajmiejsc kadrató o Metoda maksmalej iarogodości o Metod Baes a 67

68 Prpadek jedomiarom jściem L Założeia: ( ) 0 + akłóceia addte E Var artość ocekiaa akłóceń róa ero skońcoa ariacja akłóceń Estmator metodą ajmiejsc kadrató otrmjem miimalijąc empircą ariację akłóceń : Var ( ) ( ) ( F( )) Algortm estmacji otrmjem ik roiąaia adaia: ( ) Var ( ) mivar ( ) F ( )

69 Prpadek ielomiarom jściem dekompojem a adań jedomiarom jściem: L L F ( ) + + F F () () ( ) ( ) () () + + () () + () () + F L ( ) (L) + (L) (L) + 69

70 Prkład T + + ropatram prkładie empirca ariacja akłóceń ma postać: T Var ik miimaliacji pożsego otrmjem algortm estmacji: T 70 F T

71 Założeia F ( ) ( ) Carakterstka statca obiekt: F( ) akłóceia pomiaroe są ieależą artością mieej losoej dla której a jest gęstość rokład pradopodobieństa ( ) sposób akładaia się akłóceń a mieroe jście opisai jest kcji która jest ajemie jedoaca ględem akłóceń Dla adaej serii ejść pomiar jść otrmjem iki akłócoego - aa kcja 7

72 Fkcja iarogodości ma postać: ik maksmaliacji kcji iarogodości otrmjem algortm estmacji: L ( ) ( ) ( F( ) ) ( ) L ( ) max L ( ) Zakłócoe iki pomiaró jścia są artościami mieej losoej której kcję gęstości rokład pradopodobieństa ależ poiąać sstemem pomiarom ora obiektem idetikacji. Zmiea losoa jest ikiem prekstałceia mieej losoej sstemie pomiarom ględieiem carakterstki obiekt tj.: ( F( ) ) atem kcję gęstości rokład pradopodobieństa mieej losoej acam: gdie: J ( ) ( ) ( F( ) ) - macier Jacobiego J J ( ) J 7

73 Prkład Carakterstka statca obiekt: T ( ) F Gęstość rokład pradopodobieństa akłóceń: Opis sstem pomiaroego: ( ) + exp T ( m ) T ( F( ) ) + + Macier Jakobiego: J ( F( ) ) d d T ( ) 73

74 Prkład Gęstość rokład pradopodobieństa : exp T m Fkcja iarogodości: T m L exp T m L exp Algortm estmacji: T m 74

75 Prkład F ( ) ( ) Carakterstka statca obiekt: Fkcja gęstości pradopodobieństa akłóceń: ( 0) F( ) Dodatkoe ałożeie: 0 0 or or 0 0 Opis sstem pomiaroego: ( ) ( F( ) ) ( F( ) ) 75

76 Prkład Macier Jakobiego: Gęstość rokład pradopodobieństa obseroaego jścia : 0 or 0 0 or d d F J 76

77 Prkład Fkcja iarogodości: 0 or 0 0 or L L max or 0 max or 77

78 Prkład Algortm estmacji: max Iterpretacja: max max max 78

79 Założeia F ( ) ( ) Carakterstka statca obiekt: F( ) akłóceia pomiaroe są ieależą artością mieej losoej dla której a jest gęstość rokład pradopodobieństa ( ) - aa kcja sposób akładaia się akłóceń a mieroe jście opisai jest kcji która jest ajemie jedoaca ględem akłóceń R - ektor parametró jest artością mieej losoej dla której kcja gęstości rokład pradopodobieństa - ( ) ( ) - gęstość rokład pradopodobieństa a priori L - adaa jest kcja strat Dla adaej serii ejść otrmjem iki akłócoego pomiar jść R jest aa 79

80 Rrko podjęcia decji: R d E L( ( ) L ( ) ( ) d d gdie jest łącą gęstością rokład pradopodobieństa ektora parametró ora ikó pomiaró dla adaej serii pomiaroej ejść ależ acć algortm estmacji któr miimalije rko cli: R ( ) mi R Zaażm że ( ) ( ) ( ) 80

81 d L L E r d Rko podjęcia decji prjmie postać d d L R Rko arkoe: ik miimaliacji pożsego otrmjem algortm estmacji: r r mi 8

82 d Poostaje acć arkoą gęstość rokład pradopodobieństa (rokład pradopodobieństa a posteriori): atem: arko rokład obseroaej mieej losoej raża się orem: J F J F d J F J F 8 Biorąc pod agę carakterstkę obiekt ora opis sstem pomiaroego obseroaa miea losoa ma postać: F d gdie: Ostatecie:

83 Metoda średiej a posteriori Specjala postać kcji strat: T L Rko arkoe: T T T T d E E E r + otrmjem algortm estmacji: E r 0 grad + d E 83 ik miimaliacji pożsego tj.:

84 Metoda maksmalego pradopodobieństa a posteriori Specjala postać kcji strat: L Rko arkoe: d r max J F J F max takie że: J F 84 Algortm estmacji otrmjem ik maksmaliacji rokład pradopodobieństa a posteriori tj.: Ostatecie

85 Prkład Carakterstka statca obiekt: F( ) Gęstość rokład pradopodobieństa akłóceń: Gęstość rokład pradopodobieństa a priori: Opis sstem pomiaroego: Fkcja strat: L ( ) + ( ) ( ) + + exp ( ) exp ( F( ) ) ( m ) 85

86 Prkład Macier Jakobigo: d d F J Gęstość rokład pradopodobieństa obseroaego jścia: exp Gęstość rokład pradopodobieństa a posteriori m m J F exp exp exp 86

87 Prkład ik maksmaliacji pożsego otrmjem algortm estmacji: ( ) Dsksja: o - Mała licba (kilka pomiaró) pomiar mało artościoe m m + + o Dża licba pomiaró pomiar dobrej jakości 87

88 88

90 Pomiar obiekt losoo miem parametrem

91 Prpomieie ( V ) Możlie roiąaia: o Metoda ajmiejsc kadrató o Metoda maksmalej iarogodości o Metod Baes a

92 Sormłoaie problem Carakterstka obiekt: F( ) Loso parametr obiekt: F R ajemie jedoaca kcja ględem ( ) F Zaa kcja gęstości rokład pradopodobieństa L ( dim dim L) artość mieej losoej prestrei ( Y ) Pomiar: Y Algortm estmacji: R L F ( ) ( Y )

93 Założeie: Carakterstka obiekt: F ~ ( ) F( ) + E 0 Var Metoda ajmiejsc kadrató miimalije empircą ariacje Var ( Y ) F( ) Algortm estmacji otrmjem roiąjąc adaie: ~ ( Y ) Var ( Y ) mivar ( Y )

94 Założeia: artość mieej losoej Dla adaego ejścia kcją gęstości rokład pradopodobieństa jście jest mieroe Sekecja ( ) F ( ) J F jest ciągiem artości mieej losoej F( ) Fkcja gęstości rokład pradopodobieństa mieej losoej Fkcja iarogodości: Estimatio algoritm: L gdie J F J F jest macierą Jakobiego F ( ) ( Y ) ( ) F ( ) ( Y ) L ( Y ) max L ( Y ) J F

95 Gęstość rokład pradopodobieństa a posteriori : d Y Y L Y L E Y r d Założeia: jest artością mieej losoej o kcji gęstości rokład pradopodobieństa Dodatkoo akładam że F J F F F d J F J F Y Algortm estmacji: Y r Y r Y mi

97 Założeia: miee losoe takie że E 0 Empirca ariacja: Var Var ( + ) ( ) F( ) E 0 Var ~ F + + iki pomiaró są artościami mieej losoej: E Algortm estmacji otrmjem ik roiąaia adaia: ~ Var + + ( Y ) Var ( ) mivar ( ) + +

98 Założeia: jest artością mieej losoej jest artością mieej losoej Dla adaego o kcji gęstości rokład pradopodobieństa są artościami mieej losoej ( ) są artościami mieej losoej F( ) Fkcja ie jest ajemie jedoaca ględem dlatego dodajem i kosekecji otrmjem: ( ) Prekstałceie odrote: ( ) o kcji gęstości rokład pradopodobieństa ( )

99 Fkcja gęstości pradopodobieństa obseroaej artości d J J F d F Y Y Fkcja iarogodości: d J J F L F Y Algortm estmacji: L L Y max F J F J J

100 Założeia: Dodatkoo akładam że Jest artością mieej losoej o rokładie Dla staloego parametr ora ejścia artości jść są artościami mieej losoej pod arkiem że ora ejście jest róe. jest artością mieej losoej kosekecji są artościami mieej losoej pod arkiem że o kcji gęstości pradopodobieństa ( ) ( ) ( ( ) ) ( ) J d ( ( ) ) ( F ( ) ) J F J d Y Y

101 Fkcja gęstości rokład pradopodobieństa a posteriori: F F d d J J F d J J F Y Y Algortm estmacji otrmjem roiąjąc adaie: r r mi Rko arkoe: d L L E r d

102 0