Komputerowa dentyfkacja obektów ZAJĘCIA VI Estymator LS - własnośc mplementacje Dokładność wynków dentyfkacj (jakość estymatora) Dokładność estymatora LS Iteracyjne oblczena estymat LS Oblczena dla obektów o zmennych parametrach
Komputerowa dentyfkacja obektów DOKŁADNOŚĆ ESYMAORA OBCIĄŻENIE I ROZRZU (WARIANCJA) W pojedynczych przypadkach oszacowana parametru θ za pomocą estymatora ˆθ są obarczone błędem przypadkowym δ, czyl: ˆθ = θ+ δ Parametry losowe błędu δ określają jakość estymatora. Estymator nazywamy neobcążonym jeśl wartość oczekwana oszacowań jest równa θ, tzn.: Jeżel [ ] [ ] E θˆ = E θ+ δ = θ+ E δ = θ E θˆ θ, to mamy do czynena z estymatorem obcążonym, a welkość [ ] E ˆ b = E δ = θ θ jest nazywana obcążenem estymatora. Estymator neobcążony nazywamy efektywnym, jeśl posada on najmnejszą macerz kowarancj estymat parametrów ze wszystkch estymatorów neobcążonych tej samej welkośc operujących na tych samych danych. Ćwczene: Obcążene warancja estymatora. Który z estymatorów (sądząc ze zboru estymat ο parametru o wartośc ) jest obcążony lub neobcążony, ma wększą lub mnejszą warancję? 2 3
Komputerowa dentyfkacja obektów OPIS DOKŁADNOŚCI WIELOWYMIAROWEGO WYNIKU ESYMACJI (WEKORA PARAMERÓW) Pomar welowymarowy, kedy wynkem pomaru jest zestaw wartośc klku welkośc merzonych jednocześne, wymaga rozszerzena opsu błędów mar tych błędów. Jeśl przedstawmy wynk pomaru w postac wektora wartośc poszczególnych welkośc merzonych, to ops błędu będze mał postać macerzową uwzględnającą wektor błędów systematycznych b oraz rozrzut poszczególnych elementów wektora wynków współzależność losową elementów wektora wynku opsane macerzą kowarancj Σ. δ θˆ θ Odpowednkem przedzału rozrzutu wartośc jest w przypadku welowymarowym ogranczony przez pewną = b = E [ δ] Σ = E ( δ b)( δ b ) hperpowerzchnę obszar, którego punkty spełnają nerówność: ( ) b Σ ( b ) δ δ < W przypadku dwuwymarowym hperpowerzchną ogranczającą jest elpsa, której wymary położene są określone przez wektor błędu systematycznego b macerz kowarancyjną Σ wynków pomaru. ^ θ 2 σ ^ θ 2 ( θ, θ ) b ( θ, θ ) 2 b 2 λ 2 λ ^ θ σ 2 2 2 θ θ ^ θ Przykładowa elpsa rozrzutu przy dokładnej wartośc wektora parametrów 2 θ,θ pewnej macerzy kowarancj. 2 ( θ,θ ), wartośc oczekwanej ( ) Przykładowy obszar rozrzutu dla wynków pomarów (elpsa) zbór wynków pomarów (punkty).
Komputerowa dentyfkacja obektów WŁASNOŚCI ESYMAORA NAJMNIEJSZEJ SUMY KWADRAÓW Polczmy obcążene macerz kowarancyjną estymatora LS dla modelu pomarów Y = Uθ+ ε, gdze ε jest zakłócenem pomarowym nezależnym w każdym pomarze, o zerowej wartośc oczekwanej stałej warancj σ 2 we wszystkch pomarach. ( ) ( ) [ ] ( ) = = + = ˆ E θ E UU UY UU U E Uθ ε UU UUθ = θ Obcążene jest węc równe zeru, a sam estymator LS (w założonych warunkach) jest neobcążony. Zauważmy z powyższych oblczeń, co będze przydatne w następnym wyprowadzenu, że odchyłka δ estymaty ˆ δ = θ θ = UU Uε. może być wyrażona w funkcj zakłóceń ε, tj. ( ) Kowarancja estymat wynos: ( )( ) ( ) ( )(( ) ) ( ) ( ) cov = θˆ E θˆ E θˆ θˆ E θˆ = E UU Uε UU Uε = E UU Uεε UUU, ale poneważ zakładamy dentyczny nezależny rozkład zakłóceń o zerowej wartośc oczekwanej warancj σ 2 poszczególnych pomarach: w 2 σ 0 2 E εε = cov[ ε] = = I σ (macerz NxN) 2 0 σ to macerz kowarancyjna estymatora LS (w załóżonych warunkach) ma wartość: ( ) ( ) σ ( ) 2 2 cov θˆ = σ UU UIUUU = UU (uwaga: nezależna od Y!)
PODSUMOWANIE WŁASNOŚCI ESYMAORA LS Estymator najmnejszej sumy kwadratów LS : - jest estymatorem neobcążonym Komputerowa dentyfkacja obektów cov θˆ = σ UU, 2 - ma macerz kowarancj estymat ( ) wtedy, gdy zakłócena ε pomarów Y są wzajemne nezależne, o zerowej wartośc oczekwanej o tej samej warancj rozkładze (ang. ndependent dentcally dstrbuted,..d.). Przykład: Rejestrujemy mernkem cyfrowym napęce nerównowag mostka tensometrycznego w zakrese od 0 do 0[mV] z precyzją % wartośc zakresowej. Welkoścam zadawanym są sła odchyłka temperatury o wartoścach: F [kn]: 2 3 4 5 [K]: 0.5 2 5.2 Jaką precyzję będą mały estymaty parametrów modelu lnowego ur = kff + k + u0 + ε? Konstruujemy macerz U, szacujemy warancję zakłóceń pomaru jako σ 2 =(3*0.0*0[mV]) 2 =9e-8[mV 2 ], lczymy Σ. >> F=[ 2 3 4 5 ]'; >> d=[0.5 2 5.2]'; >> U=[F, d, ones(sze(f))]; >> S=e-8*nv(U'*U) S =.0e-007 * 0.000-0.0003-0.0294-0.0003 0.0078-0.042-0.0294-0.042 0.358 Czy to dużo, czy mało? Zależy od wartośc parametrów. e z kole wpływają na wartośc wyjśca. Lepszy pomar wyjśca lepsze estymaty. Czy z wylczonej macerzy wynka że estymaty będą skorelowane?
ZASADA OROGONALNOŚCI Komputerowa dentyfkacja obektów Estymacja LS spełna zasadę ortogonalnośc reszt względem wyjśca modelu: bo ( ) eyˆ = Y Yˆ Y ˆ = 0 ( ) ( ) ˆ ˆ = ˆ ˆ ˆ = ˆ ˆ = ˆ Y Uθ Uθ YUθ θ UUθ YUθ YUUU UUθ YUθ YUθ ˆ = 0 Zauważmy, że ta zależność ne ma charakteru statystycznego. Zawsze wektor reszt będze prostopadły (ortogonalny) do przestrzen rozpnanej przez wektory macerzy wejść ( Uθ ˆ to lnowa kombnacja tych wektorów z mnożnkam równym estymatom parametrów). Dla przykładu rozważmy trzy pomary obektu dwuwejścowego nterpretację geometryczną układu YY, ˆ = Uθˆ, e = Y Y. ˆ () ( 2) u u y () ( 2) U= = u2 u2, Y y2 () ( 2) u 3 u3 y3 ( 2) u Y Ŷ e ( ) u Wektor odchyłek jest prostopadły do płaszczyzny rozpnanej przez wektory poszczególnych wejść, na której leży wektor wyjśca modelu. Suma geometryczna wektora wyjśca modelu wektora odchyłek daje wektor zmerzonego wyjśca.
IMPLEMENACJE ESYMAORA LS Komputerowa dentyfkacja obektów Rozwązane układu normalnego (to już było) ˆ Oblczena estymatora LS wg wzoru ( ) sprzecznego układu równań, jakm jest Uθˆ = θ = UU UY ne są stosowane w praktyce. Rozwązane nadokreślonego Y możlwe jest w sense najmnejszej sumy kwadratów algorytmem dekompozycj QR. Wynk są dentyczne jak w przypadku wzoru zamknętego, a dodatkowo bardzej odporne na nedokładną reprezentację lczb w komputerze. Samego algorytmu rozwązana ne będzemy omawać, bo to wykracza poza zakres przedmotu. W Matlabe układ normalny jest rozwązywany przez dzelene lewostronne, tj.: θˆ = U\ Y co jest zalecanym sposobem rozwązywana zadana estymacj LS na pełnych macerzach. Wersja teracyjna Rozwązywane układu normalnego jest kłopotlwe w systemach komputerowych z małym rozmarem pamęc (jak np. systemy sterowana oparte na kontrolerach). Przeszkodą jest tutaj rozmar macerzy pomarów U Y. W celu obejśca tej trudnośc opracowano algorytm oblczeń estymatora LS z aktualzacją estymat przy każdym nowym pomarze welkośc wejścowych wyjścowej. Dodatkową jego zaletą jest łatwa modyfkacja w celu dentyfkacj obektów o zmennych parametrach, co zobaczymy w dalszej częśc. Nestety algorytm teracyjny ma gorszą dokładność oblczeń numerycznych.
Komputerowa dentyfkacja obektów WYPROWADZENIE ESYMAORA LS W POSACI IERACYJNEJ W wyprowadzenu teracyjnej postac estymatora będzemy używać następujących oznaczeń: Model pomarów: = + ˆ Y Uθ ε Klasyczny estymator LS: = ( ) θ UU UY Wektor wejść w chwl : u () ( n ) = u u Wyjśce w chwl : y = ( ) Macerze wejść wyjść w chwlach od do : y (obarczone zakłócenam) U () ( 2) ( n) u u u u () ( 2) ( n) u2 u2 u = = u 2 2, () ( 2) ( n) u u u u Macerz wejść w chwlach od do +: U + () ( 2) ( n) u u u () ( 2) ( n) u2 u2 u2 U = = () ( ) ( ) u + 2 n u u u () ( 2) ( n) u + u+ u+ ˆθ - estymata wektora parametrów θ n lość wejść (estymowanych parametrów) Y y = y2 y
Komputerowa dentyfkacja obektów WYPROWADZENIE ESYMAORA LS W POSACI IERACYJNEJ C.D. Defnujemy podstawową macerz estymatora LS jako : P = U U wylczamy postać tej macerzy przy rozszerzenu macerzy wejść o następny pomar: P = U U = P + u u + + + + + Ze względu na oblczena estymatora nteresuje nas odwrotność macerzy U+ U +. Korzystając ze wzoru rachunku macerzowego: A+ B B = A A B + BA B BA gdze w naszym przypadku: otrzymujemy: A = P, B u + = + = + + + + + P P Pu u Pu u P P = P η Pu u P ( * ) + + + + gdze wyrażene η = + u Pu + + + jest skalarem. ˆ Równane estymatora LS ( ) θˆ = PU Y ˆ θ + = P+ + + = + + U Y P U Y u + y + θ = UU UY dla oraz + próbek możemy zapsać w postac: ( ** )
Komputerowa dentyfkacja obektów WYPROWADZENIE ESYMAORA LS W POSACI IERACYJNEJ C.D. Podstawając równane ( * ) do równana ( ** ) otrzymujemy: θ ˆ + = + + + + + + + PU Y Pu y η Pu u P U Y u + y + Uwzględnając zależność ˆ θ = PU Y powyższą postać estymatora możemy zapsać w postac: ˆ + = ˆ θ + + + + ˆ θ P u y u+ θ Po wykorzystanu nowych obserwacj u + y + nowa estymata parametrów równa sę estymace poprzednej zaktualzowanej o człon poprawkowy. Wyrażene y+ u+ ˆ θ jest błędem predykcj nowej obserwacj sygnału wyjścowego na podstawe ostatnej estymaty parametrów. Ne ma tu potrzeby odwracana macerzy do wyznaczena nowej oceny korzystamy tylko ze starej wedzy zawartej w macerzy P z nowych obserwacj. Algorytm oblczeń teracyjnej wersj estymatora LS w kolejnym kroku na podstawe wartośc P ˆθ z poprzednego kroku nowego pomaru (u, y ) ma ostateczne postać: η = + upu (skalar) P = P ηpu up (macerz nxn) ˆ = ˆ θ θ+ Pu y uθ ˆ (wektor nx) Początkowa wartość macerzy P może być dagonalna o dużych wartoścach na przekątnej lub może być wylczona z n początkowych pomarów. Początkowa wartość wektora ˆθ estymat parametrów może być zerowa.
Komputerowa dentyfkacja obektów ALGORYMY OBLICZENIOWE ESYMAORA LS DLA OBIEKÓW O ZMIENNYCH PARAMERACH LS z przesuwanym oknem Jeśl parametry dentyfkowanego obektu są zmenne z czasem to rozsądne wydaje sę stosowane klasycznego ˆ algorytmu LS ( ) θ = UU UY do kolejnych porcj N pomarów. Czyn sę węc założene, że w czase pomaru N próbek parametry ne zmenają sę w sposób stotny. Na takej zasadze dzała algorytm z przesuwanym oknem, który wydaje sę na tyle prosty, że jego zaps pozostawamy jako zadane a przedstawmy tylko schemat dzałana. bufor N próbek wejśca wyjśce pozycja pozycja 2 pozycja 3 Algorytm LS ˆ = ( ) θ UU UY estymaty parametrów nr estymaty parametrów nr 2 estymaty parametrów nr 3
Komputerowa dentyfkacja obektów Algorytm teracyjny LS z wykładnczym zapomnanem Jak wspomnano wcześnej, dla obektów o zmennych z czasem parametrach (np. rezystancja uzwojeń slnka pod wpływem temperatury) można stosować teracyjny estymator LS o zmodyfkowanej postac. Modyfkacja ma na celu powolne zapomnane przeszłych pomarów na korzyść pomarów najnowszych. Osąga sę to przez mnożene przeszłych pomarów przez współczynnk wagowy o malejącej wartośc. Zmodyfkowane kryterum najmnejszej sumy kwadratów ma wtedy postać: N J = Y Uθˆ W Y Uθ ˆ = N λ 0 N 2 λ gdze macerz wag W ma postać: W = 0 0 λ gdze rosnąca potęga współczynnka 0<λ< maleje do zera, co daje opsany wyżej efekt ważena. Sprowadzene wynkowego estymatora do postac teracyjnej daje algorytm oblczenowy, tzw. LS z wykładnczym zapomnanem: η = λ+ upu (skalar) P = P ηpu up λ (macerz nxn) ˆ = ˆ θ θ+ Pu y uθ ˆ (wektor nx) Zauważmy, jake zmany nese ten algorytm w porównanu ze zwykłym algorytmem teracyjnym.
ZADANIA Komputerowa dentyfkacja obektów Zadane Dla rejestracj wejść wyjśca zawartych w plku (dane6-.mat, rozdany na zajęcach) przyjmj model lnowy oblcz wg zależnośc teoretycznej macerz kowarancj estymat parametrów przy estymacj z perwszych 40 pomarów. Warancję zakłóceń oszacuj z reszt dopasowana. Oszacuj metodą statystyczną macerz kowarancj estymat parametrów z wynków estymacj z kolejnych porcj 40 pomarów. Porównaj zawartość obydwu macerzy kowarancyjnych. Zadane 2 Dla rejestracj wejść wyjśca zawartych w plku (dane6-2.mat) przyjmj model lnowy zastosuj wersję estymatora LS z teracyjnym zapomnanem. Przedstaw na rysunku wartośc estymat parametrów w funkcj numeru teracj. Przetestuj różne wartośc współczynnka zapomnana. Zadane 3 Dopasuj algorytm z poprzednego zadana do estymacj on-lne parametrów modelu y = au + b dzelnka rezystancyjnego o zmennym stosunku podzału. Kolejne pomary będą pochodzć z funkcj [u,y]=pomar() odwołującej sę do karty PCL88 merzącej napęce wejścowe u wyjścowe y dzelnka. W trakce estymacj prezentuj na wykrese trajektorę zman wartośc estymat z numerem teracj. Przetestuj swoją mplementację na dostarczonych danych.
LIERAURA Komputerowa dentyfkacja obektów Sydenham P.H., Podręcznk Metrolog, WKŁ Warszawa 988 (rozdzał 8 pt. Estymacja parametru) de Larmnat P., homas Y., Automatyka układy lnowe, tom 2 Identyfkacja, WN Warszawa 983 Mańczak K., Nahorsk Z., Komputerowa dentyfkacja obektów dynamcznych, PWN, Warszawa 983 Bubnck Z., Identyfkacja obektów sterowana, PWN, Warszawa 974 Eykhoff P., Identyfkacja w układach dynamcznych, PWN, Warszawa980 Zmmer A., Identyfkacja obektów sygnałów, Poltechnka Krakowska 998