Rozpoznawanie obrazów

Transkrypt

1 Ostat etap obrazowaa medyczego: Etapy rozpozawaa obrazów medyczych chęte bym Państw przedstawł w sposób poglądowy opsowy, bo wzorów ta t e zapamęta, a w raze potrzeby moża je w cąg l mt zaleźć w Iterece Rozpozawae obrazów Zawsze dążyłem do tego, żeby przedstawać Państw stotę omawaej metody obrazowaa medyczego e tylo solde, ale taże ceawe. Jeda te sposób prezetacj spotał sę z protestam z Waszej stroy! Istota atomatyczego rozpozawaa: defcja formala Dlatego a dzsejszym wyładze będze tylo scha wedza, bez żadych ozdobów! Zbór obetów lb zjaws podlegających rozpozawa ozaczać będzemy D. Zbór D może (zależe od zastosowaa) zawerać róże elemety d D. Mogą to być oczywśce róże zobrazowaa medycze, ale taże a przyład obrazy rozpozawaych twarzy, sylwete samolotów, zaów alfameryczych albo odcsów palca. Moża rozpozawać e tylo obrazy. Rozpozawaym obrazam (albo może lepej wzorcam ag. patter) mogą być jeda taże dźwę mowy, sygały EKG albo hałasy geerowae przez szodzoą maszyę. Moża rozpozawać taże móstwo ych rzeczy, a przyład stay pogody albo warygodość redytoborców w ba td. We wszystch dalszych rozważaach będzemy załadal stee relacj rówoważośc K D D, mpljącej rozbce zbor D a olecję las rówoważośc, odpowadających poszczególym rozpozawaym lasom obetów. Zgode z tradycją rozważaej dzedzy podlegające rozpozawa lasy azywać będzemy obrazam (albo wzorcam) ezależe od ch rzeczywstej atry. Załadać będzemy, że elemety d D wchodzące w sład odpowedch relacj ależeć będą do pewych podzborów D zbor D charateryzjących sę tym, że ch elemety posadają podobe wartośc pewych wybraych (staloych) cech. Kwesta wybor cech, będących podstawą proces lasyfacj (a potem taże rozpozawaa) będze dalej dosyć szczegółowo dystowaa, ttaj jedye ależy wsazać, że to właśe a podstawe cech tylo a podstawe cech ms być możlwe stalee, że pomędzy oreśloym obetam zachodz wymagaa relacja, będąca podstawą ch lasyfacj. Jeśl tach cech e da sę wsazać (awet hpotetycze) to rozważaych las obetów e będze moża stecze wydzelć, a to ozacza epowodzee całego przedsęwzęca. 1

2 Podzbory D e powy sę przecać, a poadto omawaa relacja e może pozostawać żadego elemet ze zbor D samem sobe tz. bez przypsaa do tóregoś (dołade jedego!) podzbor D. Łatwo wyazać, że relacja porządjąca elemety d D w podzbory D speła postlaty relacj rówoważośc (jest to relacja zwrota, symetrycza przechoda). Jeśl dla jaegoś zadaa da sę zbdować w zborze D relację rówoważośc dzałającą w oparc o dobrze zdefowae cechy, to spełoe są war oecze do tego, by moża było o m mówć jao o probleme rozpozawaa sesowe postawoym. Warto zaważyć, że ware te, będąc warem oeczym, e ms być jedocześe warem wystarczającym. Dla steczego stworzea metody rozpozawaa obrazów potrzebe są bowem zwyle bowem jeszcze dalsze war, jao że ażda metoda rozpozawaa opera sę a jachś założeach, z tórym zwązae są specyfcze dla daej metody dodatowe wymagaa. Ozaczmy przez L lczbę las geerowaych przez relację K, a zbór desów (azw) tych las ozaczmy przez I. Wówczas: D I D, p,qi D p D q = d p,d q D d p, d q K I : (d p D ) (d q D ) Z ops relacj K zbor I wya stee odwzorowaa A : D I o własoścach: dd A(d) = d D Odwzorowae A w peł opsje relację K, atomast relacja K defje odwzorowae A z doładoścą do permtacj zbor desowego I. Z tego powod ważać moża, że odwzorowae A w odróże od stejącej obetywe (co przyjęlśmy jao oecze założee) relacj K zawera zawsze pewe arbtraly sład, zwązay z wyborem sposob meracj las. W pratyczym zada rozpozawaa dąży sę do tego, aby sostrować algorytm A^ realzjący odwzorowae: A^ : D I { o } W formle tej ozaczea D oraz I są jż dobrze zae, atomast jedoelemetowy zbór { o } symbolzje w tym zapse bra odpowedz (decyzja typ e wem). Wprowadzee w odwzorowa A^ elemet o czy pratycze zadae rozpozawaa bardzej realstyczym. W pratyce bowem często ta sę zdarza, że e moża stalć prawdłowej decyzj z całą doładoścą, a zacze lepej jest, jeśl algorytm A^ za, że e potraf rozpozać oreśloego obet zgłos to specjalym sygałem, ż edy jao wy pracy algorytm zostae poday jaś myle rozpozay elemet.

3 Czasem moża sę spotać z sytacją pratyczą, w tórej ajważejszym wyem pracy system rozpozającego jest właśe stalee, czy odpowedzą algorytm A^ jest elemet o czy jaolwe y elemet I. Sytacja taa może a przyład meć mejsce w systemach detyfacj osób, tórych zadaem jest wyłącze odpowedzeć a pytae, czy day obet ależy do jedej z las zapamętaych w systeme czy jest obcy (a węc potecjale ebezpeczy). Bdjąc algorytm A^ staramy sę zawsze czyć to ta, aby pewa mara dystas Q(A, A^ ) będąca oceą jaośc zbdowaego algorytm rozpozawaa A^ - była mmala. Mara jaośc Q algorytm A^ słżyć może e tylo do optymalego dostrojea algorytm A^ do abstracyjego dealego odwzorowaa A, ale dodatowo mara ta może być żyta do wartoścowaa wel dających sę zbdować algorytmów A^ 1, A^,..., A^ p co pozwala wybrać w oreśloym zada te spośród ch, tóry jest ajlepszy. Nestety, różorodość zadań rozpozawaa zwązaa z tym różorodość wymagań stawaych metodom rozpozawaa sprawa, ż emożlwe jest podae jedej wersalej formły dla fcj ryteralej Q. W ażdym oretym zada mara Q sle zależy od oretych zastosowań celów rozpozawaa. Ne ależy przy tym meć żadych złdzeń, że proste metody (a przyład odsete błędych rozpozań) dostarczą t doładych oszacowań wsaźa Q. Jaość rozpozawaa wyzacza sę ajczęścej a podstawe macerzy pomyłe Naprawdę dołade oszacowae błędów popełaych przez zbdoway algorytm rozpozawaa A^ wymaga przeprowadzea obszerych badań stalea przyblżoej empryczej dystrybaty błędów (a przyład techam bootstrap owym). Jeda dla celów pratyczych zadowalamy sę ajczęścej proszczoym wsaźem jaośc, wążącym sę często wyłącze z procetam obetów rozpozaych błęde lb (z ą wagą) obetów erozpozaych. Przy rozpozawa wyróża sę dwa rodzaje błędów: Ne są to jedye pratycze rytera ocey jaośc algorytm A^, gdyż w przypad algorytmów o tym samym procece błędych rozpozań w grę wchodzć mogą dodatowo lasycze formatycze rytera jaośc algorytmów, tae ja czas rozpozawaa czy zajętość pamęc, gdyż to oe wyzaczają oszty dzałaa metody. Pod względem formalym zagadea mary jaośc Q algorytm A^ staową osoby obszar problemowy zwązay z teorą optymalzacj agażjący bardzo zaawasowae dzały matematy (a przyład aalzę fcjoalą) 3

4 oczy blso - daleo Czasam przy defcj algorytm A^ dopszcza sę rozpozaa waratowe, to zaczy przyjmje sę sytację, w tórej jao rozpozae aceptje sę dowoly podzbór zbor I. Zapropoowae ogólee odwzorowae A^ może być opsae jao A^ : D I gdze ozaczee I żyte jest (zgode z otacją teoromogoścową) do zaps zbor wszystch podzborów zbor I. Warto zwrócć wagę, że w tym przypad zbęde jest wprowadzae elemet o, poeważ zbór I zawera (z defcj) zbór psty, czyl właśe bra rozpozaa. Odmowa rozpozaa może zresztą być przy taej owecj wyrażoa a dwa sposoby: albo poprzez podae jao rozwązaa zbor pstego, albo poprzez podae jao rozwązaa całego zbor I, co jest możlwe, jao że I I. Elemety sładowe rozpozawaa: Odwzorowae A^ jest realzowae jao założee trzech odwzorowań: A^ = F C B gdze: B : D X będzemy azywać recepcją (lb percepcją) C : X L ozacza oblczae wartośc ta zwaych fcj przyależośc, zaś F : L I { o } lb F : L I ozacza proces podejmowaa decyzj. ozacza zbór lczb rzeczywstych Zadaem recepcj B : D X jest oreślee dla ażdego obet d D wetora wartośc jego cech x X Po wybra właścwych cech ażdem rzeczywstem obetow d D odpowadać będze pt w przestrze cech X Załadać będzemy, że elemetam przestrze cech X są wetory -elemetowe x * = x 1, x,, x X Sładowe x j tych wetorów chęte będzemy tratowal jao lczby rzeczywste x j Przypade, edy przestrzeń X tratowaa będze jao -wymarowa przestrzeń eldesowa (X ) jest ajwygodejszy, ale e jest to przypade jedyy możlwy. Przyładowa przestrzeń cech twarz wąsa - szeroa 4

5 Istota rzeczy polega a tym, żeby w przestrze cech rozdzelć odpowede obszary Dae, tóre sę edobrze separję w przestrze o małej wymarowośc mogą sę dobrze rozdzelać w przestrze welowymarowej W przyjętej przestrze cech obety ależące do jedej lasy powy sę grpować razem separować od obetów ych las Zależe od sposob rozmeszczea w przestrze cech ptów reprezetjących obety ależące do różych las rozpozawae może być łatwejsze lb trdejsze Korety przyład zadaa średo trdego Korety przyład zadaa bardzo trdego 5

6 Rodzaj własośc wybraej przestrze cech bardzo sle wpływają a dalszy to proces rozpozawaa. Jest to zpełe zrozmałe: obety d D mają potecjale esończee wele cech. Odwzorowae B prowadzące do -wymarowej ( << ) przestrze cech X zwązae jest zawsze z tratą częśc formacj, zatem jeśl tracoa zostae formacja stota z pt wdzea celów rozpozawaa, a w przestrze cech względ sę wyłącze cechy mało waże - to straty tej e da sę zreompesować żadym późejszym wysłam. Ważą rolę przy rozpozawa może pełć operacja trasformacj przestrze cech, tóra może sprzyjać odseparowa rozważaych las obetów. Orygale dae przed trasformacją Dae po trasformacj, przeształcoe w cel łatwee rozpozawaa Czasem dae pommo trasformacj pozostają wymeszae, chocaż ch statystya wyazje polepszee. Dotychczas stale załadalśmy, że wszyste cechy x j (j = l,,, ) są dostępe rówocześe. Tymczasem proces pozyswaa cech może wązać sę z pewym trdoścam (a przyład osztam) zwyle jest rozłożoy w czase. Przyład: W dagostyce medyczej poszczególe badaa, tórych wyem są olejo wyrywae symptomy (rozważae t jao cechy, będące podstawą rozpozawaa) są cążlwe dla pacjeta obcążające fasowo dla placów dagozjącej. Jeśl zatem moża podjąć decyzję a podstawe aalzy tylo etórych cech x j (j = 1,,, m), to wówczas moża sobe ( pacjetow) zaoszczędzć trd oreślaa symptomów x m+1,,x, co może staowć stoty zys przyspesza rozpozae. Koleje pozyswae podzborów zbor wszystch możlwych cech X charateryzje ta zwae rozpozawae etapowe. Dla tego przypad zapszemy odwzorowae B w zmodyfowaej postac: B e : D X 6

7 Omówoe odwzorowae B może być tratowae jao samo tylo zberae daych o właścwoścach (featres) rozpozawaego obet d D. Natomast oleje odwzorowae C : X L tratowae ms być zacze poważej. W odwzorowa tym chodz o stalee pewej mary podobeństwa ezaego obet d D do poszczególych las D desowaych meram I. Klas jest (z defcj) L, dlatego w wy odwzorowaa C powstaje L lczb rzeczywstych z tego powod docelowym zborem w odwzorowa C jest L. Oblczae fcj przyależośc C : X L polega a wyzacze dla zadaego pt przestrze cech x X odpowadającego d D L wartośc C (lczb rzeczywstych), tóre mogą być terpretowae jao mary podobeństwa obet d D olejo do wszystch wchodzących w rachbę las. C jest marą przyależośc obet d do -tej lasy, przy czym przebega wszyste wartośc od 1 do L, gdze L jest lczbą możlwych las. Fcje przyależośc C : X R L bdowae są róże w różych metodach rozpozawaa tym właśe te metody sę główe pomędzy sobą różą. Na ogół stota problem polega a tym, ja oreślć wszyste fcje przyależośc C (x) zając wyłącze cąg czący U = { x, ; = 1,,..., N } gdyż w typowych zadaach rozpozawaa taa jest jedya dostępa formacja o tym, ja wygląda regła rozpozawaa (w sposób jawy ezaa) 7

8 Odośe fcj przyależośc możemy jedye sformłować postlat, aby wszyste orete obety d ależące do oreśloej lasy o merze były wsazywae masymalą wartoścą fcj przyależośc C ( x * ) tóra powa być węsza od wszystch pozostałych wartośc C (x * ) dla. Oczywśce postlat ta zacze łatwej sformłować, ż go pratycze spełć. Dlatego msmy rozważać dalej wele różych metod rozpozawaa, gdyż w lteratrze propoje sę rozmate defcje fcj C (x * ) dametrale różące sę tech ch ostrowaa. Do tego wąt jeszcze wrócmy W odróże od zróżcowaego bdowaa fcj C (x) samo podejmowae decyzj F : R L I { o } a ogół odbywa sę jż w sposób jedolcoy. Waże jest w powyższej defcj to, że obo oretych rozpozań o przyależośc obet d D opsywaego wetorem cech x * X do oretej lasy I, możlwa jest też odpowedź wymjająca ( e wem 0 ) Zazwyczaj przyjmje sę regłę majoryzacyją, opsaą astępjącym wzorem: x * X ( F( C 1 (x * ), C (x * ),..., C L (x * )) = pi, p C p (x * ) < C (x * ) ) Ozacza to, że obet d * D charateryzoway wetorem x * X zalczoy będze do tej lasy I, tórej fcja przyależośc C (x * ) ma ajwęszą wartość wśród C 1 (x * ), C (x * ),..., C L (x * ). Decyzję etralą o moża przy tym podejmować w l dalej omówoych przypadach (do wybor przez projetata algorytm): Na przyład gdy stopeń domacj fcj przyależośc C p (x * ) dla lasy p masymalej (co do beżącej wartośc w pce x * ) ad oleją astępą co do wartośc fcją przyależośc C r (x * ) jest zbyt mały (mejszy od założoej wartośc e) qi, p q C q (x * ) C p (x * ) jeda ri: C p (x * ) - C r (x * ) < e 8

9 Sytacja ta zlstrowaa jest a rys F(.) = 0 poeważ domacja zwycęsej lasy jest zbyt słaba! Netralą decyzję (ozaczającą bra rozpozaa) ależy też przyjąć, gdy wartość domjącej fcj przyależośc C p (x * ) jest geerale za mała (mejsza od założoej wartośc progowej e) qi, p q C q (x * ) C p (x * ) ale zarazem C p (x * ) < e Wracamy do west bdowy fcj przyależośc Pojęce fcj przyależośc C (x * ) może być zdefowae taże w przypad orzystaa z metod mmaloodległoścowych, jeda e jest to oecze, bo sam algorytm rozpozawaa moża opsać zamplemetować taże bez formalego wprowadzaa fcj C (x * ). W ogólym przypad jest to wygoda oolczość. Fcje C (x * ) mają bowem to do sebe, że steją, ale są ezae. Przy Decyzję dobrze o przyależośc dobraym zborze owego cech (ezaego) poszczególe obet lasy do obetów jedej z tworzą wcześej w przestrze zaych cech (zapamętaych) wyraźe wyróżale las... zbory.... po wyzacze jego cech... moża podjąć a podstawe tożsamośc ajblższego zaego obet? 9

10 Dlatego we wszystch pratyczych zastosowaach posłgjemy sę możlwe ajlepszym przyblżeam C (x * ) otrzymaym a podstawe cąg czącego (lb a podstawe ych daych, a przyład probablstyczych). Podejśce tae jest bardzo pratycze, gdyż dla zysaa steczej metody rozpozawaa potrzebjemy wystarczająco dobrych fcj C (x * ), atomast wcale e msmy sę domagać zajomośc ch optymalych postac. Omówmy teraz metodę bdowy fcj C (x * ) a podstawe zbor czącego. U = { x, ; = 1,,..., N } Warto zaważyć, że mmo pewego podobeństwa do lasyczego zadaa aprosymacj, bdowa fcj C (x * ) w zadaach rozpozawaa jest specyfcze odmea. Załadamy, że fcję przyależośc C (x * ) moża rozwąć w szereg względem staloej rodzy fcj I x * X C (x * ) = Vw w (x * ) w0 gdze żyte fcje bazowe w (x * ) tworzą arbtrale wybraą porządowaą rodzę Vw = 1 (x * ), (x * ), Współczy rozwęca ( = l,, L; w = 1,, ), azywae wagam, wyzaczają oretą fcję C (x * ). Załóżmy, że fcje przyależośc C (x * ) dobrze rozwjają sę w szereg względem wybraej rodzy fcj, w wy czego wartośc wag dla w > m mogą być pomęte poeważ dla dowole małego e I w > m Vw e W efece moża stosować zaps m V w w0 C (x * ) = (x * ) zdecydowae adający sę jż do tego, by go stosować w pratyce w Dzę podaej własośc do oreślea wszystch fcj przyależośc C (x * ) wystarczy wyzaczyć tylo L m współczyów V w tóre są też jedyą oeczą do zapamętaa formacją przy dalszym rozpozawa. W stos do oeczośc pamętaa całego cąg czącego U (co było wadą metod mmaloodległoścowych) jest to dża oszczędość. Zasadcza trdość przy stosowa w pratyce aprosymacyjych metod rozpozawaa obrazów wąże sę z oeczoścą wybor rodzy fcj. 10

11 Ne może to być dowole wybraa rodza fcj. Co węcej, wadomo że rodzy fcj powszeche wyorzystywae w matematyce formatyce p. do wylczaa rozwęca fcj w szereg potęgowe Taylora lb MacLoraa (a węc rozwęca z życem welomaów) mają w zada rozpozawaa stote wady. Fcje żytecze dla aszych celów msza spełać zacze węcej warów. Po perwsze, trzeba zapewć dobrą rozwjalość fcj C (x * ) (o tórych e wemy c poza tym, że steją!) w szereg względem fcj rodzy (szereg potęgowe te arat ware spełają). Po drge, wygode jest dyspoować rodzą fcj ortogoalych to zaczy spełających ware, v 1,, m v (x * ) v (x * ) d x * = 0 Dzę tem możemy zajmować sę poszczególym fcjam w (x * ) ch wpływem a ostateczą postać fcj przyależośc, bez oeczośc rozpatrywaa wpływ dw różych sładowych awzajem a sebe. Wygode jest też zażądać, by poszczególe fcje bazowe były ormowae - tj. by spełały ware: w 1,, m w (x * ) d x * = 1 Mamy wtedy pewość, że (pomjając wag) wszyste żyte fcje bazowe są jedaowo waże względem sebe. Połączee ortogoalośc ormowaa daje am ortoormalość fcj bazowych powodje, że poszczególe wag V mogą być wyzaczae ezależe, a błąd wyzaczea jedej z ch e wpływa a błędy wyzaczea pozostałych. Ja wdać problem zalezea odpowedej rodzy fcj bazowych jest stosowo złożoy. Newele wedząc o charaterze fcj przyależośc C (x * )... (ale załadając że zamy ch wartośc w wybraych ptach sładających sę a cąg czący U)... możemy zastaowć sę ja wyglądają grace rozdzelające dwe lasy. Poeważ graca to zbór ptów ależących do ob las, zatem pty gracy rozdzelającej lasy v spełają rówae: C (x * ) = C v (x * ) co ozacza, że rówaem gracy jest: C (x * ) - C v (x * ) = 0 Jest to w ogólym przypad rówae hperprzestrze (hperpowerzch) - czyl podprzestrze o wymarze o jede mejszym ż wymar całej przestrze. Gładość grac obszarów w przestrze X determje małą dzwaczość fcj C (x * ). Użyte pojęce dzwaczośc, ma charater tcyjy eformaly, ale moża je przyblżyć a przyład w te sposób, że fcję będzemy ważać za tym bardzej dzwaczą m węcej ma estremów w pewym staloym przedzale zmeośc swoch argmetów. 11

12 Ogóle celowe jest postlowae małej dzwaczośc fcj rozdzelających. Postlat małej dzwaczośc l graczej może posłżyć do tego, by warygodć możlwość srócea formły fcj przyależośc. Mało somplowaym ształtom grac obszarów las odpowadają mej dzwacze fcje rozgraczające. Może to być dodatowa wsazówa dotycząca tego, w ja sposób ależy bdować potrzebą rodzę fcj. Jeśl bowem rodzę tę wyberzemy w te sposób, aby ze wzrostem mer porządowego w harmo w (x * ) rosła ch dzwaczość, to wówczas możlwość srócea formły fcj przyależośc będze prostą osewecją fat, że do bdowy fcj w ograczoym stop dzwaczej e trzeba żywać wysoce dzwaczych sładowych. Dzwaczość fcj rozdzelających rośe wraz ze wzrostem omplacj grac. Postlaty pod adresem fcj : ma to być rodza ortoormalych fcj zmeych, cechjąca sę właścwoścą wzrastającej dzwaczośc. Nech f (z) ( = 0,1,, ) będze rodzą ortoormalych fcj jedej zmeej o rosącej dzwaczośc. Wówczas moża bdować rodzę, orzystając z formły aoczej: w (x * ) = j1 f j (x j ) w tórej spełoy ms być ware j = w j1 Tym sposobem p. dla =3 przy w = 0 otrzymamy jedą fcję: 0 (x * ) = 0 (x 1, x, x 3 ) = f 0 (x 1 ) f 0 (x ) f 0 (x 3 ), przy w =1 otrzymamy trzy możlwe fcje 1 (x * ): 1 (x * ) = f 1 (x 1 ) f 0 (x ) f 0 (x 3 ) 1 (x * ) = f 0 (x 1 ) f 1 (x ) f 0 (x 3 ) 1 (x * ) = f 0 (x 1 ) f 0 (x ) f 1 (x 3 ), Przyład. Jao rodzę fcj jedej zmeej o potrzebych am własoścach reomedować moża rodzę fcj trygoometryczych f (z) = cos z zaś przy w = sześć możlwych fcj (x * ) (x * ) = f 1 (x 1 ) f 1 (x ) f 0 (x 3 ) (x * ) = f 1 (x 1 ) f 0 (x ) f 1 (x 3 ) (x * ) = f 0 (x 1 ) f 1 (x ) f 1 (x 3 ) (x * ) = f (x 1 ) f 0 (x ) f 0 (x 3 ) (x * ) = f 0 (x 1 ) f (x ) f 0 (x 3 ) (x * ) = f 0 (x 1 ) f 0 (x ) f (x 3 ). Możlwych fcj 3 (x * ) dla =3 jest 10, możlwych fcj 4 (x * ) jest 15 td. możemy zaobserwować rosącą dzwaczość fcj trygoometryczych dla olejych wartośc. 1

13 Łatwo też sprawdzć ware ortogoalośc: Iym przydatym fcjam mogą być welomay Czebyszewa 0 ( v)s(( v) z) ( v)s(( v) z) cos( z) cos( v z) dz ( 0 ( ) ) v 0 ormowaa: ( z f (z) = albo Legedre'a z 1) ( z z 1) 0 z s ( z) cos ( z) dz ( ) 4z 0 1 f (z) = 1! d ( z d z 1) Mając wybraą staloą rodzę fcj, stajemy przed problemem: w ja sposób a podstawe cąg czącego U oreślć wartośc współczyów wagowych V Na począte rozważmy szczególy przypade przy założe, że m = oraz (x * ) = x przy czym dla węszośc fcj z defcj przyjmjemy 0 (z) 1 Wzór dla fcj przyależośc przyjmje w rozważaym przypad formę fcj lowej C (x * ) = V x 1 + V 0 Warto przy tym zaważyć, że regła rozpozawaa daa powyższym wzorem e ma byajmej wyłącze teoretyczego zaczea. Przecwe, jest to metoda ze wszech mar goda wag jao pratycze arzędze, warte zastosowaa we wszystch tych przypadach, w tórych atra rozważaego problem pozwala a zastosowae taej prostej regły. Stosowalość tego wzor jest bowem ograczoa do zadań, w tórych obszary w przestrze cech mogą być rozgraczae hperpłaszczyzam (separowale lowo). Podzał przestrze cech za pomocą lowych fcj dysrymacyjych Poeważ w pratyce prawe gdy e wadomo, czy rozważay problem jest separowaly lowo, przeto celowe jest we wszystch przypadach podejmowae próby wyorzystaa tej metody z gotowoścą do zaechaa jej w przypad geeracj zbyt dżej lczby błędów. Przyład problem separowalego lowo Przyład problem eseparowalego lowo 13

14 Tam gdze e da sę podzelć przestrze jedą fcją lową moża żyć l Argmetam przemawającym za celowoścą stosowaa fcj przyależośc w postac lowej są mędzy ym: mmala lczba oeczych do pamętaa elemetów (potrzeba jedye L (+1) współczyów ); prosty w realzacj algorytm czea" (stalaa a podstawe cąg czącego U wartośc V ); bezpośred zwąze algorytm z tcyją metodą ajblższej mody NM; prostota realzacj algorytm rozpozawaa (fcję lową łatwo moża zaprogramować albo zrealzować w forme ład eletroczego); prosty zwąze pomędzy lową fcją przyależośc a poplarym secam eroowym; W metodze NM rozpozajemy obet x * jao ależący do tej lasy, dla tórej odległość Sład (x *, M ) = 1 ( x m ) jest mmala. Ale moża przeształcć: x 1 (x *, M ) = - m x ( m ) 1 1 x 1 jest detyczy dla wszystch las ch e różcje zatem moża go pomąć rozpatrzyć jedye fragmet 1 m x ( m ) 1 Im te fragmet będze węszy tym odległość będze mejsza Czyl to jest fcja przyależośc! Zatem fcja lowa jest w stoce fcję przyależośc dla metody NM C ( x * ) = m x ( m ) 1 1 może być bowem łatwo tożsamoe z C (x * ) = V x 1 po wyoa oczywstych podstaweń: V m v + V 0 0 V ( m ) 1 przy czym - odmee ż w metodze NM - twórca algorytm e ms sę łopotać wyszwaem wzorców M gdyż odpowede oblczea są dooywae atomatycze w to proces czea Po stale formy fcj przyależośc (a przyład jao fcj lowej) przychodz pora a czee, czyl a oreślee wartośc współczyów V ( = l,, L; = 0, 1,, ) a podstawe cąg czącego U = { x *, } Przed zapropoowaem odpowedej regły czea wygode będze wprowadzć la ozaczeń. Rozszerzmy wetor cech x *, wprowadzając sładową o merze 0 wartośc (zawsze) wyoszącej l; ta poszerzoy wetor ozaczmy astępjąco: x * = x 0, x 1, x,, x 1, x 1, x,, x Ozaczmy poadto wartość fcj decyzyjej F dla obet x * cąg czącego U przez F W wy poaz obet x * oblczae są (a podstawe wartośc V () ) wszyste fcje przyależośc C (x * ), a a ch podstawe podejmowaa jest próba rozpozawaa, dająca w efece (zgode z przyjętą owecją) decyzję F F = F(C 1 (x * ), C (x * ),, C L (x * )) Przy czym F I Wprowadzmy poadto otację łatwającą śledzee zma wartośc współczyów V w czase prezetacj olejych obetów cąg czącego U. W tym cel wartośc tych współczyów, obowązjące w -tym ro proces czea podczas poaz obet x * o przyależośc ozaczymy V () 14

15 Regła czea, pozwalająca systematycze (z ro a ro) lepszać zestaw wag V () a podstawe zajomośc x *, oraz F, jest astępjąca: V V F ( 1) V ( 1) V F ( ) x ( ) x,, Metoda ta ma prostą terpretację geometryczą przy czym = 0, l,,,. V Należy zaważyć, że w procese czea legają zmae jedye wag tych fcj, tóre albo powy były ( = ), albo w rzeczywstośc ( = F ) przyjęły wartośc masymale; pozostałe V () pozostają bez zma dla ro ( + l) ( 1) V ( ), F 0,,. W przypad edy próba rozpozawaa obet powedze sę (co ozacza, że F = ), wówczas żade ze współczyów wagowych e lega zmae, gdyż orety zadawae wzoram dla F oraz dla zoszą sę wzajeme. Proces czea zatrzymje sę sam. Moża dowodć, że ezależe od sposob wybraa początowych wartośc współczyów wagowych V (1), po sończoej lczbe poazów obetów cąg czącego {x *, } astąp stalee wartośc V (), pozwalające bezbłęde lasyfować wszyste obety. Formale poprawe rozpozawae jest zapewoe jedye dla obetów cąg czącego, ale załadając jego reprezetatywość możemy przypszczać, że gwaracja obejmje wszyste obety. Natrale teza przytoczoego twerdzea fcjoje jedye wtedy, gdy rozdzelee za pomocą hperpłaszczyz jest w ogóle wyoale lb - formłjąc to samo aczej - gdy steją fcje lowa, pozwalające a bezbłęde rozpozawae. Jeśl obszary rozpozawaych las są lowo separowale, to oleje wartośc współczyów wagowych zyswae w czase czea dążą asymptotycze do pewych staloych wartośc Bra możlwośc lowej separacj las objawa sę tym, że wartośc współczyów wagowych wyazją egasące oscylacje 15

16 Mechazm powstawaa oscylacj współczyów Sposób pooaa bra lowej separowalośc: fcje odcowo-lowe Sposób pooaa bra lowej separowalośc: sztcze zwęszee lczby las Sposób pooaa bra lowej separowalośc: sztcze zwęszee lczby wymarów przestrze cech Sposób pooaa bra lowej separowalośc: zastosowae elowych fcj przyależośc m V 0 C (x * ) = (x * ) Fcje tae moża czyć przy życ tej samej metody, ja opsaa wyżej dla fcj lowych, pod warem zastosowaa podstawea: x * w = w (x * ); w=0,1,,m Wówczas m C (x * ) = C (x * ) = V x * 0 Możemy to terpretować mędzy ym w te sposób, że z pomocą rodzy fcj wstępe realzje sę trasformację: -wymarowej przestrze cech w m-wymarową przestrzeń prostjącą", to zaczy taą, w tórej obszary ależące do różych las, eseparowale lowo w orygalej przestrze cech, dają sę jż rozgraczać hperpłaszczyzam 16

17 Ocea szas powodzea rozpozawaa w oretym zada z wyorzystaem metod fcj przyależośc C (x * ) mających postać agregatów oreśloych fcj jest bardzo trda. Jeda w sposób dość ogóly moża wyazać, że prawdopodobeństwo poprawego rozpozaa wyraźe wzrasta przy przejśc od fcj C (x * ) lowych do - bogatszych w możlwośc - fcj elowych. Dzeje sę ta dlatego, że a ogół m >>. Na przyład dla fcj C (x * ) wadratowej m = ( + 3)/, zaś dla fcj C (x * ) będącej welomaem stopa gdze m 1, ( )!!! Do metod aprosymacyjych ależy metoda wetorów wsperających SVM Metoda Spport Vector Maches (SVM) polega a bdowe powerzch rozgraczającej zbory ptów, reprezetjących rozpozawae lasy, czyl jest metodą typ aprosymacyjego. Dla zapewea ajlepszego przebeg l graczej względae są wyłącze pty z rozgraczaych las, tóre leżą w bezpośredm sąsedztwe l graczej. Te pty właśe azywae są wetoram wsperającym czyl Spport Vectors W metodze SVM dąży sę do zalezea taej przestrze wejścowej, w tórej pomędzy obety ależące do różych las daje sę wprowadzć hperpłaszczyzę o masymalym margese 17

18 Jest jeszcze wele ych metod rozpozawaa, ale o ch w raze potrzeby doczytace z łatwo dostępej lteratry I ta sę ończy wyład Tech Obrazowaa Medyczego 18