Kybernetika a umělá inteligence. Gerstnerova laboratoř katedra kybernetiky. Daniel Novák

Transkrypt

1 Kybernetika a umělá inteligence 2. Strojové učení laboratory Gerstner Gerstnerova laboratoř katedra kybernetiky České vysoké učení technické v Praze Daniel Novák Poděkování: Filip Železný

2 Shrnutí minulé přednášky Rozhodování s neurčitostí, zavedení ztrátové funkce vede na minimalizaci Bayesovského rizika, ilustativní příklad na sdružené pravděpodobnosti - p.novák a příprava večeře Klasifikaci je speciální případ rozhodování s neurčitostí V případě ztrátové funkce l 01 (d, s) Bayesovská klasifikace: klasifikuj do třídy s, pro kterou platí arg max s P (s x). Bayesovský klasifikátor má nejmenší riziko (klasifikační chybu) mezi všemi klasifikátory. Klasifikace je založena na znalosti P (s x). Často neznáme P (s x) nebo P ( x, s), pouze změřená i.i.d data. Je velmi težké odhadnout P ( x, s) s rostoucí dimenzí příznaků x. Prokletí dimenzionality není případem, kdy x jsou statisticky nezávislé. Často známe tvar pravděpodobnosti, P ( x s), z dat musíme odhadnout neznámý parametr s. Tedy s je funkcí x [zavedeme metodu maximalní věrohodnosti]. Pro klasifikaci můžeme použít i neparametrické metody - metoda nejmenšího souseda. pojmy generalizace, přeučení, výběr parametrů klasifikátoru

3 Statistické rozhodování: shrnutí Zadány: Množina možných stavů: S Množina možných rozhodnutí: D Ztrátová funkce: zobrazení l : D S R (reálná čísla) Množina možných hodnot příznaku X Pravděpodobnostní rozložení příznaku za daného stavu P (x s), x X, s S. Definujeme: Strategie: zobrazení δ : X D Riziko strategie δ při stavu s S: R(δ, s) = x l(s, δ(x))p (x s) MiniMaxová úloha: Dále zadána: množina přípustných strategíı. Úloha: nalézt optimální strategii δ = arg min δ max s S R(δ, s) Bayesovská úloha: Dále zadáno: pravděpodobnostní rozdělení stavů P (s), s S. Dále definujeme: střední riziko strategie δ: r(δ) = s R(δ, s)p (s) Úloha: nalézt optimální strategii δ = arg min δ r(δ) Řešení: δ (x) = arg min d s l(d, s)p (s x)

4 Známá forma pravděpodobnostního rozdělení Předpokládáme, že P ( x s) má známou formu a z trénovacích dat je třeba odhadnout jen jeho parametry. Tedy: P ( x s) = φ( x, s, θ 1, θ 2,... ), kde φ je známá funkce a θ i jsou neznámé parametry. Př.: normální hustota pravděpodobnosti, φ( x, s, θ 1, θ 2,... ) = N(x, µ, σ), θ 1 = µ, θ 2 = σ: N(x, µ, σ) = 1 σ 2π exp (x µ)2 2σ 2 Ústřední limitní věta: Součet mnoha náhodnodných proměnných s jakkýmikoliv rozděleními se řídí rozdělením, které se bĺıží normálnímu. Uvažujeme-li jediný reálný skalární příznak, předpoklad normálního rozdělení zní, že pro každou třídu s je podmíněná hustota x: p(x s) = N(x, µ s, σ s ) Parametry rozdělení se často zapisují v podmínkové části: p(x s, µ s, σ s ) = N(x, µ s, σ s )

5 Normální rozdělení Též Gaussovské

6 Diskriminační funkce Za předpokladu normálního rozdělení postupujeme při Bayesovské klasifikace následovně: kde arg max s = arg max s = arg max s p(s x, µ s, σ s ) = arg max s 1 σ s 2π exp (x µ s) 2 = arg max s 2σ 2 s ( 1 2 ln σ2 s 1 2σ 2 s a s = 1 2σ 2 s 1 2 ln σ2 s 1 2 p(x s, µ s, σ s )p(s) = arg max p(x s, µ s, σ s )p(s) p(x) s ( 1 p(s) = arg max ln exp (x µ s) 2 s σ s 2π 2σs 2 (x µ s ) 2 ln 2π+ + ln p(s) } {{ } lze vypustit 2σ 2 s ) ( ) x 2 2xµ s + µ 2 s + ln p(s) b s = µ s σ 2 s = arg max s c s = 1 2 ln σ2 s µ2 s 2σ 2 s + ln p(s) Tímto je definována kvadratická diskriminační funkce pro každé s S, ) p(s) a s x 2 + b s x + c s g s (x) = a s x 2 + b s x + c s Použití: pro zadané x, klasifikuj do max s g s (x).

7 Kvadratická diskriminace (Duda, Hart, Stork: Pattern Classification) Dvě třídy: černá (s1) a červená (s2). Černá křivka vede body, v nichž g s1( x) = g s2 ( x). Tato křivka je hranicí rozhodnutí mezi třídami s1 a s2.

8 Normální rozdělení, stejné σ pro všechny třídy Jednoduchý případ: stejné směrodatné odchylky σ. Příklad: s = {muž, žena}, x = výška. Protože s σ s = σ, je možné další zjednodušení max s P (s x, µ s, σ) = max s x2 } 2σ {{ 2+ } lze vypustit kde b s = µ s and c σ 2 s = µ2 s + ln P (s). 2σ 2 Nyní je diskriminační funkce lineární: 1 2σ 2 ( 2xµs µ 2 s ) + ln P (s) = max (b s x + c s ) s g s (x) = b s x + c s

9 Mnoharozměrný případ [bonusová látka] Mnoharozměrný případ ( x je n-rozměrný reálný vektor, x R n ) 1 N( x, µ, Σ) = [ (2π)n det(σ) exp 1 ] 2 ( x µ)t Σ ( x µ) σ 1,1 σ 2,1... σ n,1 σ Σ = 1,2 σ 2,2... σ n, kovariační matice: σ i,j = (x i µ i )(x j µ j ) σ i,i = σi 2 σ 1,n σ 2,n... σ n,n Předpoklad normálního rozdělení: p( x s, µ, Σ) = N( x, µ s, Σ s ) pro každou třídu s. Kvadratická diskriminační funkce gs (x) = x t A s x+ b t s x+c s kde A s = 1 2 Σ 1 s bs = Σ 1 s µ s c s = 1 2 µt sσ 1 s µ s 1 2 ln det(σ s) + ln P (s) Zvláštní případ: s Σ s = Σ: Lineární diskriminační funkce g s (x) = b t s x + c s kde bs = Σ 1 s µ s c s = 1 2 µt sσ 1 s µ s + ln P (s)

10 Příklad hranice ( Σ = 0 1/2 hranice pro dvourozměrný případ [ ] [ 3 1 µ 1 =, Σ 6 1 = 2 0 ] [ ] [ ] 3 2 0, µ =, Σ 2 2 = 0 2 apriorní pravděpodobnosti p(s 1 ) = p(s 2 ) = 0.5 hranici dostaneme, když g 1 ( x) = g 2 ( x) = x2 1 3x tedy x 2 = 0.187x x ) and ( Σ 1 1/2 0 2 = 0 1/2 We assume equal prior probabilities, P (ω 1 )=P(ω 2 )=0.5, and substitute these into the general form for a discriminant, Eqs , setting g 1 (x) =g 2 (x) to obtain the decision boundary: ). [ ] 2 0 [ ], x 2 = x x Σ 1 1 = a Σ 1 2 = This equation describes a parabola with vertex at ( ). Note that despite the 2 fact that the variance in the data along the x 2 direction for both distributions is the same, the decision boundary does not pass through the point ( 3 2), midway between the means, as we might have naively guessed. This 4 x2 is x because for the ω 1 distribution, 1 the probability distribution is squeezed in the x 1 -direction more so than for the ω 2 distribution. Because the overall prior probabilities are the same (i.e., the integral over space of the probability density), the distribution is increased along the x 2 direction (relative to that for the ω 2 distribution). Thus the decision boundary lies slightly 2 x = x1 2 x x 1 + lower than the point midway between the two means, as can be seen in the decision boundary. 10 x µ x µ 2 The computed Bayes decision boundary for two Gaussian distributions, each based Kvadratická diskriminační onfunkce four data points. g s(x) = x t A s x + b t sx + c s kde A s = 1 2 Σ 1 s bs = Σ 1 s µ s c s = 1 2 µt sσ 1 s µ s 1 ln det(σs) + ln P (s) 2 -

11 Lineární vs. Kvadratická diskriminace Vlevo: lineární diskriminace v R 2. Body x, kde s = arg max s g s ( x) pro dané s tvoří konvexní oblasti s hranicemi po částech lineárními. Vpravo: kvadratická diskriminace v R 2. Body x, kde s = arg max s g s ( x) pro dané s tvoří konvexní oblasti s hranicemi po částech kvadratickými. -

12 Carl Friedrich Gauss ( ) Matematický genius, podle některých autorů patří mezi tři největší matematiky - Archimedes, Newton, Gauss Matematika je královnou vědy a teorie čísel je královnou matematiky. O jeho schopnostech kolují mnohé historky, např. v 7 letech řešil úlohu součtu čísel od 1 do 100 aritmetickou posloupností 50 dvojic = 101 = = 101 = = 101, tedy = 5050

13 Učení: Maximální věrohodnost Předpoklad normální hustoty p( x s): jak lze využít v učení? Namísto odhadu neznámé hustoty rozdělení p odhadujeme parametry normálního rozdělení p( x s, µ, Σ) Tedy odhadujeme µ s a Σ s pro každou třídu s. Maximální věrohodnost: ze zadaného vzorku x 1, x 2,... x m třídy s, najdi (ˆ µ s, ˆΣ s ) = arg max p( x 1, x 2,... s, µ, Σ) µ,σ m m = arg max p( x i s, µ, Σ) = arg max ln p( x i s, µ, Σ) µ,σ µ,σ i=1 tj. maximalizuj věrohodnost toho, že vzorek byl generován ze třídy s s parametry µ, Σ. Řešení je ve shodě s intuicí: ˆ µ s = 1 m x i m i=1 ˆΣs = 1 m i=1 m ( x i ˆ µ s )( x i ˆ µ s ) t Tedy: vypočítej střední hodnotu vzorku a průměr m matic ( x i ˆ µ s )( x i ˆ µ s ) t. Toto pro všechny třídy s. i=1

14 Předpoklad 4: lineární forma klasifikátoru Předpokládejme binární klasifikační problém S = {s 1, s 2 }, x je n-dimenzionální příznak { s1, pokud g( x) > 0; Zde postačí jedna diskriminační funkce g( x): klasifikuj y = s 2, jinak. Motivace: za předpokladu normálního rozdělení, pokud Σ s1 = Σ s2, g( x) je lineární, tj. g( x) = b t x + c. Namísto odhadu µ, Σ s a následného výpočtu b and c můžeme odhadovat b, c přímo ze zadaného vzorku D = {( x 1, y 1 ), ( x 2, y 2 )... ( x m, y m )}. ( ( Požadujeme b t x i + c) > 0 pokud y i = s 1 a b t x i + c) < 0 jinak. ( Totéž, jako požadovat b t z i + c) > 0 pro všechna z i, kde z i = x i pokud y i = s 1 a z i = x i jinak. Formálně, necht z 0 i = 1 i a w = [ b, c] (přidejme c jako poslední složku w). Nyní můžeme jednoduše psát g( z) = w t z a požadovat w t z i > 0 pro všechna z i. Necht J( w) = z i M w t z i kde M je množina všech nesprávně klasifikovaných z i.

15 Perceptron J( b, c) je vždy nezáporná. Pokud J( w) = 0, tak všechny příklady v D jsou správně klasifikovány a D je lineárně separabilní. Chceme najít minimum J( w). J( w) je po částech lineární. Pro hledání minima lze použít gradientního algoritmu. Gradientní algoritmus: přibližuj se k minimu pomocí malých diskrétních krorků v R n+1 ve směru proti gradientu J( w). ( J( w) (J( w)) =, J( w),... J( w) ) = z w 1 w 2 w n+1 z i M Perceptronový gradientní algoritmus: 1. k = 0. Zvol náhodně w. 2. k k w w + η(k) z i M k z 4. pokud z i M k z > θ jdi na 2 5. vrat w η - rychlost učení, θ - mez přijatelné chyby. Příklad pro w R 2, J( w) na svislé ose.

16 Percepton II Sjednocení terminologie se cvičením - rozšíření na K tříd Necht η =1, g s (x) = w s t x + b s, s = 1... K w 2 = w 2 + x, b 2 = b 2 + 1, pokud x má patřít do třídy s = 2, váhy pro správnou třídu posíĺım w 4 = w 4 x, b 4 = b 4 1, x bylo vyhodnoceno jako třída s = 4, váhy pro špatnou třídu oslabím grafické znázornění rozhodovací hranice (změna symbolů) y( x) = w t x + w 0, y( x a ) = y( x b ) x a a x b leží na rozhodovací hranici, tedy w t ( x a x b ) = 0) w je ortonormální na rozhodovací hranici, ω 0 (b) je posunutí [Bishop]

17 Percepton - grafické znázornění učení grafické znázornění [Bishop]

18 Perceptron: lineární diskriminace Perceptron je využíván obecně pro úlohy lineární klasifikace, nejen za předpokladu normálně rozdělených příznaků. Je-li zadaný vzorek dvou tříd lineárně separabilní, perceptronový algoritmus skončí v konečném čase s nulovou chybou (pro θ = 0 a dostatečně malé η(k)). Vzorek lineárně neseparabilní v R n může být separabilní po transformaci do R n n > n. Např. pro x R n, T ( x) = Schema perceptronu [x(1),..., x(n), x }{{} 2 (1), x(1)x(2), x(1)x(3),... x 2 (n)] = x Tj. přidány kvadratické členy. Lineární diskriminace v transformovaném prostoru odpovídá nelineární (zde kvadratické) diskriminaci v původním prostoru R n. Lineární diskriminační metody, jako je perceptron, mohou být tedy pomocí tranformace využity i pro hledání nelineární diskriminace. DEMO - iterace rozhodovací hranice ve 2D případu Lineárně problém neseparabilní

19 Percepton - historie Frank Rosenblatt - HW realizace perceptonu v roce 1958 Učení jednoduchých písmen a tvarů - inspirace neuronovými sítěmi v mozku Světla osvětlují objekt, foceno na pole 20 x 20 cadmium-sulfádových buněk, dostáváme tedy obrázek o 400 pixelech Přepojovací deska - možnost různé konfigurace vstupů Adaptivní váhy - potenciometr ovládáný elektrickým motorem - automatické nastavování vah učícím algoritmem Implementace na počítačí Mark 1 (Hardvard-IBM spolupráce) součastek, 16 m dlouhý 2.4 m vysoký, 2 m široký, 3 operace za sekundu, násobení trvalo 6 vteřin

20 Neuronové sítě Umělá neuronová sít je distribuovaný výpočetní systém sestávající z dílčích podsystémů (neuronů), který je inspirován neurofyziologickými poznatky o struktuře a činnosti neuronu a nervových systému živých organizmů, a který je ve vetší či menší míře realizuje. Neurony mezi sebou komunikují na základě přenášení elektrického potenciálu pomocí synapsí Schopnost extrahovat a reprezentovat závislosti v datech, které nejsou zřejmé Schopnost učit se, schopnost zevšeobecňovat Schopnost rešit silně nelineární úlohy

21 Definice neuronu Neuron je základní výpocetní jednotkou neuronových sítí Vstupy x i jsou váhovány parametry ω i net = n i=1 x iω i + w 0 = n i=0 Zavedení nelinearity do neuronové sítě y = f(net), nejčastěji sigmoid třida, např, tanh či 1 logistická funkce y = f(net) = 1+exp λ net Přednášky pokračují v angličtině na základě kapitoly 6 knihy Duda, Pattern Classification

22 Rozhodovací strom V mnoha aplikacích strojového učení vyžadujeme klasifikační model přímo srozumitelný člověku. Příkladem srozumitelného modelu je rozhodovací strom. Souvislý graf bez smyček s ohodnocenými uzly a hranami. Označme i-tou složku příznaku příkladu jako x(i). Uzly stromu (mimo listy) odpovídají nějaké složce příznaku x(i). Má-li x(i) konečný obor hodnot: každá hrana vycházející z toho uzlu odpovídá jedné hodnotě z tohoto oboru hodnot. Uzel označený x(i) a z něho vycházející hrana s označená hodnotou v definují podmínku x(i) = v Je-li x(i) reálné: každá hrana vycházející z toho uzlu odpovídá nějakému reálnému intervalu. Např pro dvě hrany: (, h) a (h, ), kde h je nějaká prahová hodnota. Uzel označený x(i) a z něho vycházející hrana s označená intervalem I definují podmínku x(i) I

23 Diskriminační hranice rozhodovacího stromu Diskriminační hranice rozhodovacího stromu pro reálné příznaky jsou nadroviny rovnobězné s osami. Příklad pro binární klasifikaci v R 2 :

24 Priklad Mam 9 pozitivnich a 5 negativnich prikladu

25 Konstrukce rozhodovacího stromu Pro tvorbu rozhodovacího stromu z trénovacích dat se užívá strategie rozděl a panuj. Zavedeme míru informace info([2, 3]) = 0.971,info([4, 0]) = 0.0, info([3, 2]) = info([2, 3], [4, 0], [3, 2]) = ( 5 14 ) ( 4 14 )0 + ( 5 14 )0.971 =

26 Konstrukce rozhodovacího stromu Zavedeme informacni zisk V korenu stromu: info([9, 5]) = 0.94 Informacni zisk gain(outlook) = info([9, 5]) info([2, 3], [4, 0], [3, 2]) = = bits, gain(temperature) = bits,gain(humidity) = bits,gain(windy) = bits Vybereme atribut outlook!

27 Konstrukce rozhodovacího stromu Pokracujeme v konstrukci gain(temperature) = bits, gain(humidity) = bits,gain(windy) = bits vybereme humidity

28 Volba testu v uzlu rozhodovacího stromu Jak formalizovat pojem nejčistšího rozdělení množiny příkladů? Lze využít pojmu entropie. Uvažujme vzorek D, γ tříd, a relativními četnostmi p 1, p 2,... p γ příkladů v těchto třídách. Entropie vzorku je potom H(D) = γ p i log 2 p i H(D) je minimální (H(D) = 0), pokud jsou všechny příklady ve stejné třídě. Maximální H(D) = log 2 γ, pokud je rozdělení rovnoměrné. i=1 Heuristika pro výběr x(i) pro nový uzel: snížení entropie po přidání tohoto uzlu. Pro x(i) s konečným oborem: G(D, i) = H(D) v j Obor(x(i)) D j D H(D j) D j = množina příkladů z D, pro něž platí x(i) = v j Součet entropíı v následných uzlech vážený relativní velikostí jim přiřazených množin.

29 Shlukovaní Nemam k dispozici trenovaci mnozinu Hledam v datech prirozene shluky (a) k-means, (b) fuzzy shlukovani, (c) pravdebodobnosti, napr. Gaussovska smes (EM algortimus), (d) hierarchicke shlukovani (dendogram)

30 K-means 1. begin inicializuj k, µ 1, µ 2,..., µ k 2. do klasifikuj vzorek podle nejblizsiho µ i 3. prepocitej µ i 4. until zadna zmena µ i 5. return µ 1, µ 2,..., µ k 6. end

31 Hierarchicke shlukovani agglomerative: bottom-up merging divisive: top-down splitting 1. begin inicializuj k, ˆk n, D i {X i }, i = 1,..., n 2. do ˆk = ˆk 1 3. Najdi nejblizsi shluky, napr. D i a D j 4. until k = ˆk 5. return k shluku 6. end d min (x, x ) = min x x, x D i, x D i

32 Hierarchicke shlukovani - priklad