Katedra kybernetiky skupina Inteligentní Datové Analýzy (IDA) Evropský sociální fond Praha & EU: Investujeme do vaší budoucnosti

Wielkość: px

Rozpocząć pokaz od strony:

Download "Katedra kybernetiky skupina Inteligentní Datové Analýzy (IDA) Evropský sociální fond Praha & EU: Investujeme do vaší budoucnosti"

Aleksander Michałowski
4 lat temu
Przeglądów:

1 Vytěžování dat Filip Železný Katedra kybernetiky skupina Inteligentní Datové Analýzy (IDA) Evropský sociální fond Praha & EU: Investujeme do vaší budoucnosti Filip Železný (ČVUT) Vytěžování dat 1 / 26

2 Reálné příznaky Lineární/polynomiální modely: příznaky jsou reálná čísla Filip Železný (ČVUT) Vytěžování dat 2 / 26

3 Nominální příznaky teplota bolest svalů diagnóza zvýšená ne nachlazení normální ne hypochondr horečka ano chřipka Filip Železný (ČVUT) Vytěžování dat 3 / 26

4 Nominální příznaky teplota bolest svalů diagnóza zvýšená ne nachlazení normální ne hypochondr horečka ano chřipka Lze převést na příznaky s oborem {0, 1} : reprezentace 1 z n teplota bolest diagnóza normální zvýšená horečka svalů nachlaz. chřipka hypoch Umožňuje využití lineárních resp. polynomiálních klasifikátorů, ale nešikovné. Klasifikační modely přímo pro nominální příznaky? Filip Železný (ČVUT) Vytěžování dat 3 / 26

5 Rozhodovací strom Klasifikační model Uzly (mimo listy): testy příznaků, hrany: možné hodnoty Filip Železný (ČVUT) Vytěžování dat 4 / 26

6 Rozhodovací strom Klasifikační model Uzly (mimo listy): testy příznaků, hrany: možné hodnoty Klasifikace: cesta z kořene do listu podle hodnot příznaků Filip Železný (ČVUT) Vytěžování dat 4 / 26

7 Rozhodovací strom Klasifikační model Uzly (mimo listy): testy příznaků, hrany: možné hodnoty Klasifikace: cesta z kořene do listu podle hodnot příznaků Jak strom zkonstruovat? Filip Železný (ČVUT) Vytěžování dat 4 / 26

8 Rekurzivní rozdělování: příklad 2 binární příznaky x 1, x 2 {+, } Instance spadají do 3 tříd: 10 červených instancí 8 zelených instancí 5 modrých instancí Všech 10 s x 1 = + má y = Filip Železný (ČVUT) Vytěžování dat 5 / 26

9 Rekurzivní rozdělování: příklad Všech 10 s x 1 = + má y = Zbývá 13 instancí s x 1 = Filip Železný (ČVUT) Vytěžování dat 5 / 26

10 Rekurzivní rozdělování: příklad Všech 8 s x 2 = + má y = Všech 5 s x 2 = má y = Filip Železný (ČVUT) Vytěžování dat 5 / 26

11 Algoritmus pro tvorbu rozhodovacího stromu TDIT(D,I) /* Top Down Induction of Decision Trees */ Input: D trénovací data, I indexy příznaků if všechny instance v D mají stejnou třídu y then return uzel označený y else if I = then return uzel označený většinovou třídou v D else vyber i I a vytvoř uzel označený x i for v j Range(x i ) /* konečný obor hodnot x i */ do E j = všechny instance z D u nichž x i = v j Vyved z uzlu x i hranu označenou v j if E j = then připoj list na hranu v j označený většinovou třídou v D else připoj výsledek TDIT(E j, I \ {i}) na hranu v i end end end end return vytvořený strom s kořenem x i Filip Železný (ČVUT) Vytěžování dat 6 / 26

12 TDIT: rekurzivní volání Filip Železný (ČVUT) Vytěžování dat 7 / 26

13 Výběr příznaku Jak implementovat příkaz vyber i I v algoritmu TDIT? Příklad Třída: barva Příznaky: tvar, velikost, průhlednost Začínáme konstruovat strom. Jaký příznak zvolit první? Měl by co nejčistěji dělit data podle tříd Filip Železný (ČVUT) Vytěžování dat 8 / 26

14 Výběr příznaku Filip Železný (ČVUT) Vytěžování dat 9 / 26

15 Entropie Entropie množiny instancí D s t třídami H(D) = t p i log 2 p i i=1 p 1, p 2... p t... poměrné velikosti tříd p i = počet instancí třídy i v D počet všech instancí v D Minimální H(D) = 0, pokud jsou všechny příklady v jedné třídě. Maximální H(D) = log 2 t, pokud p 1 = p 2 =... = p t. Filip Železný (ČVUT) Vytěžování dat 10 / 26

16 Entropie Pro dvě třídy Filip Železný (ČVUT) Vytěžování dat 11 / 26

17 Entropie p zelená = pčervená = 1 2 H(D) = 1 ( ) 1 2 log 2 1 ( ) log 2 = 1 2 Filip Železný (ČVUT) Vytěžování dat 12 / 26

18 Entropie po rozdělení množiny E velké = velké instance p zelená = pčervená = 0.5 E malé = malé instance p zelená = pčervená = 0.5 H(E velké ) = 1 Vážený průměr entropíı j {velké,malé} H(E malé ) = 1 E j D H(E j) = = 1 Filip Železný (ČVUT) Vytěžování dat 13 / 26

Entropie po rozdělení množiny E průhledné = průhledné instance p zelená = 1 E neprůhledné = neprůhledné instance p zelená = 1/3 pčervená = 0 H(E průhledné ) = 0

19 Entropie po rozdělení množiny E průhledné = průhledné instance p zelená = 1 E neprůhledné = neprůhledné instance p zelená = 1/3 pčervená = 0 H(E průhledné ) = 0 Vážený průměr entropíı j {průhledné,neprůhledné} pčervená = 2/3 H(E neprůhledné ) = 0.92 E j D H(E j) = = Filip Železný (ČVUT) Vytěžování dat 14 / 26

20 Entropie po rozdělení množiny E hranaté = hranaté instance p zelená = 1 E kulaté = kulaté instance p zelená = 0 pčervená = 0 H(E hranaté ) = 0 Vážený průměr entropíı j {hranaté,kulaté} pčervená = 1 H(E kulaté ) = 0 E j D H(E j) = = 0 Filip Železný (ČVUT) Vytěžování dat 15 / 26

21 Pokles entropie H(D, x i ) = H(D) v j Range(x i ) E j D H(E j) Rozdíl entropie původní množiny D a váženého průměru entropíı množiny rozdělené hodnotami příznaku x i Jak implementovat příkaz vyber i I v algoritmu TDIT? Vybereme i, které maximalizuje H(D, x i ) Pozn: pro výběr i není sčítanec H(D) důležitý (nezávisí na i). Filip Železný (ČVUT) Vytěžování dat 16 / 26

22 Pokles entropie Jak implementovat příkaz vyber i I v algoritmu TDIT? Vybereme i, které maximalizuje H(D, xi ) Filip Železný (ČVUT) Vytěžování dat 17 / 26

23 Složitost rozhodovacího stromu Algoritmus TDIT se snaží minimalizovat trénovací chybu za cenu velké složitosti (košatosti) stromu Stále platí kompromis mezi složitostí modelu a trénovací chybou! Vymyslete úpravu algoritmu TDIT omezující složitost stromu Filip Železný (ČVUT) Vytěžování dat 18 / 26

24 Složitost rozhodovacího stromu Algoritmus TDIT se snaží minimalizovat trénovací chybu za cenu velké složitosti (košatosti) stromu Stále platí kompromis mezi složitostí modelu a trénovací chybou! Vymyslete úpravu algoritmu TDIT omezující složitost stromu Nevětvíme, pokud maxi H(D, x i ) < θ, θ > 0... parametr Filip Železný (ČVUT) Vytěžování dat 18 / 26

25 Ordinální příznaky Ordinální veličina Veličina, jejíž obor hodnot je uspořádán Např. přirozená (nebo reálná) čísla 1 < 2 < 3 <... ale i např. nízký < střední < vysoký Filip Železný (ČVUT) Vytěžování dat 19 / 26

26 Ordinální příznaky Pro ordinální příznaky obvykle test x > h v uzlech, kde h je zvolená hraniční hodnota Filip Železný (ČVUT) Vytěžování dat 20 / 26

27 Převod na nominální příznaky Před tvorbou stromu můžeme každý ordinální příznak, např. teplota převést na množinu nominálních příznaků teplota > h 1, teplota > h 2,..., teplota > h n z nichž každý má binární obor hodnot. Co jsou h 1, h 2,... h n? V nejjednodušším případě celý obor hodnot původního příznaku, je-li konečný (a malý). Obvykle ale jen některé z oboru hodnot. Které? Filip Železný (ČVUT) Vytěžování dat 21 / 26

28 Diskretizace U některých veličin se hraniční hodnoty nabízejí. x i < 36.5 podchlazení 36.5 x i < 37 normální teplota 37 x i < 38 zvýšená teplota 38 x i < 42 horečka 42 x i smrt Zde tedy uvažujeme hraniční hodnoty {36.5, 37, 38, 42} Pozn.: převedení reálné veličiny (teplota) na veličinu s konečným oborem hodnot = diskretizace. V obecném případě vhodné hraniční hodnoty předem neznáme. Filip Železný (ČVUT) Vytěžování dat 22 / 26

29 Diskretizace: 3 obecné způsoby Intervaly stejné délky Intervaly stejné pravděpodobnosti Intervaly obsahující instance stejné třídy (nejužívanější pro stromy) Filip Železný (ČVUT) Vytěžování dat 23 / 26

30 Separace: srovnání Separace v prostoru dvou reálných příznaků Lineární klasifikátor (nelze rozdělit) Filip Železný (ČVUT) Vytěžování dat 24 / 26

31 Separace: srovnání Separace v prostoru dvou reálných příznaků Kvadratický klasifikátor Filip Železný (ČVUT) Vytěžování dat 24 / 26

32 Separace: srovnání Separace v prostoru dvou reálných příznaků Rozhodovací strom Filip Železný (ČVUT) Vytěžování dat 24 / 26

33 Separace rozhodovacím stromem Separace v prostoru dvou reálných příznaků Filip Železný (ČVUT) Vytěžování dat 25 / 26

34 Separace rozhodovacím stromem Separace v prostoru dvou reálných příznaků Filip Železný (ČVUT) Vytěžování dat 25 / 26

35 Separace rozhodovacím stromem Separace v prostoru dvou reálných příznaků Filip Železný (ČVUT) Vytěžování dat 25 / 26

36 Minimalizace nákladů na rozhodování Rozhodovací strom netestuje vždy všechny příznaky! TDIT lze přizpůsobit tak, aby levné testy byly bĺıže ke kořeni Filip Železný (ČVUT) Vytěžování dat 26 / 26

Podobne dokumenty

Katedra kybernetiky skupina Inteligentní Datové Analýzy (IDA) 3. listopadu Filip Železný (ČVUT) Vytěžování dat 3. listopadu / 1

Vytěžování dat Filip Železný Katedra kybernetiky skupina Inteligentní Datové Analýzy (IDA) 3. listopadu 2014 Filip Železný (ČVUT) Vytěžování dat 3. listopadu 2014 1 / 1 Metafora pro tuto přednášku Filip