Systemy decyzyjne Wprowadzenie

Podobne dokumenty
Wst p. Elementy systemów decyzyjnych Sprawy organizacyjne. Wprowadzenie Przegl d metod klasykacji

COLT - Obliczeniowa teoria uczenia si

Wnioskowanie Boolowskie i teoria zbiorów przybli»onych

komputery? Andrzej Skowron, Hung Son Nguyen Instytut Matematyki, Wydział MIM, UW

Teoria systemów uczacych się i wymiar Vapnika-Chervonenkisa

Wnioskowanie Boolowskie i teoria zbiorów przybli»onych

Twierdzenie Wainera. Marek Czarnecki. Warszawa, 3 lipca Wydziaª Filozoi i Socjologii Uniwersytet Warszawski

Eksploracja Danych. Wprowadzenie. (c) Marcin Sydow

Sztuczna inteligencja

Systemy decyzyjne Wykªad 5: Drzewa decyzyjne

3. (8 punktów) EGZAMIN MAGISTERSKI, Biomatematyka

Uczenie Wielowarstwowych Sieci Neuronów o

Rozwini cia asymptotyczne dla mocy testów przybli»onych

Przykªady problemów optymalizacji kombinatorycznej

Lab. 02: Algorytm Schrage

Wst p do sieci neuronowych 2010/2011 wykªad 7 Algorytm propagacji wstecznej cd.

Metody numeryczne i statystyka dla in»ynierów

JAO - J zyki, Automaty i Obliczenia - Wykªad 1. JAO - J zyki, Automaty i Obliczenia - Wykªad 1

Wykªad 7. Ekstrema lokalne funkcji dwóch zmiennych.

In»ynierskie zastosowania statystyki wiczenia

Ekonometria Bayesowska

SYSTEMY UCZĄCE SIĘ WYKŁAD 4. DRZEWA REGRESYJNE, INDUKCJA REGUŁ. Dr hab. inż. Grzegorz Dudek Wydział Elektryczny Politechnika Częstochowska

Biostatystyka, # 5 /Weterynaria I/

Uczenie Maszynowe: reprezentacja wiedzy, wybór i ocena modelu, drzewa decyzjne

2 Liczby rzeczywiste - cz. 2

Matematyka stosowana. Systemy decyzyjne. Hung Son Nguyen

Matematyka dyskretna dla informatyków

ARYTMETYKA MODULARNA. Grzegorz Szkibiel. Wiosna 2014/15

Prawdopodobie«stwo warunkowe, twierdzenie Bayesa, niezale»no± zdarze«.

Wst p do uczenia maszynowego. Teoria nauczalno±ci.

1 Metody iteracyjne rozwi zywania równania f(x)=0

Maszyny Turinga i problemy nierozstrzygalne. Maszyny Turinga i problemy nierozstrzygalne

5. (8 punktów) EGZAMIN MAGISTERSKI, r Matematyka w ekonomii i ubezpieczeniach

Algorytm grupowania K-Means Reprezentacja wiedzy Selekcja i ocena modeli

Uczenie Maszynowe: Wprowadzenie. (c) Marcin Sydow

Ciaªa i wielomiany. 1 Denicja ciaªa. Ciaªa i wielomiany 1

CAŠKOWANIE METODAMI MONTE CARLO Janusz Adamowski

Wnioskowanie Boolowskie i teoria zbiorów przybli»onych

Elementy Modelowania Matematycznego Wykªad 1 Prawdopodobie«stwo

Relacj binarn okre±lon w zbiorze X nazywamy podzbiór ϱ X X.

Ekonometria. wiczenia 1 Regresja liniowa i MNK. Andrzej Torój. Instytut Ekonometrii Zakªad Ekonometrii Stosowanej

EGZAMIN MAGISTERSKI, r Matematyka w ekonomii i ubezpieczeniach

W poprzednim odcinku... Podstawy matematyki dla informatyków. Relacje równowa»no±ci. Zbiór (typ) ilorazowy. Klasy abstrakcji

Zbiory i odwzorowania

Macierze i Wyznaczniki

Ekonometria. wiczenia 4 Prognozowanie. Andrzej Torój. Instytut Ekonometrii Zakªad Ekonometrii Stosowanej

wiczenie nr 3 z przedmiotu Metody prognozowania kwiecie«2015 r. Metodyka bada«do±wiadczalnych dr hab. in». Sebastian Skoczypiec Cel wiczenia Zaªo»enia

Jednowarstwowe Sieci Neuronowe jako. klasykatory do wielu klas. (c) Marcin Sydow

Metody dowodzenia twierdze«

Funkcje wielu zmiennych

Elementarna statystyka Wnioskowanie o regresji (Inference 2 czerwca for regression) / 13

Ÿ1 Oznaczenia, poj cia wst pne

c Marcin Sydow Przepªywy Grafy i Zastosowania Podsumowanie 12: Przepªywy w sieciach

Metodydowodzenia twierdzeń

Funkcje wielu zmiennych

PRZYPOMNIENIE Ka»d przestrze«wektorow V, o wymiarze dim V = n < nad ciaªem F mo»na jednoznacznie odwzorowa na przestrze«f n n-ek uporz dkowanych:

Macierze i Wyznaczniki

Macierze. 1 Podstawowe denicje. 2 Rodzaje macierzy. Denicja

Przeksztaªcenia liniowe

Systemy decyzyjne. Wykład 3: Wnioskowanie Boolowskie w obliczeniu Redutów i reguł decyzyjnych. Nguyen Hung Son. Nguyen Hung Son () 1 / 61

ELEMENTARNA TEORIA LICZB. 1. Podzielno±

Skrypt do Algorytmów i Struktur Danych

Minimalne drzewa rozpinaj ce

Przekroje Dedekinda 1

Metody bioinformatyki (MBI)

Maªgorzata Murat. Modele matematyczne.

Eksploracja Danych. wykład 4. Sebastian Zając. 10 maja 2017 WMP.SNŚ UKSW. Sebastian Zając (WMP.SNŚ UKSW) Eksploracja Danych 10 maja / 18

Algorytmiczna teoria grafów

LZNK. Rozkªad QR. Metoda Householdera

Sztuczna inteligencja Lista zada«

Statystyka matematyczna

Wykorzystanie lokalnej geometrii danych w Maszynie Wektorów No±nych

ANALIZA NUMERYCZNA. Grzegorz Szkibiel. Wiosna 2014/15

i, lub, nie Cegieªki buduj ce wspóªczesne procesory. Piotr Fulma«ski 5 kwietnia 2017

Dynamiczne wªasno±ci algorytmu propagacji przekona«

Wst p. Elementy systemów decyzyjnych Sprawy organizacyjne. Wprowadzenie Przegl d metod klasykacji

x y x y x y x + y x y

SVM: Maszyny Wektorów Podpieraja cych

Granular Computing 9999 pages 15 METODY SZTUCZNEJ INTELIGENCJI - PROJEKTY

Matematyka 1. Šukasz Dawidowski. Instytut Matematyki, Uniwersytet l ski

Elementarna statystyka Test Istotno±ci (Tests of Signicance)

Modele liniowe i mieszane na przykªadzie analizy danych biologicznych - Wykªad 6

2. L(a u) = al( u) dla dowolnych u U i a R. Uwaga 1. Warunki 1., 2. mo»na zast pi jednym warunkiem: L(a u + b v) = al( u) + bl( v)

EGZAMIN MAGISTERSKI, r Matematyka w ekonomii i ubezpieczeniach

Algorytmy metaheurystyczne Wykład 11. Piotr Syga

Ekstremalnie maªe zbiory

Liniowe równania ró»niczkowe n tego rz du o staªych wspóªczynnikach

Ekonometria Bayesowska

Szeregowanie zada« Wykªad nr 5. dr Hanna Furma«czyk. 4 kwietnia 2013

Logika matematyczna (16) (JiNoI I)

WYKŁAD 4 PLAN WYKŁADU. Sieci neuronowe: Algorytmy uczenia & Dalsze zastosowania. Metody uczenia sieci: Zastosowania

Wykªad 4. Funkcje wielu zmiennych.

Rozdziaª 13. Przykªadowe projekty zaliczeniowe

Rachunek prawdopodobieństwa i statystyka - W 9 Testy statystyczne testy zgodności. Dr Anna ADRIAN Paw B5, pok407

Podstawy matematyki dla informatyków

Wyra»enia logicznie równowa»ne

Modele wielorównaniowe. Problem identykacji

Granular Computing 9999 pages 15 METODY SZTUCZNEJ INTELIGENCJI - PROJEKTY

Zdzisªaw Dzedzej, Katedra Analizy Nieliniowej pok. 611 Kontakt:

Aplikacje bazodanowe. Laboratorium 1. Dawid Poªap Aplikacje bazodanowe - laboratorium 1 Luty, 22, / 37

Transkrypt:

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 1 / 34 Systemy decyzyjne Wprowadzenie Hung Son Nguyen Institute of Mathematics, Warsaw University son@mimuw.edu.pl 2007

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 2 / 34 Spis tre±ci 1 Problem klasyfikacji i teoria uczenia si Wprowadzenie do teorii uczenia si Nie ma nic za darmo czyli Non Free Lunch Theorem 2 Elementy systemów decyzyjnych Systemy informacyjne i tablice decyzyjne Aproksymacja poj 3 Sprawy organizacyjne

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 3 / 34 Spis tre±ci 1 Problem klasyfikacji i teoria uczenia si Wprowadzenie do teorii uczenia si Nie ma nic za darmo czyli Non Free Lunch Theorem 2 Elementy systemów decyzyjnych Systemy informacyjne i tablice decyzyjne Aproksymacja poj 3 Sprawy organizacyjne

Problem uczenia si Kto si uczy? Ograniczymy si do programów komputerowych zwanych algorytmami ucz cymi si. Czego si uczy? poj : np. odró»nienie krzeseª od innych mebli. nieznanych urz dze«np. u»ywanie VCR nieznanych ±rodowisk np. nowe miasto procesów np. pieczenie ciasta rodzin podobnych wzorców np. rozp. mowy, twarzy lub pisma. funkcji: (np. funkcje boolowskie) Wymagania skuteczno±, efektywno±,... Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 4 / 34

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 5 / 34 Model uczenia Ka»dy ucze«powinien mie zdolno± uogólnienia, t.j. zdolno± rozpoznawania ró»nych typów tego samego poj cia. Np. je±li uczymy si funkcji, to wa»ne jest aby algorytm uczenia si nie ograniczaª si do jednej konkretnej funkcji. damy aby modele uczenia dziaªaªy skutecznie na klasach funkcji.

ródªo informacji: Ucze«mo»e pozyska informacje o dziedzinie poprzez: 1 Przykªady: Ucze«dostaje pozytywne i/lub negatywne przykªady. Przykªady mog by zdobywane w sposób: 1 losowy: wedªug pewnego znanego lub nieznanego rozkªadu; 2 arbitralny; 3 zªo±liwy: (np. przez kontrolera, który chciaªby pozna najgorsze zachowanie algorytmu uczenia si ); 4 specjalny przez»yczliwego nauczyciela: (np., aby uªatwia proces uczenia si ) 2 Zapytania: ucze«zdobywa informacje o dziedzinie przez zadawanie zapyta«do nauczyciela. 3 Eksperymentowanie: aktywne uczenie si. Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 6 / 34

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 7 / 34 Teoria uczenia si Podej±cie indukcyjne: wnioskowanie na podstawie sko«czonego zbioru obserwacji;

Teoria uczenia si Podej±cie indukcyjne: wnioskowanie na podstawie sko«czonego zbioru obserwacji; Np. Pokaza,»e dla ka»dego n N 1 2 + 2 2 +... + n 2 = n(n + 1)(2n + 1) 6 Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 7 / 34

Teoria uczenia si Podej±cie indukcyjne: wnioskowanie na podstawie sko«czonego zbioru obserwacji; Np. Pokaza,»e dla ka»dego n N 1 2 + 2 2 +... + n 2 = n(n + 1)(2n + 1) 6 Jakie prawa rz dz w podej±ciu uczenia indukcyjnego? Szukamy teorii dotycz cej: Prawdopodobie«stwa udanego uczenia si ; Liczby przykªadów treningowych; Zªo»ono±ci przestrzeni hipotez; Skuteczno±ci aproksymacji; Sposób reprezentacji danych treningowych; Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 7 / 34

Kryteria oceny jako±ci: Sk d wiemy, czy ucze«si nauczyª lub jak dobrze si nauczyª? Miary o-line (batch) vs. on-line (interactive). Jako± opisu vs. jako± predykcji Skuteczno± : obliczona na podstawie bª du klasykacji, dokªadno±ci opisu... Efektywno± uczenia: wymagana jest wielomianowa zªo»ono± obliczeniowa. Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 8 / 34

Przykªad Zaªó»my,»e chcemy nauczy si poj cia czªowieka o ±redniej budowie ciaªa. Dane czyli osoby s reprezentowane przez punkty (wzrost(cm), waga(kg)) i s etykietowane przez + dla pozytywnych przykªadów i dla negatywnych. Dodatkowa wiedza: szukane poj cie mo»na wyrazi za pomoc PROSTOK TA Na przykªad dany jest etykietowany zbiór: ((84, 184), +), ((70, 170), +), ((75, 163), ), ((80, 180), +), ((81, 195), ), ((63, 191), ), ((77, 187), ), ((68, 168), +) Znajd¹ etykiet ((79, 183,?) Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 9 / 34

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 10 / 34 Problem uczenia si prostok ta Mo»emy deniowa problem jak nast puj co: Cel: Znale¹ w R 2 prostok t R o bokach równolegªych do osi.

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 10 / 34 Problem uczenia si prostok ta Mo»emy deniowa problem jak nast puj co: Cel: Znale¹ w R 2 prostok t R o bokach równolegªych do osi. Wej±cie: Zbiór zawieraj cy przykªady w postaci punktów ((x, y), +/ ). Te punkty zostaªy wygenerowane losowo.

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 10 / 34 Problem uczenia si prostok ta Mo»emy deniowa problem jak nast puj co: Cel: Znale¹ w R 2 prostok t R o bokach równolegªych do osi. Wej±cie: Zbiór zawieraj cy przykªady w postaci punktów ((x, y), +/ ). Te punkty zostaªy wygenerowane losowo. Wyj±cie: hipotetyczny prostok t R b d cy dobr aproksymacj R.

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 10 / 34 Problem uczenia si prostok ta Mo»emy deniowa problem jak nast puj co: Cel: Znale¹ w R 2 prostok t R o bokach równolegªych do osi. Wej±cie: Zbiór zawieraj cy przykªady w postaci punktów ((x, y), +/ ). Te punkty zostaªy wygenerowane losowo. Wyj±cie: hipotetyczny prostok t R b d cy dobr aproksymacj R. Dodatkowe wymagania: Algorytm powinien by efektywny (czasowo) u»ywaj c do uczenia najmniejszej liczby przykªadów.

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 11 / 34 Ogólny model uczenia si Dane s zbiór wszystkich obiektów X (sko«czony lub nie); poj cie c C (funkcja celu); sko«czona próbka D obiektów x 1,..., x m X wraz z warto±ci funkcji c na tych obiektach; przestrze«hipotez H;

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 11 / 34 Ogólny model uczenia si Dane s zbiór wszystkich obiektów X (sko«czony lub nie); poj cie c C (funkcja celu); sko«czona próbka D obiektów x 1,..., x m X wraz z warto±ci funkcji c na tych obiektach; przestrze«hipotez H; Szukane hipoteza h H b d ca dobr aproksymacj poj cia c.

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 11 / 34 Ogólny model uczenia si Dane s zbiór wszystkich obiektów X (sko«czony lub nie); poj cie c C (funkcja celu); sko«czona próbka D obiektów x 1,..., x m X wraz z warto±ci funkcji c na tych obiektach; przestrze«hipotez H; Szukane hipoteza h H b d ca dobr aproksymacj poj cia c. Wymagane dobra jako± aproksymacji szybki czas dziaªania.

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 12 / 34 Inne przykªady Uczenie póªosi (lub dyskretyzacji): X = R; C = H = {[λ, ) : α R} Uczenie hiperpªaszczyzny: X = R n ; H = {f w0,w 1,...,w n : R n {0, 1} } gdzie f w0,...,w n (x 1,..., x n ) = sgn(w 0 + w 1 x 1 +... + w n x n ). Uczenie jednomianów Boolowskich: X = {0, 1} n ; c : {0, 1} n {0, 1}; H = M n = zbiór jednomianów Boolowskich o n zmiennych.

Bª d hipotezy Niech X zbiór wszystkich obiektów. Ω = (X, µ) przestrze«probabilistyczna okre±lona na X. Bª d hipotezy h H wzgl dem poj cia c (funkcji docelowej): er Ω (h, c) = er c Ω(h) = µ{x X h(x) c(x)} Z prawdopodobie«stwem (1 ε) mo»emy oszacowa er c Ω : erω c erd c erd c s (1 erc D ) ε 2 D Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 13 / 34

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 14 / 34 Szacowanie bª du Pytanie: Dane jest poj cie c, hipoteza h i zbiór przykladów D. Jak oszacowa rzeczywisty bª d hipotezy h na podstawie jej bª du na zbiorze D? Odp.: Je±li przykªady z D s wybrane zgodnie z miar prawdopodobie«stwa µ niezale»nie od tej hipotezy i niezale»nie od siebie nawzajem oraz D 30, to najbardziej prawdopodobn warto±ci er µ (c, h) jest erd c, z prawdopodobie«stwem (1 ε) erω c erd c erd c s (1 erc D ) ε 2 D

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 15 / 34 Spis tre±ci 1 Problem klasyfikacji i teoria uczenia si Wprowadzenie do teorii uczenia si Nie ma nic za darmo czyli Non Free Lunch Theorem 2 Elementy systemów decyzyjnych Systemy informacyjne i tablice decyzyjne Aproksymacja poj 3 Sprawy organizacyjne

O co chodzi w NFL? Znale¹ optimum nieznanej funkcji f : S W (f F), gdzie S, W s sko«czonymi zbiorami. Dziaªanie algorytmu przeszukiwania A dla funkcji f jest identykowany z wektorem: V A (f, t) = (s 1, f(s 1 )), (s 2, f(s 2 )),..., (s t, f(s t )) Ocena algorytmu: M : {V A (f, t) A, f, t} R; Np. M(V A (f, t)) = min{i f(s i ) = f max } Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 16 / 34

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 17 / 34 Warunek NFL: Dla dowolnej funkcji M, i dla dowolnych algorytmów A, A M(V A (f, S )) f F M(V A (f, S )) = f F F jest zamkni ta wzg. permutacji: dla dowolnej funkcji f F i dowolnej permutacji σ P erm(s) mamy σf F Twierdzenie o NFL zachodzi równowa»no± NF L F jest zamkni ta wzg. permutacji Prawdopodobie«stwo wylosowania niepustej klasy funkcji zamkni tej wzg. permutacji wynosi: 1 ( S + W 2 S ) 1 2 S W 1

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 18 / 34 The No Free Lunch Theorem for learning Algorytm L dobrze si uczy poj cia c je±li erω c jest maªy. Niech P(X) = {c : X {0, 1}}. Czy mo»na stwierdzi wiedzie,»e L 1 uczy si wszystkich poj z P(X) lepiej od L 2? No Free Lunch theorem (Wolpert, Schaer) w wersji problemów uczenia si gªosi,»e: aden algorytm nie mo»e by najlepszy w uczeniu wszystkich poj. Ka»dy algorytm jest najlepszy dla takiej samej liczby poj Ale interesuje nas tylko pewna klasa problemów czyli klasa poj C P(X) Wniosek: Nale»y znale¹ odp. algorytm do ka»dego problemu.

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 19 / 34 Spis tre±ci 1 Problem klasyfikacji i teoria uczenia si Wprowadzenie do teorii uczenia si Nie ma nic za darmo czyli Non Free Lunch Theorem 2 Elementy systemów decyzyjnych Systemy informacyjne i tablice decyzyjne Aproksymacja poj 3 Sprawy organizacyjne

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 20 / 34 Spis tre±ci 1 Problem klasyfikacji i teoria uczenia si Wprowadzenie do teorii uczenia si Nie ma nic za darmo czyli Non Free Lunch Theorem 2 Elementy systemów decyzyjnych Systemy informacyjne i tablice decyzyjne Aproksymacja poj 3 Sprawy organizacyjne

Teoria zbiorów przybli»onych Teoria zbiorów przybli»onych jest wprowadzona w latach 80-tych przez prof. Zdzisªawa Pawlaka. Gªównym celem jest dostarczanie narz dzi dla problemu aproksymacji poj (zbiorów). Zastosowania w systemach decyzyjnych: Redukcja danych, selekcja wa»nych atrybutów Generowanie reguª decyzyjnych Odkrywanie wzorców z danych: szablony, reguªy asocjacyjne Odkrywanie zale»no±ci w danych Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 21 / 34

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 22 / 34 Systemy informacyjne Przykªad Patient Age Sex Chol. Resting ECG Heart rate Sick p 1 53 M 203 hyp 155 yes p 2 60 M 185 hyp 155 yes p 3 40 M 199 norm 178 no p 4 46 F 243 norm 144 no p 5 62 F 294 norm 162 no p 6 43 M 177 hyp 120 yes p 7 76 F 197 abnorm 116 no p 8 62 M 267 norm 99 yes p 9 57 M 274 norm 88 yes p 10 72 M 200 abnorm 100 no

Tablica decyzyjna Tablica decyzyjna Jest to struktura S = (U, A {dec}), gdzie U jest zbiorem obiektów: A jest zbiorem atrybutów postaci U = {u 1,..., u n } a j : U V j dec jest specjalnym atrybutem zwanym decyzj dec : U {1,..., d} Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 23 / 34

Tablica decyzyjna Tablica decyzyjna powstaje ze zwykªych tablic danych poprzez sprecyzowania: Atrybutów: cechy ªatwo dost pne, np. pomiary, parametry, dane osobowe,... Decyzji, t.j. cecha ukryta za pewn wiedz (poj ciem) nieznan : Decyzja jest znana tylko dla obiektów z (treningowej) tablicy decyzyjnej Jest podana przez eksperta (np. lekarza) lub na podstawie pó¹niejszych obserwacji (np. ocena gieªdy). chcemy j okre±li dla dowolnych obiektów na podstawie atrybutów Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 24 / 34

Przykªad Przedstawiona tablica decyzyjna zawiera: 8 obiektów b d cych opisami pacjentów 3 atrybuty: Headache, Muscle pain, Temp. Decyzj okre±laj c pacjenta jako przezi bionego lub nie Example U Headache Muscle pain Temp. Flu p1 Yes Yes Normal No p2 Yes Yes High Yes p3 Yes Yes Very-high Yes p4 No Yes Normal No p5 No No High No p6 No Yes Very-high Yes p7 No Yes High Yes p8 No No Very-high No Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 25 / 34

Relacja rozró»nialno±ci Dane s obiekty x, y U i zbiór atrybutów B A, mówimy,»e x, y s rozró»nialne przez B wtw, gdy istnieje a B taki,»e a(x) a(y) x, y s nieodró»nialne przez B, je±li one s identyczne na B, tzn. a(x) = a(y) dla ka»dego a B [x] B = zbiór obiektów nieodró»nialnych z x przez B Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 26 / 34

Relacja rozró»nialno±ci Dla ka»dych obiektów x, y: albo [x] B = [y] B albo [x]b [y]b = Relacja x IND B y := x, y s nieodró»nialne przez B jest relacj równowa»no±ci. Ka»dy zbiór atrybutów B A wyznacza podziaª zbioru obiektów na klasy nieodró»nialno±ci Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 27 / 34

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 28 / 34 Przykªad Dla B = {Headache, M usclepain} obiekty p1, p2, p3 s nierozró»nialne. s 3 klasy nieodró»nialno±ci relacji IND B : [p1] B = {p1, p2, p3} [p4]b = {p4, p6, p7} [p5]b = {p5, p8} Example U Headache Muscle pain Temp. Flu p1 Yes Yes Normal No p2 Yes Yes High Yes p3 Yes Yes Very-high Yes p4 No Yes Normal No p5 No No High No p6 No Yes Very-high Yes p7 No Yes High Yes p8 No No Very-high No

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 29 / 34 Spis tre±ci 1 Problem klasyfikacji i teoria uczenia si Wprowadzenie do teorii uczenia si Nie ma nic za darmo czyli Non Free Lunch Theorem 2 Elementy systemów decyzyjnych Systemy informacyjne i tablice decyzyjne Aproksymacja poj 3 Sprawy organizacyjne

Problemy Aproksymacji Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 30 / 34

Problemy Aproksymacji Aproksymacja funkcji Sztuczna sie neuronowa; Twierdzenie Kolmogorowa; Modele sieci; Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 30 / 34

Problemy Aproksymacji Aproksymacja poj Uczenie indukcyjne; COLT; Metody uczenia si ; Wnioskowanie aproksymacyjne Wnioskowanie rozmyte; Wnioskowanie Boolowskie, teoria zbiorów przybli»onych; Inne: wnioskowanie Bayesowskie, sieci przekona«,... Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 31 / 34

Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 32 / 34 Spis tre±ci 1 Problem klasyfikacji i teoria uczenia si Wprowadzenie do teorii uczenia si Nie ma nic za darmo czyli Non Free Lunch Theorem 2 Elementy systemów decyzyjnych Systemy informacyjne i tablice decyzyjne Aproksymacja poj 3 Sprawy organizacyjne

Omówione tematy Klasykatory i metody oceny klasykatorów Metody rozumowania Boolowskiego Teoria zbiorów przybli»onych Reguªy decyzyjne, drzewo decyzyjne i lasy decyzyjne Klasykatory Bayesowskie Sieci neuronowe COLT: Obliczeniowa Teoria Uczenia si Metody przygotowywania danych SVM: Maszyna wektorów podpieraj cych Metody wzmacniania klasykatorów (Boosting) Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 33 / 34

Zaliczenie Obecno± : Projekt: Test: Hung Son Nguyen (UW) Systemy decyzyjne Wprowadzenie 2007 34 / 34