Wprowadzenie do zbiorów przybli»onych

Transkrypt

1 Wprowadzenie do zbiorów przybli»onych dr Agnieszka Nowak-Brzezi«ska Instytut Informatyki, Uniwersytet l ski, ul. B dzinska 39, Sosnowiec, Polska Tel (32) , Fax (32) Wykªad II i III

2 Wst p Teoria zbiorów przybli»onych zostaªa sformuªowana przez Zdzisªawa Pawlaka w 1982 roku. Jest to matematyczne narz dzie pozwalaj ce wnioskowa w warunkach niepewno±ci o nieostrych poj ciach. W najwi kszym skrócie jest to nowe podej±cie do problemów nieostrych poj. Jest ona wykorzystywana jako narz dzie do syntezy zaawansowanych i efektywnych metod analizy oraz do redukcji zbiorów danych. Znalazªa ona zastosowanie m.in. w eksploracji danych i odkrywaniu wiedzy, zªo»onych zadaniach klasykacji oraz w komputerowych systemach wspomagania decyzji. Metodologia zbiorów przybli»onych zyskaªa sobie du» popularno±. Jest ona przedmiotem bada«wielu osób na caªym ±wiecie. Po±wi cono jej przeszªo 2000 publikacji, w tym kilkana±cie ksi»ek. Cyklicznie odbywaj si na jej temat mi dzynarodowe konferencje i seminaria (m.in. w USA, Kanadzie i Japonii).

3 Zbiory przybli»one znane na caªym ±wiecie

4 Zbiory przybli»one znane na caªym ±wiecie

5 Wprowadzenie do teorii zbiorów przybli»onych Cz ± I Denition Wprowadzenie do teorii zbiorów przybli»onych. Cz ± I.

6 System informacyjny Istnieje szereg struktur, które mog by wykorzystane do przechowywania danych. Sposób reprezentacji danych powinien jednak posiada dwie podstawowe cechy: uniwersalno± - (powinien pozwala na gromadzenie i przechowywanie zbiorów ró»norodnych danych, opisuj cych badane zjawiska i procesy), efektywno± - (powinien umo»liwia w ªatwy sposób komputerow analiz tak zapisanych danych). Obie te cechy posiada znany i cz sto wykorzystywany w praktyce tablicowy sposób reprezentacji danych.

7 System informacyjny Denicja System informacyjny SI zdeniowany jest jako dwójka: SI = (U, A) gdzie: U jest niepustym, sko«czonym zbiorem obiektów, A jest niepustym, sko«czonym zbiorem atrybutów. Zbiór V a jest dziedzin atrybutu a A, V = a A Va. Deniuje si rownie» funkcj informacyjn. f : U A V, tak,»e a A,x U, f (a, x) V a.

8 System informacyjny Jak nale»y rozumie denicj SI? Rysunek: Jak nale»y rozumie denicj SI? f (C2, 1) = Niski, f (C2, 2) = Wysoki, f (C1, 4) = 2, f (C1, 2) = 1, f (S, 3) = O, f (S, 7) = On. f : U A V : a A,x U f (a, x) V a gdzie V a jest dziedzin atrybutu a A.

9 System informacyjny System informacyjny a tabela bazy danych? Rysunek: Jak nale»y rozumie denicj SI? Poj cie systemu informacyjnego odpowiada poj ciowo poj ciu tabeli (relacji) w bazach danych.

10 System informacyjny a system decyzyjny System decyzyjny to rodzaj systemu informacyjnego, który przydziela obiekty do pewnych klas okre±lonych za pomoc jednego z atrybutów, zwanego atrybutem decyzyjnym. Atrybuty zawarte w zbiorze A s nazywane warunkowymi albo po prostu warunkami, za± d jest nazywane konkluzj b d¹ po prostu decyzj systemu. Zbiory te s zbiorami sko«czonymi. i-ta klasa decyzyjna to zbiór obiektów C i = {x U : d(x) = d i }, gdzie d i jest i -t warto±ci decyzji odpowiadaj c zbiorowi warto±ci decyzji V d = {d 1,..., d Vd }. Reguªa decyzyjna jest formuª : (a i1 = v 1)... (a ik = v k ) (d = v d ), gdzie 1 i 1 <... < i k m, v j V ai j.

11 Indukcja reguª decyzyjnych W procesie indukcji pomocna jest funkcja rozró»nialno±ci f A, która pozwala budowa reguªy minimalne (optymalne) dla danej tablicy decyzyjnej. Funkcja rozró»nialno±ci f A dla danego systemu informacyjnego A jest funkcj boolowsk m zmiennych boolowskich a1,..., am (odpowiadaj cych atrybutom a 1,..., a m) zdeniowanym przez: f A = { } c ij 1 j i n, c ij gdzie c ij = {a a c ij }.

12 Tablica decyzyjna Tablic decyzyjn DT nazywa b dziemy system informacyjny w postaci: DT = (U, A {d}), gdzie d / A jest atrybutem decyzyjnym niezaliczanym do zbioru atrybutow A systemu. Atrybuty a A nazywamy atrybutami warunkowymi.

13 System informacyjny - tablica decyzyjna Pacjent Ból gªowy (g) Ból mi sni (m) Temperatura (t) Grypa (c) 1 nie tak wysoka tak 2 tak nie wysoka tak 3 tak tak bardzo wysoka tak 4 nie tak bardzo wysoka tak 5 tak nie wysoka nie 6 nie tak normalna nie Tabela przedstawia przykªadowy system informacyjny zawieraj cy wyniki bada«przeprowadzonych dla grupy pacjentów. System ten skªada si z sze±ciu obiektów (1, 2,..,6) oraz czterech atrybutów: Ból gªowy, Ból mi ±ni, Temperatura, Grypa.

14 Denicja przykªadowego SI Rozpatrywany system informacyjny mo»e zosta zapisany w nast puj cej postaci: SI = (U, A, V, f ) gdzie: U={1, 2, 3, 4, 5, 6} A={Ból gªowy, Ból mi ±ni, Temperatura, Grypa} V = V Bolglowy V Bolmiesni V Temperatura V Grypa V Bolglowy = {nie, tak} V Bolmiesni = {nie, tak} V Temperatura = {normalna, wysoka, bardzowysoka} V Grypa = {nie, tak} f : U A V (np. f(1, Ból gªowy)=nie; f(3, Grypa) = tak)

15 Powtórka iloczyn kartezja«ski Iloczyn kartezja«ski zbiorów A i B to zbiór wszystkich par uporz dkowanych (a, b), takich,»e a nale»y do zbioru A, za± b nale»y do zbioru B. Oznacza si go symbolem A B. Formalnie: A B = {(a, b) : a A, b B} Iloczyn kartezja«ski mo»e by zbudowany na tym samym zbiorze, np. A A, co bywa oznaczane A 2. Formalnie: A A = {(a, b) : a A, b A} Iloczyn kartezja«ski dla zbioru obiektów U tablicy decyzyjnej DT : Iloczyn kartezja«ski U U to zbiór par obiektów. U U = {(x, y) : x U, y U} U U = {(1, 1), (1, 2), (1, 3), (1, 4), (1, 5), (1, 6), (2, 2), (2, 3), (2, 4), (2, 5), (2, 6), (3, 3), (3, 4), (3, 5), (3, 6), (4, 4), (4, 5), (4, 6), (5, 5), (5, 6), (6, 6)}

16 Powtórka relacja Denition Relacja pomi dzy elementami zbioru A a elementami zbioru B to wybrany podzbiór iloczynu kartezja«skiego A B. Relacj tworz pary elementów wybrane z iloczynu kartezja«skiego wedªug pewnego kryterium. W praktyce najpopularniejsze i najszerzej stosowane s relacje dwuargumentowe (dwuczªonowe, binarne), zwykle nazywane po prostu relacjami. Denition Je±li zaªo»ymy,»e relacja nazywa si np. R, to zapis xry oznacza,»e x jest w relacji R z y.

17 Relacja nierozró»nialno±ci O relacji nierozró»nialno±ci mówimy wówczas, gdy w rozpatrywanym systemie mamy do czynienia z obiektami o identycznych opisach, b d¹ obiektami o tej samej warto±ci danego atrybutu (-ów [kilku, nie wszystkich]). Analizuj c poszczególne obiekty z tabeli mo»na zaobserwowa,»e obiekty o numerach 1, 4 i 6 maj te same warto±ci atrybutów: ból gªowy oraz ból mi ±ni za± obiekty o numerach 1 i 5 maj t sam warto± atrybutu temperatura. O obiektach numer 1, 4 i 6 powiemy,»e s nierozró»nialne ze wzgl du na atrybuty: ból gªowy oraz ból mi ±ni, za± obiekty o numerach 1 i 5 s nierozró»nialne ze wzgl du na atrybut: temperatura. T obserwacj mo»na uogólni i wyrazi w sposób formalny stosuj c odpowiednio zdeniowan relacj.

18 Relacja nierozró»nialno±ci Niech SI = (U, A, V, f ) b dzie systemem informacyjnym i niech B A. Denition Relacj nie rozró»nialno±ci (ang. indiscernibility relation) na zbiorze obiektów U generowan przez zbiór atrybutów B okre±lamy jako: IND(B) = {(x, y) U U : a(x) = a(y)} a B gdzie znak = mi dzy a(x) i a(y) nale»y rozumie w ten sposób,»e dla obiektów x i y, nale» cych do U, atrybut a przyjmuje tak sam warto±. Denition Zapis w postaci: xind(b)y oznacza,»e x jest w relacji IND(B) z y. Mówi c konkretnie: obiekt x systemu informacyjnego SI jest nierozró»nialny od obiektu y tego» samego systemu, ze wzgl du na wybrany podzbiór atrybutów B.

19 Wªasno±ci relacji nierozró»nialno±ci Poszczególne pary obiektów nale» do relacji wtedy, gdy posiadaj te same warto±ci dla wszystkich atrybutów ze zbioru B. Relacja nierozró»nialno±ci IND(B) jest relacj równowa»no±ci, gdy» jest relacj : zwrotn, gdy»: u U (u, u) IND(B) symetryczn, gdy»: ((u, v) IND(B) (v, u) IND(B)) u,v U przechodni, gdy»: u,v,w U ((u, v) IND(B) (v, w) IND(B) (u, w) IND(B))

20 Relacja nierozró»nialno±ci - cd Dla systemu informacyjnego przedstawionego w tabeli mo»na wyznaczy relacje nierozró»nialno±ci generowane przez ró»ne zbiory atrybutów: Pacjent Ból gªowy (g) Ból mi sni (m) Temperatura (t) Grypa (c) 1 nie tak wysoka tak 2 tak nie wysoka tak 3 tak tak bardzo wysoka tak 4 nie tak bardzo wysoka tak 5 tak nie wysoka nie 6 nie tak normalna nie Tablica: System informacyjny / tablica decyzyjna Niech: A 1 = {g, m, t}, A 2 = {t}, A 3 = {g, m}, A 4 = {g, t, c}, A 5 = {g, m, t, c} IND SI (A 1) = {(1, 1), (2, 2), (3, 3), (4, 4), (5, 5), (6, 6), (2, 5), (5, 2)} IND SI (A 2) = {(1, 1), (2, 2), (3, 3), (4, 4), (5, 5), (6, 6), (1, 2), (2, 1), (1, 5), (5, 1), (2, 5), (5, 2), (3, 4), (4, 3)} IND SI (A 3) = {(1, 1), (2, 2), (3, 3), (4, 4), (5, 5), (6, 6), (1, 4), (4, 1), (1, 6), (6, 1), (4, 6), (6, 4), (2, 5), (5, 2)} IND SI (A 4) = {(1, 1), (2, 2), (3, 3), (4, 4), (5, 5), (6, 6)}

21 Dowód,»e IND(B) jest relacj zwrotn 1. Niech SI = (U, A) b dzie systemem informacyjnym i niech B A. 2. Relacja IND(B) jest zwrotn, bo: 3. We¹my dowolny obiekt x U, mamy wi c: a B, a(x) = a(x) 4. a wi c z denicji: (x, x) IND(B).

22 Dowód,»e IND(B) jest relacj symetryczn 1. Niech SI = (U, A) b dzie systemem informacyjnym i niech B A. 2. Relacja IND(B) jest symetryczn, bo: 3. We¹my dowolne obiekty x, y U, 4. zaªó»my,»e: (x, y) IND(B) 5. mamy wtedy: a B, a(x) = a(y) 6. st d: a B, a(y) = a(x) 7. a wi c: (y, x) IND(B)

23 Dowód,»e IND(B) jest relacj przechodni 1. Niech SI = (U, A) b dzie systemem informacyjnym i niech B A. 2. Relacja IND(B) jest przechodni, bo: 3. We¹my dowolne obiekty x, y, z U, 4. zaªó»my,»e (x, y) IND(B) oraz (y, z) IND(B), 5. mamy wtedy: a B, (a(x) = a(y) a(y) = a(z)) 6. st d: a B, a(x) = a(z) 7. a wi c: (x, z) IND(B).

24 Klasy abstrakcji Relacja nierozró»nialno±ci IND(B) b d c relacj równowa»no±ciow, dzieli zbiór obiektów U na rozª czne, niepuste klasy abstrakcji. Klasy abstrakcji relacji nierozró»nialno±ci IND(B) oznacza si U/IND(B). Ka»da klasa abstrakcji relacji nierozró»nialno±ci IND(B) to zbiór obiektów nierozró»nialnych ze wzgl du na atrybuty ze zbioru B. Klasy abstrakcji U/IND(B) relacji nierozró»nialno±ci IND(B) to zatem zbiór zbiorów takich obiektów, które s nierozró»nialne ze wzgl du na atrybuty ze zbioru B. Klasa abstrakcji dla obiektu x U relacji IND(B) zdeniowana jest nast puj co: [x] IND(B) = {y U, a B, a(x) = a(y)}

25 Klasy abstrakcji - cd Powy»sze relacje dziel zbiór obiektów systemu informacyjnego na nast puj ce klasy abstrakcji (zbiory elementarne): U/IND(A 1) = {{1}, {2, 5}, {3}, {4}, {6}} U/IND(A 2) = {{1, 2, 5}, {3, 4}, {6}} U/IND(A 3) = {{1, 4, 6}, {2, 5}, {3}} U/IND(A 4) = {{1}, {2}, {3}, {4}, {5}, {6}} U/IND(A) = {U/IND(A 4)} Na tej podstawie mo»na wyznaczy przykªadowe klasy abstrakcji zawieraj ce poszczególne obiekty systemu informacyjnego: I SI,A3 (1) = {1, 4, 6} I SI,A3 (2) = {2, 5} I SI,A3 (3) = {3}

26 Aproksymacja zbiorów przybli»enie dolne, górne, brzeg zbior Problem z jednoznaczn klasykacj obiektów do pewnego podzbioru Jednym z celów wnioskowania w systemach decyzyjnych jest próba stwierdzenia czy obiekt (lub ich grupa) nale»y do pewnej klasy, lub nie. Inaczej mówi c czy nale» do pewnego poj cia czy nie. Proces taki opiera si na opisie obiektu wyra»onym przy pomocy atrybutów. Wybrany podzbiór atrybutów systemu informacyjnego determinuje podziaª obiektów na rozª czne klasy abstrakcji. Wa»nym problemem jest zdolno± radzenia sobie z niedoskonaªymi danymi. Jednym ze ¹ródeª trudno±ci w zadaniach opisu czy klasykacji jest istnienie niespójno±ci w dost pnych danych. Obiekty posiadaj ce identyczne (lub podobne) opisy, lecz zaliczone do ró»nych poj, uniemo»liwiaj stworzenie jednoznacznej denicji tych»e poj. Niespójno±ci nie powinny by traktowane wyª cznie jako wynik bª du czy szumu informacyjnego. Mog one tak»e wynika z niedost pno±ci cz ±ci informacji, naturalnej granularno±ci i niejednoznaczno±ci j zyka reprezentacji.

27 Zbiory przybli»one a problem z jednoznaczn klasykacj obiektów Teoria zbiorów przybli»onych (ang. rough sets) zaproponowana przez Zdzisªawa Pawlaka jest dogodnym narz dziem analizy tego typu niespójno±ci informacji. Teoria oparta jest na zaªo»eniu,»e posiadaj c informacj reprezentowan za pomoc atrybutów i ich warto±ci na obiektach, mo»liwe jest okre±lenie relacji zachodz cej pomi dzy tymi obiektami. Obiekty posiadaj ce ten sam opis, wyra»ony za pomoc atrybutów, s nierozró»nialne ze wzgl du na dost pn informacj. W przypadku niemo»liwo±ci precyzyjnego zdeniowania zbioru obiektów (poj cia, klasy decyzyjnej) tworzy ona dolne i górne przybli»enie tego zbioru na podstawie klas relacji nierozró»nialno±ci pomi dzy obiektami.

28 Poj cia nieostre a zbiór dokªadny oraz zbiór przybli»ony Operowanie poj ciami nieostrymi (nie±cisªymi, nieprecyzyjnymi) jest bez w tpienia jednym z gªównych problemów rozumowa«potocznych. Poj cia nieostre ró»ni si tym od poj ostrych,»e w przeciwie«stwie do tych ostatnich nie zawsze mo»liwe jest jednoznaczne zaklasykowanie obiektu do poj cia, tzn. dla pewnej grupy obiektów z otaczaj cej nas rzeczywisto±ci nie mo»na stwierdzi jednoznacznie czy dany obiekt nale»y do rozpatrywanego poj cia, czy te» nie nale»y. Na przykªad mog to by poj cia takie jak: maªe dziecko, pi kna kobieta, wysoki czªowiek, dobra ksi»ka, ªatwe zadanie itd. Teoria zbiorów przybli»onych proponuje zast pienie nieostrego (nieprecyzyjnego) poj cia,par poj precyzyjnych, zwanych dolnym i górnym przybli»eniem tego poj cia. Ró»nica mi dzy górnym i dolnym przybli»eniem jest wªa±nie tym obszarem granicznym, do którego nale» wszystkie przypadki, które nie mog by prawidªowo zaklasykowane na podstawie aktualnej wiedzy. Im wi kszy obszar graniczny poj cia tym bardziej jest ono nieostre (nieprecyzyjne).

29 Zbiór dokªadny oraz zbiór przybli»ony

30 Aproksymacja - denicje Denition Niech SI = {U, A, V, f } b dzie systemem informacyjnym i niech B A. Denition Mówimy,»e zbiór P U jest zbiorem B dokªadnym (B deniowalnym) wtedy, gdy jest on sko«czon sum zbiorów B elementarnych. Denition Ka»dy zbiór, który nie jest sko«czon sum zbiorów B elementarnych jest zbiorem B przybli»onym.

31 Przykªad Niech: oraz X 1 = {1, 2, 3, 5} X 2 = {3, 4, 5, 6} A 1 = {g, m, t}, A 2 = {t} U/IND SI (A 1) = {{1}, {2, 5}, {3}, {4}, {6}} U/IND SI (A 2) = {{1, 2, 5}, {3, 4}, {6}} Wówczas: Ale: Zbiór X 1 jest zbiorem A 1 dokªadnym, gdy» jest sko«czon sum zbiorów A 1 elementarnych: X 1 = {{1} {2, 5} {3}} Zbiór X 2 jest zbiorem A 1 przybli»onym, gdy» nie jest sko«czon sum zbiorów A 1 elementarnych (obiekty 2 i 5 nale» do jednego zbioru B elementarnego, za± zbiórx 2 zawiera tylko obiekt numer 5, a nie zawiera obiektu numer 2)

32 Przykªad - cd Niech: X 1 = {1, 2, 3, 5} X 2 = {3, 4, 5, 6} A 1 = {g, m, t}, A 2 = {t} U/IND SI (A 1) = {{1}, {2, 5}, {3}, {4}, {6}} U/IND SI (A 2) = {{1, 2, 5}, {3, 4}, {6}} Mo»emy dalej stwierdzi,»e: Zbiór X 1 jest zbiorem A 2 przybli»onym, gdy» nie jest sko«czon sum zbiorów A 2 elementarnych (obiekty 3 i 4 nale» do jednego zbioru C elementarnego, za± zbiór X 1 zawiera tylko obiekt numer 3, a nie zawiera obiektu numer 4) Zbiór X 2 jest zbiorem A 2 przybli»onym, gdy» nie jest sko«czon sum zbiorów A 2 elementarnych (obiekty 1, 2 i 5 nale» do jednego zbioru C elementarnego, za± zbiór X 2 zawiera tylko obiekt numer 5, a nie zawiera obiektów numer 1 i 2)

33 Aproksymacja zbioru - denicja Je±li SI = {U, A, V, f } jest systemem informacyjnym takim,»e B A oraz X U to: B dolnym przybli»eniem (aproksymacj ) zbioru X w systemie informacyjnym SI nazywamy zbiór: BX = {x U : I SI,B (x) X } B górnym przybli»eniem (aproksymacj ) zbioru X w systemie informacyjnym SI nazywamy zbiór: BX = {x U : I SI,B (x) X }

34 Aproksymacje zbiorów interpretacja Za pomoc dolnej i górnej aproksymacji jeste±my w stanie okre±li nieostre poj cie w ±cisªy sposób. Dolna aproksymacja poj cia, to wszystkie te obiekty, które nale» bez w tpienia do poj cia X. Nale» one bowiem do takich klas abstrakcji, które w caªo±ci zawieraj si w poj ciu X. Górna aproksymacja poj cia, to zbiór takich obiektów, co do których nie mo»emy wykluczy,»e nale» do poj cia X. Jest to spowodowane tym,»e nale» do klas abstrakcji maj cych niepuste przeci cie z poj ciem X. S zatem nierozró»nialne z pewnymi obiektami nale» cymi do tego poj cia. Brzeg zbioru X zawiera obiekty, których nie mo»na jednoznacznie przydzieli do X z uwagi na sprzeczny opis.

35 Wspóªczynniki dokªadno±ci dla aproksymacji zbioru X Zbiór przybli»ony X mo»e by scharakteryzowany ilo±ciowo za pomoc : Wspóªczynnika dokªadno±ci przybli»enia: αbx = BX, gdzie X to BX liczno± niepustego zbioru X, Wspóªczynnika dokªadno±ci przybli»enia dolnego: α B X = BX U Wspóªczynnika dokªadno±ci przybli»enia górnego:α B X = BX U

36 Obszary pozytywne i negatywne zbiorów B pozytywnym obszarem (ang. positive area) zbioru X w systemie informacyjnym SI nazywamy zbiór: POS B (X ) = BX B brzegiem (granic ) (ang. boundary)zbioru X w systemie informacyjnym SI nazywamy zbiór: BN B (X ) = BX BX B negatywnym obszarem (ang. negative area) zbioru X w systemie informacyjnym SI nazywamy zbiór: NEG B X = U BX

37 Interpretacja dolnego i górnego przybli»enia zbioru Denition Dolne przybli»enie poj cia jest to wi c poj cie, do którego nale» wszystkie obiekty, co do których nie ma w tpliwo±ci,»e s one reprezentantami tego poj cia w ±wietle posiadanej wiedzy. Denition Do górnego przybli»enia nale» obiekty, których nie mo»na wykluczy,»e s reprezentantami tego poj cia. Denition Brzegiem za± poj cia s wszystkie te obiekty, co do których nie wiadomo czy s czy nie reprezentantami danego zbioru. Z denicji powy»szych mo»emy wysnu nast puj ce wnioski: BX X BX

38 Interpretacja dolnego i górnego przybli»enia zbioru Denition Dolne przybli»enie poj cia jest to wi c poj cie, do którego nale» wszystkie obiekty, co do których nie ma w tpliwo±ci,»e s one reprezentantami tego poj cia w ±wietle posiadanej wiedzy. Denition Do górnego przybli»enia nale» obiekty, których nie mo»na wykluczy,»e s reprezentantami tego poj cia. Denition Brzegiem za± poj cia s wszystkie te obiekty, co do których nie wiadomo czy s czy nie reprezentantami danego zbioru. Z denicji powy»szych mo»emy wysnu nast puj ce wnioski: BX X BX zbiór X jest B-dokªadny, gdy: BX = BX BN B X =

39 Interpretacja dolnego i górnego przybli»enia zbioru Denition Dolne przybli»enie poj cia jest to wi c poj cie, do którego nale» wszystkie obiekty, co do których nie ma w tpliwo±ci,»e s one reprezentantami tego poj cia w ±wietle posiadanej wiedzy. Denition Do górnego przybli»enia nale» obiekty, których nie mo»na wykluczy,»e s reprezentantami tego poj cia. Denition Brzegiem za± poj cia s wszystkie te obiekty, co do których nie wiadomo czy s czy nie reprezentantami danego zbioru. Z denicji powy»szych mo»emy wysnu nast puj ce wnioski: BX X BX zbiór X jest B-dokªadny, gdy: BX = BX BN B X = zbiór X jest B-przybli»ony, gdy: BX BX BN B X

40 Liczbowa charakterystyka aproksymacji zbioru Ka»dy zbiór (przybli»ony lub dokªadny) mo»na scharakteryzowa ilo±ciowo za pomoc wspóªczynnika dokªadno±ci aproksymacji (przybli»enia). Denition Wspóªczynnik dokªadno±ci aproksymacji zbioru X w systemie informacyjnym SI wzgl dem zbioru atrybutów B wyra»a si wzorem: α B (X ) = card(pos B(X )) card(bx ) gdzie card(x ) oznacza liczno± zbioru X. Šatwo zauwa»y,»e: 0 α B (X ) 1 = card(bx ) card(bx )

41 Liczbowa charakterystyka aproksymacji zbioru Ka»dy zbiór (przybli»ony lub dokªadny) mo»na scharakteryzowa ilo±ciowo za pomoc wspóªczynnika dokªadno±ci aproksymacji (przybli»enia). Denition Wspóªczynnik dokªadno±ci aproksymacji zbioru X w systemie informacyjnym SI wzgl dem zbioru atrybutów B wyra»a si wzorem: α B (X ) = card(pos B(X )) card(bx ) gdzie card(x ) oznacza liczno± zbioru X. Šatwo zauwa»y,»e: 0 α B (X ) 1 je»eli X jest zbiorem dokªadnym to: α B (X ) = 1 = card(bx ) card(bx )

42 Liczbowa charakterystyka aproksymacji zbioru Ka»dy zbiór (przybli»ony lub dokªadny) mo»na scharakteryzowa ilo±ciowo za pomoc wspóªczynnika dokªadno±ci aproksymacji (przybli»enia). Denition Wspóªczynnik dokªadno±ci aproksymacji zbioru X w systemie informacyjnym SI wzgl dem zbioru atrybutów B wyra»a si wzorem: α B (X ) = card(pos B(X )) card(bx ) gdzie card(x ) oznacza liczno± zbioru X. Šatwo zauwa»y,»e: 0 α B (X ) 1 je»eli X jest zbiorem dokªadnym to: α B (X ) = 1 = card(bx ) card(bx ) je»eli X jest zbiorem przybli»onym to: 0 α B (X ) < 1

43 Przykªad Je±li: oraz X 1 = {1, 2, 3, 5} X 2 = {3, 4, 5, 6} U/IND SI (A 1) = {{1}, {2, 5}, {3}, {4}, {6}} U/IND SI (A 2) = {{1, 2, 5}, {3, 4}, {6}} Liczymy teraz dokªadno± aproksymacji dla zbiorów X 1 oraz X 2 wzgl dem zbioru atrybutów A 1: α A1 (X 1) = card(a 1X 1 ) card(a 1 X 1 ) = 4 4 = 1 α A1 (X 2) = card(a 1X 2 ) card(a 1 X 2 ) = 3 5 = 0.6 gdzie card(x ) oznacza liczno± zbioru X.

44 Niespójno± w danych Niespójno± danych zachodzi wówczas, gdy dla takich samych danych wej±ciowych system podj ªby odmienne decyzje.

45 Niespójno± w danych Niespójno± danych zachodzi wówczas, gdy dla takich samych danych wej±ciowych system podj ªby odmienne decyzje. Praca z systemem o niespójnej wiedzy jest niemo»liwa.

46 Niespójno± w danych Niespójno± danych zachodzi wówczas, gdy dla takich samych danych wej±ciowych system podj ªby odmienne decyzje. Praca z systemem o niespójnej wiedzy jest niemo»liwa. Niespójno± nale»y usun.

47 Pacjent Ból gªowy (g) Ból mi sni (m) Temperatura (t) Grypa (c) 1 nie tak wysoka tak 2 tak nie wysoka tak 3 tak tak bardzo wysoka tak 4 nie tak bardzo wysoka tak 5 tak nie wysoka nie 6 nie tak normalna nie Dla obiektów 2 i 5 zachodzi niespójno±, gdy», dla tych samych atrybutów warunkowych zachodz ró»ne decyzje: ból gªowy=tak and ból mi ±ni=nie and temp=wysoka dla obiektu 2 podano decyzj : Grypa=tak dla obiektu 5 podano decyzj : Grypa=nie

48 Usuwanie niespójno±ci z tablicy decyzyjnej Wyró»ni mo»na 5 metod usuwania niespójno±ci w tablicach decyzyjnych: 1. Zwróci si do EKSPERTA aby dla obiektów 2 i 5 podj ª jedn decyzj. 2. Utworzenie dwóch (lub wi cej w przypadku ogólnym) spójnych tablic decyzyjnych, poprzez rozdzielenie sprzecznych obiektów. 3. Usuni cie obiektów b d cych przyczyn niespójno±ci(metoda ilo±ciowa). 4. Mo»na posªu»y si tutaj równie» metod jako±ciow. 5. Metoda tworzenia nowego atrybutu decyzyjnego (metoda uogólnionego atrybutu decyzyjnego)

49 Usuwanie niespójno±ci z tablicy decyzyjnej Zwrócenie si do EKSPERTA Zwrócenie si do EKSPERTA Jest to sposób najprostszy przerzucaj cy ci»ar usuni cia niespójno±ci z tablicy na eksperta. Niestety bardzo cz sto zdarza si,»e ekspert nie potra podj jednoznacznej decyzji. Twierdzi np.»e dla takich atrybutów (parametrów) raz podejmuje decyzje 1 innym razem decyzje 2. W takim przypadku metoda ta nie daje rezultatu.

50 Usuwanie niespójno±ci z tablicy decyzyjnej Utworzenie dwóch (lub wi cej w przypadku ogólnym) spójnych tablic decyzyjnych, poprzez rozdzielenie sprzecznych obiektów. Jest to jednak tylko pozorne rozwi zanie problemu. Powstan dwa zbiory reguª dla pierwszej i drugiej tablicy. Reguªy powstaªe na podstawie obiektu 2 w tablicy pierwszej i reguªa dla obiektu 5 w tablicy drugiej, b d sprzeczne. Pacjent Ból gªowy (g) Ból mi sni (m) Temperatura (t) Grypa (c) 1 nie tak wysoka tak 2 tak nie wysoka tak 3 tak tak bardzo wysoka tak 4 nie tak bardzo wysoka tak 6 nie tak normalna nie Pacjent Ból gªowy (g) Ból mi sni (m) Temperatura (t) Grypa (c) 1 nie tak wysoka tak 3 tak tak bardzo wysoka tak 4 nie tak bardzo wysoka tak 5 tak nie wysoka nie 6 nie tak normalna nie

51 Metoda jako±ciowa Metoda jako±ciowa Usuniemy ten obiekt, którego warto± decyzja jest "mniej wa» ca". "Mniej wa» ca"to znaczy maj ca mniejsz dokªadno± dolnego lub górnego przybli»enia. Dla ka»dego X U i B A dokªadno± dolnego przybli»enia γ B (X ) obliczymy ze wzoru: γ B (X ) = BX U Dokªadno± górnego przybli»enia γ B (X ) obliczymy ze wzoru: γ B (X ) = BX U Wówczas usuwamy ten obiekt, dla którego dokªadno±ci (górnego b d¹ dolnego) przybli»enia byªa mniejsza.

52 Przykªad usuwania niespójno±ci metod jako±ciow Najpierw dzielimy zbiór obiektów X ze wzgl du na decyzj na dwa rozª czne podzbiory X 1 oraz X 2. X 1 = {1, 2, 3, 4} X 2 = {5, 6} Generujemy teraz klasy rozró»nialno±ci dla caªego zbioru atrybutów warunkowych: U/IND(C) = {{1}, {2, 5}, {3}, {4}, {6}}. B dolnym przybli»eniem zbioru X w systemie informacyjnym SI nazywamy zbiór: BX = {x U : I SI,B (x) X } B górnym przybli»eniem zbioru X w systemie informacyjnym SI nazywamy zbiór: BX = {x U : I SI,B (x) X }

53 Przykªad - cd Teraz mo»na juz wyznaczy dla ka»dego ze zbiorów klasy decyzyjnych: X 1 oraz X 2 przybli»enie dolne oraz górne. X 1 = {1, 2, 3, 4} X 2 = {5, 6} U/IND(C) = {{1}, {2, 5}, {3}, {4}, {6}}. BX 1 = {1, 3, 4} BX 1 = {1, 2, 3, 4, 5} BX 2 = {6} BX 2 = {2, 5, 6} Teraz mo»na juz przyst pi do wyliczenia dokªadno±ci górnego oraz dolnego przybli»enia: γ B (X 1) = BX 1 U = 3 6 = 1 2 γ B (X 2) = BX 2 U = 1 6 γ B (X 1) = BX 1 U = 5 6 γ B (X 2) = BX 2 U = 3 6 = 1 2 Metoda mówi, aby usun ten obiekt, dla którego uzyskano mniejsz dokªadno± dolnego, b d¹ górnego przybli»enia w zale»no±ci od wybranego wariantu. W naszym przypadku usuniemy obiekt, który powodowaª niespójno± i wyst powaª w zbiorze X 2.

54 Spójna tablica decyzyjna Spójna juz teraz tablica decyzyjna wygl da nast puj co: Pacjent Ból gªowy (g) Ból mi sni (m) Temperatura (t) Grypa (c) 1 nie tak wysoka tak 2 tak nie wysoka tak 3 tak tak bardzo wysoka tak 4 nie tak bardzo wysoka tak 6 nie tak normalna nie Tablica: System informacyjny / tablica decyzyjna po usuni ciu niespójno±ci

55 Usuni cie obiektów b d cych przyczyn niespójno±ci Powstaje problem, który obiekt usun. Mo»na posªu»y si tutaj metod ilo±ciow. Metoda ilo±coiwa Wówczas usuniemy ten obiekt(-y), którego decyzja mniej razy byªa potwierdzana.

56 Tworzenie nowego podziaªu (Systemu informacyjnego) Tworzenie nowego podziaªu (Systemu informacyjnego) Decyzja d wyznacza klasykacj : Class A (d) = {X 1,..., X r(d) }, (gdzie (d) - to ilo± ró»nych warto±ci atrybutu decyzyjnego.) Tworzymy nowy podziaª: App Class A (d) = {A X 1,..., A Xr(d) } {Bd A (θ) : θ > 1} Ten nowy podziaª tworzy tablice decyzyjn spójn. Tabela nr 1, (niespójna) po dodaniu do systemu informacyjnego, nowego, uogólnionego atrybutu decyzyjnego wygl da nast puj co:

57 Macierz, tablica, funkcja oraz wektor rozró»nialno±ci dla systemu informacyjnego Macierz rozró»nialno±ci Denition Je±li SI = {U, A, V, f } jest systemem informacyjnym takim,»e U = {u 1, u 2,.., u n} i A = {a 1, a 2,.., a m}, to macierz rozró»nialno±ci (odró»nialno±ci) systemu informacyjnego SI M(SI ) (ang. discernibility matrix) deniujemy nast puj co: M(SI ) = (H i,j ) i,j=1,..,n = {a A : f (u i, a) f (u j, a)} dla i, j = 1,.., n, gdzie n = U. Macierz rozró»nialno±ci jest dwuwymiarow macierz kwadratow o wymiarach: U U. Komórka M(SI )[i, j] zawiera zbiór tych atrybutów, dla których obiekty uniwersum u i i u j maj ró»ne warto±ci (s rozró»nialne przy pomocy tych atrybutów).

58 Spójna juz teraz tablica decyzyjna wygl da nast puj co: Pacjent Ból gªowy (g) Ból mi sni (m) Temperatura (t) Grypa (c) 1 nie tak wysoka tak 2 tak nie wysoka tak 3 tak tak bardzo wysoka tak 4 nie tak bardzo wysoka tak 6 nie tak normalna nie Tablica: System informacyjny / tablica decyzyjna po usuni ciu niespójno±ci g,m 3 g,t m,t 4 t g,m,t g 6 t g,m,t g,t t Tablica: Macierz rozró»nialno±ci dla system informacyjnego

59 Wªasno±ci macierzy rozró»nialno±ci macierz M(SI ) ma zawsze na przek tnej zbiory puste ( ),

60 Wªasno±ci macierzy rozró»nialno±ci macierz M(SI ) ma zawsze na przek tnej zbiory puste ( ), macierz M(SI ) jest symetryczna wzgl dem przek tnej,

61 Wªasno±ci macierzy rozró»nialno±ci macierz M(SI ) ma zawsze na przek tnej zbiory puste ( ), macierz M(SI ) jest symetryczna wzgl dem przek tnej, ka»dy element macierzy M(SI ) jest zbiorem,

62 Wªasno±ci macierzy rozró»nialno±ci macierz M(SI ) ma zawsze na przek tnej zbiory puste ( ), macierz M(SI ) jest symetryczna wzgl dem przek tnej, ka»dy element macierzy M(SI ) jest zbiorem, rozmiar macierzy ro±nie w sposób kwadratowy wraz ze wzrostem liczby obiektów w systemie informacyjnym.

63 Generowanie macierzy rozró»nialno±ci Wej±cie: A = (U, A) system informacyjny taki,»e U = {u 1,.., u n} i A = {a 1,.., a m}. Wyj±cie: M(A) = (C ij ) i,j=1,..,n macierz odró»nialno±ci systemu A,przyczym M(A) ma obliczone tylko te pola C ij dla których 1 j < i n. Metoda: For i=1 to n do For j=1 to i-1 do Wstaw do C ij atrybuty, na których ró»ni si obiekty u i i u j

64 Zªo»ono± : Aby obliczy tablic M(A), nale»y wyznaczy zawarto± n2 n 2 pól macierzy. Zªo»ono± obliczeniowa czasowa wyznaczania ka»dego pola jest zale»na od liczby atrybutów m. Dlatego zªo»ono± obliczeniowa czasowa algorytmu jest rz du O(n 2 m), natomiast zªo»ono± obliczeniowa pami ciowa algorytmu jest rz du O(C), gdzie C jest pewn staª. Powy»sze cechy sprawiaj,»e taka reprezentacja macierzy, jest bardzo niewygodna z programistycznego punktu widzenia. Macierz zawiera redundantne informacje, zawarto±ci komórek nie s typami prostymi a ponadto nie maj staªej wielko±ci (liczby elementów w zbiorze). W efekcie struktura ta ma bardzo du» zªo»ono± pami ciow, która dla systemu informacyjnego SI = {U, A, V, f } wynosi: U 2 A.

65 Funkcja rozró»nialno±ci Funkcj odró»nialno±ci systemu informacyjnego SI (ang. discernibility function) nazywamy funkcj boolowsk f SI zmiennych a 1,.., a m odpowiadaj cych odpowiednio atrybutom (systemu informacyjnego) a 1,.., a m zdeniowan nast puj co: f SI (a 1,.., a m) = { (X i,j : 1 j n Hi, j )} gdzie:n = U, m = A, X i,j jest alternatyw wszystkich zmiennych a {a1,.., am} takich,»e a Hi, j. 2 g,m 3 g,t m,t 4 t g,m,t g 6 t g,m,t g,t t Obliczmy funkcj rozró»nialno±ci dla macierzy odró»nialno±ci: f SI (g, m, t, c) = (g +m) (g +t) (t) (g +m+c) (t +c) (m+t) (g +m+t) (c) (g +m+t+c) (g) (m+t+c) (g +t+c) (g +m+t+c) (t+c) (g +m+t) Wyra»enie to mo»na upro±ci stosuj c m.in. prawo pochªaniania (a + (a b)) = a do postaci: f SI (g, m, t, c) = (t g c)

66 Redukcja atrybutów poj cie j dra i reduktów Nadmiar informacji jest szkodliwy W celu precyzyjnego i konkretnego opisana relacji pomi dzy obiektami wyst puj cymi w bazie wiedzy, stosuje si redukcj liczby atrybutów opisuj cych owe relacje. Poszukuje si takich podzbiorów atrybutów, które zachowuj podziaª obiektów na klasy decyzyjne taki sam, jak wszystkie atrybuty. Te zbiory atrybutów nie mog by wyznaczone w dowolny sposób. W teorii zbiorów przybli»onych wykorzystuje si koncepcj reduktu b d cego niezale»nym podzbiorem atrybutów zachowuj cym taki sam podziaª na klasy decyzyjne jak wszystkie atrybuty. W»szym poj ciem jest poj cie j dra, okre±laj cego zbiór atrybutów niezb dnych dla zachowania rozró»nialno±ci obiektów w systemie.

67 Redukt i Rdze«zbioru atrybutów Niech SI = {U, A, V, f } b dzie systemem informacyjnym oraz B A. Denicja. Atrybut zb dny (niezb dny) Atrybut a B jest zb dny, je»eli IND(B) = IND(B {a}). W przeciwnym wypadku (tzn. je»eli IND(B) IND(B {a}) jest niezb dny. Denicja. Zbiór atrybutów niezale»nych (zale»nych) A - zbiór atrybutów jest niezale»ny wtedy i tylko wtedy, gdy dla ka»dego a A, a jest niezb dny. W przeciwnym wypadku zbiór jest zale»ny.

68 Denicja - Redukt i rdze«(j dro) B A nazywamy reduktem A wtedy i tylko wtedy, gdy B jest niezale»ny oraz IND(B) = IND(A). Zbiór wszystkich reduktów oznaczamy przez RED(A). Zbiór wszystkich niezb dnych atrybutów w B b dziemy nazywali rdzeniem (j drem) B i oznaczali przez CORE(B). Powi zanie mi dzy reduktami i j drem Zachodzi nast puj cy zwi zek: CORE(A) = RED(A), gdzie RED(A) to zbiór wszystkich reduktów B, tzn. j dro atrybutów to przekrój po wszystkich reduktach.

69 Spójna juz teraz tablica decyzyjna wygl da nast puj co: Pacjent Ból gªowy (g) Ból mi sni (m) Temperatura (t) Grypa (c) 1 nie tak wysoka tak 2 tak nie wysoka tak 3 tak tak bardzo wysoka tak 4 nie tak bardzo wysoka tak 6 nie tak normalna nie Tablica: System informacyjny / tablica decyzyjna po usuni ciu niespójno±ci

70 Przykªad Zbiór wszystkich reduktów zbioru atrybutów {g, m, t, c} systemu informacyjnego z tabeli 1 wynosi: RED SI ({g, m, t, c}) = {g, t, c}. Aby udowodni,»e zbiór {g, t, c} jest reduktem nale»y pokaza,»e zachodz warunki z denicji: IND SI ({g, m, t, c}) = IND SI ({g, t, c}), Mo»emy to pokaza, usuwaj c z tego zbioru kolejne atrybuty i sprawdzaj c czy relacja nierozró»nialno±ci wzgl dem takiego okrojonego zbioru jest ró»na od relacji nierozró»nialno±ci wzgl dem caªego zbioru atrybutów. Je»eli tak b dzie, to zbiór {g, t, c} b dzie reduktem.

71 Metody generowania reduktów i rdzenia z TD Redukty i rdze«z tablicy decyzyjnej generuje si jedn z dwóch dróg: z denicji, z macierzy rozró»nialno±ci.

72 Wyznaczanie j dra (rdzenia) z denicji Wyznacz klasy abstrakcji relacji nierozró»nialno±ci U/IND(B), gdzie B jest to zbiór wszystkich rozwa»anych atrybutów.

73 Wyznaczanie j dra (rdzenia) z denicji Wyznacz klasy abstrakcji relacji nierozró»nialno±ci U/IND(B), gdzie B jest to zbiór wszystkich rozwa»anych atrybutów. Wyznacz klasy abstrakcji z pomini ciem i-tego atrybutu U/IND(B a i ).

74 Wyznaczanie j dra (rdzenia) z denicji Wyznacz klasy abstrakcji relacji nierozró»nialno±ci U/IND(B), gdzie B jest to zbiór wszystkich rozwa»anych atrybutów. Wyznacz klasy abstrakcji z pomini ciem i-tego atrybutu U/IND(B a i ). Je»eli U/IND(B) = U/IND(B a i ) to atrybut a i jest zb dny, w przeciwnym wypadku a i jest niezb dny i wchodzi do j dra CORE(B).

75 Wyznaczanie j dra (rdzenia) z denicji Wyznacz klasy abstrakcji relacji nierozró»nialno±ci U/IND(B), gdzie B jest to zbiór wszystkich rozwa»anych atrybutów. Wyznacz klasy abstrakcji z pomini ciem i-tego atrybutu U/IND(B a i ). Je»eli U/IND(B) = U/IND(B a i ) to atrybut a i jest zb dny, w przeciwnym wypadku a i jest niezb dny i wchodzi do j dra CORE(B). Powtarzaj pkt. 2, a» wykorzystane zostan wszystkie atrybuty z B.

76 Algorytm wyznaczania j dra z denicji Dane:B = a 1, a 2, a 3,...a i,...a n Tablica KRS CORE(B) := {} Wyznacz U/INB(B) Dla ka»dego a B wykonaj Je»eli U/INB(B) U/IND(B a i ) To CORE(B) := CORE(B) a i gdzie: CORE(B) - j dro (zbiór atrybutów), B - rozwa»any zbiór atrybutów, a i - i-ty atrybut ze zbioru B, U/INB(B) - klasa abstrakcji relacji nierozró»nialno±ci dla peªnego zbioru atrybutów, U/IND(B a i ) - klasy abstrakcji relacji nierozró»nialno±ci dla zbioru atrybutów z pomini ciem atrybutu a i.

77 Wyznaczenie rdzenia z denicji Wyznacz klasy abstrakcji U/IND(B), gdzie B jest to zbiór wszystkich rozwa»anych atrybutów. Sprawd¹, czy j dro CORE(B) nie jest reduktem. Poniewa» j dro to zbiór atrybutów niezb dnych, to sprawd¹, czy U/IND(B) = U/IND(CORE(B)), je»eli tak to j dro to jedyny redukt i przejd¹ do Punktu 6. Sprawd¹ kolejne podzbiory atrybutów B i B. Sprawd¹, czy podzbiór B i jest niezale»ny. Je»eli tak, to sprawd¹ czy U/IND(B) = U/IND(B i ), je»eli zachodzi równo± to podzbiór B i jest reduktem. Wypisanie reduktów.

78 Podzbiór atrybutów B A nazywamy reduktem zbioru atrybutów A, gdy zbiór atrybutów B jest niezale»ny oraz IND(B) = IND(A). Zbiór wszystkich reduktów oznaczamy przez RED(A). Redukt to najmniejszy zbiór atrybutów, przy którym zostaje zachowana dotychczasowa klasykacja (rozró»nialno± ) obiektów. Wa»ne! Redukt musi speªnia dwa kryteria: 1. musi by niezale»nym zbiorem atrybutów (tylko atrybuty niezb dne), 2. musi zachowywa tak sam rozró»nialno± obiektów jak zbiór redukowany. Uwaga!!! Redukty mo»na wyznacza dla dowolnego podzbioru A. Do tej pory rozwa»ali±my zawsze jaki± podzbiór atrybutów B A. Dla takiego podzbiory B te» mo»emy liczy redukty. Wtedy reduktem b dzie jaki± podzbiór atrybutów C B, a zbiór wszystkich reduktów B oznacza b dziemy RED(B).

79 Zwi zek pomi dzy j drem a reduktem J dro systemu informacyjnego rozpatrywanego dla podzbioru atrybutów B A jest cz ±ci wspóln wszystkich reduktów tego systemu. CORE(B) = RED(A). Uwaga! To wªa±ciwo± wi» ca j dro i redukty a nie denicja j dra!

80 Algorytm generowania reduktu z denicji Dane:B = {a 1, a 2, a 3,...a i,..., a n} Tablica KRS Wyznacz U/IND(B) Wyznacz CORE(B) RED(B) := CORE(B) Je»eli U/IND(B) = U/IND(CORE(B)) To RED(B) := CORE(B), w przeciwnym wypadku Dla ka»dego podzbioru atrybutów B i B wykonaj: Je»eli U/IND(B) = U/IND(B i )ToRED(B) := RED(B) B i

81 Generowanie reduktu i rdzenia z denicji Najpierw wyznaczamy klasy równowa»no±ci dla peªnego zbioru atrybutów: IND(C) = {{1}, {2}, {3}, {4}, {6}} Teraz b dziemy sprawdza czy zmieni si dotychczasowa klasykacja obiektów, jak mamy dla peªnego zbioru atrybutów, je±li usuniemy jaki± atrybut ze zbioru. czyli: IND((C) {g}) = {{1}, {2}, {3, 4}, {6}} IND((C) {g}) IND(C) wi c atrybut {g} jest niezb dny w systemie, poniewa» je±li go usuniemy to stracimy informacje o rozró»nialno±ci dwóch obiektów 3i4.

82 Generowanie reduktu i rdzenia z denicji - cd czyli: IND((C) {m}) = {{1}, {2}, {3}, {4}, {6}} IND((C) {m}) = IND(C) wi c atrybut {m} jest zb dny w systemie, poniewa» je±li go usuniemy to nie stracimy informacji o rozró»nialno±ci obiektów. czyli: IND((C) {t}) = {{1, 4, 6}, {2}, {3}} IND((C) {t}) IND(C) wi c atrybut {t} jest niezb dny w systemie, poniewa» je±li go usuniemy to stracimy informacje o rozró»nialno±ci obiektów.

83 Generowanie reduktu i rdzenia z denicji - cd Zatem CORE(C) to zbiór atrybutów niezb dnych w systemie wi c w naszym przypadku stanowi go dwa atrybuty: CORE(C) = {gt} Redukt zgodnie z denicj jest to taki zbiór atrybutów niezb dnych, dla którego zapewniona jest dotychczasowa klasykacja obiektów, a wiec na pewno redukt musi zawiera w sobie j dro. Sprawdzamy wi c dla jakiej kombinacji atrybutów uzyskamy taki sam podziaª obiektów jaki daªa IND(C). IND(gt) = {{1}, {2}, {3}, {4}, {6}} Skoro IND(gt) = IND(C), to ten zbiór atrybutów {gt} jest reduktem zbioru atrybutów. RED(C) = {gt}.

84 Algorytm generacji j dra z macierzy rozró»nialno±ci Dane: Macierz M[I, J] CORE(B) := {} Dla I := 1 do N wykonaj Dla J := 1 do I 1 wykonaj Je»eli card(m[i, J]) = 1 to CORE(B) := CORE(B) + M[I, J]

85 Wyznaczanie reduktów z macierzy Utworzenie wszystkich mo»liwych podzbiorów atrybutów. Wybranie tych, które zawieraj rdze«core(b). Sprawdzenie, czy otrzymane podzbiory maj niepuste przeci cie z ka»dym niepustym elementem macierzy rozró»nialno±ci M(S). Spo±ród otrzymanych podzbiorów atrybutów nale»y wybra i usun te, które stanowi nadzbiory wyznaczonych reduktów. Pozostaªe podzbiory stanowi redukty RED(B).

86 Generowanie reduktu i rdzenia z macierzy rozró»nialno±ci W tym celu generujemy macierz rozró»nialno±ci dla tablicy deecyzyjnej: M(SI ) = (H i,j ) i,j=1,..,n = {a A : f (u 1, a) f (u j, a)} dla i, j = 1,.., n,gdzien = U. Denition Macierz odró»nialno±ci jest dwuwymiarow macierz kwadratow o wymiarach: U U. Komórka M(SI )[i, j] zawiera zbiór tych atrybutów, dla których obiekty uniwersum u i i u j maj ró»ne warto±ci (s rozró»nialne przy pomocy tych atrybutów).

87 g,m 3 g,t m,t 4 t g,m,t g 6 t g,m,t g,t t Tablica: Macierz rozró»nialno±ci dla system informacyjnego

88 Macierz rozró»nialno±ci a redukt i rdze«zbioru atrybutów Istniej nast puj ce zwi zki pomi dzy macierz rozró»nialno±ci a j drem i reduktami: CORE(A) = {a A : c ij = {a}} dla pewnego 0 < i, j < n + 1, tzn. do j dra wchodz te atry-buty, które wyst puj w macierzy rozró»nialno±ci pojedynczo. Denition B A jest reduktem A wtedy i tylko wtedy, gdy B jest minimalny (w sensie zawierania zbiorów) oraz z ka»dym niepustym elementem macierzy nierozró»nialno±ci M(S) ma niepuste przeci cie. Innymi sªowy redukt jest to najmniejszy zbiór atrybutów, przy którym zostaje zachowana dotychczasowa klasykacja (rozró»nialno± ) obiektów: RED(C) = {gt} oraz CORE(C) = {gt}.

89 Podsumowanie cz ±ci I 1. System informacyjny a system decyzyjny. 2. Tablicowa forma systemu decyzyjnego. 3. Relacja nierozró»nialno±ci, klasa abstrakcji rozró»nialno±ci. 4. Aproksymacja zbiorów obiektów. Dolne przybli»enie, górne przybli»enie, brzeg zbioru, dokªadno± górnego i dolnego przybli»enia. 5. Usuwanie niespójno±ci z tablicy decyzyjnej. 6. Redukcja atrybutów, generowanie RED(C) oraz CORE(C): z denicji, z macierzy rózró»nialno±ci.

90

91 Generowanie reguª minimalnych z tablic decyzyjnych Cz ± II Denition Generowanie reguª minimalnych z tablic decyzyjnych. Cz ± II.

92 Tablica decyzyjna Szczególnym rodzajem systemów informacyjnych s tablice decyzyjne (TD). Tablic decyzyjn nazywamy uporz dkowan pi tk : gdzie: TD = (U, C, D, V, f ) C, D A; C ; C D = A; C D =, elementy zbioru C nazywamy atrybutami warunkowymi, elementy zbioru D nazywamy atrybutami decyzyjnymi, f nazywamy funkcj decyzyjn. interpretacja U oraz V jest taka sama jak w przypadku systemu informacyjnego, ponadto poszczególne warto±ci v dziedzin atrybutów D(v V D ) b dziemy nazywa klasami decyzyjnymi.

93 Podstawowa ró»nica mi dzy tablic decyzyjn a systemem informacyjnym polega wi c na tym,»e cz ± atrybutów traktujemy jako atrybuty warunkowe (C) a cz ± jako decyzyjne (D).

94 Przykªad Tabel 1 b dziemy traktowa jako tablic decyzyjn. Zbiór atrybutów systemu informacyjnego dzielimy na dwa podzbiory: podzbiór atrybutów warunkowych (C) oraz podzbiór atrybutów decyzyjnych (D) w nast puj cy sposób: C = {Bol_glowy, Bol_miesni, Temperatura} = {g, m, t} D = {Grypa} = {c}

95 Tablice decyzyjne deterministyczne i niedeterministyczne Ka»dy obiekt u U tablicy decyzyjnej TD = (U, C, D, V, f ) mo»e zosta zapisany w postaci zdania warunkowego (postaci: je»eli warunki to decyzja) i by traktowany jako reguªa decyzyjna. Reguª decyzyjn w tablicy decyzyjnej TD nazywamy funkcje:g : C D V je»eli istnieje x U, taki,»e g = f x. Obci cie g do C (g C) oraz g do D (g D) nazywamy odpowiednio warunkami oraz decyzjami reguªy decyzyjnej g.

96 Reguªy decyzyjne Przykªad Z przykªadowej tablicy decyzyjnej z tabeli 1 mo»emy wyprowadzi nast puj ce reguªy (odpowiadaj ce konkretnym obiektom): 1. je»eli (g=nie) i (m=tak) i (t=wysoka) to (c=tak) 2. je»eli (g=tak) i (m=nie) i (t=wysoka) to (c=tak) 3. je»eli (g=tak) i (m=tak) i (t=bardzo wysoka) to (c=tak) 4. je»eli (g=nie) i (m=tak) i (t=bardzo wysoka) to (c=tak) 5. je»eli (g=tak) i (m=nie) i (t=wysoka) to (c=nie) 6. je»eli (g=nie) i (m=tak) i (t=normalna) to (c=nie)

97 Reguªy decyzyjne - rodzaje reguª Reguªy decyzyjne mo»na dzieli na wiele ró»nych grup bior c pod uwag ró»ne kryteria. Jeden z podziaªów wyró»nia dwie grupy reguª: reguªy deterministyczne reguªy niedeterministyczne

98 Reguªy deterministyczne Denition Reguªa w tablicy decyzyjnej TD jest deterministyczna, gdy równo± atrybutów warunkowych implikuje równo± atrybutów decyzyjnych. Mówi c ja±niej: reguªa jest deterministyczna gdy zawsze dla tych samych warto±ci atrybutów warunkowych podaje na wyj±cie tak sam decyzj systemu - czyli tak sam warto± atrybutu decyzyjnego. Fakt ten mo»emy wyrazi przy pomocy nast puj cej zale»no±ci dla obiektów tablicy decyzyjnej: x,y U x y ( c C (f (x, c) = f (y, c)) d D (f (x, d) = f (y, d)))

99 Reguªy niedeterministyczne Reguªa w tablicy decyzyjnej TD jest niedeterministyczna, gdy równo± atrybutów warunkowych nie implikuje równo±ci atrybutów decyzyjnych, co mo»na wyrazi nast puj c zale»no±ci dla obiektów tablicy decyzyjnej: x,y U x y ( c C (f (x, c) = f (y, c)) d D (f (x, d) f (y, d)))

100 Reguªy decyzyjne: deterministyczne i niedeterministyczne Tablica decyzyjna jest deterministyczna (dobrze okre±lona, spójna), gdy wszystkie reguªy w niej zawarte s deterministyczne, w przeciwnym przypadku jest niedeterministyczna (¹le okre±lona,niespójna). Tablica decyzyjna z tabeli jest niedeterministyczna, gdy» reguªy pochodz ce z obiektów: 2i 5 s niedeterministyczne. 2,5 U 2 5 a dokªadniej: ( c C (f (2, c) = f (5, c)) d D (f (2, d) f (5, d))) f (2, c) = f (5, c) : (g = tak) (m = nie) (t = wysoka) f (2, d) f (5, d) : bo(c = tak) 2 (c = nie) 5

101 Relacja nierozró»nialno±ci wzgl dem decyzji Z uwagi na rzeczywiste zastosowania tablice decyzyjne najcz ±ciej posiadaj tylko jeden atrybut decyzyjny, dlatego w dalszej cz ±ci rozwa»a«przyjmiemy,»e D = {d}. Wszystkie denicje mog jednak w prosty sposób zosta uogólnione na przypadek, kiedy zbiór atrybutów decyzyjnych posiada wi cej ni» jeden element.

102 Center for Machine Learning and Intelligent Systems at the University of California

103 Center for Machine Learning and Intelligent Systems at the University of California

104 Center for Machine Learning and Intelligent Systems at the University of California Denition 171 zbiorów danych rzeczywistych 1. Zastosowanie: klasykacja (113),regresja (12),grupowanie (5),inne (43) 2. Typ atrybutów: porz dkowe (35), numeryczne (59), mieszane (54) 3. Typ danych: Multivariate (131), Univariate (3), ci gªe (8), Time-Series (13), Text (8), Domain-Theory (13), inne (21) 4. Obszar: Life Sciences (47), Physical Sciences (27),CS Engineering (26),Social Sciences (14) Business (5),Game (8),Other (43) 5. Liczba atrybutów: < 10 (39), (10, 100 > (81), > 100 (16) 6. Liczba obiektów: < 100 (10), (100, 1000 > (75), > 1000(63) 7. Format: Matrix (122), Non-Matrix (49)

105 Relacja nierozró»nialno±ci wzgl dem decyzji - rodzaje decyzji

106 Relacja nierozró»nialno±ci wzgl dem decyzji - rodzaje decyzji

107 Relacja nierozró»nialno±ci wzgl dem decyzji - rodzaje decyzji

108 Relacja nierozró»nialno±ci wzgl dem decyzji - rodzaje decyzji

109 Relacja nierozró»nialno±ci wzgl dem decyzji - rodzaje decyzji

110 Relacja nierozró»nialno±ci wzgl dem decyzji - rodzaje decyzji

111 Relacja nierozró»nialno±ci wzgl dem decyzji - rodzaje decyzji

112 Relacja nierozró»nialno±ci wzgl dem decyzji - rodzaje decyzji

113 Relacja nierozró»nialno±ci wzgl dem decyzji - rodzaje decyzji Niech TD = (U, C, {d}, V, f ) b dzie tablic decyzyjn i niech B C. Denition Relacj nierozró»nialno±ci wzgl dem decyzji d na zbiorze obiektów U generowan przez zbiór atrybutów B deniujemy jako: IND(B, d) = {(x, y) U U : (x, y) IND SI (B) f (x, d) = f (y, d)}

114 Relacja nierozró»nialno±ci wzgl dem decyzji - rodzaje decyzji Relacja nierozró»nialno±ci wzgl dem decyzji ró»ni si od relacji nierozró»nialno±ci tym,»e nie rozró»nia obiektów maj cych takie same warto±ci decyzji nawet wtedy, gdy obiekty te ró»ni si na rozwa»anym podzbiorze atrybutów warunkowych B. Relacja nierozró»nialno±ci wzgl dem decyzji nie jest relacj równowa»no±ci. Jest co prawda zwrotna i symetryczna, ale nie jest przechodnia.

115 Macierz, tablica, funkcja oraz wektor odró»nialno±ci dla tablicy decyzyjnej Je±li TD = (U, C, {d}, V, f ) jest tablic decyzyjn tak,»e U = {u 1,.., u n} i C = {c 1,.., c m}, to macierz odró»nialno±ci tablicy decyzyjnej TDM(TD, d) deniujemy nast puj co: M(TD, d) = (H i,j ) i,j=1,..,n = {c C : f (u i, c) f (u j, c) dla i, j = 1,.., n gdzie n = U. f (u i, d) f (u j, d)

116 Macierz rozró»nialno±ci dla tablicy decyzyjnej - przykªad Obliczmy macierz odró»nialno±ci dla tablicy decyzyjnej z tabeli 1. U/U g,m t 2 g,m,t 3 m,t g,t 4 g,m,t t 5 g,m m,t g,m,t 6 t g,m,t g,t t Tablica: Macierz odró»nialno±ci dla tablicy decyzyjnej Zasada! Patrzymy tylko na te obiekty, które maj przeciwn decyzj, i wypisujemy w komórce macierzy atrybuty warunkowe, które ró»ni te obiekty.

117 Reguªy minimalne Znanym algorytmem generuj cym reguªy na podstawie tablicy decyzyjnej jest algorytm zamieszczony w pracy Z. Pawlaka i A. Skowrona z 1993 roku. Poniewa» algorytm dziaªa dla tablic spójnych, na pocz tku sprawdza si spójno± tablicy decyzyjnej. W przypadku wyst pienia niespójno±ci usuwa si j za pomoc uogólnionego atrybutu decyzyjnego lub metody jako±ciowejusuwania niespójno±ci z tablicy decyzyjnej.

118 Od tablicy decyzyjnej do reguª Generowanie reguª minimalnych: 1. Doprowad¹ tablic do spójno±ci, np. wprowadzaj c uogólniony atrybut decyzyjny. 2. Usu«identyczne obiekty. 3. Utwórz macierz nierozró»nialno±ci 4. Dla ka»dej warto±ci atrybutu decyzyjnego: 5. Utwórz uogólnion macierz nierozró»nialno±ci wzgl dem decyzji. 6. Zapisz funkcj nierozró»nialno±ci, zminimalizuj j. 7. Zapisz reguª decyzyjn na podstawie zminimalizowanej funkcji rozró»nialno±ci.

119 Generowanie reguª minimalnych przypomnienie dziaªa«w algebrze Boola Algebra Boola jest to struktura matematyczna A = (X, +,,, 0, 1) speªniaj ca nast puj ce aksjomaty: ª czno± i przemienno± : x + y = y + x x y = y x (x + y) + z = x + (y + z) (x y) z = x (y z) 0 jest elementem neutralnym dla + : x + 0 = x 1 jest elementem neutralnym dla : x 1 = x x + ( x) = 1 x ( x) = 0 rozdzielno± + i wzgl dem siebie: x (y + z) = (x y) + (x z) x + (y z) = (x + y) (x + z) dwa dziaªania si znosz : x = x prawa de Morgana (x y) = ( x) + ( y) (x + y) = ( x) ( y)

120 Macierz rozró»nialno±ci dla tablicy decyzyjnej Tablica decyzyjna Macierz rozró»nialno±ci dla tablicy decyzyjnej g,m 3 g,t m,t 4 t g,m,t g 6 t g,m,t g,t t

121 Generujemy funkcje rozró»nialno±ci dla poszczególnych decyzji Uproszczony zapis funkcja dla reguªy nr 1: t funkcja dla reguªy nr 2: g + m + t funkcja dla reguªy nr 3: g + t funkcja dla reguªy nr 4: t funkcja dla reguªy nr 6: (t) (g + m + t) (g + t) (t) co zapisujemy jako: f MG (A, {tak}, X 1) = t f MG (A, {tak}, X 2) = g + m + t f MG (A, {tak}, X 3) = g + t f MG (A, {tak}, X 4) = t f MG (A, {nie}, X 6) = (t) (g + m + t) (g + t) (t) ale po kolei... nast pna strona...

122 reguªy minimalne dla σ A = {tak} dla obiektu X 1 1. Wyliczamy reguªy minimalne dla σ A = {tak} czyli reguªy postaci α σ A = {tak}. 2. Opieraj c si na uogólnionej macierzy nierozró»nialno±ci dla obiektu X 1: MG(A, {tak}, X 1) wyznaczamy funkcj nierozró»nialno±ci f MG (A, {tak}, X 1) g,m g,t t t 3. f MG (A, {tak}, X 1) = t 4. Minimalizujemy funkcj f MG (A, {tak}, X 1) - nie ma co minimalizowa! 5. Zatem implikanty pierwsze funkcji f MG (A, {tak}, X 1) to PRIME MG (A, {tak}, X 1) = {t}

123 reguªy minimalne dla σ A = {tak} 1. Wyliczamy reguªy minimalne dla σ A = {tak} czyli reguªy postaci α σ A = {tak}. 2. Opieraj c si na implikantach pierwszych PRIME MG (A, {tak}, X 1) = {t} i oryginalnej tablicy mo»emy zapisa reguª minimaln : 3. t = wysoka σ A = {tak}

124 reguªy minimalne dla σ A = {tak} dla obiektu X 2 1. Wyliczamy reguªy minimalne dla σ A = {tak} czyli reguªy postaci α σ A = {tak}. 2. Opieraj c si na uogólnionej macierzy nierozró»nialno±ci dla obiektu X 2: MG(A, {tak}, X 2) wyznaczamy funkcj nierozró»nialno±ci f MG (A, {tak}, X 2) g,m m,t g,m,t g,m,t 3. f MG (A, {tak}, X 2) = g + m + t 4. Minimalizujemy funkcj f MG (A, {tak}, X 2) - nie ma co minimalizowa! 5. Zatem implikanty pierwsze funkcji f MG (A, {tak}, X 2) to PRIME MG (A, {tak}, X 2) = {g + m + t}

125 reguªy minimalne dla σ A = {tak} 1. Wyliczamy reguªy minimalne dla σ A = {tak} czyli reguªy postaci α σ A = {tak}. 2. Opieraj c si na implikantach pierwszych PRIME MG (A, {tak}, X 2) = {g + m + t} i oryginalnej tablicy mo»emy zapisa 3 reguªy minimalne: 3. g = tak σ A = {tak} 4. m = nie σ A = {tak} 5. t = wysoka σ A = {tak}

126 reguªy minimalne dla σ A = {tak} dla obiektu X 3 1. Wyliczamy reguªy minimalne dla σ A = {tak} czyli reguªy postaci α σ A = {tak}. 2. Opieraj c si na uogólnionej macierzy nierozró»nialno±ci dla obiektu X 3: MG(A, {tak}, X 3) wyznaczamy funkcj nierozró»nialno±ci f MG (A, {tak}, X 3) g,t m,t g g,t 3. f MG (A, {tak}, X 3) = g + t 4. Minimalizujemy funkcj f MG (A, {tak}, X 3) - nie ma co minimalizowa! 5. Zatem implikanty pierwsze funkcji f MG (A, {tak}, X 3) to PRIME MG (A, {tak}, X 3) = {g + t}

127 reguªy minimalne dla σ A = {tak} 1. Wyliczamy reguªy minimalne dla σ A = {tak} czyli reguªy postaci α σ A = {tak}. 2. Opieraj c si na implikantach pierwszych PRIME MG (A, {tak}, X 3) = {g + t} i oryginalnej tablicy mo»emy zapisa 2 reguªy minimalne: 3. g = tak σ A = {tak} 4. t = bardzowysoka σ A = {tak}

128 reguªy minimalne dla σ A = {tak} dla obiektu X 4 1. Wyliczamy reguªy minimalne dla σ A = {tak} czyli reguªy postaci α σ A = {tak}. 2. Opieraj c si na uogólnionej macierzy nierozró»nialno±ci dla obiektu X 4: MG(A, {tak}, X 4) wyznaczamy funkcj nierozró»nialno±ci f MG (A, {tak}, X 4) t g,m,t g t 3. f MG (A, {tak}, X 4) = t 4. Minimalizujemy funkcj f MG (A, {tak}, X 4) - nie ma co minimalizowa! 5. Zatem implikanty pierwsze funkcji f MG (A, {tak}, X 4) to PRIME MG (A, {tak}, X 4) = {t}

129 reguªy minimalne dla σ A = {tak} 1. Wyliczamy reguªy minimalne dla σ A = {tak} czyli reguªy postaci α σ A = {tak}. 2. Opieraj c si na implikantach pierwszych PRIME MG (A, {tak}, X 4) = {t} i oryginalnej tablicy mo»emy zapisa 1 reguª minimaln : 3. t = bardzowysoka σ A = {tak}

130 reguªy minimalne dla σ A = {nie} dla obiektu X 6 1. Wyliczamy reguªy minimalne dla σ A = {nie} czyli reguªy postaci α σ A = {nie}. 2. Opieraj c si na uogólnionej macierzy nierozró»nialno±ci dla obiektu X 6: MG(A, {nie}, X 6) wyznaczamy funkcj nierozró»nialno±ci f MG (A, {nie}, X 6) g,t m,t g g,t 3. f MG (A, {nie}, X 6) = t (g + m + t) (g + t) (t) 4. Minimalizujemy funkcj f MG (A, {nie}, X 6) = tt (g + m + t) (g + t) = (ttg + ttm + ttt)(g + t) = (ttgg + tttg + ttmg + tttm + tttg + tttt) = (tg + tg + tmg + tm + tg + t) = (tg + tmg + tm + t) = tg(1 + m) + t(1 + m) = tg + t = t(g + 1) = t 5. Zatem implikanty pierwsze funkcji f MG (A, {nie}, X 6) to PRIME MG (A, {nie}, X 6) = {t}

131 reguªy minimalne dla σ A = {nie} 1. Wyliczamy reguªy minimalne dla σ A = {nie} czyli reguªy postaci α σ A = {nie}. 2. Opieraj c si na implikantach pierwszych PRIME MG (A, {nie}, X 6) = {t} i oryginalnej tablicy mo»emy zapisa 1 reguª minimaln : 3. t = normalna σ A = {nie}

132 Wygenerowane reguªy optymalne -baza: PACJENCI 1. if t = wysoka then grypa = tak 2. if g = tak then grypa = tak 3. if m = nie then grypa = tak 4. if t = bardzo wysoka then grypa = tak 5. if t = normalna then grypa = nie Ostatecznie otrzymamy 2 optymalne reguªy decyzyjne: dla decyzji c = tak: if t = wysoka g = tak m = nie t = bardzo wysoka then grypa = tak dla decyzji c = nie: if t = normalna then grypa = nie

133 Przykªadowa tablica decyzyjna

134 Wniosek Tablica jest niespójna! Tablica jest niespójna

135 Wprowadzamy uogólniony atrybut decyzyjny σ A Decyzja: Wprowadzamy uogólniony atrybut decyzyjny σ A

136 Teraz w tablicy wyst puj powielone obiekty Obserwacja: Teraz w tablicy wyst puj powielone obiekty

137 Decyzja: Eliminujemy powielone obiekty Eliminujemy powielone obiekty

138 Tworzymy macierz nierozró»nialno±ci Krok algorytmu: Tworzymy macierz nierozró»nialno±ci