Tablicowa reprezentacja danych

Transkrypt

1 Wstęp Teoria zbiorów przybliżonych została sformułowana przez Zdzisława Pawlaka w 1982 roku. Jest ona wykorzystywana jako narzędzie do syntezy zaawansowanych i efektywnych metod analizy oraz do redukcji zbiorów danych. Znalazła ona zastosowanie m.in. w eksploracji danych i odkrywaniu wiedzy, złożonych zadaniach klasyfikacji oraz w komputerowych systemach wspomagania decyzji. Metodologia zbiorów przybliżonych zyskała sobie dużą popularność. Jest ona przedmiotem badań wielu osób na całym świecie. Poświęcono jej przeszło 2000 publikacji, w tym kilkanaście książek. Cyklicznie odbywają się na jej temat międzynarodowe konferencje i seminaria (m.in. w USA, Kanadzie i Japonii).

2 System informacyjny Istnieje szereg struktur, które mogą być wykorzystane do przechowywania danych. Sposób reprezentacji danych powinien jednak posiadać dwie podstawowe cechy: uniwersalność - (powinien pozwalać na gromadzenie i przechowywanie zbiorów różnorodnych danych, opisujących badane zjawiska i procesy), efektywność - (powinien umożliwiać w łatwy sposób komputerową analizę tak zapisanych danych). Obie te cechy posiada znany i często wykorzystywany w praktyce tablicowy sposób reprezentacji danych.

3 Tablicowa reprezentacja danych W tym podejściu zbiór danych przedstawiany jest w postaci tablicy, której kolumny są etykietowane przez atrybuty (parametry, własności, cechy), wiersze odpowiadają zaś obiektom (elementom, sytuacjom, stanom). Na przecięciu wierszy i kolumn znajdują się wartości odpowiednich atrybutów dla poszczególnych obiektów. Tak zdefiniowaną strukturę nazywamy systemem informacyjnym (SI) (ang. information system) rzadziej zaś tablicą informacyjną lub tablicą typu atrybut-wartość.

4 Formalnie systemem informacyjnym nazywamy uporządkowaną czwórkę: SI = (U, A, V, f ) gdzie: U jest niepustym, skończonym zbiorem zwanym uniwersum, przy czym elementy zbioru, U nazywamy obiektami U = {x 1, x 2,.., x n } A jest niepustym, skończonym zbiorem atrybutów: U = {a 1, a 2,.., a m } V jest zbiorem wartości atrybutów ze zbioru A: V = a A V a przy czym V a nazywamy dziedzina atrybutu a A. f : U A V jest funkcją informacji taką, że: f (x, a) V a x U a A

5 Pacjent Ból głowy (g) Ból mięsni (m) Temperatura (t) Grypa (c) 1 nie tak wysoka tak 2 tak nie wysoka tak 3 tak tak bardzo wysoka tak 4 nie tak bardzo wysoka tak 5 tak nie wysoka nie 6 nie tak normalna nie Tabela: System informacyjny / tablica decyzyjna Tabela przedstawia przykładowy system informacyjny zawierający wyniki badań przeprowadzonych dla grupy pacjentów. System ten składa się z sześciu obiektów (1, 2,..,6) oraz czterech atrybutów (Ból głowy, Ból mięśni, Temperatura, Grypa).

6 Rozpatrywany system informacyjny może zostać zapisany w następującej postaci: SI = (U, A, V, f ) gdzie: U={1, 2, 3, 4, 5, 6} A={Ból głowy, Ból mięśni, Temperatura, Grypa} V = V Bolgoowy V Bolmiesni V Temperatura V Grypa V Bolglowy = {nie, tak} V Bolmiesni = {nie, tak} V Temperatura = {normalna, wysoka, bardzowysoka} V Grypa = {nie, tak} f : U A V (np. f(1, Ból głowy)=nie; f(3, Grypa) = tak)

7 Relacja nierozróżnialności O relacji nierozróżnialności mówimy wówczas, gdy w rozpatrywanym systemie mamy do czynienia z obiektami o identycznych opisach, bądź obiektami o tej samej wartości danego atrybutu (-ów [kilku, nie wszystkich]). Analizując poszczególne obiekty z tabeli można zaobserwować, że obiekty o numerach 1, 4 i 6 mają te same wartości atrybutów: ból głowy oraz ból mięśni zaś obiekty o numerach 1 i 5 mają tę samą wartość atrybutu temperatura. O obiektach numer 1, 4 i 6 powiemy, że są nierozróżnialne ze względu na atrybuty: ból głowy oraz ból mięśni, zaś obiekty o numerach 1 i 5 są nierozróżnialne ze względu na atrybut: temperatura. Tę obserwację można uogólnić i wyrazić w sposób formalny stosując odpowiednio zdefiniowaną relację.

8 Niech SI = (U, A, V, f ) będzie systemem informacyjnym i niech A B. Relację nie rozróżnialności (ang. indiscernibility relation) na zbiorze obiektów U generowaną przez zbiór atrybutów B określamy jako: IND SI (B) = {(x, y) U U : f (x, a) = f (y, a)} a B

9 Poszczególne pary obiektów należą do relacji wtedy, gdy posiadają te same wartości dla wszystkich atrybutów ze zbioru B. Relacja nierozróżnialności IND SI (B) jest relacją równoważności, gdyż jest relacją: zwrotną, gdyż: u U (u, u) IND SI (B) symetryczną, gdyż: u,v U ((u, v) IND SI (B) (v, u) IND SI (B)) przechodnią, gdyż: u,v,w U ((u, v) IND SI (B) (v, w) IND SI (B) (u, w) IND SI (B))

10 Każda relacja równoważności dzieli zbiór, w którym jest określona, na rodzinę rozłącznych podzbiorów zwanych klasami abstrakcji (równoważności) lub zbiorami elementarnymi tej relacji. Klasa abstrakcji elementu y X względem relacji równoważności R w zbiorze X to zbiór elementów x X, które są w relacji R z y. Dla danej relacji nie rozróżnialności IND SI (B) rodzinę wszystkich klas abstrakcji tej relacji oznacza się przez: U/IND SI (B).

11 Poszczególne klasy nazywamy zbiorami B elementarnymi, zaś przez I SI,B (x) oznaczamy klasę tej relacji zawierającą obiekt x. Formalnie I SI,B (x) (oznaczane również: [x] INDSI (B)) można zdefiniować jako: IND SI,B (x) = {y U (x, y) IND SI (B)}

12 Wszystkie elementy każdego zbioru B elementarnego mają te same wartości wszystkich atrybutów należących do zbioru B (są nierozróżnialne względem tych atrybutów). Zbiór I SI,B (x) zawiera zaś te wszystkie obiekty systemu informacyjnego SI, które są nierozróżnialne z obiektem x względem zbioru atrybutów B (mają te same wartości dla wszystkich atrybutów ze zbioru B). Dla systemu informacyjnego przedstawionego w tabeli można wyznaczyć relacje nie rozróżnialności generowane przez różne zbiory atrybutów.

13 Pacjent Ból głowy (g) Ból mięsni (m) Temperatura (t) Grypa (c) 1 nie tak wysoka tak 2 tak nie wysoka tak 3 tak tak bardzo wysoka tak 4 nie tak bardzo wysoka tak 5 tak nie wysoka nie 6 nie tak normalna nie Tabela: System informacyjny / tablica decyzyjna

14 Niech: A 1 = {g, m, t}, A 2 = {t}, A 3 = {g, m}, A 4 = {g, t, c}, A 5 = {g, m, t, c} IND SI (A 1 ) = {(1, 1), (2, 2), (3, 3), (4, 4), (5, 5), (6, 6), (2, 5), (5, 2)} IND SI (A 2 ) = {(1, 1), (2, 2), (3, 3), (4, 4), (5, 5), (6, 6), (1, 2), (2, 1), (1, 5), (5, 1), (2, 5), (5, 2), (3, 4), (4, 3)} IND SI (A 3 ) = {(1, 1), (2, 2), (3, 3), (4, 4), (5, 5), (6, 6), (1, 4), (4, 1), (1, 6), (6, 1), (4, 6), (6, 4), (2, 5), (5, 2)} IND SI (A 4 ) = {(1, 1), (2, 2), (3, 3), (4, 4), (5, 5), (6, 6)}

15 Powyższe relacje dzielą zbiór obiektów systemu informacyjnego na następujące klasy abstrakcji (zbiory elementarne): U/IND SI (A 1 ) = {{1}, {2, 5}, {3}, {4}, {6}} U/IND SI (A 2 ) = {{1, 2, 5}, {3, 4}, {6}} U/IND SI (A 3 ) = {{1, 4, 6}, {2, 5}, {3}} U/IND SI (A 4 ) = {{1}, {2}, {3}, {4}, {5}, {6}} U/IND SI (A) = {U/IND SI (A 4 )}

16 Na tej podstawie można wyznaczyć przykładowe klasy abstrakcji zawierające poszczególne obiekty systemu informacyjnego: I SI,A3 (1) = {1, 4, 6} I SI,A3 (2) = {2, 5} I SI,A3 (3) = {3}

17 Zbiór dokładny oraz zbiór przybliżony Operowanie pojęciami nieostrymi (nieścisłymi, nieprecyzyjnymi) jest bez wątpienia jednym z głównych problemów rozumowań potocznych. Pojęcia nieostre różnią się tym od pojęć ostrych, że w przeciwieństwie do tych ostatnich nie zawsze możliwe jest jednoznaczne zaklasyfikowanie obiektu do pojęcia, tzn. dla pewnej grupy obiektów z otaczającej nas rzeczywistości nie można stwierdzić jednoznacznie czy dany obiekt należy do rozpatrywanego pojęcia, czy też nie należy. Na przykład mogą to być pojęcia takie jak: małe dziecko, piękna kobieta, wysoki człowiek, dobra książka, łatwe zadanie itd.

18 Najbardziej znany model matematyczny pojęć nieostrych, zwany teorią zbiorów rozmytych został zaproponowany przez Zadeha. Model ten zdobył dużą popularność i znalazł wiele zastosowań (również przy konstrukcji inteligentnych systemów decyzyjnych), głównie dzięki dużej jego prostocie oraz intuicyjności. Innym modelem matematycznym jaki można zastosować do badania pojęć nieostrych jest tzw. teoria ewidencji, zwana również teorią DemsteraShafera, gdyż obecną jej postać zawdzięczamy głównie pracom Demstera i Shafera. W 1976 roku Shafer opublikował monografię, w której zaproponował aksjomatyczne ujęcie wcześniejszego modelu pochodzącego od Demstera. Wspomniany model dotyczy konstruowania prawdopodobnych sądów (wnioskowań) o słabo ustrukturowanych problemach, a więc, takich problemach, o których posiadana wiedza ma postać luźnych przesłanek i ewentualnie wstępnych hipotez.

19 Teoria zbiorów przybliżonych także może być uważana za jeden ze sposobów formalizacji nieostrości pojęć. Interesującym wydaje się fakt, że istnieją związki pomiędzy teorią zbiorów rozmytych a teorią zbiorów przybliżonych. Teoria zbiorów przybliżonych proponuje zastąpienie nieostrego (nieprecyzyjnego) pojęcia,parą pojęć precyzyjnych, zwanych dolnym i górnym przybliżeniem tego pojęcia. Różnica między górnym i dolnym przybliżeniem jest właśnie tym obszarem granicznym, do którego należą wszystkie przypadki, które nie mogą być prawidłowo zaklasyfikowane na podstawie aktualnej wiedzy. Im większy obszar graniczny pojęcia tym bardziej jest ono nieostre (nieprecyzyjne).

20 Niech SI = {U, A, V, f } będzie systemem informacyjnym i niech B A. Mówimy, że zbiór P U jest zbiorem B dokładnym (B definiowalnym) wtedy, gdy jest on skończoną sumą zbiorów B elementarnych. Każdy zbiór, który nie jest skończoną sumą zbiorów B elementarnych jest zbiorem B przybliżonym.

21 Przykład Niech: X 1 = {1, 2, 3, 5} X 2 = {3, 4, 5, 6} oraz U/IND SI (A 1 ) = {{1}, {2, 5}, {3}, {4}, {6}} U/IND SI (A 2 ) = {{1, 2, 5}, {3, 4}, {6}} Wówczas: Zbiór X 1 jest zbiorem A 1 dokładnym, gdyż jest skończoną sumą zbiorów A 1 elementarnych: X 1 = {{1} {2, 5} {3}} Ale: Zbiór X 2 jest zbiorem A 1 przybliżonym, gdyż nie jest skończoną sumą zbiorów A 1 elementarnych (obiekty 2 i 5 należą do jednego zbioru B elementarnego, zaś zbiórx 2 zawiera tylko obiekt numer 5, a nie zawiera obiektu numer 2)

22 Możemy dalej stwierdzić, że: Zbiór X 1 jest zbiorem A 2 przybliżonym, gdyż nie jest skończoną sumą zbiorów A 2 elementarnych (obiekty 3 i 4 należą do jednego zbioru C elementarnego, zaś zbiór X 1 zawiera tylko obiekt numer 3, a nie zawiera obiektu numer 4) Zbiór X 2 jest zbiorem A 2 przybliżonym, gdyż nie jest skończoną sumą zbiorów A 2 elementarnych (obiekty 1, 2 i 5 należą do jednego zbioru C elementarnego, zaś zbiór X 2 zawiera tylko obiekt numer 5, a nie zawiera obiektów numer 1 i 2)

23 Aproksymacja zbioru Jeśli SI = {U, A, V, f } jest systemem informacyjnym takim, że B A oraz X U to: B dolnym przybliżeniem (aproksymacją) zbioru X w systemie informacyjnym SI nazywamy zbiór: BX = {x U : I SI,B (x) X } B górnym przybliżeniem (aproksymacją) zbioru X w systemie informacyjnym SI nazywamy zbiór: BX = {x U : I SI,B (x) X }

24 B pozytywnym obszarem (ang. positive area) zbioru X w systemie informacyjnym SI nazywamy zbiór: POS B (X ) = BX B brzegiem (granicą) (ang. boundary) zbioru X w systemie informacyjnym SI nazywamy zbiór: BN B (X ) = BX BX B negatywnym obszarem (ang. negative area) zbioru X w systemie informacyjnym SI nazywamy zbiór: NEG B X = U BX

25 Z definicji powyższych możemy wysnuć następujące wnioski: BX X BX zbiór X jest B-dokładny, gdy: BX = BX BN B X = zbiór X jest B-przybliżony, gdy: BX BX BN B X

28 Dolne przybliżenie pojęcia jest to więc pojęcie, do którego należą wszystkie obiekty, co do których nie ma wątpliwości, że są one reprezentantami tego pojęcia w świetle posiadanej wiedzy. Do górnego przybliżenia należą obiekty, których nie można wykluczyć, że są reprezentantami tego pojęcia. Brzegiem zaś pojęcia są wszystkie te obiekty, co do których nie wiadomo czy są czy nie reprezentantami danego zbioru.

29 rys1.bmp (892x610x16M bmp)

30 Liczbowa charakterystyka aproksymacji zbioru Każdy zbiór (przybliżony lub dokładny) można scharakteryzować ilościowo za pomocą współczynnika dokładności aproksymacji (przybliżenia). Współczynnik dokładności aproksymacji zbioru X w systemie informacyjnym SI względem zbioru atrybutów B wyraża się wzorem: α B (X ) = card(pos B(X )) card(bx ) = card(bx ) card(bx ) gdzie card(x ) oznacza liczność zbioru X. Łatwo zauważyć, że: 0 α B (X ) 1 jeżeli X jest zbiorem dokładnym to: α B (X ) = 1 jeżeli X jest zbiorem przybliżonym to: 0 α B (X ) < 1

33 Przykład Jeśli: X 1 = {1, 2, 3, 5} X 2 = {3, 4, 5, 6} oraz U/IND SI (A 1 ) = {{1}, {2, 5}, {3}, {4}, {6}} U/IND SI (A 2 ) = {{1, 2, 5}, {3, 4}, {6}} Liczymy teraz dokładność aproksymacji dla zbiorów X 1 oraz X 2 względem zbioru atrybutów A 1 : α A1 (X 1 ) = card(a 1X 1 ) card(a 1 X 1 ) = 4 4 = 1 α A1 (X 2 ) = card(a 1X 2 ) card(a 1 X 2 ) = 3 5 = 0.6 gdzie card(x ) oznacza liczność zbioru X.

34 Niespójność danych zachodzi wówczas, gdy dla takich samych danych wejściowych system podjąłby odmienne decyzje. Praca z systemem o niespójnej wiedzy jest niemożliwa. Niespójność należy usunąć.

37 Pacjent Ból głowy (g) Ból mięsni (m) Temperatura (t) Grypa (c) 1 nie tak wysoka tak 2 tak nie wysoka tak 3 tak tak bardzo wysoka tak 4 nie tak bardzo wysoka tak 5 tak nie wysoka nie 6 nie tak normalna nie Dla obiektów 2 i 5 zachodzi niespójność, gdyż, dla tych samych atrybutów warunkowych zachodzą różne decyzje: ból głowy=tak and ból mięśni=nie and temp=wysoka dla obiektu 2 podano decyzję: Grypa=tak dla obiektu 5 podano decyzję: Grypa=nie

38 Wyróżnić można 5 metod usuwania niespójności w tablicach decyzyjnych: 1 Zwrócić się do EKSPERTA aby dla obiektów 2 i 5 podjął jedną decyzję. 2 Utworzenie dwóch (lub więcej w przypadku ogólnym) spójnych tablic decyzyjnych, poprzez rozdzielenie sprzecznych obiektów. 3 Usunięcie obiektów będących przyczyną niespójności(metoda ilościowa). 4 Można posłużyć się tutaj również metodą jakościową. 5 Metoda tworzenia nowego atrybutu decyzyjnego (metoda uogólnionego atrybutu decyzyjnego)

39 Zwrócenie się do EKSPERTA Jest to sposób najprostszy przerzucający ciężar usunięcia niespójności z tablicy na eksperta. Niestety bardzo często zdarza się, że ekspert nie potrafi podjąć jednoznacznej decyzji. Twierdzi np. że dla takich atrybutów (parametrów) raz podejmuje decyzje 1 innym razem decyzje 2. W takim przypadku metoda ta nie daje rezultatu. Utworzenie dwóch (lub więcej w przypadku ogólnym) spójnych tablic decyzyjnych, poprzez rozdzielenie sprzecznych obiektów. Jest to jednak tylko pozorne rozwiązanie problemu. Powstaną dwa zbiory reguł dla pierwszej i drugiej tablicy. Reguły powstałe na podstawie obiektu 2 w tablicy pierwszej i reguła dla obiektu 5 w tablicy drugiej, będą sprzeczne.

40 Metoda jakościowa Usuniemy ten obiekt, którego wartość decyzja jest mniej ważąca. Mniej ważąca to znaczy mająca mniejszą dokładność dolnego lub górnego przybliżenia. Dla każdego X U i B A dokładność dolnego przybliżenia γ B (X ) obliczymy ze wzoru: γ B (X ) = BX U Dokładność górnego przybliżenia γ B (X ) obliczymy ze wzoru: γ B (X ) = BX U Wówczas usuwamy ten obiekt, dla którego dokładności (górnego bądź dolnego) przybliżenia była mniejsza.

41 Pacjent Ból głowy (g) Ból mięsni (m) Temperatura (t) Grypa (c) 1 nie tak wysoka tak 2 tak nie wysoka tak 3 tak tak bardzo wysoka tak 4 nie tak bardzo wysoka tak 5 tak nie wysoka nie 6 nie tak normalna nie

42 Przykład Dla tabeli numer 1, która przecież jest niespójna postaramy sie usunąć niespójność metodą jakościową. Najpierw dzielimy zbiór obiektów X ze względu na decyzję na dwa rozłączne podzbiory X 1 oraz X 2. X 1 = {1, 2, 3, 4} X 2 = {5, 6} Generujemy teraz klasy rozróżnialności dla całego zbioru atrybutów warunkowych: IND(C) = {{1}, {2, 5}, {3}, {4}, {5}, {6}}.

43 B dolnym przybliżeniem zbioru X w systemie informacyjnym SI nazywamy zbiór: BX = {x U : I SI,B (x) X } B górnym przybliżeniem zbioru X w systemie informacyjnym SI nazywamy zbiór: BX = {x U : I SI,B (x) X }

44 Teraz można juz wyznaczyć dla każdego ze zbiorów klasy decyzyjnych: X 1 oraz X 2 przybliżenie dolne oraz górne. BX 1 = {1, 3, 4} BX 1 = {1, 2, 3, 4, 5} BX 2 = {6} BX 2 = {2, 5, 6}

45 Teraz można juz przystąpić do wyliczenia dokładności górnego oraz dolnego przybliżenia: γ B (X 1 ) = BX 1 U = 3 6 = 1 2 γ B (X 2 ) = BX 2 U = 1 6 γ B (X 1 ) = BX 1 U = 5 6 γ B (X 2 ) = BX 2 U = 3 6 = 1 2 Metoda mówi, aby usunąć ten obiekt, dla którego uzyskano mniejszą dokładność dolnego, bądź górnego przybliżenia w zależności od wybranego wariantu. W naszym przypadku usuniemy obiekt, który powodował niespójność i występował w zbiorze X 2.

46 Spójna juz teraz tablica decyzyjna wygląda następująco: Pacjent Ból głowy (g) Ból mięsni (m) Temperatura (t) Grypa (c) 1 nie tak wysoka tak 2 tak nie wysoka tak 3 tak tak bardzo wysoka tak 4 nie tak bardzo wysoka tak 6 nie tak normalna nie Tabela: System informacyjny / tablica decyzyjna po usunięciu niespójności

47 Usunięcie obiektów będących przyczyną niespójności. Powstaje problem, który obiekt usunąć. Można posłużyć się tutaj metodą ilościową. Wówczas usuniemy ten obiekt(-y), którego decyzja mniej razy była potwierdzana.

48 Tworzenie nowego podziału (Systemu informacyjnego) Decyzja d wyznacza klasyfikację: Class A (d) = {X 1,..., X r(d) }, (gdzie (d) - to ilość różnych wartości atrybutu decyzyjnego.) Tworzymy nowy podział: App Class A (d) = {A X 1,..., A Xr(d) } {Bd A (θ) : θ > 1} gdzie: Bd A (θ) = i θ BN A(X i ) i θ BN A(X i ) Ten nowy podział tworzy tablice decyzyjną spójną.

49 Tabela nr 1, (niespójna) po dodaniu do systemu informacyjnego, nowego, uogólnionego atrybutu decyzyjnego wygląda następująco: Pacjent Ból głowy (g) Ból mięsni (m) Temperatura (t) Grypa (c) 1 nie tak wysoka tak 2 tak nie wysoka tak,nie 3 tak tak bardzo wysoka tak 4 nie tak bardzo wysoka tak 5 tak nie wysoka tak,nie 6 nie tak normalna nie Tabela: System informacyjny / tablica decyzyjna

50 Macierz rozróżnialności Jeśli SI = {U, A, V, f } jest systemem informacyjnym takim, że U = {u 1, u 2,.., u n } i A = {a 1, a 2,.., a m }, to macierz odróżnialności (rozróżnialności) systemu informacyjnego SI M(SI ) (ang. discernibility matrix) definiujemy następująco: M(SI ) = (H i,j ) i,j=1,..,n = {a A : f (u i, a) f (u j, a)} dla i, j = 1,.., n, gdzie n = U. Macierz odróżnialności jest dwuwymiarową macierzą kwadratową o wymiarach: U U. Komórka M(SI )[i, j] zawiera zbiór tych atrybutów, dla których obiekty uniwersum u i i u j mają różne wartości (są rozróżnialne przy pomocy tych atrybutów).

52 g,m 3 g,t m,t 4 t g,m,t g 6 t g,m,t g,t t Tabela: Macierz rozróżnialności dla system informacyjnego

53 Własności macierzy odróżnialności: macierz M(SI ) ma zawsze na przekątnej zbiory puste ( ), macierz M(SI ) jest symetryczna względem przekątnej, każdy element macierzy M(SI ) jest zbiorem, rozmiar macierzy rośnie w sposób kwadratowy wraz ze wzrostem liczby obiektów w systemie informacyjnym.

57 Generowanie macierzy odróżnialności Wejście: A = (U, A) system informacyjny taki, że U = {u 1,.., u n } i A = {a 1,.., a m }. Wyjście: M(A) = (C ij ) i,j=1,..,n macierz odróżnialności systemu A,przyczym M(A) ma obliczone tylko te pola C ij dla których 1 j < i n. Metoda: For i=1 to n do For j=1 to i-1 do Wstaw do C ij atrybuty, na których różnią się obiekty u i i u j

58 Złożoność: Aby obliczyć tablicę M(A), należy wyznaczyć zawartość n2 n 2 pól macierzy. Złożoność obliczeniowa czasowa wyznaczania każdego pola jest zależna od liczby atrybutów m. Dlatego złożoność obliczeniowa czasowa algorytmu jest rzędu O(n 2 m), natomiast złożoność obliczeniowa pamięciowa algorytmu jest rzędu O(C), gdzie C jest pewną stałą. Powyższe cechy sprawiają, że taka reprezentacja macierzy, jest bardzo niewygodna z programistycznego punktu widzenia. Macierz zawiera redundantne informacje, zawartości komórek nie są typami prostymi a ponadto nie mają stałej wielkości (liczby elementów w zbiorze). W efekcie struktura ta ma bardzo dużą złożoność pamięciową, która dla systemu informacyjnego SI = {U, A, V, f } wynosi: U 2 A.

59 Funkcja rozróżnialności Wiedzę zawartą w macierzy odróżnialności (tablicy odróżnialności) można także przedstawić w postaci funkcji odróżnialności. Funkcją odróżnialności systemu informacyjnego SI (ang. discernibility function) nazywamy funkcję boolowską f SI zmiennych a 1,.., a m odpowiadających odpowiednio atrybutom (systemu informacyjnego) a 1,.., a m zdefiniowaną następująco: f SI (a 1,.., a m) = { (X i,j : 1 j n Hi, j )} gdzie: n = U, m = A, X i,j jest alternatywą wszystkich zmiennych a {a 1,.., a m takich, że a Hi, j.

60 Przykład Obliczmy funkcję odróżnialności dla macierzy odróżnialności z tabeli 2: f SI (g, m, t, c ) = (g m ) (g t ) (t ) (g m c ) (t c ) (m t ) (g m t ) (c ) (g m t c ) (g ) (m t c ) (g t c ) (g m t c ) (t c ) (g m t ) Wyrażenie to można uprościć stosując m.in. prawo pochłaniania (a (a b)) = a do postaci: f SI (g, m, t, c ) = (t g c )

61 Niech SI = {U, A, V, f } będzie systemem informacyjnym oraz B A. Definicja. Atrybut zbędny (niezbędny) Atrybut a B jest zbędny, jeżeli IND(B) = IND(B {a}). W przeciwnym wypadku (tzn. jeżeli IND(B) IND(B {a}) jest niezbędny. Definicja. Zbiór atrybutów niezależnych (zależnych) A - zbiór atrybutów jest niezależny wtedy i tylko wtedy, gdy dla każdego a A, a jest niezbędny. W przeciwnym wypadku zbiór jest zależny.

62 Definicja. Redukt i rdzeń (jądro) B A nazywamy reduktem A wtedy i tylko wtedy, gdy B jest niezależny oraz IND(B) = IND(A). Zbiór wszystkich reduktów oznaczamy przez RED(A). Zbiór wszystkich niezbędnych atrybutów w B będziemy nazywali rdzeniem (jądrem) B i oznaczali przez CORE(B). Powiązanie między reduktami i jądrem Zachodzi następujący związek: CORE(A) = RED(A), gdzie RED(A) to zbiór wszystkich reduktów B, tzn. jądro atrybutów to przekrój po wszystkich reduktach.

64 Przykład Zbiór wszystkich reduktów zbioru atrybutów {g, m, t, c} systemu informacyjnego z tabeli 1 wynosi: RED SI ({g, m, t, c}) = {g, t, c}. Aby udowodnić, że zbiór {g, t, c} jest reduktem należy pokazać, że zachodzą warunki z definicji: IND SI ({g, m, t, c}) = IND SI ({g, t, c}), Możemy to pokazać, usuwając z tego zbioru kolejne atrybuty i sprawdzając czy relacja nierozróżnialności względem takiego okrojonego zbioru jest różna od relacji nierozróżnialności względem całego zbioru atrybutów. Jeżeli tak będzie, to zbiór {g, t, c} będzie reduktem.

65 Redukty i rdzeń z tablicy decyzyjnej generuje się jedną z dwóch dróg: z definicji, z macierzy rozróżnialności.

66 Wyznaczanie jądra (rdzenia) z definicji: Wyznacz klasy abstrakcji relacji nierozróżnialności U/IND(B), gdzie B jest to zbiór wszystkich rozważanych atrybutów. Wyznacz klasy abstrakcji z pominięciem i-tego atrybutu U/IND(B a i ). Jeżeli U/IND(B) = U/IND(B a i ) to atrybut a i jest zbędny, w przeciwnym wypadku a i jest niezbędny i wchodzi do jądra CORE(B). Powtarzaj pkt. 2, aż wykorzystane zostaną wszystkie atrybuty z B.

70 Algorytm wyznaczania jądra z definicji Dane: B = a 1, a 2, a 3,...a i,...a n Tablica KRS CORE(B) := {} Wyznacz U/INB(B) Dla każdego a B wykonaj Jeżeli U/INB(B) U/IND(B a i ) To CORE(B) := CORE(B) a i gdzie: CORE(B) - jądro (zbiór atrybutów), B - rozważany zbiór atrybutów, a i - i-ty atrybut ze zbioru B, U/INB(B) - klasa abstrakcji relacji nierozróżnialności dla pełnego zbioru atrybutów, U/IND(B a i ) - klasy abstrakcji relacji nierozróżnialności dla zbioru atrybutów z pominięciem atrybutu a i.

71 Wyznaczenie rdzenia z definicji Wyznacz klasy abstrakcji U/IND(B), gdzie B jest to zbiór wszystkich rozważanych atrybutów. Sprawdź, czy jądro CORE(B) nie jest reduktem. Ponieważ jądro to zbiór atrybutów niezbędnych, to sprawdź, czy U/IND(B) = U/IND(CORE(B)), jeżeli tak to jądro to jedyny redukt i przejdź do Punktu 6. Sprawdź kolejne podzbiory atrybutów B i B. Sprawdź, czy podzbiór B i jest niezależny. Jeżeli tak, to sprawdź czy U/IND(B) = U/IND(B i ), jeżeli zachodzi równość to podzbiór B i jest reduktem. Wypisanie reduktów.

72 Algorytm generowania reduktu z definicji Dane: B = {a 1, a 2, a 3,...a i,..., a n } Tablica KRS Wyznacz U/IND(B) Wyznacz CORE(B) RED(B) := CORE(B) Jeżeli U/IND(B) = U/IND(CORE(B)) To RED(B) := CORE(B), w przeciwnym wypadku Dla każdego podzbioru atrybutów B i B wykonaj: Jeżeli U/IND(B) = U/IND(B i )ToRED(B) := RED(B) B i

73 Generowanie reduktu i rdzenia z definicji Najpierw wyznaczamy klasy równoważności dla pełnego zbioru atrybutów: IND(C) = {{1}, {2}, {3}, {4}, {6}} Teraz będziemy sprawdzać czy zmieni się dotychczasowa klasyfikacja obiektów, jaką mamy dla pełnego zbioru atrybutów, jeśli usuniemy jakiś atrybut ze zbioru. IND((C) {g}) = {{1}, {2}, {3, 4}, {6}} czyli: IND((C) {g}) IND(C) więc atrybut {g} jest niezbędny w systemie, ponieważ jeśli go usuniemy to stracimy informacje o rozróżnialności dwóch obiektów 3i4.

74 IND((C) {m}) = {{1}, {2}, {3}, {4}, {6}} czyli: IND((C) {m}) = IND(C) więc atrybut {m} jest zbędny w systemie, ponieważ jeśli go usuniemy to nie stracimy informacji o rozróżnialności obiektów. IND((C) {t}) = {{1, 4, 6}, {2}, {3}} czyli: IND((C) {t}) IND(C) więc atrybut {t} jest niezbędny w systemie, ponieważ jeśli go usuniemy to stracimy informacje o rozróżnialności obiektów.

75 Zatem CORE(C) to zbiór atrybutów niezbędnych w systemie więc w naszym przypadku stanowią go dwa atrybuty: CORE(C) = {gt} Redukt zgodnie z definicją jest to taki zbiór atrybutów niezbędnych, dla którego zapewniona jest dotychczasowa klasyfikacja obiektów, a wiec na pewno redukt musi zawierać w sobie jądro. Sprawdzamy więc dla jakiej kombinacji atrybutów uzyskamy taki sam podział obiektów jaki dała IND(C). IND(gt) = {{1}, {2}, {3}, {4}, {6}} Skoro IND(gt) = IND(C), to ten zbiór atrybutów {gt} jest reduktem zbioru atrybutów. RED(C) = {gt}.

76 Algorytm generacji jądra z macierzy rozróżnialności Dane: Macierz M[I, J] CORE(B) := {} Dla I := 1 do N wykonaj Dla J := 1 do I 1 wykonaj Jeżeli card(m[i, J]) = 1 to CORE(B) := CORE(B) + M[I, J]

77 Wyznaczanie reduktów z macierzy Utworzenie wszystkich możliwych podzbiorów atrybutów. Wybranie tych, które zawierają rdzeń CORE(B). Sprawdzenie, czy otrzymane podzbiory mają niepuste przecięcie z każdym niepustym elementem macierzy rozróżnialności M(S). Spośród otrzymanych podzbiorów atrybutów należy wybrać i usunąć te, które stanowią nadzbiory wyznaczonych reduktów. Pozostałe podzbiory stanowią redukty RED(B).

78 Generowanie reduktu i rdzenia z macierzy rozróżnialności W tym celu generujemy macierz rozróżnialności dla tablicy deecyzyjnej. M(SI ) = (H i,j ) i,j=1,..,n = {a A : f (u 1, a) f (u j, a)} dla i, j = 1,.., n, gdzie n = U. Macierz odróżnialności jest dwuwymiarową macierzą kwadratową o wymiarach: U U. Komórka M(SI )[i, j] zawiera zbiór tych atrybutów, dla których obiekty uniwersum u i i u j mają różne wartości (są rozróżnialne przy pomocy tych atrybutów).

79 g,m 3 g,t m,t 4 t g,m,t g 6 t g,m,t g,t t Tabela: Macierz rozróżnialności dla system informacyjnego

80 Istnieją następujące związki pomiędzy macierzą nierozróżnialności a jądrem i reduktami: CORE(A) = {a A : c ij = {a}}, dla pewnego 0 < i, j < n + 1, tzn. do jądra wchodzą te atry-buty, które występują w macierzy rozróżnialności pojedynczo. B A jest reduktem A wtedy i tylko wtedy, gdy B jest minimalny (w sensie zawierania zbiorów) oraz z każdym niepustym elementem macierzy nierozróżnialności M(S) ma niepuste przecięcie. Innymi słowy redukt jest to najmniejszy zbiór atrybutów, przy którym zostaje zachowana dotychczasowa klasyfikacja (rozróżnialność) obiektów. RED(C) = {gt} oraz CORE(C) = {gt}.

81 Szczególnym rodzajem systemów informacyjnych są tablice decyzyjne (TD). Tablicą decyzyjną nazywamy uporządkowaną piątkę: gdzie: TD = (U, C, D, V, f ) C, D A; C ; C D = A; C D =, elementy zbioru C nazywamy atrybutami warunkowymi, elementy zbioru D nazywamy atrybutami decyzyjnymi, f nazywamy funkcją decyzyjną. interpretacja U oraz V jest taka sama jak w przypadku systemu informacyjnego, ponadto poszczególne wartości v dziedzin atrybutów D(v V D ) będziemy nazywać klasami decyzyjnymi.

82 Podstawowa różnica między tablicą decyzyjną a systemem informacyjnym polega więc na tym, że część atrybutów traktujemy jako atrybuty warunkowe (C) a część jako decyzyjne (D).

83 Przykład Tabelę 1 będziemy traktować jako tablicę decyzyjną. Zbiór atrybutów systemu informacyjnego dzielimy na dwa podzbiory: podzbiór atrybutów warunkowych (C) oraz podzbiór atrybutów decyzyjnych (D) w następujący sposób: C = {Blgowy, Blmini, Temperatura} = {g, m, t} D = {Grypa} = {c}

84 Tablice decyzyjne deterministyczne i niedeterministyczne Każdy obiekt u U tablicy decyzyjnej TD = (U, C, D, V, f ) może zostać zapisany w postaci zdania warunkowego (postaci: jeżeli warunki to decyzja) i być traktowany jako reguła decyzyjna. Regułą decyzyjną w tablicy decyzyjnej TD nazywamy funkcje:g : C D V jeżeli istnieje x U, taki, że g = f x. Obcięcie g do C (g C) oraz g do D (g D) nazywamy odpowiednio warunkami oraz decyzjami reguły decyzyjnej g.

85 Przykład Z przykładowej tablicy decyzyjnej z tabeli 1 możemy wyprowadzić następujące reguły (odpowiadające konkretnym obiektom): 1 jeżeli (g= nie ) i (m= tak ) i (t= wysoka ) to (c= tak ) 2 jeżeli (g= tak ) i (m= nie ) i (t= wysoka ) to (c= tak ) 3 jeżeli (g= tak ) i (m= tak ) i (t= bardzo wysoka ) to (c= tak ) 4 jeżeli (g= nie ) i (m= tak ) i (t= bardzo wysoka ) to (c= tak ) 5 jeżeli (g= tak ) i (m= nie ) i (t= wysoka ) to (c= nie ) 6 jeżeli (g= nie ) i (m= tak ) i (t= normalna ) to (c= nie )

86 Reguły decyzyjne można dzielić na wiele różnych grup biorąc pod uwagę różne kryteria. Jeden z podziałów wyróżnia dwie grupy reguł: reguły deterministyczne reguły niedeterministyczne

87 Reguły deterministyczne Reguła w tablicy decyzyjnej TD jest deterministyczna, gdy równość atrybutów warunkowych implikuje równość atrybutów decyzyjnych. Fakt ten możemy wyrazić przy pomocy następującej zależności dla obiektów tablicy decyzyjnej: x,y U x y ( c C (f (x, c) = f (y, c)) d D (f (x, d) = f (y, d)))

88 Reguły niedeterministyczne Reguła w tablicy decyzyjnej TD jest niedeterministyczna, gdy równość atrybutów warunkowych nie implikuje równości atrybutów decyzyjnych, co można wyrazić następującą zależnością dla obiektów tablicy decyzyjnej: x,y U x y ( c C (f (x, c) = f (y, c)) d D (f (x, d) f (y, d)))

89 Przykład Pacjent Ból głowy (g) Ból mięsni (m) Temperatura (t) Grypa (c) 1 nie tak wysoka tak 2 tak nie wysoka tak 3 tak tak bardzo wysoka tak 4 nie tak bardzo wysoka tak 5 tak nie wysoka nie 6 nie tak normalna nie Tabela: System informacyjny / tablica decyzyjna

90 jest deterministyczna (dobrze określona, spójna), gdy wszystkie reguły w niej zawarte są deterministyczne, w przeciwnym przypadku jest niedeterministyczna (źle określona,niespójna). z tabeli 1 jest niedeterministyczna, gdyż reguły pochodzące z obiektów: 2 i 5 są niedeterministyczne.

91 Relacja nierozróżnialności względem decyzji Z uwagi na rzeczywiste zastosowania tablice decyzyjne najczęściej posiadają tylko jeden atrybut decyzyjny, dlatego w dalszej części rozważań przyjmiemy, że D = {d}. Wszystkie definicje mogą jednak w prosty sposób zostać uogólnione na przypadek, kiedy zbiór atrybutów decyzyjnych posiada więcej niż jeden element.

92 Niech TD = (U, C, {d}, V, f ) będzie tablicą decyzyjną i niech B C. Relację nierozróżnialności względem decyzji d na zbiorze obiektów U generowaną przez zbiór atrybutów B definiujemy jako: IND TD (B, d) = {(x, y) U U : (x, y) IND SI (B) f (x, d) = f (y, d)}

93 Relacja nierozróżnialności względem decyzji różni się od relacji nierozróżnialności tym, że nie rozróżnia obiektów mających takie same wartości decyzji nawet wtedy, gdy obiekty te różnią się na rozważanym podzbiorze atrybutów warunkowych B. Relacja nierozróżnialności względem decyzji nie jest relacją równoważności. Jest co prawda zwrotna i symetryczna, ale nie jest przechodnia.

94 Przykład Wyznaczymy teraz relację nierozróżnialności dla tablicy decyzyjnej z tabeli 1 względem decyzji d generowaną przez zbiory atrybutów: C 1, C 2, C 3 : C 1 = {g, m, t},c 2 = {g, m},c 3 = {g, t}, d = {c} IND TD (C 1, d) = {(1, 1), (2, 2), (3, 3), (4, 4), (5, 5), (6, 6), (2, 5), (5, 2), (1, 2), (2, 1), (1, 3), (3, 1), (1, 4), (4, 1), (2, 3), (3, 2), (2, 4), (4, 2), (3, 4), (4, 3), (5, 6), (6, 5)} IND TD (C 2, d) = {(1, 1), (2, 2), (3, 3), (4, 4), (5, 5), (6, 6), (1, 4), (4, 1), (1, 6), (6, 1), (4, 6), (6, 4), (2, 5), (5, 2), (1, 2), (2, 1), (1, 3), (3, 1), (2, 3), (3, 2), (2, 4), (4, 2), (3, IND TD (C 2, d) = {(1, 1), (2, 2), (3, 3), (4, 4), (5, 5), (6, 6), (2, 5), (5, 2), (1, 2), (2, 1), (1, 3), (3, 1), (1, 4), (4, 1), (2, 3), (3, 2), (2, 4), (4, 2), (3, 4), (4, 3), (5, 6), (6, 5)}

95 Macierz, tablica, funkcja oraz wektor odróżnialności dla tablicy decyzyjnej Jeśli TD = (U, C, {d}, V, f ) jest tablicą decyzyjną taką, że U = {u 1,.., u n } i C = {c 1,.., c m }, to macierz odróżnialności tablicy decyzyjnej TDM(TD, d) definiujemy następująco: M(TD, d) = (H i,j ) i,j=1,..,n = {c C : f (u i, c) f (u j, c) f (u i, d) f (u j, d) dla i, j = 1,.., n gdzie n = U.

96 Przykład Obliczmy macierz odróżnialności dla tablicy decyzyjnej z tabeli 1. U/U g,m t 2 g,m,t 3 m,t g,t 4 g,m,t t 5 g,m m,t g,m,t 6 t g,m,t g,t t Tabela: Macierz odróżnialności dla tablicy decyzyjnej

97 Znanym algorytmem generującym reguły na podstawie tablicy decyzyjnej jest algorytm zamieszczony w pracy Z. Pawlaka i A. Skowrona z 1993 roku. Ponieważ algorytm działa dla tablic spójnych, na początku sprawdza się spójność tablicy decyzyjnej. W przypadku wystąpienia niespójności usuwa się ją za pomocą uogólnionego atrybutu decyzyjnego.

98 Tworzymy reguły minimalne dla δ G rypa = {tak} czyli reguły postaci: α δ G rypa = {tak} Aby stworzyć te reguły musimy utworzyć uogólnione macierze rozróżnialności dla obiektów zbioru X (mających wartość decyzji {tak}): MG(A, {tak}, X 1 ), MG(A, {tak}, X 2 ), MG(A, {tak}, X 3 ), MG(A, {tak}, X 4 ).

99 Funkcja rozróżnialności odpowiadająca tej macierzy ma postać: f MG (A, {tak}, X 1 )(g, m, t) = t f MG (A, {tak}, X 2 )(g, m, t) = g m t f MG (A, {tak}, X 3 )(g, m, t) = g t f MG (A, {tak}, X 4 )(g, m, t) = t Tworzymy reguły minimalne dla δ G rypa = {nie} czyli reguły postaci: α δ G rypa = {nie} Aby stworzyć te reguły musimy utworzyć uogólnione macierze rozróżnialności dla obiektów zbioru X (mających wartość decyzji {tak}): MG(A, {nie}, X 6 ).

100 Funkcja rozróżnialności odpowiadająca tej macierzy ma postać: f MG (A, {nie}, X 6 )(g, m, t) = (t) (g m t) (g t) (t) Korzystamy z praw algebry Boole a: X X = X oraz X + X = X a także, że (1 + X ) = 1. Uwaga l: we wzorze symbol został zastąpiony przez *, a symbol przez +.

101 wówczas każdą z funkcji przekształcamy następująco: f MG (A, {nie}, X 6 )(g, m, t) = (t) (g + m + t) (g + t) (t) = tt (g + m + t) (g + t) = (ttg + ttm + ttt)(g + t) = (ttgg + tttg + ttmg + tttm + tttg + tttt) = (tg + tg + tmg + tm + tg + t) = (tg +tmg +tm+t) = tg(1+m)+t(1+m) = tg +t = t(g +1) = t

102 Czyli: funkcja dla reguły nr 1: [t] funkcja dla reguły nr 2: [g + m + t] funkcja dla reguły nr 3: [g + t] funkcja dla reguły nr 4: [t] funkcja dla reguły nr 6: [t] Funkcja f MG (A, {tak}, X 1 ) = t oznacza, że możemy zbudować dla decyzji {tak} 1 regułę minimalną: if t = wysoka then grypa = tak

103 Odpowiednio teraz: Funkcja f MG (A, {tak}, X 2 ) = g + m + t oznacza, że możemy zbudować dla decyzji {tak} 3 reguły minimalne: if g = tak then grypa = tak if m = nie then grypa = tak if t = wysoka then grypa = tak Funkcja f MG (A, {tak}, X 3 ) = g + t oznacza, że możemy zbudować dla decyzji {tak} 2 reguły minimalne: if g = tak then grypa = tak if t = bardzowysoka then grypa = tak

104 Funkcja f MG (A, {tak}, X 4 ) = t oznacza, że możemy zbudować dla decyzji {tak} 1 regułę minimalną: if t = bardzowysoka then grypa = tak Ostatecznie otrzymamy optymalną regułę decyzyjną dla decyzji c = tak: if t = wysoka g = tak m = nie t = bardzowysoka then grypa = tak Funkcja f MG (A, {nie}, X 6 ) = t oznacza, że możemy zbudować dla decyzji {nie} 1 regułę minimalną: if t = normalna then grypa = nie

105 RSES RSES is a collection of algorithms and data structures for rough set computations, developed at the Group of Logic, Inst. of Mathematics, University of Warsaw, Poland. ROSETTA was designed so as to be able to make use of this legacy code, and suitable wrappers have been written so that the RSES library can be linked into the ROSETTA kernel. The currently distributed ROSETTA binaries have a restricted version of the RSES library linked into them. The ROSETTA kernel is fully functional also without RSES present.

106 Sizing RSES library does not support tables with more than objects. For larger tables, you have to use a version of ROSETTA without the RSES library. See the section below on source code availability for instructions on how to obtain such a version of ROSETTA. For reference, the widest table I have tested ROSETTA on had over 2000 attributes. I have also successfully applied ROSETTA to a table with more than objects. I have heard of ROSETTA being applied to larger tables than this, though. Some of the algorithms from the embedded RSES library are not applicable to tables larger than some predetermined size, currently 500 objects and 20 attributes.

107 Research groups of International Rough Set Society Institute of Computer Science, Warsaw University of Technology Laboratory of Intelligent Information Systems, Poznań University of Technology Linnaeus Centre for Bioinformatics, Uppsala, Sweden Group of Logic, Warsaw University Computational Intelligence Lab, University of Manitoba