Metody Informatyki Stosowanej

Transkrypt

1 Polska Akademia Nauk Oddział w Gdańsku Komisja Informatki Metod Informatki Stosowanej Nr 1/008 (Tom 13) Szczecin 008

2 Metod Informatki Stosowanej Kwartalnik Komisji Informatki Polskiej Akademii Nauk Oddział w Gdańsku Komitet Naukow: Przewodnicząc: prof. dr hab. inż. Henrk Krawczk, czł. koresp. PAN, Politechnika Gdańska Członkowie: prof. dr hab. inż. Michał Białko, czł. rzecz. PAN, Politechnika Koszalińska prof. dr hab. inż. Janusz Kacprzk, czł. koresp. PAN, Insttut Badań Sstemowch PAN prof. dr hab. inż. Leszek Rutkowski, czł. koresp. PAN, Politechnika Częstochowska prof. dr inż. Jerz Sołdek, Politechnika Szczecińska prof. dr hab. inż. Andrzej Straszak, Insttut Badań Sstemowch PAN Recenzenci: prof. dr hab. inż. Marian Adamski, Uniwerstet Zielonogórski prof. dr hab. inż. Zbigniew Banaszak, Politechnika Koszalińska prof. dr hab. inż. Włodzimierz Bielecki, Politechnika Szczecińska prof. dr hab. inż. Rszard Budziński, Uniwerstet Szczeciński prof. dr hab. inż. Georg Kukharev, Politechnika Szczecińska dr hab. Małgorzata Łatuszńska, prof. US, Uniwerstet Szczeciński prof. dr hab. inż. Andrzej Piegat, Politechnika Szczecińska prof. dr hab. inż. Orest Popov, Politechnika Szczecińska prof. dr inż. Jerz Sołdek, Politechnika Szczecińska dr hab. inż. Antoni Wiliński, prof. PS, Politechnika Szczecińska Redaktor naczeln: Antoni Wiliński Sekretarz redakcji: Piotr Czapiewski ISSN ISBN Wdawnictwo: Polska Akademia Nauk Oddział w Gdańsku Komisja Informatki Adres kontaktow: ul. Żołnierska 49 p. 104, Szczecin Druk: Pracownia Poligraficzna Wdziału Informatki Politechniki Szczecińskiej. Nakład 500 egz.

3 Spis treści Od Redakcji Ewa Adamus Kierunkowe zbior podobieństwa a problem niekompletności danch. 7 Dariusz Burak Kompilator zrównoleglając wspecjalizowan na algortm szfrowania Piotr Czapiewski Zastosowanie zbiorów przbliżonch i sstemu ROSE do indukcji reguł deczjnch na potrzeb sstemu automatcznego obrotu parą walutową Larisa Dobrakova, Evgen Ochin Wbudowanie wiadomości w dane medialne na podstawie analiz dwóch najmniej znaczącch bitów kontenera Sławomir Jaszczak, Krzsztof Gorąc, Waldemar Pankanin Moduł ekspertz w multimedialnm atlasie wad laminatów Ekaterina Kamenskaa, Georg Kukharev Recognition of Pschological Characteristics from Face Jerz Korostil, Łukasz Nozdrzkowski Opracowanie rozproszonego klucza steganograficznego Marcin Korzeń Porównanie własności heurstk do wznaczania reduktów minimalnch Dorota Majorkowska-Mech, Aleandr Țariov Algortm wielopoziomowej dekompozcji i rekonstrukcji falkowopodobnej danch D Kesra Nermend Problem obiektów nietpowch w badaniach taksonomicznch Adam Nowosielski Identfikacja człowieka na podstawie zestawu obrazów twarz pochodzącch z sekwencji video Marcin Pluciński Poszukiwanie optmalnej strategii eksploracji z zastosowaniem uczenia ze wzmocnieniem Magdalena Szaber Rozpoznawanie twarz dla obrazów widzialnch i podczerwieni z zastosowaniem funkcji transformacji w przestrzeni cech Aleandr Țariov Strategie racjonalizacji obliczeń prz wznaczaniu ilocznów macierzowo-wektorowch

4 4 Antoni Wiliński, Piotr Czapiewski Badania możliwości wboru optmalnej zmiennej obserwowanej jako zmiennej predkcjnej w zbiorze danch o rnkach finansowch Przemsław Klęsk O Ukrtch Modelach Markowa i ich zastosowaniu do rozpoznawania ciągów znaków pisma odręcznego Luiza Kuśkiewicz, Jarosław Wątróbski Integracja metod AHP i SWOT w formułowaniu strategii działania przedsiębiorstwa Dariusz Rzońca, Jan Sadolewski, Andrzej Stec, Zbigniew Świder, Bartosz Trbus, Leszek Trbus Środowisko programistczne dla rozproszonch minisstemów kontrolno-pomiarowch

5 Od Redakcji Szanowni Państwo Oddajem w Państwa ręce kolejn numer kwartalnika Metod Informatki Stosowanej. Jest to pierwsz numer w 008 roku, a trzeci od momentu przekazania ttułu pod egidę Komisji Informatki Polskiej Akademii Nauk Oddział w Gdańsku. Pragniem prz tej okazji poinformować, że 9 lutego 008 r. pismo nasze trafiło na listę czasopism punktowanch Ministra Nauki i Szkolnictwa Wższego, uzskując 4 punkt. Serdecznie zapraszam do współprac Autorów z całej Polski, zainteresowanch publikowaniem prac z zakresu szeroko pojętej informatki stosowanej, a w szczególności z następującch dziedzin: metod sztucznej inteligencji, komputerowe modelowanie i smulacja, klasfikacja i analiza danch, rozpoznawanie wzorców, grafika komputerowa i przetwarzanie obrazów, inżnieria sstemów informatcznch, inżnieria oprogramowania, architektura sstemów komputerowch, przetwarzanie równoległe i rozproszone, bezpieczeństwo sstemów informatcznch, technologie internetowe, problem społeczeństwa informacjnego. Wszstkie zamieszczane publikacje poddane zostają wnikliwej recenzji dokonwanej przez samodzielnch pracowników naukowch reprezentującch kilka krajowch ośrodków akademickich. Szczegółowe informacje dotczące wmogów formalnch oraz trbu nadsłania prac znajdą Państwo w witrnie Żcząc udanej lektur wrażam nadzieję, że stanie się ona dla Państwa inspiracją do intenswnej aktwności publikacjnej. Antoni Wiliński Redaktor Naczeln

6

7 Kierunkowe zbior podobieństwa a problem niekompletności danch Ewa Adamus Politechnika Szczecińska, Wdział Informatki Abstract: The problem of the incomplete data is quite common especiall in the case of the actual measurement samples. In this connection, it has been vastl commented in the literature, especiall in the rough set theor. The rough set theor was meant as a tool for imprecise and inconsistent information sstems. The aim of this work is to supplement the incomplete data reling on the relations designed to this problem (similarit and tolerance relation). Basing on the opposite information to the incomplete object we know the area of permitted values for this object. The method proposed in the article works on the assumption that we possess with the opposite information to the supplemented sample in our information sstem. Słowa kluczowe: rough set theor, tolerance relation, similarit relation, opposite information, directional classes of similarit 1. Wstęp W rzeczwistch zbiorach danch bardzo często pojawia się problem niekompletności próbek pomiarowch. Przczn tego mogą bć różnorakie, zupełnie przpadkowe, zamierzone (bardzo często spotkane w ankietach), techniczne (związane z możliwościami pomiarowmi aparatur) bądź inne. Formalnie niekompletnością określam brak wartości w pewnch atrbutach wektora wejściowego próbki. Zakładam, że pojęcie to nie odnosi się do wektora z atrbutami wjściowmi: Definicja 1.1. Dla zbioru A atrbutów warunkowch, zdefiniowanego na uniwersum przkładów U, mówim, że obiekt U jest niekompletn, jeżeli dla prznajmniej jednego atrbutu warunkowego a (a A), obiekt ten nie ma zdefiniowanej wartości: f(a, ) = 1, prz czm wartość atrbutu deczjnego d jest zawsze zdefiniowana (f(d, ) ). Gdzie: f(a, ) funkcja informacjna, taka że a A, U f(a, ) V a, V a dziedzina atrbutu a. 1 m.in. w prac [6] przjęto odpowiednio oznaczenia:? do istotnch oraz do nieistotnch brakującch wartości

8 8 Ewa Adamus Brak wartości w pewnch atrbutach wektora wejściowego próbki może bć różnie interpretowan. W prac [11] nieznane wartości atrbutu podzielone został na dwie grup: niedostępne wartości, brakujące wartości. Do pierwszej kategorii zaliczć należ stuacje, kied wartość określonego atrbutu jest ostatecznie niedostępna (przkładowo nie mam fizcznej (technicznej) możliwości zarejestrowania pewnch pomiarów). Drugą grupę należ interpretować jako wartości, które obiekt mógłb posiadać, lecz z różnch przczn nie został zarejestrowane. W związku z tm, że przczn nieznajomości wartości dla pewnch atrbutów mogą bć różne, stosuje się odpowiednio odmienne podejścia do tego problemu. W literaturze dotczącej problemu niekompletności danch przjęto formaln podział tego zjawiska. Ponieważ wiele metod bazuje na pewnch założeniach co do rodzaju niekompletności danch, poniżej przedstawiono ogólnie przjętą klasfikację [9]. Jeżeli zdefiniujem macierz M indkatorów niekompletności, o tm samm rozmiarze co tabela z danmi D, o wartościach elementów równch 1, dla zaobserwowanch wartości w D oraz 0 dla wartości brakującch. Wówczas podział rodzaju niekompletności danch, z formalnego punktu widzenia, wgląda następująco [8]: MCAR (missing completel at random M jest niezależne od D : P(M D) = P(M), czli na podstawie części zaobserwowanej nie jesteśm w stanie dokonać prawidłowej predkcji wartości brakującej. Prawdopodobieństwo, że pewien przpadek (przkład) nie posiada wartości dla określonego atrbutu, nie zależ od wartości zdefiniowanch tego przpadku, ani od części wektora bez wartości. MAR (missing at random) prawdopodobieństwo braku wartości może zależeć od D obs ale musi bć niezależne od D mis. Formalnie M jest niezależne od D mis : P(M D) = P(M D obs ). NI (nonignorable) lub NMAR (not missing at random). Prawdopodobieństwo braku wartości zależ od nie zaobserwowanej części. Formalnie M jest zależne od D, czli P(M D) nie upraszcza się. Najprostszm podejściem, w przpadku stwierdzenia braku wartości w pewnch atrbutach wektora wejściowego próbki jest usunięcie takich próbek ze zbioru danch. Taki sposób postępowania nie ma znacząco ujemnego skutku, jeżeli dsponujem licznm, w miarę dobrze zdefiniowanm w przestrzeni rozważań zbiorem danch, w którm dodatkowo niekompletne dane nie stanowią istotnej części naszego zbioru. W przeciwnm przpadku możem oszacować brakujące wartości lub zmodfikować metodę tak, ab uwzględniała niekompletne dane. Pierwsz przpadek, będzie stanowił wówczas, jeden z etapów wstępnego przetwarzania danch. Generalnie w literaturze spotkać możem następując podział metod postępowania z problemem niekompletności [5]:

9 Kierunkowe zbior podobieństwa a problem niekompletności danch Metod sekwencjne (preprocessing methods). a) Dane z brakującmi wartościami nie są uwzględniane w analizie danch (complete case analsis, listwise deletion, casewise deletion). b) Szacowanie brakującch wartości zazwczaj w ramach wstępnego przgotowania danch.. Metod równoległe ( parallel methods ). W przpadku metod sekwencjnch, niekompletn zbiór danch przekształcan jest w wariant kompletn, po czm stosowana jest odpowiednia metoda obliczeniowa. Druga kategoria metod równoległe niekompletne próbki pomiarowe uwzględniane są we właściwm procesie obliczeniowm. Metod są odpowiednio dostosowwane do możliwości braku wartości w pewnch atrbutach wektora wejściowego próbki wkorzstwana jest włącznie zdefiniowana informacja w wniekompletnej próbce. W tm przpadku chodzi o takie dostosowanie istniejącch metod, ab tolerował one niekompletne próbki. Podstawową zaletą takiego podejścia w stosunku do poprzedniej kategorii jest fakt, że nie wprowadzam do sstemu dodatkowego błędu związanego z szacowaniem brakującch wartości.. Warunkowe uzupełnianie niekompletnch danch, dopełnieniami klas podobieństwa W przpadku teorii zbiorów przbliżonch, nie możem dokonać jednoznacznej klasfikacji tej teorii do jednej z wmienionch kategorii postępowania z niekompletnością. W tm aspekcie teoria ta wróżnia się na tle pozostałch metod (patrz [1]). Niekompletna próbka bowiem, w zależności od kontekstu (wzajemnch relacji z pozostałmi obiektami w bazie wiedz), zostanie zaakceptowana z całkowitą pewnością do dalszej analiz (znajdzie się w dolnm przbliżeniu danego konceptu deczjnego), bądź przpuszczalnie (znajdzie się w obszarze granicznm). W przpadku uwzględnienia niekompletnego obiektu wnosi on jednie posiadaną informację (bez uzupełniania) akceptowane są włącznie zdefiniowane wartości niekompletnego obiektu. W stuacji, gd niepełna próbka znajdzie się w obszarze granicznm klas deczjnej stanie się tm samm obiektem wątpliwm, co do prznależności do konceptu deczjnego. Celem niniejszej prac jest uwzględnienie kolejnego wariantu postępowania z niekompletnością, czli warunkowego uzupełniania niekompletnch danch. Warunkowego, gdż wmogiem uzupełniana jest obecność spójnej informacji przeciwnej (reprezentującej inne koncept deczjne) do obiektu uzupełnianego. Zakładam, że dla niekompletnego obiekt U, zaklasfikowanego do uzupełniania, mam określoną klasę obiektów, do którch jest podobn: S 1 (). W celu uzupełnienia uwzględniam informację przeciwną do reprezentowanej przez zbiór S 1 (), czli jego dopełnienie (gdzie to hipotetczn, niekompletn obiekt kwalifikując się do uzupełnienia). S 1 () można interpretować jako zbiór stanowiąc koniunkcję obiektów, do którch jest podobn (mówim, że obiekt jest podobn do obiektu 1 i do,..., n, gdzie n liczność zbioru S 1 ()).

10 10 Ewa Adamus W związku z tm, informacją przeciwną do S 1 () ( S 1 () ) zgodnie z prawami de Morgana będzie alternatwa negacji poszczególnch obiektów: S 1 () = 1... n. (1) i S 1 () Ogólnie oraz wstępnie przedstawione założenie, co do możliwości wkorzstania informacji przeciwnej, w celu ewentualnego uzupełnienia obiektu niekompletnego, będzie podstawą do dalszch rozważań. Podejście to może bć stosowane na etapie uczenia nadzorowanego, a w analizowanm przpadku do indukcji efektwniejszch reguł deczjnch. Poniżej przedstawiono ogóln algortm postępowania z niekompletnm obiektem prz założeniu, że dla tablic deczjnej DT = (U, A {d}) oraz obiektu U mam określoną klasę obiektów, do którch jest podobn: S 1 (). Dodatkowo Sr 1 () = S 1 () \ {} oraz Sr 1 K () jest kierunkowm zbiorem podobieństwa dla Sr 1 () S 1 () = {}. Opisow schemat przjętego algortmu postępowania z niekompletną próbką, można przedstawić w następując sposób (dokładniejsze informacje dostępne m.in. w [3, ]): 1. J. grupa obiektów, do którch podobn jest element niekompletn (S 1 ()), reprezentuje włącznie jeden koncept X, wówczas wchodzi w skład dolnego przbliżenia zbioru X. : akceptacja włącznie zdefiniowanej informacji w niepełnej próbce.. W przeciwnm przpadku, analizujem zbiór Sr 1 ():.1. J. zbiór Sr 1 () w całości reprezentuje przeciwn koncept deczjn, wówczas uzupełniam dopełnieniem klas podobieństwa... W przeciwnm przpadku, analizujem składowe zbioru Sr 1 () zbior () kierunkowe klas podobieństwa:..1. j. w ramach prznajmniej jednej kierunkowej klas podobieństwa brak jednolitości, co do prznależności do konceptu deczjnego, wówczas : znajdzie sie w obszarze granicznm klas deczjnch.... w przeciwnm przpadku : uzupełniam dopełnieniem klas podobieństwa. Sr 1 K Na uzupełnienie niekompletnego obiektu składa się dopełnienie klas obiektów, do którch niekompletn jest podobn (S 1 ()), za wjątkiem takich obiektów należącch do klas relacji tolerancji obiektu (T()), na podstawie którch możem dokonać jednoznacznej klasfikacji (S 1 () Y S 1 () Y ). C(S 1 ()) \ { : T() (S 1 () Y S 1 () Y )}. () 3. Eksperment Przedstawiona metoda warunkowego uzupełniania niekompletnch danch dopełnieniami klas podobieństwa, została zwerfikowania dla rzeczwistch próbek pomiarowch. W tm celu wkorzstano zbiór danch ze znanego repoztorium

11 Kierunkowe zbior podobieństwa a problem niekompletności danch UCI [4]. W pierwszm etapie obliczeń zastosowano podejście dla niekompletnch próbek, o brakującch wartościach, dla którch faktczne wartości istnieją, lecz nie został zaobserwowane, bądź zarejestrowane. W tm celu zbiór o nazwie diabetes został zdekompletowan w stopniu od do 30 procent, z krokiem równm, wg schematu przedstawionego w dalszej części referatu. Analizowan zbiór składa się z 768 próbek opisanch prz pomoc 8 atrbutów warunkowch o ciągłej reprezentacji. Atrbut deczjn posiada dwie klas. We wszstkich przpadkach, werfikacji metod dokonano korzstając z procedur k-krotnej walidacji krzżowej, dla k = 10. W celu zdekompletowania próbek pomiarowch zbioru diabetes posłużono się schematem zgodnm z taksonomią rodzaju niekompletności przjętą w literaturze oraz opisaną już we wcześniejszej części referatu. W celu wgenerowania reguł zastosowano algortm LEM (Learning from Eamples Module, version ) [7], polegając na wliczaniu lokalnch pokrć, par wartości atrbutów, tworzącch minimalne kompleks. Dodatkowo, algortm ten wkorzstuje element teorii zbiorów przbliżonch, gdż reguł generowane są na podstawie przbliżeń zbiorów deczjnch. Uzasadnienie zastosowania algortmu w prac, wnika z możliwości swobodnego zastosowania wbranej relacji (podobieństwa bądź tolerancji), w przpadku obecności niekompletnch danch. Celem ekspermentów obliczeniowch jest porównanie wdajności klasfikatorów regułowch wgenerowanch prz zastosowaniu klascznej niesmetrcznej relacji podobieństwa bez uzupełniania, z wariantem metod uwzględniającm uzupełnianie niekompletnch danch, czli metodą warunkowego uzupełniania niekompletnch danch dopełnieniami klas podobieństwa. W przpadku zastosowania do klasfikacji obiektu, nieuporządkowanego zbioru reguł może wstąpić jeden z następującch scenariusz [10]: 1. Obiekt jest pokrwan przez jedną regułę.. Do klasfikacji obiektu pretenduje wiele reguł. 3. Część warunkowa obiektu nie zgadza się z żadną z reguł. Dla stuacji 1, klasfikacja obiektu jest jednoznacznie określona przez regułę, której część warunkowa zgadza się z obiektem. Jeżeli dodatkowo wstępuje zgodność co do wartości atrbutu deczjnego, obiekt jest poprawnie zaklasfikowan. Jeżeli zdefiniujem macierz M indkatorów niekompletności, o tm samm rozmiarze co tabela z danmi D, o wartościach elementów równch 1, dla zaobserwowanch wartości w D oraz 0 dla wartości brakującch. Dodatkowo, jeżeli pr = stopień niekompletności/100; n liczba pseudo-losowa, o rozkładzie równomiernm, z zakresu 0, 1 ; i, j: nr wiersza oraz kolumn macierz M, wówczas dla niekompletności tpu: MCAR: j. n < pr to M ij = 0, w przeciwnm przpadku M ij = 1, MAR: losowo wbrano: 1 atrbut, dla którego zastosowano schemat MCAR; 4 atrbut: {j1, j, j3, j4}, dla którch: j. X i,j1 < 0.7 i n < pr wówczas M i,j = 0; j. X i,j3 < 0.3 oraz n < pr wówczas M i,j4 = 0, NI: losowo wbrano: atrbut, dla którch zastosowano schemat MAR; 1 atrbut MCAR; 3 atrbut: ({j4, j5, j6}), dla którch: j. n < pr oraz Y i = 0 to M i,j4 = 0, j. Y i = 1 to M i,j5 = 0 oraz M i,j6 = 0.

12 1 Ewa Adamus W przpadku dwóch pozostałch stuacji, w literaturze można spotkać wiele opracowań metod przeznaczonch do radzenia sobie z tm problemem. W prac [10] przedstawione są niektóre z nich. Natomiast w rozprawie przjęto następując, uproszczon schemat postępowania: 1. Jeżeli część warunkowa obiektu zgadza się z opisem wielu reguł i wszstkie te reguł wskazują na tę samą klasę deczjną co obiekt, wówczas obiekt uznawan jest za poprawnie zaklasfikowan. W przeciwnm przpadku, jeżeli część deczjna prznajmniej jednej reguł nie zgadza się z klasą obiektu, wówczas obiekt uznawan jest za błędnie zaklasfikowan.. Jeżeli część warunkowa obiektu nie zgadza się z żadną z reguł, wówczas obiekt uznawan jest za źle sklasfikowan. W celu przeprowadzenia ocen zastosowanch reguł, wgenerowanch na podstawie próbek treningowch bez uzupełniania oraz z warunkowm uzupełnianiem, zastosowano następujące miar: 1. Średnia liczba poprawnch reguł (R c ) wliczona jako: R c = liczba poprawnch reguł całkowita liczba reguł, prz czm reguła uznawana jest za poprawną, jeżeli część deczjna wszstkich pokrwanch przez nią przkładów zgadza się z klasą wskazwaną przez samą regułę. Wniki dla etapu testowania przedstawia rs. 1 dla indukcji reguł oraz klasfikacji danch testującch z użciem relacji podobieństwa bez uzupełniania oraz z uzupełnianiem.. Średnia liczba poprawnie zaklasfikowanch próbek (S c ) obliczona jako: liczba prawidłowo zaklasfikowanch próbek S c =. (4) całkowita liczba próbek Miara ta w literaturze często określana jest również jako trafność klasfikowania, dokładność lub sprawność [10]. Wniki obliczeń umieszczono na diagramie dla indukcji reguł oraz klasfikacji danch testującch z użciem relacji podobieństwa bez uzupełniania oraz z uzupełnianiem. 4. Wnioski W prac przedstawiona została metoda warunkowego uzupełniania niekompletnch danch dopełnieniami klas podobieństwa. Wnioski dotczące metod: 1. W przpadku zastosowanego sposobu uzupełniania nie obciążam istniejącch obiektów rzeczwistch, elementami sprzecznmi. Co prawda, teoria zbiorów przbliżonch dostarcza narzędzi przeznaczonch do radzenia sobie z tm problemem, jednak w stuacji sprzeczności powstałej w wniku uzupełniania nie wiem, któr obiekt jest rzeczwistm, pomiarowm, a któr powstałm w wniku uzupełniania.

13 Kierunkowe zbior podobieństwa a problem niekompletności danch Niekompletnosc tpu: MAR Srednia liczba dobrch regul relacja podobienstwa z uzupelnianiem 0.6 relacja podobienstwa Niekompletnosc 15 tpu: MCAR Niekompletnosc 15 tpu: NI Liczba uzupelnionch probek 0 10 MAR MCAR NI Stopien niekompletnosci danch Rsunek 1. Średnia liczba poprawnch reguł dla etapu testowania oraz statstka uzupełnionch próbek dla relacji podobieństwa z uzupełnianiem dopełnieniami klas podobieństwa oraz relacji podobieństwa bez uzupełniania. Zbiór danch diabetes. 0.8 Niekompletnosc tpu: MAR Srednia liczba dobrch probek 0.75 relacja podobienstwa z uzupelnianiem relacja podobienstwa Niekompletnosc 15 tpu: MCAR Niekompletnosc 15 tpu: NI Liczba uzupelnionch probek MAR MCAR NI Stopien niekompletnosci danch Rsunek. Średnia liczba poprawnie zaklasfikowanch próbek dla etapu testowania oraz statstka uzupełnionch próbek dla relacji podobieństwa z uzupełnianiem dopełnieniami klas podobieństwa oraz relacji podobieństwa bez uzupełniania. Zbiór danch diabetes.

14 14 Ewa Adamus. Prz uzupełnianiu dopełnieniami klas podobieństwa nie tracim informacji o unikalnch obiektach niekompletnch oraz obiektach niekompletnch, co prawda nie unikalnch, ale na podstawie którch można dokonać jednoznacznej klasfikacji (czli podobnch włącznie do obiektów tej samej co niekompletn klas deczjnej). 3. Warunkowe uzupełnianie dopełnieniami klas podobieństwa, zwiększa dokładność przbliżenia danego zbioru (współcznnik przbliżenia). Wnika to z faktu, że zbiór obiektów, powstałch w wniku takiego uzupełniania, całkowicie zawiera się w dolnm przbliżeniu rozważanego zbioru. 4. Uzupełnianie wbranch, niekompletnch danch wmaga znajomości wartości ich klas deczjnej. Z tego względu omówioną metodę można stosować dla etapu uczenia nadzorowanego, w celu indukcji efektwniejszego klasfikatora. 5. Mankamentem metod jest jej wrażliwość na rozmiar wektora wejść sstemu informacjnego. Prz znacznej liczbie atrbutów warunkowch proces obliczeniow może ulec wdłużeniu, ze względu na potrzebę obliczania dopełnień klas podobieństwa. Jednak prz obecnej technologii, cznnik ten nie powinien mieć istotnego znaczenia, zważwsz powszechność zjawiska jakim jest problem niekompletnch danch oraz potrzebę opracowwania narzędzi do radzenia sobie z tm problemem. W przpadku metod rozważanej w referacie, alternatwą dla ewentualnego wzrostu czasu obliczeń jest możliwość uzskania dodatkowch informacji na podstawie niekompletnch danch pomiarowch. Bibliografia [1] Adamus E. Przegląd metod stosowanch do badań nad niekompletnmi danmi pomiarowmi. VIII Sesja Informatki 003, s [] Adamus E. Metoda warunkowego uzupełniania niekompletnch danch dopełnieniami klas podobieństwa. Rozprawa Doktorska, Politechnika Szczecińska, Wdział Informatki, Insttut Sztucznej Inteligencji i Metod Matematcznch, 007 [3] Adamus E. Predicting incomplete data on the basis of non smmetric similarit relation. Advances in Information Processing and Protection, Springer Verlag 007 [4] Blake C. L., Newman D. J., Hettich S., Merz C. J. UCI Repositor of machine learning databases. [online] ~mlearn/ MLRepositor.html, Universit of California, Irvine, Dept. of Information and Computer Sciences, 1998 [5] Grzmala J. W., Grzmala W. J. Handling missing attribute values. W: Maimon O., Rokach L. Data Mining and Knowledge Discover Handbook. Springer US 006, s [6] Grzmala-Busse J. W. Characteristic Relations for Incomplete Data: A Generalization of the Indiscernibilit Relation. Proceedings of the RSTC, the Fourth International Conference on Rough Sets and Current Trends in Computing, Springer-Verlag, 004, Lecture Notes in Artificial Intelligence 3066, s [7] Grzmala-Busse J. W. Data with Missing Attribute Values: Generalization of Indiscernibilit Relation and Rule Induction. Transactions on Rough Sets, Springer-Verlag 004 [8] King G., Honaker J., Joseph A. Analzing Incomplete Political Science Data: An Alternative Algorithm for Multiple Imputation. American Political Science Review, vol. 95, 001, s

15 Kierunkowe zbior podobieństwa a problem niekompletności danch [9] Little R. J., Rubin D. B. Statistical Analsis with Missing Data, Second Edition. John Wile and Sons 00 [10] Stefanowski J. Algortm indukcji reguł deczjnch w odkrwaniu wiedz. Rozprawa habilitacjna, Wdawnictwo Politechniki Poznańskiej, Seria Rozpraw nr 361., 001 [11] Stefanowski J., Tsoukiàs A. Incomplete information tables and rough classification. Int. Journal of Computational Intelligence, 001

16

17 Kompilator zrównoleglając wspecjalizowan na algortm szfrowania Dariusz Burak Politechnika Szczecińska, Wdział Informatki Abstract: Implementation issues of a parallelizing compiler based on an automatic parallelizing method of selected encrption algorithms are described. The compiler is devoted for parallelizing encrption algorithms written in the C language. The implementation of the compiler is based on the following well-known tools: Petit and OpenMP API. Petit is applied for finding data dependenc relationships in the source code. The OpenMP standard is chosen for representing parallelism of encrption algorithms. Słowa kluczowe: parallelizing compiler, loop transformations, OpenMP, data dependence analsis, encrption algorithms 1. Wprowadzenie W dzisiejszch czasach problem szbkiego tworzenia równoległch implementacji algortmów szfrowania na podstawie sekwencjnch kodów źródłowch jest bardzo istotn z punktu widzenia użtkowników sieci komputerowch. Wraz z rozwojem Internetu wzrasta również ilość informacji przesłanch poprzez statstcznego użtkownika sieci. Wmusza to działania mające na celu skrócenie czasu szfrowania i deszfrowania danch. Zważwsz na coraz większą powszechność technologii wieloprocesorowej ze wspólną pamięcią oraz technologii wielordzeniowej istnieje potrzeba efektwnego wkorzstania ich moc obliczeniowch. Naturalnm sposobem wzskania ich moc obliczeniowej jest zrównoleglenie czasochłonnch obliczeniowo algortmów. Możliwe są tutaj dwa podejścia: zrównoleglenie ręczne w oparciu o czasochłonną i skomplikowaną analizę zależności danch lub zrównoleglenie automatczne, tzn. przebiegające w ramach kompilacji kodu źródłowego algortmu sekwencjnego. Z uwagi na szereg istotnch zalet (szbkość i prostota działania oraz relatwnie niski koszt wkonania) zdecdowano się na utworzenia kompilatora zrównoleglającego opartego na automatcznej metodzie zrównoleglenia. Jednakże jedną z głównch wad rozwiązań automatcznch istniejącch obecnie jest stosunkowo niska jakość generowanego kodu równoległego, co wnika z ich uniwersalnego przeznaczenia- kompilator zrównoleglające SUIF [1, ], Polaris [3], Parafrase- [4] i inne. W trosce o zapewnienie maksmalnej efektwności działania kompilatora, tzn. uzskania przspieszenia prac algortmów szfrowania na

18 18 Dariusz Burak poziomie zbliżonm do przspieszenia maksmalnego (wliczonego na podstawie prawa Amdahla [5]) i prz uwzględnieniu specfiki oraz złożoności poszczególnch klas algortmów szfrowania (szfr blokowe, strumieniowe, asmetrczne) oraz ich szczegółowch implementacji opracowano metodę automatcznego zrównoleglenia wbranch algortmów szfrowania [6], która zostanie zaimplementowana w ramach opracowwanego kompilatora zrównoleglającego. W celu utworzenia kompilatora niezbędne jest wkorzstanie istniejącch narzędzi: programu Petitdo analiz zależności danch oraz OpenMP API standardu programowania równoległego oraz utworzenie nowch narzędzi wnikającch ze specfiki opracowwanego zagadnienia.. Program Petit Petit jest jednm z kluczowch komponentów projektu Omega przeznaczonego do analiz i transformacji programów, któr powstał w Uniwerstecie Marland [7]. Służ on do przeprowadzania analiz zależności oraz transformacji pętli zapisanch w jęzku Petit. Główne możliwości programu Petit są następujące [7]: analiza zależności oparta na wartości (ang. value-based dependence analsis) oraz na pamięci (ang. memor based dependence analsis), nieliniowa analiza zależności oparta na smbolach nieinterpretowanch funkcji (ang. uninterpreted function smbols), analiza skalarna, prwatzacja zmiennch, rozszerzenie zmiennch skalarnch na zmienne tablicowe (ang. scalar/arra epansion), możliwość zintegrowania analiz zależności wkonwanej za pomocą programu Petit w ramach kompilatorów zrównoleglającch. 3. OpenMP API OpenMP jest standardem korporacjnm wspieranm przez producentów sprzętu, twórców oprogramowania oraz twórców aplikacji definiującm interfejs programowania aplikacji (ang. Application Programming Interface (API)) wkorzstwanm do bezpośredniego wrażania równoległości w wielowątkowm modelu dla sstemów ze wspólną pamięcią, zaimplementowanm dla różnch platform, którego cechą charakterstczną jest ukończenie specfikacji wmagań (obecnie aktualną wersją standardu jest wersja.5 z maja 005r.) [8], [9]. OpenMP API rozszerza jęzki programowania Fortran, C i C++ o [9]: drektw kompilatora (bazujące na drektwie #pragma jęzków C i C++), funkcje biblioteki czasu wkonania (ang. run-time librar functions), zmienne środowiskowe (ang. environment variables) służące do wrażania równoległości kodu źródłowego. Umieszczone w kodzie programu sekwencjnego drektw OpenMP, rozszerzające sekwencjn model programowania o konstrukcje modelu SPMD (ang. Single Program Multiple Data),

19 Kompilator zrównoleglając wspecjalizowan na algortm szfrowania 19 w którm każd procesor wkonuje ten sam program działając na własnm zestawie danch, konstrukcje podziału prac (ang. work-sharing constructs), konstrukcje snchronizacji (ang. snchronization constructs) oraz konstrukcje środowiska danch (ang. data environment constructs) umożliwiają kompilatorowi wgenerowanie wielowątkowch programów wkonwalnch [9]. Zrównoleglenie kodu odbwa się w oparciu o model równoległego wkonwania programu fork-and-join bazując na operacjach rozwidlenia (ang. fork) oraz połączenia (ang. join). Wkonwanie programu rozpoczna wątek pojedncz zwan wątkiem nadrzędnm (ang. master thread), któr w momencie napotkania konstrukcji równoległej tworz grupę wątków (ang. team of threads). Każd z wątków grup wkonuje instrukcje znajdujące się w zasięgu dnamicznm rejonu równoległego, za wjątkiem niektórch instrukcji podziału prac (ang. work-sharing constructs). Po zakończeniu wkonwania rejonu równoległego następuje snchronizacja barierowa, a następnie wątek nadrzędn kontnuuje wkonwanie części sekwencjnej programu (pozostałe wątki są niszczone), aż do momentu napotkania kolejnego rejonu równoległego (kod źródłow może zawierać wiele rejonów równoległch, a rejon równolegle mogą bć zagnieżdżone, zatem program w czasie wkonwania może bć wielokrotnie poddawan operacjom rozwidlenia i połączenia). Ilość tworzonch wątków może bć różna dla różnch rejonów równoległch możliwe jest wkorzstanie mechanizmu wątków dnamicznch (ang. dnamic threads) [9]. 4. Metoda automatcznego zrównoleglenia wbranch algortmów szfrowania Metoda automatcznego zrównoleglenia wbranch algortmów szfrowania bazuje na wkorzstaniu kodu źródłowego danego algortmu sekwencjnego poprzez znalezienie fragmentów kodu potencjalnie równoległch, ich odpowiednie przekształcenie, a następnie zrównoleglenie. Zrównoleglenia algortmów szfrowania odbwa się na poziomie danch, gdż ten poziom zrównoleglenia gwarantuje maksmaln stopień zużtkowania możliwości obliczeniowch komputerów wieloprocesorowch ze wspólną pamięcią [10]. Wmaga to odpowiednich transformacji kodu źródłowego algortmów sekwencjnch. Metoda automatcznego zrównoleglenia wbranch algortmów szfrowania obejmuje trz etap transformacji pętli przeznaczonch do zrównoleglenia [6]: transformacje wstępne umożliwiające przeprowadzenie analiz zależności, transformacje usuwające, bądź redukujące istniejące zależności w kodzie źródłowm blokujące proces zrównleglenia- zależności odwrotne, zależności po wjściu, zależności proste oraz zależności sterowania, transformacje umożliwiające przetwarzanie równoległe pętli. Opracowano trz niezależne od siebie procedur zrównoleglenia pętli programowch wstępującch w implementacjach algortmów szfrowania oparte na przedstawionej powżej kolejności transformacji kodu źródłowego [6]: Procedurę 1 dla szfrów blokowch pracującch trbie ECB,

20 0 Dariusz Burak Procedurę dla pozostałch standardowch trbów prac szfrów blokowch, Procedurę 3 dla szfrów strumieniowch oraz szfrów asmetrcznch. Wszstkie procedur zrównoleglenia pętli zawierają transformacje składowe zgromadzone w ramach trzech grup transformacji. Grupę pierwszą tworzą transformacje wstępne, grupę drugą transformacje usuwające, bądź redukujące istniejące zależności w kodzie źródłowm algortmów, a grupę trzecią transformacje umożliwiające przetwarzanie równoległe pętli programowch. W celu uzskania optmalnej wersji programu poprzez przebadanie wszstkich możliwch wariantów (ciągów) transformacji metoda automatcznego zrównoleglenia wbranch algortmów szfrowania wkorzstuje koncepcję kompilacji iteracjnej, zaproponowaną przez Knijnenburga, Kisukiego i O Bole a w [11, 1, 13]. Zastosowanie orginalnch procedur zrównoleglenia pętli programowch skutecznie rozwiązuje problem znacznej pracochłonności wkonwania testowch wersji programu w ramach kompilacji iteracjnej z uwagi na znaczne ograniczenie liczb możliwch wariantów (6 możliwości w przpadku Procedur 1, trz możliwości w przpadku Procedur, dwie możliwości w przpadku Procedur 3 [6]). 5. Propozcja kompilatora oraz zestawu narzędzi wspierającch automatczne zrównoleglenie algortmów szfrowania W skład zestawu narzędzi wspierającch proces automatcznego zrównoleglenia algortmów szfrowania (Rs.1) wchodzi: wstępn restrukturzator kodu, translator z jęzka C na jęzk Petit, program Petit, optmalizator kodu równoległego, translator wstawiając drektw standardu OpenMP, profiler kodu, kontroler transformacji kodu Wstępn restrukturzator kodu Zadaniem wstępnego restrukturzatora kodu źródłowego zapisanego w jęzku C jest umożliwienie przeprowadzenia analiz zależności danch z zastosowaniem programu Petit. Z uwagi na specfikę kodów źródłowch algortmów szfrowania oraz ograniczenia programu Petit do głównch zadań restrukturzatora należ: konwersja zmiennch wskaźnikowch równoważnmi im zmiennmi tablicowmi, zastąpienie indeksowania tablic według stałch wartości na indeksowanie według zmiennch indeksowch pętli for (w ciałach pętli for),

21 Kompilator zrównoleglając wspecjalizowan na algortm szfrowania 1 Sekwencjn kod źródłow (jęzk C) Wstępn restrukturzator kodu (uproszczenie kodu) Translator C -> Petit (translacje pętli) Program Petit (analiza zależności) Optmalizator kodu równoległego (transformacje pętli) kolejne iteracje kompilacji Translator wstawiając drektw OpenMP Profiler kodu Kontroler transformacji kodu Kod zrównoleglon (standard OpenMP) (drektw standardu OpenMP) (profilowanie kodu) (analiza transformacji kodu) Rsunek 1. Proces iteracjnego zrównoleglenia z wszczególnieniem zestawu narzędzi wspierającch proces zrównoleglenia w ramach kompilatora zrównoleglającego wspecjalizowanego na algortm szfrowania zastąpienie kodu źródłowego zawierającego złożone struktur danch (struktura, unia) kodem zawierającm jednie proste struktur danch, zastąpienie pętli tpu do równoważnmi pętlami tpu for, zastąpienie pętli tpu while równoważnmi pętlami tpu for, usunięcie z kodu źródłowego algortmów instrukcji goto, switch, break, continue oraz return (ze środka ciała pętli programowch), zastąpienie wwołań funkcji składowch umieszczonch w pętlach programowch ciałami tchże funkcji. 5.. Translator z jęzka C na jęzk Petit Zadaniem translatora jest zamiana kodu źródłowego poszczególnch pętli danego algortmu szfrowania zapisanego w jęzku C na równoważn kod zapisan w jęzku Petit (o składni zbliżonej do jęzka Fortran).

22 Dariusz Burak 5.3. Program Petit Program Petit ( projects/ omega/) jest to narządzie istniejące w domenie publicznej służące do automatcznego wkonwania analiz zależności pętli (krótka charakterstka programu Petit patrz pkt. ). Zadaniem programu Petit jest znalezienie istniejącch relacji zależności dla poszczególnch pętli programowch wstępującch w kodzie źródłowm algortmów szfrowania Optmalizator kodu równoległego Optmalizator kodu równoległego ma na celu zużtkowanie istniejącej gruboziarnistej oraz drobnoziarnistej równoległości kodu [14] w oparciu o technikę kompilacji iteracjnej. Wbór odpowiedniego ciągu transformacji pętli dokonwan jest w następując sposób. W pierwszej kolejności wbieran jest wariant procedur zrównoleglenia (wnikając z tpu algortmu szfrowania) zawierając wszstkie transformacje cząstkowe wchodzące w skład danej procedur usuwające, bądź redukujące istniejące zależności w kodzie źródłowm blokujące proces zrównleglenia. W przpadku, jeśli którejkolwiek z transformacji cząstkowch nie można zastosować z uwagi na specfikę danej pętli, wówczas kompilator informuje o braku możliwości zastosowania pierwszej z szeregu transformacji tworzącch daną sekwencję transformacji oraz generuje błąd transformacji danej pętli, co skutkuje tm, że kod zrównoleglon pętli nie powstaje. W kolejnej iteracji kompilacji wkorzstwan jest kod źródłow przekształcon w ramach poprzedniej iteracji kompilacji, czli zawierając wszstkie transformacje poprzedzające transformację, której nie można bło zastosować, a z kolei ta transformacja zostaje obecnie opuszczona. Jeżeli w wniku opuszczenia powższej transformacji cząstkowej uzskam sekwencję transformacji, która będzie się składać włącznie z transformacji, które można będzie zastosować, wówczas kompilator kompiluje kod zrównoleglon. W przeciwnm wpadku, kompilator znów informuje o braku możliwości zastosowania pierwszej z szeregu transformacji tworzącch sekwencję transformacji uzskaną w wniku opuszczenia niedozwolonej transformacji. Analogicznie jak to miało miejsce w ramach poprzedniej iteracji kompilacji kompilator wkorzstuje wiedzę uzskaną podczas poprzednich iteracji kompilacji i opuszcza kolejną niedozwoloną transformację. Powższ mechanizm powtarza się, aż do uzskania sekwencji transformacji zawierającej jednie transformacje dozwolone dla danej pętli. Zadania szczegółowe optmalizatora kodu równoległego to: pobranie informacji generowanch przez program Petit, prwatzacja zmiennch, dstrbucja pętli (ang. loop distribution), wrównanie pętli (ang. loop alignment), łączenie pętli (ang. loop fusion), zmiana kolejności wkonwania pętli (ang. loop interchange),

23 Kompilator zrównoleglając wspecjalizowan na algortm szfrowania 3 konwersja zmiennch na odpowiadające im tablice danch indeksowane według zmiennej indeksowej pętli z zastosowaniem operatora adresu (&) Translator wstawiając drektw standardu OpenMP Wiele kompilatorów jęzka C, zarówno komercjnch (np. Intel R C++ Compiler) jak i wwodzącch się ze środowiska Open Source (np. GCC, the GNU Compiler Collection) wspiera standard programowania równoległego OpenMP. (krótka charakterstka OpenMP API patrz pkt.3). Zadaniem translatora wstawiającego drektw standardu OpenMP API jest dostarczenie zestawu drektw do reprezentacji równoległości kodu źródłowego algortmów szfrowania Profiler kodu Zadaniem profilera kodu jest: ekstrahowanie dnamicznego zachowania kodu równoległego (całego programu oraz poszczególnch pętli programowch ), dostarczenie wników prac do kontrolera transformacji kodu Kontroler transformacji kodu Zadaniem kontrolera transformacji kodu jest: określenie pętli czasochłonnch obliczeniowo, uniemożliwienie transformacji pętli zawierającch operacje wejścia/wjścia, wliczenie maksmalnego przspieszenia danej implementacji algortmu szfrowania, zarządzanie kolejnością wprowadzania poszczególnch wariantów transformacji składającch się z ciągu transformacji cząstkowch zgodnie z Procedurą 1, Procedurą lub Procedurą 3 zrównoleglenia pętli (w zależności o klas algortmu szfrowania). 6. Wnioski Opracowanie kompilatora zrównoleglającego wspecjalizowanego na algortm szfrowania wmaga integracji istniejącch narzędzi (program Petit, OpenMP) oraz narzędzi wnikającch ze specfiki rozpatrwanego problemu (wstępn restrukturzator kodu, translator kodu z jęzka C na jęzk Petit, optmalizator kodu równoległego, profiler kodu, kontroler transformacji kodu). Połączenie w ramach jednego kompilatora proponowanch wżej narzędzi, a w szczególności najlepszego istniejącego obecnie narzędzia do przeprowadzenia analiz zależności (Petit), standardu programowania równoległego (OpenMP) oraz optmalizatora kodu) umożliwi efektwne zrównoleglenie kodu źródłowego algortmów szfrowania. W toku dalszch prac w pierwszej kolejności należ zaimplementować translator C->Petit

24 4 Dariusz Burak oraz wstępn restrukturzator kodu celem umożliwienia przeprowadzenia analiz zależności pętli programowch. Bibliografia [1] Muchnick S. Advanced Compiler Design and Implementation. Morgan Kaufmann Publishers, 1997 [] Wilson R., et al. The SUIF compiler sstem: A parallelizing and optimizing research compiler. SIGPLAN, 1994 [3] Blume W., et al. Effective Automatic Parallelization with Polaris. International Journal of Parallel Programming, 1995 [4] Polchronopoulos C., et al. The Structure of Parafrase-: An Advanced Parallelizing Compiler for C and Fortran, Languages and Compilers for Parallel Computing. MIT Press, 1990 [5] Bielecki W. Esentials of Parallel and Distributed Computing. Informa, 00 [6] Burak D. Metoda automatcznego zrównoleglenia wbranch algortmów szfrowania. Rozprawa doktorska, Politechnika Szczecińska, Wdział Informatki, 007 [7] Kell W., et al. New User Interface for Petit and Other Etensions. User Guide, 1996 [8] OpenMP Application Program Interface. Version.5, Ma 005 [9] Chandra R., et al. Parallel Programming in OpenMP. Morgan Kaufmann, 000 [10] Nahum E., et al. Towards High Performance Crptographic Software. Third IEEE Workshop on the Architecture and Implementation of High Performance Communications Subsstems (HPCS), CT, 1995 [11] Knijnenburg P., Kisuki T., O Bole M. Iterative compilation. Embedded Processor Design Challenges: Sstems, Architectures, Modelling and Simulation SAMOS, 00 [1] Knijnenburg P., Kisuki T., O Bole M. Combined selection of tile sizes and unroll factors using iterative compilation. Journal of Supercomputing, 003 [13] Knijnenburg P., Kisuki T., Gallivan K. Cache Models for Iterative Compilation. Proc. Euro-Par, 001. Springer Lecture Notes in Computer Science 150, 001, s [14] Allen R., Kenned K. Optimizing compilers for modern architectures: A Dependence-based Approach. Morgan Kaufmann Publishers, Inc., 001

25 Zastosowanie zbiorów przbliżonch i sstemu ROSE do indukcji reguł deczjnch na potrzeb sstemu automatcznego obrotu parą walutową Piotr Czapiewski Politechnika Szczecińska, Wdział Informatki Abstract: The paper presents the attempt of appling rough sets theor and ROSE software to build the automated currenc pair trading sstem. ROSE sstem s rule induction module was used to etract rules from the feature space built upon moving averages differences and other technical analsis indicators. The rules obtained were evaluated through the simulation of a trading sstem. Słowa kluczowe: rough sets, ROSE, rule induction, automated trading, moving averages 1. Wprowadzenie Problem predkcji wartości instrumentów finansowch pojawia się zwkle w kontekście wspomagania deczji inwestora. Stosowane bwa zarówno podejście regresjne, w którm przewidujem przszłe wartości cen [15], jak i klasfikacjne, w którm wskazujem właściwą deczję dotczącą kupna, sprzedaż lub powstrzmania się od transakcji [1, 14]. Podejmowane bł liczne prób wkorzstania narzędzi z obszaru sztucznej inteligencji i eksploracji danch, w tm także zbiorów przbliżonch, dając często bardzo dobre rezultat [1, 13, 14, 15]. Powszechnie przjmuje się, że tego rodzaju metod sprawdzają się w przpadku chaotcznch rnków znacznie lepiej, niż klasczne metod statstczne [9, 15]. Rezultat zastosowania zbiorów przbliżonch do predkcji zachowania rnku znajdziem m.in. w artkułach [1, 13]. Prace te dotczą jednak handlu średniolub długoterminowego, często na mało płnnch rnkach, i jak już wspomniano należ je rozpatrwać w kategorii wspomagania deczji inwestcjnch, a nie handlu automatcznego sensu stricte. Ponadto dotczą one okresu sprzed kilku lub kilkunastu lat, podczas gd rnki finansowe, a w szczególności rnek walutow, w ostatnich latach diametralnie zmienił swoje oblicze, zwiększając płnność, nieprzewidwalność i zbliżając do teoretcznego rnku efektwnego. W literaturze coraz częściej znaleźć możem opinie, że na współczesnch, płnnch rnkach klasczne metod wwodzące się z analiz technicznej sprawdzają się coraz gorzej [6]. Tm bardziej interesujące staje się wkorzstanie komputera jako narzędzia do szbkiego, krótkoterminowego handlu automatcznego. Narzędzia, które będzie

26 6 Piotr Czapiewski w stanie wkrć krótkotrwałe wahania rnku i zareagować na nie znacznie szbciej, niż błb to w stanie zrobić inwestor ręcznie dokonując transakcji. Niniejsz artkuł prezentuje próbę budow takiego sstemu w oparciu o indukcję reguł z użciem zbiorów przbliżonch i programu ROSE.. Teoria zbiorów przbliżonch Podstawowm celem teorii zbiorów przbliżonch jest opanowanie niepewności i niepreczjności informacji [, 7]. Zastosowanie zbiorów przbliżonch pozwala na indukcję reguł deczjnch w przpadku, gd zbiór danch opisującch zagadnienie jest wewnętrznie sprzeczn. W przpadku danch pochodzącch z rnków finansowch, zwłaszcza danch wsokiej częstotliwości, niespójność informacjna jest zwkle bardzo wraźna. Stuacje opisane tmi sammi wartościami atrbutów warunkowch, lecz prowadzące do różnch zachowań cen, wstępują bardzo często. Statstczna przewaga na korzść jednego kierunku zmian cen bwa minimalna, a co za tm idzie, wdobcie deterministcznch reguł okazuje się niezwkle trudne lub wręcz niemożliwe. Wśród najważniejszch zalet teorii zbiorów przbliżonch, predestnującch ją do zastosowania w automatcznch sstemach transakcjnch, wmienić warto następujące fakt: generowane reguł są jasne, zrozumiałe dla człowieka i łatwe do zaimplementowania w sstemie automatcznego handlu; istnieje możliwość uwzględnienia dowolnch atrbutów ciągłch, dskretnch oraz kwalifikatwnch; TZP pozwala na efektwną budowę reguł dla sprzecznch wewnętrznie danch. Najczęściej zbior przbliżone stosowane są do klasfikacji. W przpadku sstemu transakcjnego każd obiekt wejściow, charakterzując chwilową stuację na rnku, będzie przpiswan do jednej z dwóch klas: rekomendacja kupna lub sprzedaż. W stosunku do tpowego zadania klasfikacji pojawiają się tu dwie istotne różnice. Po pierwsze, dopuszczaln, a wręcz pożądan jest brak kompletności reguł nie każd obiekt musi zostać zaklasfikowan. Lepiej nie podjąć deczji o dokonaniu transakcji niż podjąć błędną. Po drugie, obiekt wejściowe ułożone są chronologicznie, tworzone na podstawie szeregu czasowego. Należ uwzględnić zależności czasowe, stąd zbior uczące i testowe budowane są z następującch po sobie próbek, nigd nie pochodzą z losowania. Do podstawowch pojęć stosowanch w teorii zbiorów przbliżonch należą sstem informacjn oraz tablica deczjna. Sstemem informacjnm nazwam uporządkowaną czwórkę [7]: SI = (U, Q, V, f) (1) gdzie U oznacza zbiór rozważanch obiektów, Q zbiór cech, V zbiór wartości przjmowanch przez cech, a funkcja informacjna f przporządkowuje wartości poszczególnch atrbutów dla każdego z obiektów.

27 Zastosowanie zbiorów przbliżonch i sstemu ROSE do indukcji reguł... 7 Tablicą deczjną nazwam uporządkowaną piątkę [7]: DT = (U, C, D, V, f) () gdzie C oznacza zbiór atrbutów warunkowch, a D zbiór atrbutów deczjnch. W dalszej części artkułu zostanie przedstawion proces tworzenia sstemu informacjnego oraz tablic deczjnej dla problemu wspomagania deczji transakcjnch. 3. Dane wejściowe 3.1. Specfikacja atrbutów warunkowch Przedmiotem opiswanch badań jest szereg czasow złożon z historcznch wartości kursu par walutowej EUR/USD. Zbiór danch tworz 6198 próbek, notowanch w odstępach jednogodzinnch i obejmującch rok 006. Notowania pochodzą z zasobów firm MetaQuotes Software Corp., a pobrane został za pośrednictwem platform MetaTrader 3. Do opisu chwilowej stuacji na rnku zastosowane został wskaźniki należące do najstarszch i najpopularniejszch narzędzi analiz technicznej, mianowicie różnice średnich kroczącch o odmiennch okresach. Średnią kroczącą MAn o okresie n definiujem jako średnią wartość ostatnich n wartości kursu [4, 5]: MAn t = 1 n 1 t i n Przez mman oznaczm różnicę dwóch średnich kroczącch o okresach m i n, prz czm od krótszej średniej zawsze odejmujem dłuższą: i=0 mman t = MAm t MAn t, m < n (4) Tradcja stosowania sstemu transakcjnego opartego na przecięciach dwóch średnich kroczącch o różnch okresach sięga lat trzdziestch XX wieku [5]. Za sgnał kupna lub sprzedaż instrumentu finansowego przjmuje się moment przecięcia przez różnicę mman wartości zero. Sstem w tak prostej postaci generuje sgnał z opóźnieniem, sprawdza się tlko w stuacji, gd wstępuje wraźn, długoterminow trend, prz handlu średnio- lub długoterminowm na mało płnnch rnkach. Na współczesnch płnnch rnkach walutowch, znacznie bliższch teorii rnku efektwnego, sstem taki nie prznosi zadowalającch rezultatów [6]. Opiswan tu model stanowić ma rozszerzenie sstemu przecięcia średnich kroczącch poprzez poszukiwanie reguł w przestrzeni złożonej z wielu par średnich kroczącch. Zakładając, że różnice średnich o różnch okresach odpowiadają pewnm zakresom harmonicznch wstępującch w szeregu czasowm, możliwe powinno bć wdobcie z nich pewnch prawidłowości związanch z krótkoterminowmi wahaniami cen. 3 Patrz

28 8 Piotr Czapiewski Dodatkowo przestrzeń atrbutów uzupełniono o jeden z popularnch wskaźników analiz technicznej, tzw. osclator stochastczn. Wskaźnik ten wkorzstwan jest przede wszstkim do wkrcia punktów zwrotnch krótkoterminowch cklów rnku, a definiuje się go następująco [4]: %K t = 100 C t L 14 t Ht 14 L 14 t (5) gdzie C t oznacza aktualną cenę zamknięcia, a L 14 i H 14 to odpowiednio najniższa i najwższa wartość cen w okresie ostatnich 14 interwałów czasowch (w omawianm przpadku 14 godzin). Liczba atrbutów oraz okres średnich kroczącch i osclatora stochastcznego dobrane został w sposób arbitraln. Przjęto 4 atrbut warunkowe: Q = {q 1, q, q 3, q 4 } (6) Oznaczenia atrbutów przedstawia tabela 1. Atrbut q 1 do q 3 zbudowano na bazie średnich kroczącch o okresach 5, 7, 10 i 0. Dla osclatora przjęto okres 14 interwałów. Tabela 1. Atrbut warunkowe Oznaczenie atrbutu q 1 q q 3 q 4 Reprezentowan wskaźnik 5MA7 5MA10 5MA0 %K(14) Przestrzeń atrbutów użtą w omawianm sstemie można oczwiście rozszerzć, uwzględniając inne wskaźniki analiz technicznej, średnie kroczące i osclator o innch okresach lub też pochodne atrbutów cz atrbut przesunięte w czasie. Jedną z zalet zbiorów przbliżonch jest możliwość uwzględnienia informacji fundamentalnch (politcznch, makroekonomicznch), w tm danch kwalifikatwnch i opinii ekspertów. Okres średnich kroczącch oraz osclatora dobrane został arbitralnie, podobnie sama liczba użtch atrbutów. Docelowo należ rozważć możliwość automatcznej selekcji cech ogromna liczba potencjalnch atrbutów sugeruje, iż selekcja cech w ramach teorii zbiorów przbliżonch (znajdowanie reduktu) może bć nieefektwna. W planach dalszch badań autor uwzględnia m.in. ewolucjną selekcję atrbutów warunkowch. 3.. Wstępne przetwarzanie danch W opiswanm podejściu szereg czasow traktujem jako ciąg chronologicznie ułożonch próbek, bez uwzględniania bezwzględnego czasu ich pobrania. Rozważenia wmaga problem kompletności oraz poprawności danch.

29 Zastosowanie zbiorów przbliżonch i sstemu ROSE do indukcji reguł... 9 Analiza danch wkazała brak wartości wkraczającch poza oczekiwan zakres zmienności i odbiegającch od reszt próbek (outliers), można zatem uznać poprawność danch za wstarczającą i niewmagającą korekt. Kwestia brakującch wartości nie wmaga w opiswanm przpadku specjalnego rozstrzgnięcia. Jak już wspomniano, nie jest bran pod uwagę bezwzględn czas pobrania konkretnej wartości, a jednie chronologiczne następstwo próbek. Wszstkie wskaźniki obliczane są bezpośrednio z podstawowego szeregu cen, a nie pobierane z zewnętrznego źródła, nie wstępuje zatem problem snchronizacji poszczególnch atrbutów. Ponadto istotą użcia zbiorów przbliżonch jest opanowanie niepewności i wewnętrznej niespójności danch, zatem pojedncze przpadki nieprawidłowch danch wejściowch nie mogą rzutować w istotn sposób na jakość wgenerowanch reguł deczjnch. Wejściow szereg czasow należ zamienić na postać akceptowaną w teorii zbiorów przbliżonch. Jedną z najprostszch i najbardziej efektwnch metod stosowanch w takich przpadkach jest ułożenie kolejnch wskaźników (atrbutów) w kolumnach tabeli informacjnej i potraktowanie każdego wiersza (a więc zbioru wskaźników obliczonch dla pojednczej chwili czasowej) jako odrębnego obiektu podlegającego klasfikacji [1]. Shen i Loh [1] proponują 5-etapową procedurę przgotowwania tablic informacjnej: 1. Tworzenie kolumn początkowch obliczenie wartości wskaźników.. Snchronizacja w omawianm przpadku nie jest konieczna, wartości już po wgenerowaniu są właściwie ułożone. Snchronizacja będzie niezbędna jeśli zechcem zastosować wskaźniki przesunięte (opóźnione). 3. Uwzględnienie brakującch danch nie jest konieczne z przczn podanch powżej. Jeśli w szeregu podstawowm brakowało pojednczej próbki, to w tabeli informacjnej zabraknie całego wiersza danch, co nie będzie miało istotnego wpłwu na wnik indukcji reguł. 4. Uzupełnienie atrbutów czasowch dodanie informacji o wstąpieniu pewnch zdarzeń. Autorz na tm etapie umiejscawiają wskazanie właściwej dla danego wiersza deczji. Należ zatem dokonać analiz przszłch wartości cen i podać deczję prowadzącą w danm punkcie do osiągnięcia zsku. 5. Stworzenie szeregu pochodnego wgenerowanie na podstawie powższch danch ostatecznej wersji tabeli deczjnej. W opiswanm ekspermencie na tm etapie generowan jest plik wejściow dla sstemu ROSE. 4. Zastosowanie sstemu ROSE ROSE (Rough Sets Data Eplorer) jest sstemem implementującm podstawowe techniki teorii zbiorów przbliżonch [3]. Pozwala na interaktwną analizę danch, dskretzację, automatczną indukcję reguł za pomocą trzech różnch algortmów, a także testowanie otrzmanch reguł. Sstem ma budowę modułową poszczególne moduł komunikują się za pośrednictwem plików tekstowch o strukturze opisanej w dokumentacji [11]. Pozwala to na łatwą integrację ROSE ze środowiskiem Matlab lub docelowo z automatcznm sstemem transakcjnm.

30 30 Piotr Czapiewski MATLAB ROSE Preprocessing Wznaczenie wskaźników Filtrowanie danch Dskretzacja Generowanie pliku wejściowego dla ROSE Ewaluacja reguł Smulacja sstemu transakcjnego Plik ISF Plik RLF Moduł indukcji reguł Algortm EXPLORE Rsunek 1. Modułow schemat środowiska ekspermentu W opiswanm ekspermencie wkorzstano moduł indukcji reguł deczjnch. Wstępne przetwarzanie danch realizowane jest po stronie środowiska Matlab, tam też tworzon jest plik wejściow dla modułu indukcji reguł. Po automatcznm wwołaniu ROSE w trbie wsadowm, wgenerowane przezeń i zapisane do pliku reguł deczjne są odcztwane i poddawane ewaluacji. Schemat umiejscawiając sstem ROSE w ekspermencie przedstawiono na rsunku 1. Zastosowan model interakcji pozwoli na rozszerzenie sstemu w przszłości, np. o automatczną ewolucjną dskretzację. 5. Opis ekspermentu 5.1. Budowa tabeli deczjnej Zbiór ucząc przgotowan został na podstawie danch obejmującch 8 początkowch tgodni (960 próbek) roku 006, po pominięciu pierwszch 0 wartości szeregu ze względu na konieczność obliczenia średniej kroczącej MA0. Dskretzację przeprowadzono dobierając arbitralnie granice przedziałów, wspólne dla atrbutów q 1 -q 3 oraz odrębne dla q 4. Sposób dskretzacji odzwierciedla tradcjne pogląd analitków technicznch. W przpadku różnic średnich kroczącch interesuje nas zatem nie tle dokładna wartość atrbutu, co określenie jego znaku bądź wskazanie wartości bliskiej zera. Podobnie w przpadku osclatora określam przedział odpowiadające wprzedaniu rnku, wkupieniu oraz okresowi trendu. W naturaln sposób nasuwa się zatem sugestia zastosowania atrbutów rozmtch i wnioskowania rozmtego, co zostanie uwzględnione w dalszch badaniach. Docelowo autor planuje zastosować dskretzację ewolucjną, np. za pomocą metod proponowanej przez Czerniaka [8]. Wkorzstanie sstemu ROSE w tr-

31 Zastosowanie zbiorów przbliżonch i sstemu ROSE do indukcji reguł bie wsadowm pozwoli na prostą integrację własnego mechanizmu dskretzacji z pozostałmi elementami sstemu. Przedział dskretzacji i sposób zakodowania atrbutów warunkowch przedstawia tabela. Tabela. Kodowanie atrbutów warunkowch Atrbut Granice przedziału Wartość zakodowana q 1, q, q 3 ( ; ) 1 < ; > ( ; ) 3 q 4 ( ; 30) 1 <30; 70> (0; ) 3 Atrbut deczjn D określon został jako dwuwartościow, odpowiadając rekomendacji kupna (D = 1) bądź sprzedaż (D = 1). Rekomendacja ustalana jest na podstawie zmian wartości cen po osiągnięciu zadanego horzontu czasowego przjęto horzont równ interwałom czasowm, zatem o rekomendacji decduje zmiana cen po upłwie dwóch godzin od rozpatrwanego punktu: { t+ t > min D t = 1 (7) t+ t < min D t = 1 Parametr min określa minimaln poziom zmian cen, prowadząc do rekomendacji transakcji. Jeśli bezwzględn przrost cen będzie mniejsz niż min, sstem nie wgeneruje żadnej rekomendacji. Tabela 3. Kodowanie atrbutu deczjnego Atrbut Zmiana cen Rekomendacja Wartość zakodowana D > 0, 0005 Kup 1 < 0, 0005 Sprzedaj -1 Z podstawowego szeregu odrzucone został wszstkie przpadki, w którch cena nie zmieniła się istotnie po upłwie zadanego horzontu czasowego ( < min ). Takie podejście proponowane jest przez licznch autorów dla różnch metod indukcjnch (por. [9]) i zapobiegać ma zdominowaniu uczenia przez przpadki o niewielkim przroście cen. Dla częstch notowań, gdzie odstęp międz kolejnmi próbkami jest rzędu kilku minut do godzin, tego rodzaju próbki mogą stanowić większość wówczas algortm uczenia może do nich właśnie nadmiernie dopasować sstem, prowadząc do stuacji, którą można opisać następująco:

32 3 Piotr Czapiewski wsoka ogólna skuteczność rozpoznawania; wsoka skuteczność rozpoznawania przpadków o < min (przewidwanie niezmienności cen, rekomendacja wstrzmania się od przeprowadzania transakcji); niska skuteczność rozpoznawania przpadków o > min (najistotniejsza grupa przpadków przewidwanie wzrostu lub spadku cen, rekomendacja przeprowadzenia transakcji). Szereg ucząc po usunięciu opisanch przpadków liczł ostatecznie 613 próbek. Tabela 4 przedstawia oznaczenia konceptów deczjnch oraz ich liczebność. Tabela 5 przedstawia przkładową tablicę deczjną (dla fragmentu zbioru uczącego). Poniżej przedstawiono postać wgenerowanego pliku wejściowego dla sstemu ROSE. Tabela 4. Liczebność konceptów deczjnch dla zbioru uczącego Koncept deczjn Wartość atrbutu D Liczebność X X 1 30 Tabela 5. Fragment tablic informacjnej Obiekt MA MA MA Stoch Deczja (U) (q1) (q) (q3) (q4) (D) Analiza aproksmacji zbiorów Wgenerowan plik tekstow, zawierając dane uczące, został następnie zaimportowan do sstemu ROSE w celu wstępnej analiz zbioru danch. Wznaczonch zostało 55 zbiorów elementarnch. Wniki analiz jakości przbliżenia zbiorów przedstawia rsunek 1. Jak widać dolne przbliżenia konceptów deczjnch są wjątkowo mało liczne: { card DP (X 1 ) = (8) card DP (X ) = 9 Poztwn obszar rodzin D zawiera jednie 31 przkładów, co pociąga za sobą bardzo niską jakość przbliżenia: γ (D ) = 0, 0506 (9)

33 Zastosowanie zbiorów przbliżonch i sstemu ROSE do indukcji reguł Program 1. Wgenerowan plik isf dla sstemu ROSE **ATTRIBUTES A1: (numbercoded) A: (numbercoded) A3: (numbercoded) A4: (numbercoded) Dec: [-1,1] decision: Dec **EXAMPLES **END Powższa analiza prowadzi do wniosku, że z omawianego zbioru danch można wdobć bardzo niewiele reguł deterministcznch. Ponadto przdatność tch reguł będzie znikoma, ze względu na niewielkie ich wsparcie. Należ zatem skupić się na poszukiwaniu reguł niedeterministcznch o jak największej pewności i wsparciu. Rsunek. Wnik analiz aproksmacji zbiorów w sstemie ROSE 5.3. Indukcja reguł Indukcja reguł w sstemie ROSE wkonwana jest za pomocą algortmów LEM, MODLEM lub EXPLORE [3, 10]. Oferowane są trz trb indukcji [11]: Basic Minimal Covering (LEM) generowanie kompletnego i spójnego zbioru reguł o jak najmniejszej liczbie i długości reguł;

34 34 Piotr Czapiewski Etended Minimal Covering (MODLEM) j.w., także dla sstemów zawierającch ciągłe atrbut bez potrzeb ich dskretzacji; generowanie reguł relacjnch postaci a atrbut b; Satisfactor Description (EXPLORE) generowanie zbioru reguł spełniającch zadane warunki. W opiswanm przpadku zastosowano trzeci z wżej wmienionch trbów indukcji, wmagając określenia następującch parametrów: maksmalna długość reguł, minimalna siła reguł (względna lub bezwzględna), minimaln poziom dskrminacji. Ekspermentalnie dobrano następujące parametr: maksmalna długość: 4, minimalna siła bezwzględna: 10, minimaln poziom dskrminacji: 60%. Prz powższch parametrach w wniku indukcji powstało 6 reguł niedeterministcznch o wsparciu od 15 do 134 i sile od 1 do 81. Uzskane reguł przedstawia tabela 6. Tabela 6. Reguł uzskane z sstemu ROSE Lp. Reguła Wsparcie Siła Poziom dskr. 1. (A1=) (Dec=-1) ,45%. (A=) (Dec=-1) ,4% 3. (A3=) (Dec=-1) ,00% 4. (A3=1) & (A4=3) (Dec=-1) ,16% 5. (A1=1) & (A=3) (Dec=1) ,00% 6. (A1=1) & (A3=1) & (A4=) => (Dec=1) ,66% Na tm etapie warto zastanowić się, jak siła i wsparcie reguł przekładają się na późniejsze zastosowanie sstemu w praktce. Ponieważ analizowan okres obejmował 8 tgodni, siła na poziomie kilkunastu oznacza średnio około transakcji tgodniowo, co prz handlu krótkoterminowm można uznać za minimum, ab sstem bł użteczn. Wszstkie otrzmane reguł powinn wgenerować około 5 rekomendacji transakcji dziennie. Liczbę oraz charakterstkę reguł uzskanch prz odmiennch parametrach przedstawia Tabela 7. Zbt wsokie wmagania co do pewności reguł powodują generowanie reguł o małm wsparciu, prowadząc do sstemu o niskiej użteczności i wiargodności.

35 Zastosowanie zbiorów przbliżonch i sstemu ROSE do indukcji reguł Rsunek 3. Parametr indukcji reguł w sstemie ROSE 5.4. Ewaluacja zbioru reguł Otrzmane z sstemu ROSE reguł został następnie przetestowane na zbiorze obejmującm dane do końca roku 006 (z pominięciem próbek należącch do zbioru uczącego). Rozmiar zbioru testowego wniósł 515 próbek. Tabele 8 i 9 przedstawiają statstki dotczące liczb oraz wniku rekomendowanch w tm okresie transakcji. Wniki transakcji podawane są w jednostkach zwanch pipsami, prz czm jeden pips oznacza zmianę na ostatnim miejscu znaczącm cen. W opiswanm przpadku par walutowej EUR/USD 1 pips = 0,0001 USD. Rzeczwiste wniki wrażone względnm lub bezwzględnm przrostem kapitału zależeć będą od wielkości stosowanej dźwigni finansowej oraz ewentualnch dodatkowch kosztów transakcji. Tabela 7. Charakterstka reguł prz różnch parametrach indukowania Parametr Rezultat indukcji Maks. Min. Min. poziom Liczba Min. Maks. długość siła dskrminacji reguł wsparcie wsparcie 3 30% 100% % 60% % % %