Słowa kluczowe: algorytmy, metaheurystyki, symulacja, alokacja zadań, efektywność. Marek WÓJCIKOWSKI *, Wojciech KMIECIK * KOMPUTEROWY SYSTEM BADA IA EFEKTYW OŚCI METAHEURYSTYCZ YCH ALGORYTMÓW ALOKACJI Artykuł obejmuje problematykę adaptacji trzech metaheurystycznych algorytmów przeszukiwania lokalnego do problemu alokacji zadań na dwuwymiarowej siatce procesorów. Prezentuje też komputerowy system eksperymentowania, służący do badania ich efektywności. Omawiane algorytmy to: Tabu Search, Simulated Annealing (Symulowane Wyżarzanie) oraz Random Search. Ponadto użyto algorytmów pomocniczych: First Fit oraz autorskiego Dumb Fit. 1. WPROWADZENIE Przetwarzanie współbieżne od dawna było wykorzystywane w różnych dziedzinach nauki i przemysłu. Stale zyskuje ono na popularności, ostatnimi czasy, także w zastosowaniach domowych. Jednak w praktyce, wykorzystanie stu procent potencjału wielu równoległych procesorów, jest bardzo rzadko osiągane przeważnie wykorzystywany jest jedynie ułamek pełnej mocy [1]. Jednym z podstawowych problemów, przyczyniających się do tego stanu rzeczy, jest trudność zaalokowania zadań na równoległych procesorach w odpowiedni sposób. Dla dużej liczby zadań do przetworzenia, przejrzenie wszystkich ich permutacji, jest zadaniem przewyższającym zdecydowanie możliwości dzisiejszych komputerów. Dlatego właśnie zdecydowaliśmy się zaimplementować oprogramowanie umożliwiające sprawdzenie na ile zasadne jest wykorzystanie do tego celu algorytmów metaheursytycznych, które działają szybko i często efektywnie. Kolejne sekcje artykułu przedstawiają: sformułowanie problemu i założenia, opis użytych algorytmów, prezentację oprogramowania symulacyjnego oraz przykładowego badania i podsumowanie. * Studenckie Koło Naukowe Systemów Informatycznych i Sieci Komputerowych, Politechnika Wrocławska, Wybrzeże Wyspiańskiego 27, 50-370 Wrocław, POLAND, opiekun: Leszek Koszałka
2. SFORMUŁOWANIE PROBLEMU Węzeł podstawowy element, reprezentujący procesor w siatce procesorów. Węzeł może być wolny lub zajęty. Siatka procesorów dalej zwana siatką dwuwymiarowa struktura równomiernie rozmieszczonych węzłów. Można ją oznaczyć, jako M(w, h, t), gdzie w i h to szerokość i wysokość siatki, zaś t to czas życia siatki. Wartość t może być niezerowa albo zerowa. Wartość zerowa oznacza, że siatka będzie aktywna aż do przetworzenia ostatniego zadania w kolejce. Podsiatka S to prostokątny fragment siatki M, grupa węzłów w określonym momencie czasu. Oznaczyć ją można, jako S(a, b, e, j), gdzie (a, b) to pozycja lewego górnego węzła podsiatki S w siatce M (licząc od lewego górnego rogu, zaczynając od 1), zaś e, j to szerokość i wysokość podsiatki. Określenie, że podsiatka jest zajęta oznacza, że wszystkie jej węzły są zajęte. Siatkę w określonym momencie czasu M(w, h, t 1 ) można przedstawić graficznie, jako tablicę liczb całkowitych, gdzie każda liczba odnosi się do jednego węzła. Zero, które można oznaczyć jako kropkę (.), oznacza wolny węzeł. Liczby niezerowe oznaczają zajęty węzeł. Ich wartość jest jednakowa dla podsiatki, do której przydzielono jedno zadanie i oznacza czas pozostały do przetworzenia tego zadania na danym węźle. Na rys. 1. przedstawiono przykład takiego przedstawienia siatki z zaalokowanymi zadaniami. Rys. 1. Przykładowe przedstawienie siatki w chwili czasu z 4 zaalokowanymi zadaniami Zadania, oznaczone jako T(p, q, s) są przechowywane na liście. Zawartość listy jest znana przed procesem alokacji. Podczas alokacji zadania są zdejmowane z listy i układane na siatce i zajmują tam podsiatkę S i (a,b,p,q) przez s jednostek czasu. Kluczowym zagadnieniem było opracowanie odpowiednich funkcji celu, pozwalających, w sposób obiektywny, oceniać skuteczność i porównywać badane algorytmy. Pierwszą, z utworzonych przez nas funkcji celu, jest funkcja sumarycznej efektywności (1), oznaczana jako CE. Jest używana, gdy jest zdefiniowany niezerowy czas życia siatki. W funkcji tej p i, q i, s i to odpowiednio: szerokość, wysokość i czas przetwarzania dla i-tego zadania spośród n przetworzonych zadań. CE = n ( pi qi si) i= 1 (1)
Znając parametry w, h, t całej siatki (szerokość, wysokość, czas życia) możemy, na podstawie wartości CE, obliczyć oparty na niej współczynnik użycia siatki U (2). CE U = 100% (2) w h t Na problem można spojrzeć trójwymiarowo, wtedy zarówno siatka jak i zadania to prostopadłościany (3-ci wymiar to czas). Wartość U, można więc interpretować, jako procent wykorzystania objętości siatki przez zaalokowane zadania. Daje to obiektywne pojęcie o tym, jaka część siatki została zmarnowana. Drugim wskaźnikiem jakości jest funkcja czasu zakończenia TC=t fin. Stosowana jest, gdy czas życia siatki jest ustawiony na wartość 0, czyli siatka działa do przetworzenia wszystkich zadań. Funkcja TC, czyli t fin to chwila czasu, w której przetworzono ostatnie zadanie z listy. Stosowanie tej funkcji jest zalecane tylko czasami, gdyż nie pozwala ona obiektywnie ocenić wykorzystania siatki pozwala jedynie porównywać algorytmy. Mimo to, czasem jest potrzebna, gdyż samo porównanie algorytmów może wystarczyć na potrzeby określonego badania, zaś stosowanie podejścia z zerowym czasem życia (a co za tym idzie funkcji TC) skraca czas obliczeń. 3. UŻYTE ALGORYTMY Na potrzeby głównych algorytmów metaheurystycznych należało zdefiniować sposób reprezentacji rozwiązania problemu i sposób ewaluacji takiego rozwiązania. Zdecydowaliśmy, że rozwiązanie będziemy przedstawiać jako permutację zadań, w oparciu o którą, algorytmy pomocnicze przeprowadzą jednokrotną symulację alokacji. Dokonanie takiej symulacji pozwala wyliczyć wartość funkcji celu dla danego rozwiązania (permutacji zadań). Dlatego też, symulacja alokacji zadań wykonywana jest w każdej iteracji algorytmu głównego. Do tej symulacji wykorzystywane są algorytmy pomocnicze. Pierwszym z nich jest Dumb Fit (zwany dalej DF). Jest to prosty algorytm naszego autorstwa, będący zubożoną wersją, opisanego później, First Fit (zwanego dalej FF). Algorytm DF próbuje alokować kolejne zadania z listy, przeglądając ją i nie zmieniając kolejności (zawsze próbuje alokować tylko pierwsze zadanie). Przeglądana jest cała siatka w ciągu całego jej czasu życia. Algorytm FF działa identycznie, z tą różnicą, że dla każdej wykrytej wolnej podsiatki próbuje alokować wszystkie zadania z listy, a nie tylko pierwsze, więc może zmieniać kolejność zadań na liście. Obydwa algorytmy mogą także obracać zadania o 90 stopni przy próbach alokacji.
Jako główne algorytmy, zaimplementowaliśmy 3 popularne algorytmy przeszukiwania lokalnego: Tabu Search [3][5][2][6], stworzony przez F. Glovera, Simulated Annealing (Symulowane Wyżarzanie) [5][2][6], S. Kirkpatricka oraz Random Search [5]. Każdy z nich korzysta z przeglądu sąsiedztwa danego rozwiązania (które w określonej iteracji zwane jest rozwiązaniem bieżącym). Zdefiniowaliśmy 2 typy sąsiedztwa swap oraz insert. Algorytm RS jest najprostszym z trzech zaimplementowanych. Algorytm ten w każdej iteracji losuje nowe rozwiązanie bieżące z sąsiedztwa obecnego rozwiązania. Jest on bardzo odporny na minima lokalne ale, jako że stale zmienia rozwiązanie bieżące, nie jest w stanie precyzyjnie przeszukać żadnego sąsiedztwa. Algorytm SA posługuje się podstawowym parametrem temperatury. W czasie działania algorytmu temperatura ta spada. Na początku SA działa podobnie do RS, zaś wraz ze spadkiem temperatury zaczyna akceptować tylko rozwiązania lepsze od obecnego, dzięki czemu coraz dokładniej przegląda sąsiedztwo i zsuwa się do minimum. Algorytm TS działa podobnie do SA przy niskich temperaturach, jednak akceptuje, jako nowe bieżące, tylko te rozwiązania, które nie znajdują się na liście tabu. Tutaj podstawowym parametrem jest długość tej listy. Lista zabronionych rozwiązań utrudnia zagrzebanie się w minimum lokalnym. Każdy z w/w algorytmów zapamiętuje rozwiązanie bieżące jako najlepsze, jeśli jest ono lepsze od najlepszego dotychczas. 4. ŚRODOWISKO SYMULACYJNE W celu badania efektywności i specyfiki działania opisanych algorytmów dla zamodelowanego problemu, stworzyliśmy komputerowy system eksperymentowania. Jest to program napisany w jęz. C++ i działający w systemie Windows w środowisku konsolowym. Staraliśmy się go projektować pod kątem dania wielu możliwości badaczowi, w kwestii projektowania serii badań i analizy wyników. Stworzony przez autorów program, można uruchamiać z parametrami lub bez. Aplikacja umożliwia kilka trybów pracy. Pierwszy z nich to tryb demonstracyjny pokazuje pracę algorytmów DF i FF w jednokrotnym przebiegu symulacji alokacji krokowo, graficznie, tak jak na rys. 1. Kolejne 3 tryby umożliwiają wprowadzenie wszystkich potrzebnych danych i wykonanie jednokrotnego badania dla każdego z głównych algorytmów np. w celu kalibracji wartości parametrów pod kątem późniejszych serii badań. Dodatkowo możliwe jest wczytanie serii badań z pliku (przy użyciu odpowiedniej opcji w programie lub przy uruchomieniu z parametrem). Podsumowując: przy użyciu naszego programu można badać 3 zaimplementowane algorytmy w zależności od parametrów (takich jak liczba iteracji, temperatura początkowa i końcowa, długość listy tabu etc. od 4 do 7 parametrów dla każdego
algorytmu) i w zależności od typu danych wejściowych (można generować różnej długości listy zadań, różnej wielkości zadania, różnej wielkości siatki). Można planować serie badań i podawać je z pliku, można też wszystkie wyniki zapisywać do wielu lub jednego plików wyjściowych. Możliwe jest włączenie powtarzania badań w celu uśrednień, wykonywanie badań dla wielu lub jednej listy zadań itd. Wyniki można analizować w arkuszu kalkulacyjnym. Więcej informacji na temat naszego programu oraz formatów używanych plików można uzyskać, uruchamiając go z parametrem h, lub bezpośrednio z pliku pomocy help.txt. 5. BADANIA Wykonaliśmy przykładową serię badań dla wszystkich algorytmów i różnych parametrów w celu ogólnego porównania ich efektywności. Badania wykonywaliśmy dla instancji problemu określonej w tabeli 1. Mamy tu do czynienia ze zróżnicowaną wielkością zadań względem wymiarów siatki (przypadek ogólny). Wszystkie algorytmy działały przez 20000 iteracji (każde wykonanie trwało około 100 s). Tabela 1. Ustawienia listy zadań i siatki dla przykładowej serii badań. Zmienna w h t p i q i s i Wartość 12 12 1000 2 12 2 12 2 12 U [%] 89 88 87 86 85 84 83 82 81 80 79 78 SA od RS TS i FF 0 500 1000 1500 2000 2500 temp max (SA) SA FF RS T S Rys. 2. Wyniki SA w zależności od temperatury początkowej względem pozostałych algorytmów. Badania wykonaliśmy dla różnych temperatur początkowych SA, różnych długości listy tabu w TS. We wszystkich przypadkach użyliśmy funkcji DF do zainicjowania oraz w trakcie działania algorytmów. Temperatura końcowa w SA była
stała, profil spadku temperatury był geometryczny. Każde badanie było powtórzone 3- krotnie w celu uśrednienia wyników. Seria badań była załadowana z 1 pliku wejściowego. Najskuteczniejszy okazał się algorytm SA. Niezależnie od temperatury dawał on lepsze wyniki od najlepszego dla TS i RS oraz o około 10% lepsze od samego FF. Rys. 2. przedstawia wykres wartości funkcji celu w SA, w zależności od temperatury początkowej, względem najlepszych wyników z pozostałych algorytmów. Taki rezultat można tłumaczyć elastycznością SA, jeśli chodzi o połączenie odporności na minima lokalne oraz możliwości precyzyjnego poprawiania wyniku. Widać też, że początkowa temperatura ma kluczowe znaczenie dla działania SA. 6. PODSUMOWANIE Projektowanie oprogramowania do badania efektywności określonych algorytmów w rozwiązywaniu określonego problemu jest zadaniem złożonym. Projektant musi wziąć pod uwagę rozmaite czynniki, takie jak zdefiniowanie sposobu oceny jakości algorytmów czy określenie ich parametrów. Musi on też umożliwić użytkownikowi wygodne wykonywanie rozmaitych testów pod wieloma kątami. Nasze oprogramowanie staraliśmy się projektować mając te cele na uwadze i mamy nadzieję, że daje ono dosyć szerokie możliwości wykonywania rzetelnych badań. LITERATURA [1] BUZZBEE B, The Efficiency of Parallel Processing, Frontiers of Supercomputing, Los Alamos, 1983. [2] EMDEN-WEINART T., Local Search Algorithms and Metaheuristics, http://home.arcor.de/emden- Weinert/localsearch.html, 23 stycznia 2009. [3] GLOVER F., Tabu search, Kluwer Academic Publishers, 1997. [4] HERTZ A. TAILLARD E. WERRA D., A tutorial on taboo search, http://www.cs.colostate.edu/~whitley/cs640/hertz92tutorial.pdf, 23 stycznia 2009. [5] LICHTENSTEIN M., Algorytmy lokalnego przeszukiwania, ftp://ender.iiar.pwr.wroc.pl/automatyka/pta/ls.pdf, 23 stycznia 2009. [6] TROJANOWSKI K., Metaheurystyki praktycznie, WSISiZ, Warszawa, 2005. COMPUTER SYSTEM FOR RESEARCHING THE EFFICIENCY OF METAHEURISTIC ALLOCATION ALGORITHMS This article contains a short description of an experimentation system designed to test the efficiency of metaheuristic local search algorithms in two-dimensional task allocation. It defines the problem, methods of evaluation, gives a brief summary of the algorithms and describes the main ideas behind our simulation software. There is also an example of an experiment performed with our software.