AUTOMATYKA 2011 Tom 15 Zeszyt 2 Bogus³aw Filipowicz*, Joanna Kwiecieñ* Algorytmy stadne w optymalizacji problemów przydzia³u przy wadratowym wsaÿniu jaoœci (QAP) 1. Wprowadzenie W ci¹gu ostatnih ilunastu lat nast¹pi³ intensywny rozwój algorytmów stadnych, tórych zasady dzia³ania zosta³y zaczerpniête z obserwacji natury. Naœladuj¹ one zachowania istniej¹ce w œwiecie owadów, zwierz¹t, ptaów i dostarczaj¹ bardzo wydajnych metod. Ich g³ówn¹ zalet¹ jest to, e bazuj¹ na zbiorze rozwi¹zañ danego problemu, ³atwo dostosowuj¹c siê do ograniczeñ, niezale nie od liczby zmiennych oraz rozmiaru przestrzeni rozwi¹zañ. Do lasy algorytmów stadnych nale ¹ algorytmy mrówowe oparte na zachowaniu olonii mrówe (ACO ant colony optimization), algorytmy pszczele bazuj¹ce na zachowaniu roju pszczó³ (BA bee algorithm) i algorytmy optymalizacji rojem cz¹ste (PSO, particle swarm optimization) oparte na obserwacji zachowania ca³ej populacji (stada ptaów, ³awicy ryb), przy mo liwoœci wymiany informacji miêdzy osobniami. Algorytmy ACO, BA i PSO nale ¹ do lasy dynamicznie rozwijaj¹cych siê techni optymalizacji. Ich zastosowania w wielu dziedzinach wsazuj¹ na olbrzymi potencja³, ze wzglêdu na efetywnoœæ w poszuiwaniu globalnego rozwi¹zania. Algorytmy te mo na wyorzystaæ do rozwi¹zania problemów przydzia³u przy wadratowym wsaÿniu jaoœci (QAP quadratic assignment problem), tóre nale ¹ dla lasy zagadnieñ NP-trudnych. 2. Matematyczny model problemu QAP Zagadnienie QAP oreœlone jest poprzez dwie macierze n n: A = [a i,j ], B = [b,l ]. Niech π(i) N, i = 1,..., n oreœla numer obietu przydzielonego do pozycji i, zaœ zbiór numerów obietów oznaczony jest jao N = {1,..., n}. Macierz A oreœla odleg³oœci pomiêdzy pozycjami rozmieszczenia obietów, a macierz B opisuje powi¹zania pomiêdzy tymi * AGH Aademia Górniczo-Hutnicza, Wydzia³ Eletrotechnii, Automatyi, Informatyi i Eletronii, Katedra Automatyi 159
160 Bogus³aw Filipowicz, Joanna Kwiecieñ obietami. Celem jest znalezienie taiej permutacji π = (π(1),..., π(n)) elementów zbioru obietów, tóra minimalizuje funcjê celu z(π) oreœlaj¹c¹ globalny oszt realizacji systemu [1, 3, 4]: n n π = π() i π( j) ij (1) i= 1 j= 1 z( ) a b 3. Wybrane algorytmy stadne i ich zastosowanie do QAP W latach 90. ubieg³ego wieu M. Dorigo, opracowa³ algorytm wzorowany na zachowaniu olonii mrówe do ombinatorycznych problemów optymalizacyjnych. Do zapewnienia przetrwania olonii mrówe onieczna jest omuniacja, odbywaj¹ca siê poprzez wydzielanie feromonów, tórych detecja determinuje oreœlone reacje. Mrówi pod¹ aj¹ce za nimi, wybieraj¹ drogê na podstawie intensywnoœci pozostawionego feromonu. Im wiêcej feromonu na œcie ce, tym istnieje wiêsze prawdopodobieñstwo obrania danej trasy przez mrówi. Mrówi dostosowuj¹ siê do zmian zachodz¹cych w œrodowisu, modyfiuj¹c trasê w przypadu pojawienia siê przeszody, przerywaj¹cej œlad feromonowy, a nastêpnie poruszaj¹c siê w sposób losowy, wybieraj¹ drogê, przy czym prawdopodobieñstwo owego wyboru jest jednaowe dla mrówe przed przeszod¹ i powracaj¹cych do gniazda. Mrówi wybieraj¹ce rótsz¹ drogê przyczyniaj¹ siê do szybszego odbudowania œladu feromonowego [10, 11]. W 1995 rou Kennedy i Eberhart opracowali algorytm optymalizacji rojem cz¹ste (PSO). Algorytm ten bazuje na zachowaniu ca³ej populacji (np. stado ptaów, rój owadów), w tórej osobnii omuniuj¹ siê miêdzy sob¹ i dziel¹ siê informacjami. Cz¹sti przemieszczaj¹ siê do nowych po³o eñ, poszuuj¹c optimum. Ca³y rój pod¹ a za przywódc¹ (najlepszym rozwi¹zaniem), przyspieszaj¹c i zmieniaj¹c ierune, gdy zostanie znalezione lepsze rozwi¹zanie [2, 6, 11]. Algorytmy pszczele (BA) s¹ olejn¹ metod¹ nale ¹c¹ do lasy algorytmów stadnych, tórych rozwój datuje siê na ores 2004 2007. Organizacja roju pszczó³ chc¹cych zdobyæ optymaln¹ iloœæ wiatostanów polega na rozsy³aniu we wszystie strony pszczó³-zwiadowców, tóre przeszuuj¹ w odleg³oœci ilunastu ilometrów od ula obszary zasobne w netar. Pocz¹towe szuanie netaru odbywa siê w sposób losowy. Po powrocie do ula pszczo- ³a-zwiadowca powiadamia pozosta³e pszczo³y o najlepszym swoim odryciu. W tracie wyonywania tañca pszczelego nastêpuje wymiana informacji (nt. jaoœci, ierunu i odleg³oœci po ywienia od puntu bazowego) miêdzy zwiadowcami a pozosta³ymi pszczo³ami niezatrudnionymi, tóre z olei wybieraj¹ najlepsze miejsca i rozpoczynaj¹ zbiory netaru. Im obfitsze Ÿród³o poarmu tym wiêcej pszczó³ dowiaduje siê o tym miejscu. Pszczo³y powracaj¹ce z wyprawy z py³iem przeazuj¹ pozosta³ym osobniom podejmuj¹cym na tej podstawie decyzjê, za œladem, tórej pszczo³y-zwiadowcy pod¹ yæ. Pszczo³a zbieraj¹ca netar mo e równie powiadomiæ pozosta³e o miejscu wystêpowania netaru [4, 9].
Algorytmy stadne w optymalizacji problemów przydzia³u... 161 3.1. Zastosowanie algorytmów mrówowych do problemów QAP System mrówowy AS (ant system) jest algorytmem, tóry mo na stosowaæ do problemów QAP. W tracie onstruowania rozwi¹zania mrówa przypisuje obiet i do loalizacji j z prawdopodobieñstwem (2). W celu obliczenia informacji heurystycznej wyorzystywane s¹ dwa wetory a oraz b. Element i-ty wetora a oznacza sumê odleg³oœci loalizacji i od wszystich pozosta³ych, natomiast w przypadu wetora b przedstawia sumê przep³ywów z danego obietu i do pozosta³ych obietów. Nale y wyznaczyæ macierz E = b a T, w tórej a dy element e ij = b i a j, co zapewni wiêsze prawdopodobieñstwo przypisania ma³ych wartoœci d i, reprezentuj¹cych odleg³oœci miêdzy loacjami, do obietów z najwiêszymi przep³ywami b i. Przypisane obiety i loalizacje s¹ bloowane do czasu uoñczenia rozwi¹zania. Maj¹c ompletne rozwi¹zanie uruchamiane jest przeszuiwanie loalne, w wyniu tórego otrzymujemy permutacjê liczb, z tórej mo na odczytaæ przypisanie obietów do loalizacji [10]. W a dym rou mrówce zostaje przydzielony nastêpny wolny obiet i do wolnej pozycji j z prawdopodobieñstwem: [ τ ij ()] t [ ηij ] pij () t =, j N α β [ τ ()] t [ η ] l Ni il α β il i (2) gdzie τ ij jest œladem feromonowym w iteracji t, α to parametr ontroluj¹cy wagê feromonu, β parametr ontroluj¹cy wagê wartoœci heurystycznych, N i jest s¹siedztwem wêz³a i (tylo wolne pozycje). Uatualnienie œladu feromonowego jest realizowane wed³ug zale noœci: m τ ij ( + 1) =ρτ ij ( t) + Δτij (3) = 1 przy czym dla -tej mrówi: Q / J, obiet i przypisany do loacji j Δτ ij = 0 (4) gdzie: ρ (0, 1) jest wspó³czynniiem wyparowywania feromonu, zaœ J jest funcj¹ celu, Q wartoœæ feromonu pozostawionego przez mrówê. Kolejnym algorytmem mrówowym, tóry mo na zastosowaæ do problemu QAP, jest system mrówowy ze strategi¹ max-min (MMAS, ang. max-min ant system), w tórym wprowadza siê masymalny τ max i minimalny τ min poziom feromonu. Tylo jedna mrówa
162 Bogus³aw Filipowicz, Joanna Kwiecieñ pozostawia œlad feromonowy, ta tóra stanowi globalnie najlepsze rozwi¹zanie lub najlepsze rozwi¹zanie w danej iteracji. Pocz¹towo wszystie œlady feromonowe s¹ inicjalizowane wartoœci¹ τ max. Mrówa wybiera losowo nieprzypisane jeszcze i-te zadanie i umieszcza w wolnej pozycji j z prawdopodobieñstwem [10]: τij () t pij () t =, j Ni τil () t l N i (5) Po sonstruowaniu rozwi¹zania przez wszystie mrówi, œlad feromonowy jest uatualniony wed³ug zale noœci: przy czym: gdzie J best jest funcj¹ celu. best ij ij ij τ ( + 1) =ρτ ( t) +Δτ (6) best best 1/ J, obiet i przypisany do loacji j Δτ ij = (7) 0 3.2. Zastosowanie algorytmu optymalizacji rojem cz¹ste do rozwi¹zania QAP W algorytmie PSO a dej cz¹stce przypisujemy oreœlone po³o enie i prêdoœæ. Cz¹sti znaj¹ swoich s¹siadów oraz wartoœæ funcji ewaluacyjnej dla swoich po³o eñ [2, 5, 6, 11]. Po³o enie oraz prêdoœæ i-tej cz¹sti w d-wymiarowej przestrzeni mo na przedstawiæ odpowiednio w postaci wetorów x i = [x i1, x i2,..., x id ] oraz v i = [v i1, v i2,..., v id ]. Ka da z cz¹ste zna swoj¹ w³asn¹ najlepsz¹ pozycjê p i = [p i1, p i2,..., p id ] odpowiadaj¹c¹ najlepszej uzysanej dotychczas wartoœci funcji celu oraz najlepsz¹ pozycjê cz¹sti-przywódcy w ca³ym roju oreœlon¹ jao p d = [p d1, p d2,..., p dd ]. Podstawowy algorytm optymalizacji rojem cz¹ste mo na przedstawiæ w ilu etapach [2, 6, 11]: 1) losowa inicjalizacja pozycji i prêdoœci pocz¹towych cz¹ste; 2) ocena po³o enia cz¹ste za pomoc¹ funcji dopasowania; 3) porównanie zachowania a dej cz¹sti z jej najlepszym dotychczasowym zachowaniem; 4) uatualnienie prêdoœci a dej cz¹sti w a dym rou : vi( ) =ωvi( 1) + c11 r[ pi( 1) xi( 1)] + c2r2[ pd( 1) xi( 1)] (8)
Algorytmy stadne w optymalizacji problemów przydzia³u... 163 przy czym ω oznacza wspó³czynni inercji ruchu cz¹sti, c 1 to wsaÿni samooceny oznaczaj¹cy zaufanie ierunowi swojego najlepszego po³o enia, c 2 to wsaÿni spo- ³ecznoœciowy oreœlaj¹cy ja bardzo cz¹sta ufa po³o eniom swoich s¹siadów, r 1 oraz r 2 to losowe liczby o roz³adzie równomiernym w przedziale [0, 1]; 5) uatualnienie po³o enia a dej cz¹sti: xi( ) = xi( 1) + vi( ) (9) W celu inicjalizacji cz¹ste mo na utworzyæ wetor AC oreœlaj¹cy olejnoœæ zadañ na podstawie oszacowanego osztu transportu zadania i do zadania i+1, w olejnoœci nierosn¹cej oraz wetor BC, tóry przedstawia olejnoœæ loacji na podstawie odleg³oœci z loacji j do j+1, uszeregowanej nierosn¹co. Wetor rozwi¹zañ x i polega wiêc na przypisaniu olejno zadañ z wetora AC do loacji z wetora BC [8]. W pracy [7] przedstawiono przybli enie optymalizacji rojem cz¹ste (fuzzy particle swarm approach), tóre mo na stosowaæ do rozwi¹zania mniej sompliowanych problemów QAP. Dla zbioru n obietów N = {N 1, N 2,..., N n }i zbioru n loacji L = {L 1, L 2,..., L n } mo na relacjê przypisania obietów do loalizacji wyraziæ jao: as11 as12 L as1 n as21 as22 as 2n AS L = M M O M asn1 asn2 L asnn (10) gdzie as ij oreœla stopieñ przynale noœci j-tego elementu N j do i-tego elementu L i w relacji AS. Oczywiœcie elementy rozwi¹zania musz¹ spe³niaæ nastêpuj¹ce waruni: asij {0,1}, i = 1,2,..., n; j = 1,2,..., n n n asij = 1, asij = 1 i= 1 j= 1 (11) W celu zastosowania algorytmu PSO do wadratowego problemu przydzia³u nale y przedefiniowaæ pozycjê X i prêdoœæ V w nastêpuj¹cy sposób [7]: X x11 x12 L x1n v11 v12 L v1n x21 x22 x 2n v21 v22 v L 2n ; V L = = M M O M M M O M x x L x v v L v n1 n2 nn n1 n2 nn (12)
164 Bogus³aw Filipowicz, Joanna Kwiecieñ przy ograniczeniach: xij {0,1}, i = 1, 2,..., n; j = 1,2,..., n n n xij = 1, xij = 1 i= 1 j= 1 (13) Aby macierz pozycji nie narusza³a ograniczeñ (11), nale y j¹ znormalizowaæ. Podlega wiêc ona nastêpuj¹cemu przeszta³ceniu [7]: X znormalizowana n n n x11 / x 1 i1 x12 / x 1 i2 x1n / x i= L i= i= 1 in n n n x21 / x 1 i1 x22 / x 1 i2 x2n / x = i= L i= i= 1 in M M O M n n n xn1/ x 1 i1 xn2 / x 1 i2 xnn / x i= L i= i= 1 in (14) Macierz pozycji wsazuje potencjalne rozwi¹zanie przydzia³u. Wybieramy element masymalny w olumnie i przypisujemy mu wartoœæ 1, pozosta³e elementy przyjmuj¹ zerowe wartoœci. Po przeanalizowaniu wszystich olumn i wierszy otrzymujemy rozwi¹zanie problemu przydzia³u bez naruszenia ograniczeñ (11) [7]. 3.3. Zastosowanie algorytmu pszczelego do rozwi¹zania QAP Algorytm pszczeli jest algorytmem iteracyjnym, tóry mo na zrealizowaæ w ilu etapach [4, 9]: 1. Losowa inicjalizacja populacji pocz¹towej (permutacji). 2. Obliczenie funcji celu dla ca³ej populacji i przejœcie do olejnego etapu czêœci rozwi¹zañ. 3. Dopói niespe³nione jest ryterium stopu, nale y przeprowadziæ: wybór miejsc do przeszuiwania s¹siedztwa (zdefiniowanie s¹siedztwa rozwi¹zania), rerutacja pszczó³ do najlepszych miejsc (proporcjonalnie do jaoœci miejsca), wyliczenie funcji celu (posortowanie rozwi¹zañ populacji wed³ug funcji celu), wybranie najlepszej pszczo³y w danym miejscu (a de z przeszuiwañ loalnych generuje najlepsze loalne rozwi¹zanie), przeszuiwanie przestrzeni rozwi¹zañ niezatrudnionymi pszczo³ami przypisanie pozosta³ych pszczó³ do losowych poszuiwañ i wyliczenie ich funcji dopasowania. 4. Spe³nione ryterium stopu (np. zadana liczba iteracji) wyznaczenie najlepszego rozwi¹zania.
Algorytmy stadne w optymalizacji problemów przydzia³u... 165 4. Wynii przeprowadzonych esperymentów Do przetestowania dzia³ania trzech algorytmów wybrano instancje testowe z bibliotei QAPLIB, dostêpnej on-line [12], w tórej zawarte s¹ ró norodne zagadnienia przydzia- ³u przy wadratowym wsaÿniu jaoœci. Wynii przy³adowych esperymentów podano w tabeli 1. Tabela 1 Wynii esperymentów dla algorytmów mrówowych, algorytmów optymalizacji rojem cz¹ste i algorytmów pszczelich dla wybranych instancji testowych z bibliotei QAPLIB Nazwa problemu Algorytmy mrówowe Algorytm PSO Algorytmy pszczele Znane najlepsze rozwi¹zanie BUR26A 5473280 5527047 5466244 5426670 BUR26H 7182482 7292985 7098658 7098658 ESC32C 642 642 642 642 ESC32F 2 2 2 2 ESC32G 6 6 6 6 LIPA40A 31538 32412 31932 31538 LIPA50B 1460852 1210244 1422472 1210244 LIPA70B 5379780 4603200 5503244 4603200 LIPA90A 363379 366396 363095 360630 NUG21 2764 2818 2464 2438 NUG25 4280 4370 3764 3744 SKO42 16788 17622 16014 14934 SKO49 26624 27312 23644 22004 SKO81 102258 104060 91746 86072 WIL50 51388 53044 49086 48816 Na podstawie przeprowadzonych esperymentów mo na stwierdziæ, e najlepszym algorytmem do rozwi¹zania problemów przydzia³u przy wadratowym wsaÿniu jaoœci jest algorytm pszczeli. W wiêszoœci przetestowanych przypadów znajdowa³ rozwi¹zanie najbli sze najlepszemu znanemu rozwi¹zaniu. Przyjête parametry algorytmu pszczelego to 500 iteracji oraz 100 pszczó³. W przypadu algorytmu optymalizacji rojem cz¹ste w instancjach z rodziny bur26 uzysano co prawda wynii gorsze, to jedna dla problemów z rodziny lipa osi¹ga³y bardzo dobre rezultaty, w³¹cznie ze znajdywaniem optymalnego rozwi¹zania. Na wynii obliczeñ wp³ywaj¹ parametry algorytmu, w tym wspó³czynnii c 1 i c 2. Najlepsze wynii otrzymane zosta³y dla parametrów c 1 = c 2 = 0,2. Przyjêto 500 iteracji algorytmu. Wp³yw
166 Bogus³aw Filipowicz, Joanna Kwiecieñ wspó³czynnia inercji jest zale ny od rozmiaru instancji problemu dla problemu bur26a.dat najlepsze wynii dawa³a wartoœæ inercji równa 0,5, dla wiêszego lipa40a.dat ni sza wartoœæ (0,25). W badanych instancjach wy szy wspó³czynni inercji pogarsza³ otrzymywane wynii. Algorytm mrówowy wyonywany by³ równie dla ilu mo liwych ustawieñ. Niestety trudno jest ustaliæ najlepsze parametry, przetestowano wiêc go dla wybranych ustawieñ: 500 iteracji, wspó³czynni wyparowywania feromonu 0,1, masymalny poziom feromonu τ max = 10 i minimalny poziom feromonu τ min = 0,1. 5. Podsumowanie W artyule przedstawiono zastosowanie trzech algorytmów inspirowanych przez naturê do rozwi¹zania wadratowego problemu przydzia³u. Spoœród przedstawionych algorytmów stadnych, najlepsze wynii zosta³y uzysane dla algorytmu pszczelego. G³ównym problemem w przetestowaniu algorytmów mrówowych i optymalizacji rojem cz¹ste by³o dobranie odpowiednich ustawieñ parametrów. Literatura [1] Burard R.E., Karisch S.E., Rendl F., QAPLIB A Quadratic Assignment Problem Library. European Journal of Operational Research, 55, 1991, 115 119. [2] Eberhart R., Shi Y., Kennedy J., Swarm Intelligence. Morgan Kaufman, San Francisco 2001. [3] Filipowicz B., Wala K., Algorytmy optymalizacji wadratowego zagadnienia przydzia³u. Eletrotechnia (wartalni AGH), z. 1, 1992. [4] Filipowicz B., Chmiel W., Kad³ucza P., Uierunowane przeszuiwanie przestrzeni rozwi¹zañ w algorytmach rojowych. Automatya (pó³roczni AGH), 13, 2, 2009. [5] Gong T., Tuson A.L., Particle swarm optimization for quadratic assignment problems a forma analysis approach. International Journal of Computational Intelligence Research, 4, 2008, 177 185. [6] Kennedy J., Eberhart R., Particle Swarm Optimization. Materia³y IEEE International Conference on Neural Networs, 4, 1942 1948, 1995 [7] Liu H., Abraham A., Zhang J., A particle swarm approach to quadratic assignment problems. Soft Computing in Industrial Applications. Advances in Intelligent and Soft Computing, 39, 2007, 213 222. [8] Nêdza T., Szpat K., Zastosowanie algorytmu ptasiego do rozwi¹zania problemów optymalizacji ombinatorycznej. Praca in yniersa (niepubliowana), AGH, 2011 (promotor B. Filipowicz). [9] Pham D.T., Ghanbarzadeh A., Koc E., Otri S., Rahim S., Zaidi M., The Bees Algorithm A Novel Tool for Complex Optimisation Problems. Technical Note, Manufacturing Engineering Centre, Cardiff University, UK, 2005. [10] Stützle T., Dorigo M., ACO Algorithms for the Quadratic Assignment Problem. [w:] D. Corne, M. Dorigo., F. Glover, New Ideas for Optimization, McGraw-Hill, 1999, 33 50. [11] Trojanowsi K., Metaheurystyi pratycznie. Wydawnictwo WIT, Warszawa 2005. [12] Zbiór instancji testowych problemu QAP: http://www.seas.upenn.edu/qaplib/.