Algorytmy stadne w optymalizacji problemów przydzia³u przy kwadratowym wskaÿniku jakoœci (QAP)

Transkrypt

1 AUTOMATYKA 2011 Tom 15 Zeszyt 2 Bogus³aw Filipowicz*, Joanna Kwiecieñ* Algorytmy stadne w optymalizacji problemów przydzia³u przy wadratowym wsaÿniu jaoœci (QAP) 1. Wprowadzenie W ci¹gu ostatnih ilunastu lat nast¹pi³ intensywny rozwój algorytmów stadnych, tórych zasady dzia³ania zosta³y zaczerpniête z obserwacji natury. Naœladuj¹ one zachowania istniej¹ce w œwiecie owadów, zwierz¹t, ptaów i dostarczaj¹ bardzo wydajnych metod. Ich g³ówn¹ zalet¹ jest to, e bazuj¹ na zbiorze rozwi¹zañ danego problemu, ³atwo dostosowuj¹c siê do ograniczeñ, niezale nie od liczby zmiennych oraz rozmiaru przestrzeni rozwi¹zañ. Do lasy algorytmów stadnych nale ¹ algorytmy mrówowe oparte na zachowaniu olonii mrówe (ACO ant colony optimization), algorytmy pszczele bazuj¹ce na zachowaniu roju pszczó³ (BA bee algorithm) i algorytmy optymalizacji rojem cz¹ste (PSO, particle swarm optimization) oparte na obserwacji zachowania ca³ej populacji (stada ptaów, ³awicy ryb), przy mo liwoœci wymiany informacji miêdzy osobniami. Algorytmy ACO, BA i PSO nale ¹ do lasy dynamicznie rozwijaj¹cych siê techni optymalizacji. Ich zastosowania w wielu dziedzinach wsazuj¹ na olbrzymi potencja³, ze wzglêdu na efetywnoœæ w poszuiwaniu globalnego rozwi¹zania. Algorytmy te mo na wyorzystaæ do rozwi¹zania problemów przydzia³u przy wadratowym wsaÿniu jaoœci (QAP quadratic assignment problem), tóre nale ¹ dla lasy zagadnieñ NP-trudnych. 2. Matematyczny model problemu QAP Zagadnienie QAP oreœlone jest poprzez dwie macierze n n: A = [a i,j ], B = [b,l ]. Niech π(i) N, i = 1,..., n oreœla numer obietu przydzielonego do pozycji i, zaœ zbiór numerów obietów oznaczony jest jao N = {1,..., n}. Macierz A oreœla odleg³oœci pomiêdzy pozycjami rozmieszczenia obietów, a macierz B opisuje powi¹zania pomiêdzy tymi * AGH Aademia Górniczo-Hutnicza, Wydzia³ Eletrotechnii, Automatyi, Informatyi i Eletronii, Katedra Automatyi 159

2 160 Bogus³aw Filipowicz, Joanna Kwiecieñ obietami. Celem jest znalezienie taiej permutacji π = (π(1),..., π(n)) elementów zbioru obietów, tóra minimalizuje funcjê celu z(π) oreœlaj¹c¹ globalny oszt realizacji systemu [1, 3, 4]: n n π = π() i π( j) ij (1) i= 1 j= 1 z( ) a b 3. Wybrane algorytmy stadne i ich zastosowanie do QAP W latach 90. ubieg³ego wieu M. Dorigo, opracowa³ algorytm wzorowany na zachowaniu olonii mrówe do ombinatorycznych problemów optymalizacyjnych. Do zapewnienia przetrwania olonii mrówe onieczna jest omuniacja, odbywaj¹ca siê poprzez wydzielanie feromonów, tórych detecja determinuje oreœlone reacje. Mrówi pod¹ aj¹ce za nimi, wybieraj¹ drogê na podstawie intensywnoœci pozostawionego feromonu. Im wiêcej feromonu na œcie ce, tym istnieje wiêsze prawdopodobieñstwo obrania danej trasy przez mrówi. Mrówi dostosowuj¹ siê do zmian zachodz¹cych w œrodowisu, modyfiuj¹c trasê w przypadu pojawienia siê przeszody, przerywaj¹cej œlad feromonowy, a nastêpnie poruszaj¹c siê w sposób losowy, wybieraj¹ drogê, przy czym prawdopodobieñstwo owego wyboru jest jednaowe dla mrówe przed przeszod¹ i powracaj¹cych do gniazda. Mrówi wybieraj¹ce rótsz¹ drogê przyczyniaj¹ siê do szybszego odbudowania œladu feromonowego [10, 11]. W 1995 rou Kennedy i Eberhart opracowali algorytm optymalizacji rojem cz¹ste (PSO). Algorytm ten bazuje na zachowaniu ca³ej populacji (np. stado ptaów, rój owadów), w tórej osobnii omuniuj¹ siê miêdzy sob¹ i dziel¹ siê informacjami. Cz¹sti przemieszczaj¹ siê do nowych po³o eñ, poszuuj¹c optimum. Ca³y rój pod¹ a za przywódc¹ (najlepszym rozwi¹zaniem), przyspieszaj¹c i zmieniaj¹c ierune, gdy zostanie znalezione lepsze rozwi¹zanie [2, 6, 11]. Algorytmy pszczele (BA) s¹ olejn¹ metod¹ nale ¹c¹ do lasy algorytmów stadnych, tórych rozwój datuje siê na ores Organizacja roju pszczó³ chc¹cych zdobyæ optymaln¹ iloœæ wiatostanów polega na rozsy³aniu we wszystie strony pszczó³-zwiadowców, tóre przeszuuj¹ w odleg³oœci ilunastu ilometrów od ula obszary zasobne w netar. Pocz¹towe szuanie netaru odbywa siê w sposób losowy. Po powrocie do ula pszczo- ³a-zwiadowca powiadamia pozosta³e pszczo³y o najlepszym swoim odryciu. W tracie wyonywania tañca pszczelego nastêpuje wymiana informacji (nt. jaoœci, ierunu i odleg³oœci po ywienia od puntu bazowego) miêdzy zwiadowcami a pozosta³ymi pszczo³ami niezatrudnionymi, tóre z olei wybieraj¹ najlepsze miejsca i rozpoczynaj¹ zbiory netaru. Im obfitsze Ÿród³o poarmu tym wiêcej pszczó³ dowiaduje siê o tym miejscu. Pszczo³y powracaj¹ce z wyprawy z py³iem przeazuj¹ pozosta³ym osobniom podejmuj¹cym na tej podstawie decyzjê, za œladem, tórej pszczo³y-zwiadowcy pod¹ yæ. Pszczo³a zbieraj¹ca netar mo e równie powiadomiæ pozosta³e o miejscu wystêpowania netaru [4, 9].

3 Algorytmy stadne w optymalizacji problemów przydzia³u Zastosowanie algorytmów mrówowych do problemów QAP System mrówowy AS (ant system) jest algorytmem, tóry mo na stosowaæ do problemów QAP. W tracie onstruowania rozwi¹zania mrówa przypisuje obiet i do loalizacji j z prawdopodobieñstwem (2). W celu obliczenia informacji heurystycznej wyorzystywane s¹ dwa wetory a oraz b. Element i-ty wetora a oznacza sumê odleg³oœci loalizacji i od wszystich pozosta³ych, natomiast w przypadu wetora b przedstawia sumê przep³ywów z danego obietu i do pozosta³ych obietów. Nale y wyznaczyæ macierz E = b a T, w tórej a dy element e ij = b i a j, co zapewni wiêsze prawdopodobieñstwo przypisania ma³ych wartoœci d i, reprezentuj¹cych odleg³oœci miêdzy loacjami, do obietów z najwiêszymi przep³ywami b i. Przypisane obiety i loalizacje s¹ bloowane do czasu uoñczenia rozwi¹zania. Maj¹c ompletne rozwi¹zanie uruchamiane jest przeszuiwanie loalne, w wyniu tórego otrzymujemy permutacjê liczb, z tórej mo na odczytaæ przypisanie obietów do loalizacji [10]. W a dym rou mrówce zostaje przydzielony nastêpny wolny obiet i do wolnej pozycji j z prawdopodobieñstwem: [ τ ij ()] t [ ηij ] pij () t =, j N α β [ τ ()] t [ η ] l Ni il α β il i (2) gdzie τ ij jest œladem feromonowym w iteracji t, α to parametr ontroluj¹cy wagê feromonu, β parametr ontroluj¹cy wagê wartoœci heurystycznych, N i jest s¹siedztwem wêz³a i (tylo wolne pozycje). Uatualnienie œladu feromonowego jest realizowane wed³ug zale noœci: m τ ij ( + 1) =ρτ ij ( t) + Δτij (3) = 1 przy czym dla -tej mrówi: Q / J, obiet i przypisany do loacji j Δτ ij = 0 (4) gdzie: ρ (0, 1) jest wspó³czynniiem wyparowywania feromonu, zaœ J jest funcj¹ celu, Q wartoœæ feromonu pozostawionego przez mrówê. Kolejnym algorytmem mrówowym, tóry mo na zastosowaæ do problemu QAP, jest system mrówowy ze strategi¹ max-min (MMAS, ang. max-min ant system), w tórym wprowadza siê masymalny τ max i minimalny τ min poziom feromonu. Tylo jedna mrówa

4 162 Bogus³aw Filipowicz, Joanna Kwiecieñ pozostawia œlad feromonowy, ta tóra stanowi globalnie najlepsze rozwi¹zanie lub najlepsze rozwi¹zanie w danej iteracji. Pocz¹towo wszystie œlady feromonowe s¹ inicjalizowane wartoœci¹ τ max. Mrówa wybiera losowo nieprzypisane jeszcze i-te zadanie i umieszcza w wolnej pozycji j z prawdopodobieñstwem [10]: τij () t pij () t =, j Ni τil () t l N i (5) Po sonstruowaniu rozwi¹zania przez wszystie mrówi, œlad feromonowy jest uatualniony wed³ug zale noœci: przy czym: gdzie J best jest funcj¹ celu. best ij ij ij τ ( + 1) =ρτ ( t) +Δτ (6) best best 1/ J, obiet i przypisany do loacji j Δτ ij = (7) Zastosowanie algorytmu optymalizacji rojem cz¹ste do rozwi¹zania QAP W algorytmie PSO a dej cz¹stce przypisujemy oreœlone po³o enie i prêdoœæ. Cz¹sti znaj¹ swoich s¹siadów oraz wartoœæ funcji ewaluacyjnej dla swoich po³o eñ [2, 5, 6, 11]. Po³o enie oraz prêdoœæ i-tej cz¹sti w d-wymiarowej przestrzeni mo na przedstawiæ odpowiednio w postaci wetorów x i = [x i1, x i2,..., x id ] oraz v i = [v i1, v i2,..., v id ]. Ka da z cz¹ste zna swoj¹ w³asn¹ najlepsz¹ pozycjê p i = [p i1, p i2,..., p id ] odpowiadaj¹c¹ najlepszej uzysanej dotychczas wartoœci funcji celu oraz najlepsz¹ pozycjê cz¹sti-przywódcy w ca³ym roju oreœlon¹ jao p d = [p d1, p d2,..., p dd ]. Podstawowy algorytm optymalizacji rojem cz¹ste mo na przedstawiæ w ilu etapach [2, 6, 11]: 1) losowa inicjalizacja pozycji i prêdoœci pocz¹towych cz¹ste; 2) ocena po³o enia cz¹ste za pomoc¹ funcji dopasowania; 3) porównanie zachowania a dej cz¹sti z jej najlepszym dotychczasowym zachowaniem; 4) uatualnienie prêdoœci a dej cz¹sti w a dym rou : vi( ) =ωvi( 1) + c11 r[ pi( 1) xi( 1)] + c2r2[ pd( 1) xi( 1)] (8)

5 Algorytmy stadne w optymalizacji problemów przydzia³u przy czym ω oznacza wspó³czynni inercji ruchu cz¹sti, c 1 to wsaÿni samooceny oznaczaj¹cy zaufanie ierunowi swojego najlepszego po³o enia, c 2 to wsaÿni spo- ³ecznoœciowy oreœlaj¹cy ja bardzo cz¹sta ufa po³o eniom swoich s¹siadów, r 1 oraz r 2 to losowe liczby o roz³adzie równomiernym w przedziale [0, 1]; 5) uatualnienie po³o enia a dej cz¹sti: xi( ) = xi( 1) + vi( ) (9) W celu inicjalizacji cz¹ste mo na utworzyæ wetor AC oreœlaj¹cy olejnoœæ zadañ na podstawie oszacowanego osztu transportu zadania i do zadania i+1, w olejnoœci nierosn¹cej oraz wetor BC, tóry przedstawia olejnoœæ loacji na podstawie odleg³oœci z loacji j do j+1, uszeregowanej nierosn¹co. Wetor rozwi¹zañ x i polega wiêc na przypisaniu olejno zadañ z wetora AC do loacji z wetora BC [8]. W pracy [7] przedstawiono przybli enie optymalizacji rojem cz¹ste (fuzzy particle swarm approach), tóre mo na stosowaæ do rozwi¹zania mniej sompliowanych problemów QAP. Dla zbioru n obietów N = {N 1, N 2,..., N n }i zbioru n loacji L = {L 1, L 2,..., L n } mo na relacjê przypisania obietów do loalizacji wyraziæ jao: as11 as12 L as1 n as21 as22 as 2n AS L = M M O M asn1 asn2 L asnn (10) gdzie as ij oreœla stopieñ przynale noœci j-tego elementu N j do i-tego elementu L i w relacji AS. Oczywiœcie elementy rozwi¹zania musz¹ spe³niaæ nastêpuj¹ce waruni: asij {0,1}, i = 1,2,..., n; j = 1,2,..., n n n asij = 1, asij = 1 i= 1 j= 1 (11) W celu zastosowania algorytmu PSO do wadratowego problemu przydzia³u nale y przedefiniowaæ pozycjê X i prêdoœæ V w nastêpuj¹cy sposób [7]: X x11 x12 L x1n v11 v12 L v1n x21 x22 x 2n v21 v22 v L 2n ; V L = = M M O M M M O M x x L x v v L v n1 n2 nn n1 n2 nn (12)

6 164 Bogus³aw Filipowicz, Joanna Kwiecieñ przy ograniczeniach: xij {0,1}, i = 1, 2,..., n; j = 1,2,..., n n n xij = 1, xij = 1 i= 1 j= 1 (13) Aby macierz pozycji nie narusza³a ograniczeñ (11), nale y j¹ znormalizowaæ. Podlega wiêc ona nastêpuj¹cemu przeszta³ceniu [7]: X znormalizowana n n n x11 / x 1 i1 x12 / x 1 i2 x1n / x i= L i= i= 1 in n n n x21 / x 1 i1 x22 / x 1 i2 x2n / x = i= L i= i= 1 in M M O M n n n xn1/ x 1 i1 xn2 / x 1 i2 xnn / x i= L i= i= 1 in (14) Macierz pozycji wsazuje potencjalne rozwi¹zanie przydzia³u. Wybieramy element masymalny w olumnie i przypisujemy mu wartoœæ 1, pozosta³e elementy przyjmuj¹ zerowe wartoœci. Po przeanalizowaniu wszystich olumn i wierszy otrzymujemy rozwi¹zanie problemu przydzia³u bez naruszenia ograniczeñ (11) [7] Zastosowanie algorytmu pszczelego do rozwi¹zania QAP Algorytm pszczeli jest algorytmem iteracyjnym, tóry mo na zrealizowaæ w ilu etapach [4, 9]: 1. Losowa inicjalizacja populacji pocz¹towej (permutacji). 2. Obliczenie funcji celu dla ca³ej populacji i przejœcie do olejnego etapu czêœci rozwi¹zañ. 3. Dopói niespe³nione jest ryterium stopu, nale y przeprowadziæ: wybór miejsc do przeszuiwania s¹siedztwa (zdefiniowanie s¹siedztwa rozwi¹zania), rerutacja pszczó³ do najlepszych miejsc (proporcjonalnie do jaoœci miejsca), wyliczenie funcji celu (posortowanie rozwi¹zañ populacji wed³ug funcji celu), wybranie najlepszej pszczo³y w danym miejscu (a de z przeszuiwañ loalnych generuje najlepsze loalne rozwi¹zanie), przeszuiwanie przestrzeni rozwi¹zañ niezatrudnionymi pszczo³ami przypisanie pozosta³ych pszczó³ do losowych poszuiwañ i wyliczenie ich funcji dopasowania. 4. Spe³nione ryterium stopu (np. zadana liczba iteracji) wyznaczenie najlepszego rozwi¹zania.

7 Algorytmy stadne w optymalizacji problemów przydzia³u Wynii przeprowadzonych esperymentów Do przetestowania dzia³ania trzech algorytmów wybrano instancje testowe z bibliotei QAPLIB, dostêpnej on-line [12], w tórej zawarte s¹ ró norodne zagadnienia przydzia- ³u przy wadratowym wsaÿniu jaoœci. Wynii przy³adowych esperymentów podano w tabeli 1. Tabela 1 Wynii esperymentów dla algorytmów mrówowych, algorytmów optymalizacji rojem cz¹ste i algorytmów pszczelich dla wybranych instancji testowych z bibliotei QAPLIB Nazwa problemu Algorytmy mrówowe Algorytm PSO Algorytmy pszczele Znane najlepsze rozwi¹zanie BUR26A BUR26H ESC32C ESC32F ESC32G LIPA40A LIPA50B LIPA70B LIPA90A NUG NUG SKO SKO SKO WIL Na podstawie przeprowadzonych esperymentów mo na stwierdziæ, e najlepszym algorytmem do rozwi¹zania problemów przydzia³u przy wadratowym wsaÿniu jaoœci jest algorytm pszczeli. W wiêszoœci przetestowanych przypadów znajdowa³ rozwi¹zanie najbli sze najlepszemu znanemu rozwi¹zaniu. Przyjête parametry algorytmu pszczelego to 500 iteracji oraz 100 pszczó³. W przypadu algorytmu optymalizacji rojem cz¹ste w instancjach z rodziny bur26 uzysano co prawda wynii gorsze, to jedna dla problemów z rodziny lipa osi¹ga³y bardzo dobre rezultaty, w³¹cznie ze znajdywaniem optymalnego rozwi¹zania. Na wynii obliczeñ wp³ywaj¹ parametry algorytmu, w tym wspó³czynnii c 1 i c 2. Najlepsze wynii otrzymane zosta³y dla parametrów c 1 = c 2 = 0,2. Przyjêto 500 iteracji algorytmu. Wp³yw

8 166 Bogus³aw Filipowicz, Joanna Kwiecieñ wspó³czynnia inercji jest zale ny od rozmiaru instancji problemu dla problemu bur26a.dat najlepsze wynii dawa³a wartoœæ inercji równa 0,5, dla wiêszego lipa40a.dat ni sza wartoœæ (0,25). W badanych instancjach wy szy wspó³czynni inercji pogarsza³ otrzymywane wynii. Algorytm mrówowy wyonywany by³ równie dla ilu mo liwych ustawieñ. Niestety trudno jest ustaliæ najlepsze parametry, przetestowano wiêc go dla wybranych ustawieñ: 500 iteracji, wspó³czynni wyparowywania feromonu 0,1, masymalny poziom feromonu τ max = 10 i minimalny poziom feromonu τ min = 0,1. 5. Podsumowanie W artyule przedstawiono zastosowanie trzech algorytmów inspirowanych przez naturê do rozwi¹zania wadratowego problemu przydzia³u. Spoœród przedstawionych algorytmów stadnych, najlepsze wynii zosta³y uzysane dla algorytmu pszczelego. G³ównym problemem w przetestowaniu algorytmów mrówowych i optymalizacji rojem cz¹ste by³o dobranie odpowiednich ustawieñ parametrów. Literatura [1] Burard R.E., Karisch S.E., Rendl F., QAPLIB A Quadratic Assignment Problem Library. European Journal of Operational Research, 55, 1991, [2] Eberhart R., Shi Y., Kennedy J., Swarm Intelligence. Morgan Kaufman, San Francisco [3] Filipowicz B., Wala K., Algorytmy optymalizacji wadratowego zagadnienia przydzia³u. Eletrotechnia (wartalni AGH), z. 1, [4] Filipowicz B., Chmiel W., Kad³ucza P., Uierunowane przeszuiwanie przestrzeni rozwi¹zañ w algorytmach rojowych. Automatya (pó³roczni AGH), 13, 2, [5] Gong T., Tuson A.L., Particle swarm optimization for quadratic assignment problems a forma analysis approach. International Journal of Computational Intelligence Research, 4, 2008, [6] Kennedy J., Eberhart R., Particle Swarm Optimization. Materia³y IEEE International Conference on Neural Networs, 4, , 1995 [7] Liu H., Abraham A., Zhang J., A particle swarm approach to quadratic assignment problems. Soft Computing in Industrial Applications. Advances in Intelligent and Soft Computing, 39, 2007, [8] Nêdza T., Szpat K., Zastosowanie algorytmu ptasiego do rozwi¹zania problemów optymalizacji ombinatorycznej. Praca in yniersa (niepubliowana), AGH, 2011 (promotor B. Filipowicz). [9] Pham D.T., Ghanbarzadeh A., Koc E., Otri S., Rahim S., Zaidi M., The Bees Algorithm A Novel Tool for Complex Optimisation Problems. Technical Note, Manufacturing Engineering Centre, Cardiff University, UK, [10] Stützle T., Dorigo M., ACO Algorithms for the Quadratic Assignment Problem. [w:] D. Corne, M. Dorigo., F. Glover, New Ideas for Optimization, McGraw-Hill, 1999, [11] Trojanowsi K., Metaheurystyi pratycznie. Wydawnictwo WIT, Warszawa [12] Zbiór instancji testowych problemu QAP: