MPRA Munich Personal RePEc Archive Implementation of Evolutionary Algorithms in the Knowledge-Based Economy Sieja, Marek and Wach, Krzysztof Cracow University of Technology, Cracow University of Economics 2008 Online at http://mpra.ub.uni-muenchen.de/31620/ MPRA Paper No. 31620, posted 16. June 2011 / 23:32
Marek Sieja Wydział Inżynierii Elektrycznej i Komputerowej Politechnika Krakowska Krzysztof Wach Katedra Przedsiębiorczości i Innowacji Uniwersytet Ekonomiczny w Krakowie Implementacja algorytmów ewolucyjnych w gospodarce opartej na wiedzy Wprowadzenie Gospodarka oparta na wiedzy, a przede wszystkim intensywny i burzliwy rozwój technologii informatycznych, spowodowały wzrost popularności wykorzystania najnowszych osiągnięć w zakresie sztucznej inteligencji. Współczesne pole badawcze charakteryzuje się wysoką interdyscyplinarnością oraz konwergencją poszczególnych dyscyplin naukowych. Na przykład, w naukach o Ziemi wykorzystywana jest ekonomiczna teoria gier, nauki techniczne inspirowane są biologiczną teorią ewolucji, nauki ekonomiczne czerpią z fizycznej teorii chaosu. Wiedza człowieka podpiera się sztuczną inteligencją, której zastosowanie przyspiesza proces badawczy. Jednym z przykładów zastosowania sztucznej inteligencji w praktyce są algorytmy ewolucyjne. Są one powszechnie stosowane w wielu dziedzinach nauki, ale przede wszystkim w pragmatycznych zagadnieniach inżynieryjno-konstrukcyjnych i decyzjach menedżersko-inwestycyjnych. W naukach ekonomicznych algorytmy ewolucyjne zyskują coraz większą popularność w zagadnieniach optymalizacji. 1
Celem tego artykułu jest prezentacja koncepcji działania algorytmów ewolucyjnych oraz wskazanie możliwości ich implementacji na potrzeby gospodarki, zwłaszcza gospodarki opartej na wiedzy. Zasada działania algorytmów ewolucyjnych Algorytmy ewolucyjne są rodzajem metod heurystycznych opartych na darwinowskiej teorii ewolucji. Innymi słowy algorytmy ewolucyjne można określić jako transpozycję darwinowskiej metafory w stochastyczny algorytm poszukiwania i optymalizacji, który wykorzystuje zaawansowane operacje matematyczne. Aby zrozumieć zasadę działania algorytmów ewolucyjnych, najlepiej odwołać się bezpośrednio do teorii ewolucji Karola Darwina. Mechanizm i przebieg ewolucji biologicznej opiera się na pięciu założeniach 1 : ograniczoność zasobów osobniki muszą konkurować o te same zasoby środowiska; dostosowanie (fitness) pewne cechy są bardziej pożądane w procesie konkurowania o zasoby środowiska, więc niektóre cechy bardziej ułatwiają osobnikom konkurencję w danym środowisku niż inne; dziedziczność osobniki dziedziczą cechy swoich przodków; zmienność w potomstwie występują różnice międzyosobnicze. Zmienność niezbędna w ewolucji ma charakter genetyczny i jest dziedziczna. Źródłem pierwotnym zmienności genetycznej są mutacje, w wyniku których powstają nowe allele genów (nowe formy tego 1 Mamy nadzieję, że biolodzy wybaczą nam to uproszczenie. 2
samego genu), a wtórnym - rekombinacje genetyczne prowadzące do powstania nowych układów genów nowych genotypów. naturalny dobór (survival-of-the-fittest), czyli selekcja proces, który uprzywilejowuje osobniki lepiej dostosowane, a eliminuje osobniki gorzej przystosowane. W wyniku tego procesu eliminowane są niekorzystne genotypy. Uściślając teorię doboru naturalnego Darwina, należy dodać, że osobniki o cechach korzystnych (lepiej przystosowane do środowiska) mają większą szansę przeżycia i wyprodukowania żywotnego potomstwa, a zatem przekazania mu swych genów. W związku z tym w następnym pokoleniu wzrasta liczba osobników o genach korzystnych, a maleje liczba osobników o genach niekorzystnych. Korzystne geny przekazane na następne pokolenie ulegają rekombinacji, co umożliwia powstanie nowych genotypów i fenotypów o właściwościach jeszcze korzystniejszych niż cechy rodziców. Dobór naturalny jest zatem głównym czynnikiem ewolucji organizmów. Ponieważ słownictwo stosowane w genetyce naturalnej zostało zapożyczone do opisu algorytmów ewolucyjnych, stąd po syntetycznym opisie zjawisk zachodzących w przyrodzie prościej będzie przedstawić koncepcję działania algorytmów ewolucyjnych. Koncepcja ewolucyjnego rozwiązywania problemów oparta jest na prawidłowości, że dana populacja osobników, którzy są zarazem kandydatami na rozwiązanie danego zadania, podlega kolejnym krokom ewolucji. Każdy osobnik reprezentuje potencjalne rozwiązanie problemu. Można mu przyporządkować pewną wartość liczbową określającą jego przystosowanie do środowiska, czyli jakość reprezentowanego przez niego rozwiązania. Proces ewolucyjny odpowiada przeszukiwaniu przestrzeni potencjalnych rozwiązań, które z 3
jednej strony korzysta z najlepszych dotychczasowych rozwiązań, z drugiej zaś szeroko bada przeszukiwaną przestrzeń. Działanie algorytmu ewolucyjnego sprowadza się do pętli operacji obejmującej (ryc. 1): reprodukcję (preselekcję), operacje genetyczne (krzyżowanie, mutacja), ocenę, sukcesję (postselekcję). Ryc. 1. Cykl działania podstawowego algorytmu ewolucyjnego Źródło: opracowanie własne na podstawie: J. Arabas., 2004, Wykłady z algorytmów ewolucyjnych, Wydawnictwo Naukowo-Techniczne, Warszawa, s. 16. Podczas reprodukcji z populacji bazowej zostają losowo wybrane osobniki, przy czym losowość wyboru do reprodukcji uwzględnia wartość przystosowania tych osobników, co oznacza, że osobniki charakteryzujące się większym przystosowaniem mają większe szanse powielenia. Pewnie osobniki mogą być wielokrotnie powielone, podczas gdy niektóre osobniki nie zostaną wybrane do powielenia ani razu. W ten sposób tworzona jest 4
nowa populacja (populacja tymczasowa) przez wybranie bardziej przystosowanych osobników [Michalewicz, Fogel 2006, s. 184]. Kopie tworzone w wyniku reprodukcji poddawane są operacjom genetycznym (krzyżowaniu i mutacji). Niektóre osobniki tej nowej populacji podlegają przekształceniom za pomocą operatorów różnicowana, dzięki czemu powstają nowe rozwiązania. Osobniki utworzone w wyniku działania operatorów genetycznych stanowią populację potomną. Krzyżowanie polega na kojarzeniu (w pary) w sposób losowy ciągów z populacji bazowej, a następnie ich krzyżowaniu, czyli zamianie miejscami znaków w obu elementach pary. W ten sposób powstają dwa nowe ciągi, które wchodzą w skład nowego pokolenia. Mutacja z kolei polega na sporadycznej (zachodzącej z niewielkim prawdopodobieństwem), przypadkowej zmianie wartości elementu ciągu kodowego. Następnie populacja potomna podawana jest ocenie środowiska (wskaźnik przystosowania pełni funkcję celu). Funkcja przystosowania stanowi zatem pewien miernik zysku, użyteczności lub innej wielkości, którą chcielibyśmy zmaksymalizować [Goldberg 1998, s. 27]. W wyniku tych działań następuje sukcesja, czyli tworzy się nowa populacja bazowa, mogąca zawierać osobniki zarówno z populacji potomnej, jak i ze starej populacji bazowej. W teorii optymalizacji znane są dwie odmiany selekcji: reprodukcja i sukcesja. Pierwsza zakłada, że nowa populacja bazowa powstaje wyłącznie z populacji potomnej. Sukcesja polega tutaj na wyborze osobników zarówno z populacji potomnej, jak i najlepszych osobników z populacji bazowej. Reprodukcja może być przeprowadzana na wiele sposobów (reprodukcja proporcjonalna, czyli ruletkowa; reprodukcja proporcjonalna zmodyfikowana; reprodukcja turniejowa; reprodukcja progowa). 5
Analogicznie rzecz się ma z sukcesją (sukcesja elitarna, czyli elitarystyczna; sukcesja z całkowitym zastępowaniem; sukcesja z częściowym zastępowaniem) [Arabas 2004, s. 114 134]. Opisane wyżej operacje tworzą pętle ewolucji. Algorytm ewolucyjny jest wykonywany cyklicznie (pętla) aż do wystąpienia kryterium zatrzymania algorytmu (tzw. warunku stopu). Zatrzymanie wykonywania algorytmu może nastąpić w dwóch sytuacjach, gdy: przystosowanie osobników jest odpowiednio duże, czyli wygenerowana zostaje określona liczba rozwiązań; stan populacji bazowej świadczy o stagnacji algorytmu, czyli następuje przekroczenie określonego czasu. Wyróżnia się wiele typów algorytmów ewolucyjnych, trudno jednak mówić o ich klasyfikacji, można jedynie przywoływać niektóre typologie. Obecnie wyróżnia się [Michalewicz, Fogel 2006, s.184]: algorytmy genetycznie (genetic algorithms), strategie ewolucyjne (evelution strategies), programowanie ewolucyjne (evolutionary programming), programowanie genetyczne (genetic programming), systemy klasyfikatorów (classifier systems). Wady i zalety zastosowania algorytmów ewolucyjnych Praktyczna implementacja algorytmów ewolucyjnych sięga lat 50. XX w., przy czym przyjmuje się, że wykorzystanie modelu procesu ewolucyjnego w metodach obliczeniowych wzięło początek w opublikowanej w 1975 r. pracy Johna Hollanda Adaptation in Natural and Artificial Systems. Obecnie algorytmy ewolucyjne przeżywają rozkwit; 6
może o tym świadczyć choćby gwałtowny wzrost liczby publikacji z tej dziedziny. Jones, Mirrazavi i Tamiz wskazują, że postęp w badaniach w zakresie implementacji algorytmów ewolucyjnych jest znaczący, ale zarazem częściowy, bowiem obecny postęp technologii informatycznych przyczynia się do opracowywania coraz bardziej zaawansowanych rozwiązań opartych na algorytmach ewolucyjnych [Jones, Mirrazavi, Tamiz 2002]. Algorytmy ewolucyjne różnią się od tradycyjnych metod optymalizacji następującymi cechami [Biethathn Nissan 1994, s. 185]; [Goldberg 1998, s. 23]: działają na wektorze reprezentującym zmienne decyzyjne (czyli parametry zadania) w postaci ciągów kodowych (nie przetwarzają bezpośrednio parametrów zadania, lecz ich zakodowaną postać); przeszukują całą przestrzeń, eksplorując rozwiązania jednocześnie z wielu punktów (prowadzą poszukiwania, wychodząc nie z pojedynczego punktu, lecz z pewniej ich populacji); nie wymagają szczegółowej wiedzy o charakterze problemu, a jedynie informacji o jakości (dopasowaniu) rozwiązań (taka wiedza może jednak przyczynić się do szybszej implementacji), korzystają bowiem tylko z funkcji celu, nie zaś jej pochodnych lub innych pomocniczych informacji; wykorzystują w sposób celowy procesy stochastyczne, tak aby inteligentne badanie przestrzeni przeszukiwania zawęzić do obiecujących regionów przestrzeni przeszukiwań (stosują probabilistyczną, a nie deterministyczne metody wyboru). 7
Zastosowanie algorytmów ewolucyjnych jako techniki optymalizacyjnej ma wiele zalet; algorytmy ewolucyjne określa się nawet mianem metod ostatniej szansy [Arabas 2004, s. 20]. Tabl. 1. Główne zalety i wady algorytmów ewolucyjnych jako techniki optymalizacyjnej Zalety Wady efektywna technika, o szerokich heurystyczny charakter techniki możliwościach zastosowania wiarygodność (nie daje pewności osiągnięcia optimum w określonym czasie) dobrze przystosowane do czasochłonność obliczeń przeszukiwania wielowymiarowej, (łagodzona przez gwałtowny złożonej przestrzeni rozwiązań postęp techniczny) relatywnie łatwa do opracowania często nieefektywna w końcowej i implementacji nie ma ograniczeń co do postaci funkcji celu wstępna wiedza o problemie nie fazie przeszukiwań (możliwość eliminacji przez hybrydyzację) określenie właściwych wartości parametrów nie jest łatwe jest wymagana możliwość optymalizacji wielokryterialnej elastyczne możliwości zaprojektowania algorytmu łatwa współpraca z innymi technikami (heurystyki inicjalizacyjne, przeszukiwanie lokalne) naturalna paralelność algorytmu (równoległe wykorzystanie sprzętu) Źródło: Biethahn1 J., Nissen1 V., 1994, Combinations of Simulation and Evolutionary Algorithms in Management Science and Economics, Annals of Operations Research, vol. 52, no. 4, s. 186. 8
Zastosowanie algorytmów ewolucyjnych w naukach ekonomicznych W gospodarce opartej na wiedzy to właśnie wiedza ma kluczowe znaczenie, przy czym jest ona bardzo szeroko interpretowana. Zastosowanie nowoczesnych osiągnięć technologii informatycznych pozwala na wykorzystanie niedostępnych wcześniej technik optymalizacji. Decyzje ekonomiczne (zwłaszcza decyzje graczy giełdowych i ubezpieczycieli, a nawet decyzje menedżerskie) są podejmowane w warunkach niepewności lub ryzyka, stąd ich optymalizacja jest jednym z ważniejszych zagadnień dla decydentów. Możliwości, jakie oferują algorytmy ewolucyjne, wywołały wzrost zainteresowania wykorzystaniem ich na potrzeby nauk ekonomicznych, głównie w pragmatyce zarządzania i podejmowania decyzji inwestycyjnych. Obecnie można wskazać wiele typowych możliwości zastosowania algorytmów ewolucyjnych w naukach ekonomicznych, w ekonomii, finansach, zarządzaniu, towaroznawstwie czy inżynierii produkcji (tabl. 2). Tab. 2. Zastosowanie algorytmów ewolucyjnych w gospodarce opartej na wiedzy Obszar zastosowań Sprzedaż Organizacja Przykłady zastosowań decyzyjnych symulacja zapasów problem transportowy w hurtowni określenie pierwszego nakładu ksiązki rozmieszczenie punktów sprzedaży samouczący się model konsumenta harmonogramowanie pracy sporządzanie tras pociągów towarowych sporządzanie tras pojazdów kołowych kolejność lądowań samolotów 9
kolejność jazdy pociągów po linii jednotorowej projektowanie sieci telekomunikacyjnych optymalizacja sieci komputerowej układanie podziału godzin w szkole planowanie systemu dostaw wody Finanse szacowanie ryzyka ubezpieczeniowego prognozowanie bankructwa określanie zdolności kredytowej przewidywanie opóźnień w płatnościach analiza cyklów czasowych symulacja rynku akcji optymalizacja portfela akcji model gracza na rynku akcji modelowanie rynków finansowych wykrywanie oszustw finansowych alokacja nakładów dla różnych programów społecznych Produkcja równoważenie linii produkcyjnej określanie wielkości partii sekwencyjność produkcji proces planowania magazynowanie zarządzanie obciążeniami optymalizacja działania reaktorów jądrowych programowanie symulatorów lotniczych Źródło: opracowanie własne na podstawie: J. Biethahn.,V. Nissen, 1994, Combinations of Simulation and Evolutionary Algorithms in Management Science and Economics, Annals of Operations Research, vol. 52, no. 4, s. 184. Perspektywy zastosowania algorytmów ewolucyjnych na potrzeby zarządzania są bardzo satysfakcjonujące. Zarówno teoretycy, jak i praktycy zajmujący się algorytmami ewolucyjnymi wskazują obiecującą przyszłość systemów hybrydowych, które dzięki połączeniu co najmniej dwóch osiągają efekt synergiczny. Na przykład, na potrzeby zastosowania 10
algorytmów ewolucyjnych w naukach ekonomicznych Biethahn i Nissen wskazują sześć wariantów ich połączenia z metodami symulacyjnymi [Biethahn, Nissen 1994, s. 189]: regulacja zmiennych decyzyjnych, opracowywanie modelowych struktur, dwuetapowa optymalizacja przy użyciu metaalgorytmów ewolucyjnych, symulacja meta-modeli, optymalizacja z agentem adaptacyjnym, modelowanie ewolucyjne. Konkluzje Dzięki swoim licznym zaletom, algorytmy ewolucyjne znajdują zastosowanie na wielu polach badawczych. Choć obecnie są często stosowane w naukach ekonomicznych, to można stwierdzić, że są dopiero w początkowym stadium rozwoju. Obecny stan ich zastosowań na potrzeby gospodarki potwierdza, że nie nastąpił jeszcze przełom implementacyjny. Wzrost zainteresowań algorytmami ewolucyjnymi w powiązaniu z dynamicznym rozwojem technologii informatycznych może doprowadzić do wykorzystania algorytmów ewolucyjnych w systemach hybrydowych, co z kolei przyczyni się do znacznego postępu w rozwoju teorii optymalizacji. Literatura 1. Arabas J., 2004, Wykłady z algorytmów ewolucyjnych, Wydawnictwo Naukowo-Techniczne, Warszawa. 2. Biethahn J., Nissen V., 1994, Combinations of Simulation and Evolutionary Algorithms in Management Science and Economics, Annals of Operations Research, vol. 52, no. 4. 11
3. Goldberg D.E., 1998, Algorytmy genetyczne i ich zastosowania, Wydawnictwo Naukowo-Techniczne, Warszawa. 4. Jones D.F., Mirrazavi S.K., Tamiz M., 2002, Multi-objective Metaheuristics: An Overview of the Current State-of-the-art., European Journal of Operation Reserach, vol. 7, no. 2. 5. Michalewicz Z., 2003, Algorytmy genetyczne + struktury danych = programy ewolucyjne, Wydawnictwa Naukowo-Techniczne, Warszawa. 6. Michalewicz Z., Fogel D.B., 2006, Jak to rozwiązać, czyli nowoczesna heurystyka, Wydawnictwa Naukowo-Techniczne, Warszawa. 7. Stawowy A., Mazur Z., 1996, Heurystyczne algorytmy szeregowania zadań produkcyjnych i grupowania wyrobów [w:] Nowoczesne metody zarządzania produkcją, red. Z. Martyniak, Wydział Zarządzania Akademii Górniczo-Hutniczej, Kraków. Streszczenie: Artykuł przedstawia zasadę działania oraz typologię algorytmów ewolucyjnych jako szeroko stosowanej techniki przeszukiwania i optymalizacji opartej na zasadach przejętych z darwinowskiej teorii ewolucji oraz współczesnej genetyki naturalnej. Algorytmy ewolucyjne są technika, która w chwili obecnej przeżywa burzliwy rozwój, są z powodzeniem stosowane w wielu dziedzinach nauki (w naukach technicznych, przyrodniczych, czy ekonomicznych). Autorzy omówili przykłady zastosowań algorytmów genetycznych w zarządzaniu w podziale na sprzedaż, organizację, produkcję i finanse. 12