Obliczenia Naturalne - Algorytmy rojowe

Wielkość: px
Rozpocząć pokaz od strony:

Download "Obliczenia Naturalne - Algorytmy rojowe"

Transkrypt

1 Literatura Obliczenia Naturalne - rojowe Paweł Paduch Politechnika Świętokrzyska 24 kwietnia 2014 Paweł Paduch Obliczenia Naturalne - rojowe 1 z 44

2 Plan wykładu Literatura 1 Literatura 2 Wprowadzenie Algorytm Individual Best Algorytm Global Best Algorytm Local Best 3 Naturalne pszczoły Algorytm Przykład 4 BCO MBO Paweł Paduch Obliczenia Naturalne - rojowe 2 z 44

3 Literatura Literatura Mariusz Flasiński - do sztucznej inteligencji, PWN, 2011 Russell C. Eberhart, Yuhui Shi, James Kennedy - Swarm Intelligence, Elsevier, 2001 E. Bonabeau, M. Dorigo, G. Theraulaz, Swarm Intelligence: From Natural to Artificial Systems, New York, NY: Oxford University Press, 1999 PSO Tutorial - Eberhart, R. C. and Kennedy, J. A new optimizer using particle swarm theory. Proc. 6th Int. Symp. on Micromachine and Human Science, Nagoya, Japan. s , 1995 Paweł Paduch Obliczenia Naturalne - rojowe 3 z 44

4 Literatura Literatura Yuhui Shi and Russell Eberhart - A Modified Particle Swarm Optimizer. IEEE 1998 Darvis Karaboga - An idea based on honey bee swarm for numerical optimization, 2005 Dušana Teodorović and Mauro Dell orco Bee Colony Ooptimization A Cooperative Learning Aproach To Complex Ttransportation Problem, 2005 Hussein A. Abbass - MBO: Marriage in Honey Bees Optimization A Haplometrosis Polygynous Swarming Approach, IEEE Congress on Evolutionary Computation, strony , 2001 Paweł Paduch Obliczenia Naturalne - rojowe 4 z 44

5 Literatura W 1987 Craig Reynolds za pomocą 3 prostych reguł (dopasuj prędkość do sąsiada, kieruj się do widocznego centrum stada, unikaj kolizji) pokazał, że można zaprogramować realistycznie wyglądające poruszające się stado. Metoda optymalizacji rojem cząstek została zaproponowana w 1995 roku przez Russela Eberharta i Jamesa Kennedy ego inspirowanych zachowaniem ptasich stad czy rybich ławic. Autorzy zastosowali optymalizację rojem do znajdowania wag podczas uczenia sieci neuronowej. Paweł Paduch Obliczenia Naturalne - rojowe 5 z 44

6 Literatura Optymalizacja rojem cząstek (ang. Particle swarm optimization) jest prostym i intuicyjnym mechanizmem optymalizacyjnym. Każda cząstka reprezentuje potencjalne rozwiązanie. Cząstki poruszają się przez wielowymiarową przestrzeń poszukiwań. Pozycja jest aktualizowana według własnego doświadczenia oraz doświadczenia sąsiadów, poprzez dodanie wektora prędkości do ich aktualnego stanu przemieszczania się. Aktualna prędkość zależy od, poprzedniej prędkości, dążenia do swojego najlepszego poprzedniego położenia oraz dążenia do globalnego lub lokalnego najlepszego wyniku sąsiada. Każda cząstka jest zbieżna do punktu pomiędzy własnym najlepszym rozwiązaniem a najlepszym rozwiązaniem globalnym. Paweł Paduch Obliczenia Naturalne - rojowe 6 z 44

7 Trzy algorytmy Wprowadzenie Algorytm Individual Best Algorytm Global Best Algorytm Local Best Rój cząstek porusza się kierując się doświadczeniem własnym, najbliższych sąsiadów lub całego stada. Dlatego opracowano 3 główne algorytmy optymalizacji rojem cząstek: Individual Best - każda cząstka zapamiętuje swoje dotychczasowe najlepsze rozwiązanie i nie używa informacji pochodzących od innych cząstek, Global Best - każda cząstka porównuje swoją pozycję do najlepszej pozycji wśród wszystkich innych cząstek, Local Best - uogólnienie Global Best, rozpatrujemy tylko najbliższe sąsiedztwo (ale sąsiedztwo może zawierać też wszystkie cząstki). Paweł Paduch Obliczenia Naturalne - rojowe 7 z 44

8 Definicje Wprowadzenie Algorytm Individual Best Algorytm Global Best Algorytm Local Best Każda i-ta cząstka w czasie t (P i (t)) w hiperprzestrzeni n wymiarowej posiada dwa parametry: położenie: oraz prędkość: x i (t) = (x i1 (t), x i2 (t),..., x in (t)), v i (t) = (v i1 (t), v i2 (t),..., v in (t)). Nową pozycję w czasie t + 1 wyznaczamy: x i (t + 1) = x i (t) + v i (t + 1) Przy czym v i (t + 1) zależy od użytego algorytmu. Paweł Paduch Obliczenia Naturalne - rojowe 8 z 44

9 Algorytm Individual Best Wprowadzenie Algorytm Individual Best Algorytm Global Best Algorytm Local Best k - liczba cząstek P(t) = {P 1, P 2,..., P k } - zbiór cząstek P i = ( x i, v i ) - każda cząstka ma położenie i prędkość F ( x i (t)) - funkcja przystosowania cząstki P i w czasie t w miejscu x i ϕ - liczba losowa Algorytm 1 Individual Best 1: P(t) losowo wygeneruj rój cząstek 2: repeat 3: for all P i w zbiorze P do 4: wyznacz F ( x i (t)) 5: if F ( x i (t)) < pbest i then 6: pbest i F ( x i (t)) 7: x pbesti x i (t). 8: end if 9: end for 10: for all P i w zbiorze P do 11: v i (t + 1) v i (t) + ϕ( x pbesti x i (t)) 12: x i (t + 1) x i (t) + v i (t + 1) 13: end for 14: t t : until Spełnione kryteria stopu Paweł Paduch Obliczenia Naturalne - rojowe 9 z 44

10 Algorytm Individual Best Wprowadzenie Algorytm Individual Best Algorytm Global Best Algorytm Local Best 1 P i P(0) wylosuj położenie x i (0) oraz prędkość v i (0), t = 0 2 Oceń rozwiązanie F ( x i (t)) każdej cząstki w P(t) na podstawie jej położenia x i (t) 3 Jeżeli znalazło się rozwiązanie lepsze od obecnego pbest i to zapamiętaj go oraz jego położenie x i (t) 4 P i P(0) wyznacz nową prędkość w kierunku i zwrocie do nowego najlepszego rozwiązania ale o wartości losowej. 5 P i P(0) na podstawie nowej prędkości ustal nowe położenie. 6 Zwiększ t o jeden i jeżeli warunek stopu nie spełniony zacznij od punktu 2. Paweł Paduch Obliczenia Naturalne - rojowe 10 z 44

11 Wizualizacja obliczeń Wprowadzenie Algorytm Individual Best Algorytm Global Best Algorytm Local Best v i (t + 1) = v i (t) + ϕ( x pbesti x i (t)) x i (t + 1) x i (t + 1) = x i (t) + v i (t + 1) x i (t) v i (t) v i (t + 1) x pbesti x i (t) ϕ( x pbesti x i (t)) x pbesti Paweł Paduch Obliczenia Naturalne - rojowe 11 z 44

12 Algorytm global Best Wprowadzenie Algorytm Individual Best Algorytm Global Best Algorytm Local Best Algorytm 2 Global Best 1: P(t) losowo wygeneruj rój cząstek 2: repeat 3: for all P i w zbiorze P do 4: wyznacz F ( x i (t)) 5: if F ( x i (t)) < pbest i then 6: pbest i F ( x i (t)) 7: x pbesti x i (t). 8: end if 9: if F ( x i (t)) < gbest i then 10: gbest i F ( x i (t)) 11: x gbesti x i (t). 12: end if 13: end for 14: for all P i w zbiorze P do 15: v i (t + 1) v i (t) + ϕ 1 ( x pbesti x i (t)) + ϕ 2 ( x gbesti x i (t)) 16: x i (t + 1) x i (t) + v i (t + 1) 17: end for 18: t t : until Spełnione kryteria stopu Paweł Paduch Obliczenia Naturalne - rojowe 12 z 44

13 Algorytm Global Best Wprowadzenie Algorytm Individual Best Algorytm Global Best Algorytm Local Best 1 P i P(0) wylosuj położenie x i (0) oraz prędkość v i (0), t = 0 2 Oceń rozwiązanie F ( x i (t)) każdej cząstki w P(t) na podstawie jej położenia x i (t) 3 Jeżeli znalazło się rozwiązanie lepsze od obecnego pbest i to zapamiętaj go oraz jego położenie x i (t) Dodatkowo jeżeli znalazło się rozwiązanie lepsze od obecnego globlnego gbest to zapamiętaj go oraz jego położenie x i (t) 4 P i P(0) wyznacz nową prędkość w kierunku i zwrocie uwzględniającym najlepsze rozwiązanie danej cząstki oraz globalne. 5 P i P(0) na podstawie nowej prędkości ustal nowe położenie. 6 Zwiększ t o jeden i jeżeli warunek stopu nie spełniony zacznij od punktu 2. Paweł Paduch Obliczenia Naturalne - rojowe 13 z 44

14 Algorytm Local Best Wprowadzenie Algorytm Individual Best Algorytm Global Best Algorytm Local Best Algorytm 3 Local Best 1: P(t) losowo wygeneruj rój cząstek 2: repeat 3: for all P i w zbiorze P do 4: wyznacz F ( x i (t)) 5: if F ( x i (t)) < pbest i then 6: pbest i F ( x i (t)) 7: x pbesti x i (t). 8: end if 9: if F ( x i (t)) < lbest i then 10: lbest i F ( x i (t)) 11: x lbesti x i (t). 12: end if 13: end for 14: for all P i w zbiorze P do 15: v i (t + 1) v i (t) + ϕ 1 ( x pbesti x i (t)) + ϕ 2 ( x lbesti x i (t)) 16: x i (t + 1) x i (t) + v i (t + 1) 17: end for 18: t t : until Spełnione kryteria stopu Paweł Paduch Obliczenia Naturalne - rojowe 14 z 44

15 Liczby losowe Wprowadzenie Algorytm Individual Best Algorytm Global Best Algorytm Local Best Podane we wzorach liczby losowe ϕ 1 i ϕ 2 zdefiniowane są następująco: ϕ 1 = r 1 c 1 ϕ 2 = r 2 c 2 Gdzie r 1, r 2 U(0, 1) oraz c 1 i c 2 są stałymi przyspieszenia. W pracach Kennedy ego wykazane zostało eksperymentalnie, że przy c 1 + c 2 > 4 następuje eksplozja prędkości i położenia. Paweł Paduch Obliczenia Naturalne - rojowe 15 z 44

16 Funkcja oceny Wprowadzenie Algorytm Individual Best Algorytm Global Best Algorytm Local Best Pozycja cząstki jest tym lepsza im bliżej jest rozwiązania tak więc F ( x i (t)) może być miarą odległości. Dlatego też gbest i czy lbest jest poprawiane gdy jest F ( x i (t)) < best. Paweł Paduch Obliczenia Naturalne - rojowe 16 z 44

17 Warunki stopu Wprowadzenie Algorytm Individual Best Algorytm Global Best Algorytm Local Best Warunkami zatrzymania algorytmu mogą być np.: Wykonianie określonej liczby iteracji. Zmiana prędkości jest bliska 0 dla wszystkich cząstek (nie ma zmian w pozycji cząstek) Paweł Paduch Obliczenia Naturalne - rojowe 17 z 44

18 Który algorytm? Wprowadzenie Algorytm Individual Best Algorytm Global Best Algorytm Local Best Wersja globalna jest szybsza jednak może być zbieżna do lokalnego ekstremum w niektórych problemach, ponieważ wszystkie cząstki dążą do jednego punktu Wersja lokalna jest nieco wolniejsza jednak mniej podatna na lokalne ekstrema, ponieważ punktów lbest jest więcej. Wersja lokalna z maksymalnym sąsiedztwem (wszystkie cząstki są sąsiadami) to wersja globalna. Sterując rozmiarem sąsiedztwa mamy wpływ jak bardzo algorytm na stopień w jakim algorytm działa jako globalny lub lokalny. Paweł Paduch Obliczenia Naturalne - rojowe 18 z 44

19 Parametry standardowego PSO Wprowadzenie Algorytm Individual Best Algorytm Global Best Algorytm Local Best Standardowy algorytm PSO ma następujące parametry: n - wymiar przestrzeni poszukiwań, zależy od problemu, k - liczba cząstek w każdej iteracji (typowo stosuje się około cząstek), Ograniczenie ϕ Górne ograniczenie prędkości Rozmiar sąsiedztwa Waga inercji Paweł Paduch Obliczenia Naturalne - rojowe 19 z 44

20 Ograniczenie prędkości Wprowadzenie Algorytm Individual Best Algorytm Global Best Algorytm Local Best Ograniczenie prędkości przemieszczania cząstek stosuje się po to by nie przeskakiwały zbyt szybko po przestrzeni poszukiwań. Jeżeli: to v i (t) = (v i1 (t), v i2 (t),..., v in (t)) v max, jeżeli v ij > v max, v ij = v max, jeżeli v ij < v max, v ij, w pozostałych przypadkach Zwykle v max określa się miarą problemu, np gdy x 1 < 0, 10 > to v max = 10. Paweł Paduch Obliczenia Naturalne - rojowe 20 z 44

21 Waga inercji Wprowadzenie Algorytm Individual Best Algorytm Global Best Algorytm Local Best We wzorze v i (t + 1) = φ v i (t) + ϕ 1 ( x pbesti x i (t)) + ϕ 2 ( x lbesti x i (t)) Yuhui Shi i Eberhart dodali parametr φ. Jest to waga inercji (bezwładu) cząstki. Im większa jest inercja tym większa jest eksploracja, cząstka nie zmienia łatwo kierunku. Jeżeli zmniejszymy bezwładność cząstki, łatwiej będzie zmieniać kierunek i skupi się na przeszukiwaniu mniejszego obszaru. W PSO φ zwykle zmienia się z kolejnymi iteracjami, od dużego do małego. Paweł Paduch Obliczenia Naturalne - rojowe 21 z 44

22 Sąsiedztwo lokalne Wprowadzenie Algorytm Individual Best Algorytm Global Best Algorytm Local Best Dla sąsiedztwa o rozmiarze 2 branych jest pod uwagę dwóch najbliższych sąsiadów. Np. dla cząstki 3, sąsiadami są 2 i ,33 3 0,54 dla cząstki 3 lbest = 0, , Paweł Paduch Obliczenia Naturalne - rojowe 22 z 44

23 Sąsiedztwo globalne Wprowadzenie Algorytm Individual Best Algorytm Global Best Algorytm Local Best 1... Przy sąsiedztwie globalnym rozmiar sąsiedztwa wynosi k 1 elementów. Każda cząstka porównuje wynik ze wszystkimi sąsiadami , Paweł Paduch Obliczenia Naturalne - rojowe 23 z 44

24 Wersja binarna Wprowadzenie Algorytm Individual Best Algorytm Global Best Algorytm Local Best W przypadku wersji binarnej, położenie każdej cząsteczki w każdym wymiarze opisane jest tylko przez 0 i 1. Jeżeli przestrzeń była by 3 wymiarowa to ciąg x i = (x i1, x i2, x i3 ). Obrazując takie założenie, rozwiązania znajdowały by się w wierzchołkach sześcianu o długości boku 1 i jednym roku w punkcie 0,0,0 a drugim 1,1,1. Paweł Paduch Obliczenia Naturalne - rojowe 24 z 44

25 Wersja binarna Wprowadzenie Algorytm Individual Best Algorytm Global Best Algorytm Local Best Jeżeli nowa wartość prędkości cząstki wynosi: v i (t + 1) = v i (t) + ϕ 1 ( x pbesti x i (t)) + ϕ 2 ( x lbesti x i (t)) To nowe położenie będzie zależne od wektora losowo wygenerowanych liczb o rozkładzie jednostajnym ρ i U(0, 1), i wynosi: { 1, jeżeli ρij < s(v x ij (t + 1) = ij (t + 1)), 0, w przeciwnym wypadku Gdzie: s(v ij (t + 1)) = exp( v ij (t + 1)) Sigmoidalna funkcja spłaszcza dane wejściowe do zadanego przedziału i można według niej wyznaczyć próg prawdopodobieństwa. Paweł Paduch Obliczenia Naturalne - rojowe 25 z 44

26 Naturalne pszczoły Algorytm Przykład pszczele są stosunkowo nowymi algorytmami optymalizacji bazujące na zachowaniach stadnych owadów. Co prawda już Arystoteles zaobserwował dziwny taniec wywabiający inne pszczoły do źródła pożywienia. W XX w. naszej ery zaczęto badać ów taniec i okazało się, że pszczoły zwiadowcy zachęcają tańcem jednocześnie informując w jakim kierunku, jak daleko i jak dobrej jakości jest pożywienie. Paweł Paduch Obliczenia Naturalne - rojowe 26 z 44

27 Naturalne pszczoły Algorytm Przykład Kolejnymi trzema algorytmami zainspirowanymi rojami, w tym wypadku rojami pszczół są: MBO (ang. Marriage in Honey-Bees Optimization) - przedstawiony w 2001 roku przez H.A. Abbas a, ABC (ang. Artificial Bee Colony) - opracowany w 2005 roku przez Dervisa Karaboga. BCO (ang. Bee Colony Optimization) - zaproponowany w tym samym roku przez Dušana Teodorovića i Mauro Dell orco Paweł Paduch Obliczenia Naturalne - rojowe 27 z 44

28 Role Naturalne pszczoły Algorytm Przykład W podstawowym modelu zachowania pszczół wyróżnić można dwie grupy: Pszczoły zatrudnione, robotnice zbierające nektar (eksploatujące) z określonego już wcześniej miejsca, które oprócz nektaru dostarczają informacji o jakości i położenia źródła pożywienia. Po powrocie do ula mogą: Kontynuować zbieranie Zachęcać kolejnych przyglądaczy Porzucić eksploatacje i zamienić się w skautów lub przyglądaczy Pszczoły niezatrudnione z podziałem na: skautów - pszczoły zwiadowcy, które przeszukują (eksplorują) teren w poszukiwaniu pożywienia przyglądaczy - czekające w ulu i gotowe do zatrudnienia w terenie. Paweł Paduch Obliczenia Naturalne - rojowe 28 z 44

29 Zwiadowcy Naturalne pszczoły Algorytm Przykład Zwiadowcy opuszczają ul w celu znalezienia obiecujących pól kwiatów z nektarem. Po powrocie za pomocą tańca zachęcają przyglądaczy by polecieli do ich znaleziska. Taniec odbywa się w tzw. strefie tańca. Jeżeli pszczoła kręci się w kółko pożywienie jest bliżej niż 50m. Jeżeli dalej to idzie po prostej kręcąc odwłokiem zawraca i znowu powtarza czynność. Kierunek w którym idzie oznacza azymut pomiędzy słońcem a znaleziskiem Szybkość ruchów odległość, im wolniej tym dalej Długość prostej po której idzie, jakość znaleziska. Paweł Paduch Obliczenia Naturalne - rojowe 29 z 44

30 Eksploatacja Naturalne pszczoły Algorytm Przykład Bezrobotne pszczoły po obejrzeniu kilku tańców podejmują decyzję, do którego pola kwiatów lecieć. Kolejne pszczoły przyłączają się obserwując wyniki swoich współpracownic. Po wyczerpaniu nektaru, pszczoły wracają do ula a część z nich przyjmuje rolę zwiadowców. Paweł Paduch Obliczenia Naturalne - rojowe 30 z 44

31 Inteligencja stadna Naturalne pszczoły Algorytm Przykład Aby uzyskać inteligentne zachowania stadne, powinny być spełnione dwa fundamentalne pojęcia: Samoorganizacja - zestaw dynamicznych mechanizmów i interakcji na niskim poziomie skutkujących powstawaniem struktur na poziomie globalnym, wysokim. Podział zadań - w roju są wyspecjalizowane jednostki wykonujące swoje zadania. Paweł Paduch Obliczenia Naturalne - rojowe 31 z 44

32 Samoorganizacja Naturalne pszczoły Algorytm Przykład Bonabeau scharakteryzował 4 podstawowe własności na których opiera się samoorganizacja. Pozytywne sprzężenie zwrotne - informacja potwierdzająca, że dane działanie jest dobre i trzeba go kontynuować. Gdy ilość sprowadzanego nektaru zwiększa się, to i coraz większa liczba pszczół angażuje się eksploracje danego terenu. Negatywne sprzężenie zwrotne - przeciwdziała powyższemu stabilizując kolektywny wzorzec, np. po wyczerpaniu nektaru pszczoły opuszczają poletko. Fluktuacje - losowe odchylenia od kolektywnego działania często poprawiają wyniki. Skauci latają w losowych kierunkach odkrywając nowe źródła pożywienia. Wielokrotne interakcje - pszczoły dzielą się informacją o znalezionym nektarze przez taniec. Paweł Paduch Obliczenia Naturalne - rojowe 32 z 44

33 Sztuczne pszczoły Naturalne pszczoły Algorytm Przykład W algorytmie ABC sztuczne pszczoły poruszają się w wielowymiarowej przestrzeni poszukiwań. Mają one przydzielone różne funkcje takie jak obserwator, pracownica czy skaut(zwiadowca). Niektóre z nich (pracujące i obserwujące) korzystają z doświadczenia własnego lub kolegów z gniazda, inne (skauci) zbierają nektar z losowych miejsc, nie biorąc pod uwagę doświadczenia. Paweł Paduch Obliczenia Naturalne - rojowe 33 z 44

34 Sztuczne pszczoły Naturalne pszczoły Algorytm Przykład Na samym początku wypuszczane są pszczoły zwiadowcy losowo inicjujące pewien zbiór rozwiązań. Pszczoły pracujące, lecą do okolic (miejsca o nieznacznie przesuniętych współrzędnych) znalezionego danego rozwiązania. Pszczoły obserwujące, na podstawie wyników jakie uzyskały pszczoły pracujące, podejmują decyzje, którym pszczołom pracującym mogą pomóc, np. na zasadzie koła ruletki. Gdy poszukiwania przestają przynosić poprawę wyników, pszczoły pracujące przekształcają się w skautów szukając na oślep nowych, potencjalnych rozwiązań zadania. Paweł Paduch Obliczenia Naturalne - rojowe 34 z 44

35 Algorytm Naturalne pszczoły Algorytm Przykład Algorytm 4 ABC 1: Zainicjuj n skautów umieszczając ich losowo w przestrzeni poszukiwań 2: repeat 3: Oceń rozwiązania (ilość nektaru) 4: Wybierz m rozwiązań do poszukiwań (wybierane są pszczoły o najlepszym przystosowaniu a tym samym regiony przez nie odwiedzone). 5: Określ prawdopodobieństwo przydziału przyglądaczy do danych m regionów (lub inną metodę selekcji np. elitarną, wtedy określamy liczbę e elitarnych regionów gdzie przydzielana jest z góry określona liczby pszczół nep, pozostałe pszczoły nsp zatrudniane są do m e regionów) 6: pszczoły w poszczególnych regionach eksploatują je w granicach o rozmiarach 2 ngh (oceniamy wszystkie rozwiązania) 7: Wybierz po jednej najlepszej pszczole z każdego regionu. 8: Przydziel (n m) pozostałych pszczół do przeszukiwania losowego (wypuść nowych skautów) 9: until Spełnione kryteria stopu Paweł Paduch Obliczenia Naturalne - rojowe 35 z 44

36 Przykład Naturalne pszczoły Algorytm Przykład Mamy losowo wygenerowanych n = 20 pszczół w przestrzeni poszukiwań. 6 4 x x1 Paweł Paduch Obliczenia Naturalne - rojowe 36 z 44

37 Przykład Naturalne pszczoły Algorytm Przykład Wybieramy m = 3 najlepsze pszczoły, a w śród nich e = 1 pszczół elitarnych 6 4 x x1 Paweł Paduch Obliczenia Naturalne - rojowe 37 z 44

38 Przykład Naturalne pszczoły Algorytm Przykład Rekrutujemy resztę pszczół do wybranych miejsc. Miejsce pszczoły elitarnej dostaje np. nep = 7, po nsp = 3 rozlosowana do pozostałych m e = 2 regionów. Dla ngh = 0, 5 regiony mają rozmiary odpowiednio: (x 11 ngh, x 11 + ngh) (x 21 ngh, x 21 + ngh) (x 12 ngh, x 12 + ngh) (x 22 ngh, x 22 + ngh) (x 13 ngh, x 13 + ngh) (x 23 ngh, x 23 + ngh) x (x11, x21) (x13, x23) (x12, x22) Paweł Paduch Obliczenia Naturalne - rojowe 38 z 44 x1

39 Przykład Naturalne pszczoły Algorytm Przykład Wybierz po jednej najlepszej pszczole z każdego regionu 6 4 x x1 Paweł Paduch Obliczenia Naturalne - rojowe 39 z 44

40 Przykład Naturalne pszczoły Algorytm Przykład Dolosuj pozostałe n m = 17 pszczół do nowego pokolenia i oceń ponownie. 6 4 x x1 Paweł Paduch Obliczenia Naturalne - rojowe 40 z 44

41 BCO BCO MBO Kolejnym systemem zainspirowanym rojem pszczół jest algorytmy BCO (ang. Bee Colony Optimization) BCO zaproponowany został przez Dušana Teodorovića i Mauro Dell orco w 2005 roku. Budowa końcowego rozwiązania generowana jest przez rozwijanie rozwiązań częściowych. Słabe rozwiązania eliminowane są już na etapie ich tworzenia. Metodą tą skutecznie można rozwiązywać np. problemy alokacji zadań, czy chociażby problem komiwojażera. Paweł Paduch Obliczenia Naturalne - rojowe 41 z 44

42 MBO BCO MBO Ostatni z trzech wymienianych tu algorytmów pszczelarskich, zaproponował H.A. Abbas w MBO bazuje na kopulacji królowej z trutniami. Królowe reprezentują potencjalne rozwiązania. Odbywają loty godowe z trutniami, dzięki czemu powstaje nowe potomstwo, które zostaje ulepszone przez robotnice za pomocą danej metaheurystyki. Najgorsze matki są w tym modelu zastępowane najlepszym potomstwem. Abbas wykorzystał ten algorytm do rozwiązywania jednego z problemów NP-zupełnych, problemu spełnialności 3-SAT. Paweł Paduch Obliczenia Naturalne - rojowe 42 z 44

43 Pytania BCO MBO? Paweł Paduch Obliczenia Naturalne - rojowe 43 z 44

44 koniec BCO MBO Dziękuję Państwu za uwagę. Paweł Paduch Obliczenia Naturalne - rojowe 44 z 44

Rój cząsteczek. Particle Swarm Optimization. Adam Grycner. 18 maja Instytut Informatyki Uniwersytetu Wrocławskiego

Rój cząsteczek. Particle Swarm Optimization. Adam Grycner. 18 maja Instytut Informatyki Uniwersytetu Wrocławskiego Rój cząsteczek Particle Swarm Optimization Adam Grycner Instytut Informatyki Uniwersytetu Wrocławskiego 18 maja 2011 Adam Grycner Rój cząsteczek 1 / 38 Praca Kennedy ego i Eberhart a Praca Kennedy ego

Bardziej szczegółowo

PSO Rój cząsteczek - Particle Swarm Optimization. Michał Szopiak

PSO Rój cząsteczek - Particle Swarm Optimization. Michał Szopiak PSO Rój cząsteczek - Particle Swarm Optimization Michał Szopiak Inspiracje biologiczne Algorytm PSO wywodzą się z obserwacji gróp zwierzą tworzony przez członków ptasich stad, czy ławic ryb, który umożliwia

Bardziej szczegółowo

Obliczenia naturalne Natural Computing. Informatyka II stopień (I stopień / II stopień) ogólno akademicki (ogólno akademicki / praktyczny)

Obliczenia naturalne Natural Computing. Informatyka II stopień (I stopień / II stopień) ogólno akademicki (ogólno akademicki / praktyczny) KARTA MODUŁU / KARTA PRZEDMIOTU Załącznik nr 7 do Zarządzenia Rektora nr 10/12 z dnia 21 lutego 2012r. Kod modułu Nazwa modułu Nazwa modułu w języku angielskim Obowiązuje od roku akademickiego 2012/2013

Bardziej szczegółowo

SZTUCZNA INTELIGENCJA

SZTUCZNA INTELIGENCJA SZTUCZNA INTELIGENCJA WYKŁAD 17. ALGORYTMY EWOLUCYJNE Częstochowa 2014 Dr hab. inż. Grzegorz Dudek Wydział Elektryczny Politechnika Częstochowska KODOWANIE BINARNE Problem różnych struktur przestrzeni

Bardziej szczegółowo

Mrówka Pachycondyla apicalis

Mrówka Pachycondyla apicalis Mrówka Pachycondyla apicalis Mrówki Pachycondyla apicalis wystepują w lasach południowego Meksyku, północnej Argentyny i Kostaryki. Wystepuja zarówno w lasach wilgotnych jak i suchych. Mrówki te polują

Bardziej szczegółowo

O dwóch modyfikacjach algorytmu PSO

O dwóch modyfikacjach algorytmu PSO Wydział Matematyki i Nauk Informacyjnych Politechnika Warszawska Seminarium: Inteligencja Obliczeniowa 24 listopada 2011 Plan prezentacji 1 Wprowadzenie 2 3 4 5 6 Definicja problemu Wprowadzenie Definicja

Bardziej szczegółowo

Algorytmy ewolucji różnicowej (ang. differential evolution -DE) oraz roju cząstek (ang. particle swarm optimization -PSO)

Algorytmy ewolucji różnicowej (ang. differential evolution -DE) oraz roju cząstek (ang. particle swarm optimization -PSO) Algorytmy ewolucji różnicowej (ang. differential evolution -DE) oraz roju cząstek (ang. particle swarm optimization -PSO) 1 Ewolucja różnicowa - wstęp Stosunkowo nowy (połowa lat 90tych) algorytm optymalizacji

Bardziej szczegółowo

Zastosowanie algorytmów rojowych w zadaniu planowania sieci WLAN Application of rogue algorithms in the WLAN planning task

Zastosowanie algorytmów rojowych w zadaniu planowania sieci WLAN Application of rogue algorithms in the WLAN planning task Zastosowanie algorytmów rojowych w zadaniu planowania sieci WLAN Application of rogue algorithms in the WLAN planning task Adam Pieprzycki a, *, Wiesław Ludwin b a Państwowa Wyższa Szkoła Zawodowa w Tarnowie,

Bardziej szczegółowo

Algorytm genetyczny (genetic algorithm)-

Algorytm genetyczny (genetic algorithm)- Optymalizacja W praktyce inżynierskiej często zachodzi potrzeba znalezienia parametrów, dla których system/urządzenie będzie działać w sposób optymalny. Klasyczne podejście do optymalizacji: sformułowanie

Bardziej szczegółowo

Algorytmy mrówkowe (optymalizacja kolonii mrówek, Ant Colony optimisation)

Algorytmy mrówkowe (optymalizacja kolonii mrówek, Ant Colony optimisation) Algorytmy mrówkowe (optymalizacja kolonii mrówek, Ant Colony optimisation) Jest to technika probabilistyczna rozwiązywania problemów obliczeniowych, które mogą zostać sprowadzone do problemu znalezienie

Bardziej szczegółowo

Optymalizacja. Wybrane algorytmy

Optymalizacja. Wybrane algorytmy dr hab. inż. Instytut Informatyki Politechnika Poznańska www.cs.put.poznan.pl/mkomosinski, Andrzej Jaszkiewicz Problem optymalizacji kombinatorycznej Problem optymalizacji kombinatorycznej jest problemem

Bardziej szczegółowo

Algorytmy stadne w problemach optymalizacji

Algorytmy stadne w problemach optymalizacji Algorytmy stadne w problemach optymalizacji Bogusław Filipowicz, Joanna Kwiecień AGH AGH Akademia Górniczo-Hutnicza w w Krakowie, Wydział Wydział EAIiE, EAIiE, Katedra Katedra Automatyki Streszczenie:

Bardziej szczegółowo

Algorytm dyskretnego PSO z przeszukiwaniem lokalnym w problemie dynamicznej wersji TSP

Algorytm dyskretnego PSO z przeszukiwaniem lokalnym w problemie dynamicznej wersji TSP Algorytm dyskretnego PSO z przeszukiwaniem lokalnym w problemie dynamicznej wersji TSP Łukasz Strąk lukasz.strak@gmail.com Uniwersytet Śląski, Instytut Informatyki, Będzińska 39, 41-205 Sosnowiec 9 grudnia

Bardziej szczegółowo

Optymalizacja. Przeszukiwanie lokalne

Optymalizacja. Przeszukiwanie lokalne dr hab. inż. Instytut Informatyki Politechnika Poznańska www.cs.put.poznan.pl/mkomosinski, Maciej Hapke Idea sąsiedztwa Definicja sąsiedztwa x S zbiór N(x) S rozwiązań, które leżą blisko rozwiązania x

Bardziej szczegółowo

Optymalizacja. Przeszukiwanie tabu

Optymalizacja. Przeszukiwanie tabu dr inż. Instytut Informatyki Politechnika Poznańska www.cs.put.poznan.pl/mkomosinski, Maciej Hapke Naturalny sposób powstania algorytmu Algorytm największego spadku niezdolność wyjścia z lokalnych optimów!

Bardziej szczegółowo

Inteligencja stadna: od mrówek do cząsteczek

Inteligencja stadna: od mrówek do cząsteczek Inteligencja stadna Inteligencja stadna: od mrówek do cząsteczek Proste elementy, właściwie powiązane w stadzie, tworzą sprytne rozwiązania Urszula Boryczka 2008 Inteligencja stadna O co właściwie chodzi?

Bardziej szczegółowo

Optymalizacja. Przeszukiwanie tabu

Optymalizacja. Przeszukiwanie tabu dr hab. inż. Instytut Informatyki Politechnika Poznańska www.cs.put.poznan.pl/mkomosinski, Maciej Hapke Naturalny sposób powstania algorytmu Algorytm optymalizacji lokalnej Niezdolność wyjścia z lokalnych

Bardziej szczegółowo

Algorytmy genetyczne. Paweł Cieśla. 8 stycznia 2009

Algorytmy genetyczne. Paweł Cieśla. 8 stycznia 2009 Algorytmy genetyczne Paweł Cieśla 8 stycznia 2009 Genetyka - nauka o dziedziczeniu cech pomiędzy pokoleniami. Geny są czynnikami, które decydują o wyglądzie, zachowaniu, rozmnażaniu każdego żywego organizmu.

Bardziej szczegółowo

Seminarium IO. Zastosowanie wielorojowej metody PSO w Dynamic Vehicle Routing Problem. Michał Okulewicz

Seminarium IO. Zastosowanie wielorojowej metody PSO w Dynamic Vehicle Routing Problem. Michał Okulewicz Seminarium IO Zastosowanie wielorojowej metody PSO w Dynamic Vehicle Routing Problem Michał Okulewicz 26.02.2013 Plan prezentacji Przypomnienie Problem DVRP Algorytm PSO Podejścia DAPSO, MAPSO 2PSO, 2MPSO

Bardziej szczegółowo

Strefa pokrycia radiowego wokół stacji bazowych. Zasięg stacji bazowych Zazębianie się komórek

Strefa pokrycia radiowego wokół stacji bazowych. Zasięg stacji bazowych Zazębianie się komórek Problem zapożyczania kanałów z wykorzystaniem narzędzi optymalizacji Wprowadzenie Rozwiązanie problemu przydziału częstotliwości prowadzi do stanu, w którym każdej stacji bazowej przydzielono żądaną liczbę

Bardziej szczegółowo

Algorytmy zrandomizowane

Algorytmy zrandomizowane Algorytmy zrandomizowane http://zajecia.jakubw.pl/nai ALGORYTMY ZRANDOMIZOWANE Algorytmy, których działanie uzależnione jest od czynników losowych. Algorytmy typu Monte Carlo: dają (po pewnym czasie) wynik

Bardziej szczegółowo

Analiza stanów gry na potrzeby UCT w DVRP

Analiza stanów gry na potrzeby UCT w DVRP Analiza stanów gry na potrzeby UCT w DVRP Seminarium IO na MiNI 04.11.2014 Michał Okulewicz based on the decision DEC-2012/07/B/ST6/01527 Plan prezentacji Definicja problemu DVRP DVRP na potrzeby UCB Analiza

Bardziej szczegółowo

Seminarium IO. Zastosowanie metody PSO w Dynamic Vehicle Routing Problem (kontynuacja) Michał Okulewicz

Seminarium IO. Zastosowanie metody PSO w Dynamic Vehicle Routing Problem (kontynuacja) Michał Okulewicz Seminarium IO Zastosowanie metody PSO w Dynamic Vehicle Routing Problem (kontynuacja) Michał Okulewicz 26.10.2012 Plan prezentacji Problem VRP+DR Algorytm PSO Podejścia MAPSO + 2-Opt 2-phase PSO Wyniki

Bardziej szczegółowo

Systemy mrówkowe. Opracowali: Dawid Strucker, Konrad Baranowski

Systemy mrówkowe. Opracowali: Dawid Strucker, Konrad Baranowski Systemy mrówkowe Opracowali: Dawid Strucker, Konrad Baranowski Wprowadzenie Algorytmy mrówkowe oparte są o zasadę inteligencji roju (ang. swarm intelligence). Służą głównie do znajdowania najkrótszej drogi

Bardziej szczegółowo

Algorytmy metaheurystyczne podsumowanie

Algorytmy metaheurystyczne podsumowanie dr hab. inż. Instytut Informatyki Politechnika Poznańska www.cs.put.poznan.pl/mkomosinski, Andrzej Jaszkiewicz Problem optymalizacji kombinatorycznej Problem optymalizacji kombinatorycznej jest problemem

Bardziej szczegółowo

Algorytmy mrówkowe. Plan. » Algorytm mrówkowy» Warianty» CVRP» Demo» Środowisko dynamiczne» Pomysł modyfikacji» Testowanie

Algorytmy mrówkowe. Plan. » Algorytm mrówkowy» Warianty» CVRP» Demo» Środowisko dynamiczne» Pomysł modyfikacji» Testowanie Algorytmy mrówkowe w środowiskach dynamicznych Dariusz Maksim, promotor: prof. nzw. dr hab. Jacek Mańdziuk 1/51 Plan» Algorytm mrówkowy» Warianty» CVRP» Demo» Środowisko dynamiczne» Pomysł modyfikacji»

Bardziej szczegółowo

Algorytmy genetyczne. Materiały do laboratorium PSI. Studia niestacjonarne

Algorytmy genetyczne. Materiały do laboratorium PSI. Studia niestacjonarne Algorytmy genetyczne Materiały do laboratorium PSI Studia niestacjonarne Podstawowy algorytm genetyczny (PAG) Schemat blokowy algorytmu genetycznego Znaczenia, pochodzących z biologii i genetyki, pojęć

Bardziej szczegółowo

WYKORZYSTANIE ALGORYTMÓW PSZCZELICH W PROCESIE POSZUKIWANIA MINIMUM FUNKCJI CELU

WYKORZYSTANIE ALGORYTMÓW PSZCZELICH W PROCESIE POSZUKIWANIA MINIMUM FUNKCJI CELU Mgr inż. Łukasz WITANOWSKI DOI: 10.17814/mechanik.2015.7.318 Dr hab. inż. Piotr LAMPART Instytut Maszyn Przepływowych PAN, Ośrodek Energetyki Cieplnej Zakład Turbin WYKORZYSTANIE ALGORYTMÓW PSZCZELICH

Bardziej szczegółowo

Strategie ewolucyjne (ang. evolu4on strategies)

Strategie ewolucyjne (ang. evolu4on strategies) Strategie ewolucyjne (ang. evolu4on strategies) Strategia ewolucyjna (1+1) W Strategii Ewolucyjnej(1 + 1), populacja złożona z jednego osobnika generuje jednego potomka. Kolejne (jednoelementowe) populacje

Bardziej szczegółowo

Ruch jednostajnie zmienny prostoliniowy

Ruch jednostajnie zmienny prostoliniowy Ruch jednostajnie zmienny prostoliniowy Przyspieszenie w ruchu jednostajnie zmiennym prostoliniowym Jest to taki ruch, w którym wektor przyspieszenia jest stały, co do wartości (niezerowej), kierunku i

Bardziej szczegółowo

Algorytm grupowania danych typu kwantyzacji wektorów

Algorytm grupowania danych typu kwantyzacji wektorów Algorytm grupowania danych typu kwantyzacji wektorów Wstęp Definicja problemu: Typowe, problemem często spotykanym w zagadnieniach eksploracji danych (ang. data mining) jest zagadnienie grupowania danych

Bardziej szczegółowo

Metody Programowania

Metody Programowania POLITECHNIKA KRAKOWSKA - WIEiK KATEDRA AUTOMATYKI i TECHNIK INFORMACYJNYCH Metody Programowania www.pk.edu.pl/~zk/mp_hp.html Wykładowca: dr inż. Zbigniew Kokosiński zk@pk.edu.pl Wykład 8: Wyszukiwanie

Bardziej szczegółowo

Wstęp do Sztucznej Inteligencji

Wstęp do Sztucznej Inteligencji Wstęp do Sztucznej Inteligencji Algorytmy Genetyczne Joanna Kołodziej Politechnika Krakowska Wydział Fizyki, Matematyki i Informatyki Metody heurystyczne Algorytm efektywny: koszt zastosowania (mierzony

Bardziej szczegółowo

Algorytmy ewolucyjne. Łukasz Przybyłek Studenckie Koło Naukowe BRAINS

Algorytmy ewolucyjne. Łukasz Przybyłek Studenckie Koło Naukowe BRAINS Algorytmy ewolucyjne Łukasz Przybyłek Studenckie Koło Naukowe BRAINS 1 Wprowadzenie Algorytmy ewolucyjne ogólne algorytmy optymalizacji operujące na populacji rozwiązań, inspirowane biologicznymi zjawiskami,

Bardziej szczegółowo

Obliczenia z wykorzystaniem sztucznej inteligencji

Obliczenia z wykorzystaniem sztucznej inteligencji Obliczenia z wykorzystaniem sztucznej inteligencji wykład IV Particle Swarm Optimization Joanna Kołodziejczyk 2016 Joanna Kołodziejczyk Obliczenia z wykorzystaniem sztucznej inteligencji 2016 1 / 38 Swarm

Bardziej szczegółowo

Algorytmy genetyczne. Materiały do laboratorium PSI. Studia stacjonarne i niestacjonarne

Algorytmy genetyczne. Materiały do laboratorium PSI. Studia stacjonarne i niestacjonarne Algorytmy genetyczne Materiały do laboratorium PSI Studia stacjonarne i niestacjonarne Podstawowy algorytm genetyczny (PAG) Schemat blokowy algorytmu genetycznego Znaczenia, pochodzących z biologii i genetyki,

Bardziej szczegółowo

Obliczenia z wykorzystaniem sztucznej inteligencji

Obliczenia z wykorzystaniem sztucznej inteligencji Obliczenia z wykorzystaniem sztucznej inteligencji wykład IV Particle Swarm Optimization Joanna Kołodziejczyk 14 kwietnia 2014 Plan wykładu 1 Swarm Intelligence Charakterystyka Zachowania społeczne 2 Powstawanie

Bardziej szczegółowo

Metody Rozmyte i Algorytmy Ewolucyjne

Metody Rozmyte i Algorytmy Ewolucyjne mgr inż. Wydział Matematyczno-Przyrodniczy Szkoła Nauk Ścisłych Uniwersytet Kardynała Stefana Wyszyńskiego Podstawowe operatory genetyczne Plan wykładu Przypomnienie 1 Przypomnienie Metody generacji liczb

Bardziej szczegółowo

Algorytmy decyzyjne będące alternatywą dla sieci neuronowych

Algorytmy decyzyjne będące alternatywą dla sieci neuronowych Algorytmy decyzyjne będące alternatywą dla sieci neuronowych Piotr Dalka Przykładowe algorytmy decyzyjne Sztuczne sieci neuronowe Algorytm k najbliższych sąsiadów Kaskada klasyfikatorów AdaBoost Naiwny

Bardziej szczegółowo

Obliczenia Naturalne - Wstęp

Obliczenia Naturalne - Wstęp Literatura Wprowadzenie Obliczenia Naturalne - Wstęp Paweł Paduch Politechnika Świętokrzyska 18 lutego 2014 Paweł Paduch Obliczenia Naturalne - Wstęp 1 z 49 Plan wykładu Wstęp Literatura Wprowadzenie 1

Bardziej szczegółowo

ALGORYTMY GENETYCZNE ćwiczenia

ALGORYTMY GENETYCZNE ćwiczenia ćwiczenia Wykorzystaj algorytmy genetyczne do wyznaczenia minimum globalnego funkcji testowej: 1. Wylosuj dwuwymiarową tablicę 100x2 liczb 8-bitowych z zakresu [-100; +100] reprezentujących inicjalną populację

Bardziej szczegółowo

Algorytmy Mrówkowe. Daniel Błaszkiewicz. 11 maja 2011. Instytut Informatyki Uniwersytetu Wrocławskiego

Algorytmy Mrówkowe. Daniel Błaszkiewicz. 11 maja 2011. Instytut Informatyki Uniwersytetu Wrocławskiego Algorytmy Mrówkowe Instytut Informatyki Uniwersytetu Wrocławskiego 11 maja 2011 Opis Mrówki w naturze Algorytmy to stosunkowo nowy gatunek algorytmów optymalizacyjnych stworzony przez Marco Dorigo w 1992

Bardziej szczegółowo

Seminarium IO. Zastosowanie algorytmu UCT w Dynamic Vehicle Routing Problem. Michał Okulewicz

Seminarium IO. Zastosowanie algorytmu UCT w Dynamic Vehicle Routing Problem. Michał Okulewicz Seminarium IO Zastosowanie algorytmu UCT w Dynamic Vehicle Routing Problem Michał Okulewicz 05.11.2013 Plan prezentacji Przypomnienie Problem DVRP Algorytm UCT Zastosowanie algorytmu UCT/PSO w DVRP Zastosowanie

Bardziej szczegółowo

Algorytmy metaheurystyczne Wykład 6. Piotr Syga

Algorytmy metaheurystyczne Wykład 6. Piotr Syga Algorytmy metaheurystyczne Wykład 6 Piotr Syga 10.04.2017 Wprowadzenie Inspiracje Wprowadzenie ACS idea 1 Zaczynamy z pustym rozwiązaniem początkowym 2 Dzielimy problem na komponenty (przedmiot do zabrania,

Bardziej szczegółowo

Klasyfikator liniowy Wstęp Klasyfikator liniowy jest najprostszym możliwym klasyfikatorem. Zakłada on liniową separację liniowy podział dwóch klas między sobą. Przedstawia to poniższy rysunek: 5 4 3 2

Bardziej szczegółowo

Algorytm Genetyczny. zastosowanie do procesów rozmieszczenia stacji raportujących w sieciach komórkowych

Algorytm Genetyczny. zastosowanie do procesów rozmieszczenia stacji raportujących w sieciach komórkowych Algorytm Genetyczny zastosowanie do procesów rozmieszczenia stacji raportujących w sieciach komórkowych Dlaczego Algorytmy Inspirowane Naturą? Rozwój nowych technologii: złożone problemy obliczeniowe w

Bardziej szczegółowo

Zastosowanie optymalizacji rojem cząstek (PSO) w procesie uczenia wielowarstwowej sieci neuronowej w problemie lokalizacyjnym

Zastosowanie optymalizacji rojem cząstek (PSO) w procesie uczenia wielowarstwowej sieci neuronowej w problemie lokalizacyjnym Zastosowanie optymalizacji rojem cząstek (PSO) w procesie uczenia wielowarstwowej sieci neuronowej w problemie lokalizacyjnym Jan Karwowski Wydział Matematyki i Nauk Informacyjnych PW 17 XII 2013 Jan Karwowski

Bardziej szczegółowo

Optymalizacja. Symulowane wyżarzanie

Optymalizacja. Symulowane wyżarzanie dr hab. inż. Instytut Informatyki Politechnika Poznańska www.cs.put.poznan.pl/mkomosinski, Maciej Hapke Wyżarzanie wzrost temperatury gorącej kąpieli do takiej wartości, w której ciało stałe topnieje powolne

Bardziej szczegółowo

Co to jest grupowanie

Co to jest grupowanie Grupowanie danych Co to jest grupowanie 1 0.9 0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1 0 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1 Szukanie grup, obszarów stanowiących lokalne gromady punktów Co to jest grupowanie

Bardziej szczegółowo

Algorytmy ewolucyjne 1

Algorytmy ewolucyjne 1 Algorytmy ewolucyjne 1 2 Zasady zaliczenia przedmiotu Prowadzący (wykład i pracownie specjalistyczną): Wojciech Kwedlo, pokój 205. Konsultacje dla studentów studiów dziennych: poniedziałek,środa, godz

Bardziej szczegółowo

Elementy inteligencji obliczeniowej

Elementy inteligencji obliczeniowej Elementy inteligencji obliczeniowej Paweł Liskowski Institute of Computing Science, Poznań University of Technology 9 October 2018 1 / 19 Perceptron Perceptron (Rosenblatt, 1957) to najprostsza forma sztucznego

Bardziej szczegółowo

Problem Komiwojażera - algorytmy metaheurystyczne

Problem Komiwojażera - algorytmy metaheurystyczne Problem Komiwojażera - algorytmy metaheurystyczne algorytm mrówkowy algorytm genetyczny by Bartosz Tomeczko. All rights reserved. 2010. TSP dlaczego metaheurystyki i heurystyki? TSP Travelling Salesman

Bardziej szczegółowo

Systemy wieloagentowe (Multi Agent Systems - MAS) aspekty wybrane

Systemy wieloagentowe (Multi Agent Systems - MAS) aspekty wybrane Systemy wieloagentowe (Multi Agent Systems - MAS) aspekty wybrane Opracowanie: dr inż. Tomasz Rutkowski Katedra Inżynierii Systemów Sterowania 2014/2015 Politechnika Gdańska Wydział Elektrotechniki i Automatyki

Bardziej szczegółowo

Plan. Zakres badań teorii optymalizacji. Teoria optymalizacji. Teoria optymalizacji a badania operacyjne. Badania operacyjne i teoria optymalizacji

Plan. Zakres badań teorii optymalizacji. Teoria optymalizacji. Teoria optymalizacji a badania operacyjne. Badania operacyjne i teoria optymalizacji Badania operacyjne i teoria optymalizacji Instytut Informatyki Poznań, 2011/2012 1 2 3 Teoria optymalizacji Teoria optymalizacji a badania operacyjne Teoria optymalizacji zajmuje się badaniem metod optymalizacji

Bardziej szczegółowo

Matematyka stosowana i metody numeryczne

Matematyka stosowana i metody numeryczne Ewa Pabisek Adam Wosatko Piotr Pluciński Matematyka stosowana i metody numeryczne Konspekt z wykładu 6 Rozwiązywanie równań nieliniowych Rozwiązaniem lub pierwiastkiem równania f(x) = 0 lub g(x) = h(x)

Bardziej szczegółowo

Dobór parametrów algorytmu ewolucyjnego

Dobór parametrów algorytmu ewolucyjnego Dobór parametrów algorytmu ewolucyjnego 1 2 Wstęp Algorytm ewolucyjny posiada wiele parametrów. Przykładowo dla algorytmu genetycznego są to: prawdopodobieństwa stosowania operatorów mutacji i krzyżowania.

Bardziej szczegółowo

1 Metody rozwiązywania równań nieliniowych. Postawienie problemu

1 Metody rozwiązywania równań nieliniowych. Postawienie problemu 1 Metody rozwiązywania równań nieliniowych. Postawienie problemu Dla danej funkcji ciągłej f znaleźć wartości x, dla których f(x) = 0. (1) 2 Przedział izolacji pierwiastka Będziemy zakładać, że równanie

Bardziej szczegółowo

Algorytm hybrydowy dla alokacji portfela inwestycyjnego przy ograniczonych zasobach

Algorytm hybrydowy dla alokacji portfela inwestycyjnego przy ograniczonych zasobach Adam Stawowy Algorytm hybrydowy dla alokacji portfela inwestycyjnego przy ograniczonych zasobach Summary: We present a meta-heuristic to combine Monte Carlo simulation with genetic algorithm for Capital

Bardziej szczegółowo

SCHEMAT ROZWIĄZANIA ZADANIA OPTYMALIZACJI PRZY POMOCY ALGORYTMU GENETYCZNEGO

SCHEMAT ROZWIĄZANIA ZADANIA OPTYMALIZACJI PRZY POMOCY ALGORYTMU GENETYCZNEGO SCHEMAT ROZWIĄZANIA ZADANIA OPTYMALIZACJI PRZY POMOCY ALGORYTMU GENETYCZNEGO. Rzeczywistość (istniejąca lub projektowana).. Model fizyczny. 3. Model matematyczny (optymalizacyjny): a. Zmienne projektowania

Bardziej szczegółowo

Struktury danych i złożoność obliczeniowa Wykład 5. Prof. dr hab. inż. Jan Magott

Struktury danych i złożoność obliczeniowa Wykład 5. Prof. dr hab. inż. Jan Magott Struktury danych i złożoność obliczeniowa Wykład 5 Prof. dr hab. inż. Jan Magott DMT rozwiązuje problem decyzyjny π przy kodowaniu e w co najwyżej wielomianowym czasie, jeśli dla wszystkich łańcuchów wejściowych

Bardziej szczegółowo

Problem komiwojażera ACO. Zagadnienie optymalizacyjne, polegające na znalezieniu minimalnego cyklu Hamiltona w pełnym grafie ważonym.

Problem komiwojażera ACO. Zagadnienie optymalizacyjne, polegające na znalezieniu minimalnego cyklu Hamiltona w pełnym grafie ważonym. Problem komiwojażera ACO Zagadnienie optymalizacyjne, polegające na znalezieniu minimalnego cyklu Hamiltona w pełnym grafie ważonym. -Wikipedia Problem do rozwiązania zazwyczaj jest przedstawiany jako

Bardziej szczegółowo

PLAN WYKŁADU OPTYMALIZACJA GLOBALNA OPERATOR KRZYŻOWANIA ETAPY KRZYŻOWANIA

PLAN WYKŁADU OPTYMALIZACJA GLOBALNA OPERATOR KRZYŻOWANIA ETAPY KRZYŻOWANIA PLAN WYKŁADU Operator krzyżowania Operator mutacji Operator inwersji Sukcesja Przykłady symulacji AG Kodowanie - rodzaje OPTYMALIZACJA GLOBALNA Wykład 3 dr inż. Agnieszka Bołtuć OPERATOR KRZYŻOWANIA Wymiana

Bardziej szczegółowo

Strategie Zespołowe (SZ) dr inż. Tomasz Białaszewski

Strategie Zespołowe (SZ) dr inż. Tomasz Białaszewski Strategie Zespołowe (SZ) dr inż. Tomasz Białaszewski Tematyka wykładu Algorytmy Inteligencji Roju (Swarm Intelligence, SI) Optymalizacja kolonią mrówek (Ant Colony Optimization, ACO) Optymalizacja rojem

Bardziej szczegółowo

Heurystyki i metaheurystyki

Heurystyki i metaheurystyki Wydział Zarządzania AGH Katedra Informatyki Stosowanej Heurystyki i metaheurystyki Inteligencja Heurystyki, metaheurystyki Wprowadzenie, podstawowe pojęcia Proste techniki przeszukiwania Metaheurystyki

Bardziej szczegółowo

Wstęp do sieci neuronowych, wykład 8 Uczenie nienadzorowane.

Wstęp do sieci neuronowych, wykład 8 Uczenie nienadzorowane. Wstęp do sieci neuronowych, wykład 8. M. Czoków, J. Piersa, A. Rutkowski Wydział Matematyki i Informatyki, Uniwersytet Mikołaja Kopernika w Toruniu 1-811-6 Projekt pn. Wzmocnienie potencjału dydaktycznego

Bardziej szczegółowo

Algorytmy genetyczne

Algorytmy genetyczne 9 listopada 2010 y ewolucyjne - zbiór metod optymalizacji inspirowanych analogiami biologicznymi (ewolucja naturalna). Pojęcia odwzorowujące naturalne zjawiska: Osobnik Populacja Genotyp Fenotyp Gen Chromosom

Bardziej szczegółowo

Zaawansowane programowanie

Zaawansowane programowanie Zaawansowane programowa wykład 4: jeszcze o metaheurystykach Genealogia metaheurystyk Genealogia wg [El-Ghazali Talbi, Metaheuristics: From Design to Implementation, 2009] wybór 1940 LS 1947 1950 prof.

Bardziej szczegółowo

ALGORYTMY GENETYCZNE (wykład + ćwiczenia)

ALGORYTMY GENETYCZNE (wykład + ćwiczenia) ALGORYTMY GENETYCZNE (wykład + ćwiczenia) Prof. dr hab. Krzysztof Dems Treści programowe: 1. Metody rozwiązywania problemów matematycznych i informatycznych.. Elementarny algorytm genetyczny: definicja

Bardziej szczegółowo

Planowanie drogi robota, algorytm A*

Planowanie drogi robota, algorytm A* Planowanie drogi robota, algorytm A* Karol Sydor 13 maja 2008 Założenia Uproszczenie przestrzeni Założenia Problem planowania trasy jest bardzo złożony i trudny. W celu uproszczenia problemu przyjmujemy

Bardziej szczegółowo

Optymalizacja ciągła

Optymalizacja ciągła Optymalizacja ciągła 5. Metoda stochastycznego spadku wzdłuż gradientu Wojciech Kotłowski Instytut Informatyki PP http://www.cs.put.poznan.pl/wkotlowski/ 04.04.2019 1 / 20 Wprowadzenie Minimalizacja różniczkowalnej

Bardziej szczegółowo

ALGORYTMY EWOLUCYJNE W OPTYMALIZACJI JEDNOKRYTERIALNEJ

ALGORYTMY EWOLUCYJNE W OPTYMALIZACJI JEDNOKRYTERIALNEJ ALGORYTMY EWOLUCYJNE W OPTYMALIZACJI JEDNOKRYTERIALNEJ Zalety: nie wprowadzają żadnych ograniczeń na sformułowanie problemu optymalizacyjnego. Funkcja celu może być wielowartościowa i nieciągła, obszar

Bardziej szczegółowo

Tabu Search (Poszukiwanie z zakazami)

Tabu Search (Poszukiwanie z zakazami) Tabu Search (Poszukiwanie z zakazami) Heurystyka - technika znajdująca dobre rozwiązanie problemu (np. optymalizacji kombinatorycznej) przy rozsądnych (akceptowalnych z punktu widzenia celu) nakładach

Bardziej szczegółowo

Grupowanie Witold Andrzejewski, Politechnika Poznańska, Wydział Informatyki 201/633

Grupowanie Witold Andrzejewski, Politechnika Poznańska, Wydział Informatyki 201/633 Grupowanie Grupowanie 7 6 5 4 y 3 2 1 0-3 -2-1 0 1 2 3 4 5-1 -2-3 -4 x Witold Andrzejewski, Politechnika Poznańska, Wydział Informatyki 201/633 Wprowadzenie Celem procesu grupowania jest podział zbioru

Bardziej szczegółowo

Zadania laboratoryjne i projektowe - wersja β

Zadania laboratoryjne i projektowe - wersja β Zadania laboratoryjne i projektowe - wersja β 1 Laboratorium Dwa problemy do wyboru (jeden do realizacji). 1. Water Jug Problem, 2. Wieże Hanoi. Water Jug Problem Ograniczenia dla każdej z wersji: pojemniki

Bardziej szczegółowo

Zastosowanie algorytmu pszczelego do rozwiązania problemu konstruowania rozkładu jazdy pociągów

Zastosowanie algorytmu pszczelego do rozwiązania problemu konstruowania rozkładu jazdy pociągów Piotr Gołębiowski 1 Politechnika Warszawska, Wydział Transportu Zastosowanie algorytmu pszczelego do rozwiązania problemu konstruowania rozkładu jazdy pociągów 1. WSTĘP Rozkład jazdy pociągów jest wyrazem

Bardziej szczegółowo

RÓWNANIA NIELINIOWE Maciej Patan

RÓWNANIA NIELINIOWE Maciej Patan RÓWNANIA NIELINIOWE Maciej Patan Uniwersytet Zielonogórski Przykład 1 Prędkość v spadającego spadochroniarza wyraża się zależnością v = mg ( 1 e c t) m c gdzie g = 9.81 m/s 2. Dla współczynnika oporu c

Bardziej szczegółowo

S O M SELF-ORGANIZING MAPS. Przemysław Szczepańczyk Łukasz Myszor

S O M SELF-ORGANIZING MAPS. Przemysław Szczepańczyk Łukasz Myszor S O M SELF-ORGANIZING MAPS Przemysław Szczepańczyk Łukasz Myszor Podstawy teoretyczne Map Samoorganizujących się stworzył prof. Teuvo Kohonen (1982 r.). SOM wywodzi się ze sztucznych sieci neuronowych.

Bardziej szczegółowo

Przeszukiwanie lokalne

Przeszukiwanie lokalne Przeszukiwanie lokalne 1. Klasyfikacja algorytmów 2. Przeszukiwanie lokalne 1. Klasyfikacja algorytmów Algorytmy dokładne znajdują rozwiązanie optymalne, 1. Klasyfikacja algorytmów Algorytmy dokładne znajdują

Bardziej szczegółowo

Uczenie sieci radialnych (RBF)

Uczenie sieci radialnych (RBF) Uczenie sieci radialnych (RBF) Budowa sieci radialnej Lokalne odwzorowanie przestrzeni wokół neuronu MLP RBF Budowa sieci radialnych Zawsze jedna warstwa ukryta Budowa neuronu Neuron radialny powinien

Bardziej szczegółowo

Wstęp do sieci neuronowych, wykład 07 Uczenie nienadzorowane.

Wstęp do sieci neuronowych, wykład 07 Uczenie nienadzorowane. Wstęp do sieci neuronowych, wykład 7. M. Czoków, J. Piersa Wydział Matematyki i Informatyki, Uniwersytet Mikołaja Kopernika w Toruniu 213-11-19 Projekt pn. Wzmocnienie potencjału dydaktycznego UMK w Toruniu

Bardziej szczegółowo

Algorytmy mrówkowe (ang. Ant Colony Optimization)

Algorytmy mrówkowe (ang. Ant Colony Optimization) Algorytmy mrówkowe (ang. Ant Colony Optimization) 1. Wprowadzenie do ACO a) mrówki naturalne b) mrówki sztuczne c) literatura (kilka pozycji) 2. ACO i TSP 1. Wprowadzenie do ACO a) mrówki naturalne ślepe,

Bardziej szczegółowo

dr inż. Jarosław Forenc

dr inż. Jarosław Forenc Informatyka 2 Politechnika Białostocka - Wydział Elektryczny Elektrotechnika, semestr III, studia stacjonarne I stopnia Rok akademicki 2010/2011 Wykład nr 7 (24.01.2011) dr inż. Jarosław Forenc Rok akademicki

Bardziej szczegółowo

Sieć Hopfielda. Sieci rekurencyjne. Ewa Adamus. ZUT Wydział Informatyki Instytut Sztucznej Inteligencji i Metod Matematycznych.

Sieć Hopfielda. Sieci rekurencyjne. Ewa Adamus. ZUT Wydział Informatyki Instytut Sztucznej Inteligencji i Metod Matematycznych. Sieci rekurencyjne Ewa Adamus ZUT Wydział Informatyki Instytut Sztucznej Inteligencji i Metod Matematycznych 7 maja 2012 Jednowarstwowa sieć Hopfielda, z n neuronami Bipolarna funkcja przejścia W wariancie

Bardziej szczegółowo

Wstęp do sieci neuronowych, wykład 07 Uczenie nienadzorowane.

Wstęp do sieci neuronowych, wykład 07 Uczenie nienadzorowane. Wstęp do sieci neuronowych, wykład 7. M. Czoków, J. Piersa Wydział Matematyki i Informatyki, Uniwersytet Mikołaja Kopernika w Toruniu 212-11-28 Projekt pn. Wzmocnienie potencjału dydaktycznego UMK w Toruniu

Bardziej szczegółowo

Podejście memetyczne do problemu DCVRP - wstępne wyniki. Adam Żychowski

Podejście memetyczne do problemu DCVRP - wstępne wyniki. Adam Żychowski Podejście memetyczne do problemu DCVRP - wstępne wyniki Adam Żychowski Na podstawie prac X. S. Chen, L. Feng, Y. S. Ong A Self-Adaptive Memeplexes Robust Search Scheme for solving Stochastic Demands Vehicle

Bardziej szczegółowo

Stochastic modelling of phase transformations using HPC infrastructure

Stochastic modelling of phase transformations using HPC infrastructure Stochastic modelling of phase transformations using HPC infrastructure (Stochastyczne modelowanie przemian fazowych z wykorzystaniem komputerów wysokiej wydajności) Daniel Bachniak, Łukasz Rauch, Danuta

Bardziej szczegółowo

Struktury danych i złożoność obliczeniowa Wykład 7. Prof. dr hab. inż. Jan Magott

Struktury danych i złożoność obliczeniowa Wykład 7. Prof. dr hab. inż. Jan Magott Struktury danych i złożoność obliczeniowa Wykład 7 Prof. dr hab. inż. Jan Magott Problemy NP-zupełne Transformacją wielomianową problemu π 2 do problemu π 1 (π 2 π 1 ) jest funkcja f: D π2 D π1 spełniająca

Bardziej szczegółowo

Janusz Adamowski METODY OBLICZENIOWE FIZYKI Kwantowa wariacyjna metoda Monte Carlo. Problem własny dla stanu podstawowego układu N cząstek

Janusz Adamowski METODY OBLICZENIOWE FIZYKI Kwantowa wariacyjna metoda Monte Carlo. Problem własny dla stanu podstawowego układu N cząstek Janusz Adamowski METODY OBLICZENIOWE FIZYKI 1 Rozdział 20 KWANTOWE METODY MONTE CARLO 20.1 Kwantowa wariacyjna metoda Monte Carlo Problem własny dla stanu podstawowego układu N cząstek (H E 0 )ψ 0 (r)

Bardziej szczegółowo

Strategie ewolucyjne (ang. evolution strategies)

Strategie ewolucyjne (ang. evolution strategies) Strategie ewolucyjne (ang. evolution strategies) 1 2 Szybki przegląd Rozwijane w Niemczech w latach 60-70. Wcześni badacze: I. Rechenberg, H.-P. Schwefel (student Rechenberga). Typowe zastosowanie: Optymalizacja

Bardziej szczegółowo

MATeMAtyka 4 Przedmiotowy system oceniania wraz z określeniem wymagań edukacyjnych

MATeMAtyka 4 Przedmiotowy system oceniania wraz z określeniem wymagań edukacyjnych MATeMAtyka 4 Przedmiotowy system oceniania wraz z określeniem wymagań edukacyjnych Zakres podstawowy i rozszerzony Wyróżnione zostały następujące wymagania programowe: konieczne (K), podstawowe (P), rozszerzające

Bardziej szczegółowo

Zastosowania sieci neuronowych

Zastosowania sieci neuronowych Zastosowania sieci neuronowych klasyfikacja LABORKA Piotr Ciskowski zadanie 1. klasyfikacja zwierząt sieć jednowarstwowa żródło: Tadeusiewicz. Odkrywanie własności sieci neuronowych, str. 159 Przykład

Bardziej szczegółowo

ROZWIĄZYWANIE RÓWNAŃ NIELINIOWYCH

ROZWIĄZYWANIE RÓWNAŃ NIELINIOWYCH Transport, studia I stopnia Instytut L-5, Wydział Inżynierii Lądowej, Politechnika Krakowska Ewa Pabisek Adam Wosatko Postać ogólna równania nieliniowego Często występującym, ważnym problemem obliczeniowym

Bardziej szczegółowo

Metody numeryczne I Równania nieliniowe

Metody numeryczne I Równania nieliniowe Metody numeryczne I Równania nieliniowe Janusz Szwabiński szwabin@ift.uni.wroc.pl Metody numeryczne I (C) 2004 Janusz Szwabiński p.1/66 Równania nieliniowe 1. Równania nieliniowe z pojedynczym pierwiastkiem

Bardziej szczegółowo

CMAES. Zapis algorytmu. Generacja populacji oraz selekcja Populacja q i (t) w kroku t generowana jest w następujący sposób:

CMAES. Zapis algorytmu. Generacja populacji oraz selekcja Populacja q i (t) w kroku t generowana jest w następujący sposób: CMAES Covariance Matrix Adaptation Evolution Strategy Opracowanie: Lidia Wojciechowska W algorytmie CMAES, podobnie jak w algorytmie EDA, adaptowany jest rozkład prawdopodobieństwa generacji punktów, opisany

Bardziej szczegółowo

KADD Minimalizacja funkcji

KADD Minimalizacja funkcji Minimalizacja funkcji n-wymiarowych Forma kwadratowa w n wymiarach Procedury minimalizacji Minimalizacja wzdłuż prostej w n-wymiarowej przestrzeni Metody minimalizacji wzdłuż osi współrzędnych wzdłuż kierunków

Bardziej szczegółowo

PRACA DYPLOMOWA MAGISTERSKA

PRACA DYPLOMOWA MAGISTERSKA Politechnika Poznańska Wydział Budowy Maszyn i Zarządzania PRACA DYPLOMOWA MAGISTERSKA Konstrukcja autonomicznego robota mobilnego Małgorzata Bartoszewicz Promotor: prof. dr hab. inż. A. Milecki Zakres

Bardziej szczegółowo

Kolejny krok iteracji polega na tym, że przechodzimy do następnego wierzchołka, znajdującego się na jednej krawędzi z odnalezionym już punktem, w

Kolejny krok iteracji polega na tym, że przechodzimy do następnego wierzchołka, znajdującego się na jednej krawędzi z odnalezionym już punktem, w Metoda Simpleks Jak wiadomo, problem PL z dowolną liczbą zmiennych można rozwiązać wyznaczając wszystkie wierzchołkowe punkty wielościanu wypukłego, a następnie porównując wartości funkcji celu w tych

Bardziej szczegółowo

Techniki optymalizacji

Techniki optymalizacji Techniki optymalizacji Symulowane wyżarzanie Maciej Hapke maciej.hapke at put.poznan.pl Wyżarzanie wzrost temperatury gorącej kąpieli do takiej wartości, w której ciało stałe topnieje powolne zmniejszanie

Bardziej szczegółowo

Wstęp do sieci neuronowych, wykład 11 Łańcuchy Markova

Wstęp do sieci neuronowych, wykład 11 Łańcuchy Markova Wstęp do sieci neuronowych, wykład 11 Łańcuchy Markova M. Czoków, J. Piersa 2010-12-21 1 Definicja Własności Losowanie z rozkładu dyskretnego 2 3 Łańcuch Markova Definicja Własności Losowanie z rozkładu

Bardziej szczegółowo

Algorytmy stochastyczne, wykład 01 Podstawowy algorytm genetyczny

Algorytmy stochastyczne, wykład 01 Podstawowy algorytm genetyczny Algorytmy stochastyczne, wykład 01 J. Piersa Wydział Matematyki i Informatyki, Uniwersytet Mikołaja Kopernika 2014-02-21 In memoriam prof. dr hab. Tomasz Schreiber (1975-2010) 1 2 3 Różne Orientacyjny

Bardziej szczegółowo