Inteligencja stadna: od mrówek do cząsteczek

Transkrypt

1 Inteligencja stadna Inteligencja stadna: od mrówek do cząsteczek Proste elementy, właściwie powiązane w stadzie, tworzą sprytne rozwiązania Urszula Boryczka 2008

2 Inteligencja stadna O co właściwie chodzi? Pojedyncza mrówka nie jest bardzo mądra, ale mrówki w kolonii, działające w kolektywie, wykonują bardzo ważne zadania. Pojedynczy neuron w ludzkim mózgu może reagować na to, jakie uaktywniono połączenia, ale wszystkie one razem mogą być Albertem Einsteinem. Deborah M. Gordon (Stanford University)

3 Inteligencja stadna O co właściwie chodzi? Pojedyncza mrówka nie jest bardzo mądra, ale mrówki w kolonii, działające w kolektywie, wykonują bardzo ważne zadania. Pojedynczy neuron w ludzkim mózgu może reagować na to, jakie uaktywniono połączenia, ale wszystkie one razem mogą być Albertem Einsteinem. Deborah M. Gordon (Stanford University) Jesteśmy zainteresowani systemami, gdzie pojedyncze jednostki łącznie zachowują się w bardzo skomplikowany sposób.

4 Problemy Wprowadzenie Żłożoność Wytwórczość Przykłady Iteligencja stadna: uczenie się z natury Mrówki Naturalne mrówki: jak one to robią? Systemy Mrowiskowe (Ant Colony Optimization) Zastosowania: TSP Ryby i ptaki Modelowanie stada ptaków Optymalizacja Stadna Cząsteczek (Particle Swarm Optimization) Systemy rojowe Taniec wywijany ABC algorytm Zastosowania Wnioski

5 Złożoność Sztuczna Inteligencja Sieci neuronowe Chaos Efekt motyla Atraktory Fraktale Samoorganizacja Systemy nieliniowe Wytwórczość Inteligencja stadna

6 Złożoność Studiowanie systemów na wielu poziomach wolności. Wiele naturalnych, sztucznych lub abstrakcyjnych obiektów lub sieci tychże może być rozpatrywane jako systemy złożone. Studia nad złożonością są wysoce interdyscyplinarne. Przykłady systemów złożonych zawierają w sobie mrówcze kopce, ludzką ekonomię, klimat, systemy nerwowe, komórki i istoty żywe, włączając ludzi, jaki i nowoczesne infrastruktury telekomunikacyjne.

7 Złożoność Wszystkie systemy złożone mają wspólne cechy behawioralne i strukturalne: Relacje nie są liniowe Relacje zawierają sprzężenia zwrotne Systemy złożone cechuje zachowanie histeryczne: zmieniają się w czasie i stany bieżące mogą mieć wpływ na następne stany. Systemy złożone mogą być zagnieżdżone : Składniki takiego systemu mogą same stanowić system złożony. (komórka-organizm-kolonia-ekosystem-gaia) Mogą się charakteryzować zachowaniami wytwórczymi.

8 Wytwórczość Całość iest czymś więcej niż suma ich części (Arystoteles) Definicja: pojawienie się nowych i spójnych struktur, wzorów i właściwości w czasie procesu samoorganizacji w systemach złożonych. Goldstein Nadzwyczajna złożoność, która powstaje z głębokiej prostoty Murray Gell-Mann (Nagroda Nobla za model kwarków) Zachowanie od dołu do góry: prości agenci na podstawie prostych reguł budują złożone systemy/zachowania. Agenci nie zawsze podążają za liderem. Termitiera katedra kopiec ten zbudowany przez kolonię termitów: klasyczny przykład wytwórczości w naturze.

9 Przykłady Biologia: śluzowiec (jądrowce) jest jednokomórkowym organizmem, który przyjmuje formę pojedynczego pełzakowca, ale pod wpływem stresu gromadzą się one w postaci wielokomórkowego zespołu. Model: Śluzowce wydzielają substancję zmienną w czasie i zwaną feromonem. Reguły lokalne: Przemieść się w kierunku koncentracji największego feromonu. Jeśli feromonu nie ma, wówczas przemieszczaj się losowo. W chwili, gdy inne organizmy śluzowców wydzielają feromon, w innych miejscach podlega on procesowi wyparowywania w każdej jednostce czasu. Parametry: liczba komórek, współczynnik wyparowywania

10 Przykłady Ekonomia: Giełda dokładnie reguluje ceny na rynku światowym, bez wyznaczania lidera. Sieć World Wide Web jest zdecentralizowanym systemem wykorzystującym właściwości wytwórcze. Liczba linków wskazujących na odpowiednią stronę powoduje zmianę prawa siły (reguła). Matematyka: wstęga Möbiusa ma własności wytwórcze: może być skonstruowana ze zbioru dwustronnego, czterech krawędzi, powierzchni kwadratowej. I tylko zbiór kompletny tworzy to niesamowite zjawisko jednostronne i jednokrawędziowe! Czy umysł ludzki i jego świadomość może być wyjaśniona jako zachowania emergentne osiągane poprzez interakcje między poszczególnymi neuronami?

11 Inteligencja stadna Bazuje na przykładach kolektywnych, wytwórczych zachowań grupy pojedynczych agentów Kolonia mrówek Stado ptaków - rój Stado zwierząt Ławica ryb

12 Uczenie się z natury - bionika Natura inspiruje badaczy na wiele różnych sposobów. Samoloty są konstruowane na podstawie budowy skrzydeł ptaków. Roboty są konstruowane, budowane po to, aby naśladować zachowania, ruchy owadów. Odporne na szereg czynników materiały syntetyzuje się na podstawie pajęczych sieci. Miliony lat ewolucji wszystkie organizmy rozwinęły lub stworzyły rozwiązania dla szerokiego zakresu problemów. Pewne pomysły powinny być rozwijane poprzez zastosowania wynikające z zalet, jakie oferuje nam Natura we wszystkich tych przykładach.

13 Uczenie z natury Pewne systemy socjalne w Naturze mogą przedstawiać, reprezentować przykłady zachowań inteligencji stadnej mimo, że skonstruowane są z bardzo prostych indywiduów. Inteligentne rozwiązania to naturalnie problemy powstałe z samoorganizacji i komunikacji poszczególnych indywiduów. Te systemy dostarczają ważnych argumentów (technik), które mogą być wykorzystane w rozwoju rozproszonych, sztucznych systemów inteligentnych.

14 Inteligencja Stadna Inteligencja stadna jest techniką sztucznej inteligencji bazująca na studiach nad kolektywnym wzorcem zachowań indywiduów w samoorganizujących się systemach. Systemy inteligencji stadnej są zwykle tworzone z populacji prostych agentów lokalnie oddziałujących ze sobą i ze swym otoczeniem. Owa interakcja często prowadzi do emergentnych globalnych zachowań. Najważniejsze bio-inspirowane algorytmy, które rozwinęły sie ostatnio to: Ant Colony Optimisation (ACO) Particle Swarm Optimisation (PSO)

15 Naturalne Mrówki Pojedyncze mrówki są prymitywnymi owadami z ograniczoną pamięcią i możliwościami ułatwiającymi wykonanie prostych czynności/akcji. Jednakże kolonia mrówek stanowi przykład kompleksowego, kolektywnego zachowania dostarczającego lub generującego inteligentne rozwiązania problemów, takich jak: dźwiganie wielkich przedmiotów tworzenie pomostów znajdowanie najkrótszych tras ze źródła pożywienia do mrowiska, szeregując je ze względu na odległości i dostępność tego źródła.

16 Naturalne Mrówki W kolonii mrówek każda mrówka na swoje z góry przewidziane zadania, lecz każda z nich może zmienić swoje role, jeśli kolektyw tego będzie wymagał. Na zewnątrz mrowiska, mrówki mają 4 różne zadania: Furażowanie:poszukiwanie i dostarczanie pożywienia Patrolowanie: szukanie i zabezpieczanie pożywienia Praca porządkowa: Sortowanie i budowa kopców z odpadów Budowa mrowiska: konstrukcja i czyszczenie kanałów Decyzja mrówki o tym, czy wykonać dane zadanie zależy od: Stanu fizycznego otoczenia agenta: Jeśli część mrowiska jest uszkodzona, więcej mrówek zajmuje się reperowaniem tegoż mrowiska Socialnych interakcji z pozostałymi mrówkami

17 W jaki sposób owady społeczne osiągają samoorganizację? Konieczność komunikacji Dwa typy komunikacji: Bezpośrednia: antenacja, trophallaxis (wymiana płynów i pożywienia), kontakt ustny, kontakt wizualny, chemiczny kontakt, etc. Pośrednia: dwa indywidua oddziaływują na siebie pośrednio gdy jeden z nich modyfikuje otoczenie i inny odpowiada w nowym otoczeniu, w późniejszym czasie. Ta forma nazywana jest stygmergią.

18 Mrówki: Jak one to robią? Skąd one wiedzą, jakie mają wykonać zadanie? Gdy mrówki się spotykają, dotykają się czółkami, które są organami wyczuwającymi zapachy chemiczne. Każda mrówka potrafi wyczuć specyficzny zapach całego mrowiska, którym obdzielają się współmieszkańcy. Oprócz tego zapachu, mrówki wydzielają zapach specyficzny dla ich zadań, co jest spowodowane temperaturą i wilgotnością powietrza w otoczeniu, w którym pracują. W ten sposób mrówka może oceniać wielkość tego licznika z innymi wielkościami dla mrówek wykonujących to samo zadanie. Wzorzec interakcji każdej z mrówek (ślad feromonowy) i jej doświadczenie wpływa na prawdopodobieństwo, z jakim wykonują one swoje zadania.

19 Mrówki: Jak one to robią? Jak one zdołają znaleźć najkrótszą ścieżkę? Najlepszą metodą dla mrówek, które chcą znaleźć rozwiązanie jest umieszczenie mrówki równomiernie i ciągle, ponieważ jeśli sytuacja taka nie zdarzy się obok danej mrówki, to one nie potrafiłyby odnotować jej i nauczyć się. Oczywiście mrówek jest ograniczona ilość w mrowisku, stąd mrówki poruszają się w przestrzeni zgodnie z jakimś wzorcem, co umożliwia im wystarczające pokrycie całej przestrzeni.

20 Mrówki: Jak one to robią? Mrówki mają ustalony sposób komunikacji pośredniej bazujący na pozostawianiu feromonu na ścieżce, którą przebyły. Pojedyncza mrówka porusza się losowo, lecz gdy napotka na swej drodze ślad feromonowy, jest to wielce prawdopodobne, że mrówka będzie podążać za tym śladem. Mrówka furażując, pozostawia ślad feromonowy na swej drodze. Gdy znajdzie źródło pożywienia, wraca do mrowiska wzmacniając drogę powrotu śladem feromonowym. W ten sposób, inne mrówki mają większe szanse (prawdopodobieństwo) podążania za tym śladem feromonowym i w konsekwencji pozostawiania większej ilości śladu feromonowego na tej drodze. Ten proces określa się mianem pętli dodatniego sprzężenia zwrotnego ponieważ im wyższa jest wartość tego feromonu, tym wyższe jest prawdopodobieństwo podążania tym śladem na danej trasie.

21 Mrówki: Jak one to robią? Ponieważ trasa B jest krótsza, mrówki będą kontynuowały tu swą podróż znacznie częściej i dlatego będą kłaść więcej feromonu właśnie na niej. Feromonowa koncentracja na trasie B będzie wzrastać znacznie szybciej niż na trasie A, wkrótce też mrówki z krawędzi A będą wybierać jako swoją trasę B Jeśli większość mrówek nie będzie wybierało do przebycia trasy A, wówczas feromon jest niestabilny, ślad ten po prostu będzie wyparowywał Tylko najkrótsze trasy będą wzmacniane poprzez ślad feromonowy!

22 Mrówki: Eksperymenty 1 Mrówki budują takie same trasy (każda na jednej z dwu ścieżek, 50% całości) 2 Mrówki wykorzystują krótkie trasy (ścieżki) 3 Mrówki szukaja najkrótszej trasy (ścieżki)

23 Modelując kolonię mrówek Jest oczywiste, że zdolność znajdowania najkrótszej trasy z mrowiska do źródła pożywienia może być wykorzystana do rozwiązywania problemów grafowych. Otoczenie: Akcje wykonywane przez mrówki: W mieście mrówka wybiera swoją trasę na podstawie intensywności feromonej na dostępnych ścieżkach Mrówka gdy znajdzie źródło pożywienia, rozpoczyna powrót do mrowiska pozostawiając ślad feromonowy Wszystkie akcje wymagają lokalnych informacji i krótkotrwałej pamięci.

24 Ant Colony Optimization Technika Optymalizacyjna zaproponowana przez Marco Dorigo na pocz. lat 90 Każda wirtualna mrówka jesta probabilistycznym mechanizmem, który konstruuje rozwiązanie problemu wykorzystując: Pozostawianie sztucznego feromonu Informację Heurystyczną: ślady feromonowe, pamięć odwiedzonych miast i widoczność... Różnice między prawdziwymi i sztucznymi mrówkami: Sztuczne mrówki żyją w świecie dyskretnym. Feromon jest aktualizowany po zbudowaniu rozwiązania. Dodatkowe mechanizmy.

25 Ant Colony Optimization ConstructAntSolutions [budowa rozwiązania] Rzeczywiste reguły probabilistycznych wyborów składników rozwiązania zmieniaja się w czasie, w zależności od wariantów ACO. UpdatePheromones [aktualizacja feromonu] Wykorzystuje się tutaj wzrost wartości feromonowych związanych z dobrymi lub obiecującymi rozwiązaniami, oraz z wyparowywaniem tych wartości w przypadku złych rozwiązań. Zmniejszanie wartości feromonowych następuje poprzez wyparowywanie feromonu - umożliwia zapominanie - faworyzuje eksplorację nowych obszarów Zwiększenie poziomu feromonuzwiązane jest z wybranym zbiorem dobrych rozwiązań- powoduje, że algorytm jest zbieżny T ij (1 ρ) T ij + ρ F (s) s S upd C ij s S upd = zbiór rozwiązań przewidzianych do aktualizacji feromonowej ρ (0; 1] to parametr zwany współczynnikiem wyparowywania F jest funkcją oceny rozwiązania.

26 Optymaliazacja mrowiskowa Różne algorytmy ACO różnią się sposobem aktualizacji feromonowej. AS-update: S upd = S iter (zbiór rozwiązań, które są utworzone w bieżącej iteracji) - Jak w naturze IB-update: S upd = S ib = arg max F(s) (iteration-best rozwiązanie: najlepsze rozwiązanie w bieżącej iteracji) wprowadza bardziej wyrazistą (stromą) tendencję w stronę dobrych rozwiązań - zwiększenie szybkości Zwiększa prawdopodobieństwo przedwczesnej zbieżności BS-update: S upd = S bs (best-so-far rozwiązanie: najlepsze rozwiązanie osiągnięte do tychczas) Wprowadza jeszcze większą stronniczość W praktyce, ACO algorytmy wykorzystujące warianty: IB-update lub BS-update reguły i które dodatkowo włączają mechanizmyunikania przedwczesnej zbieżności, osiągająlepsze rezultaty niż te stosujące AS-update regułę.

27 Zastosowania ACO moze być wykorzystane do rozwiązywania problemów grafowych takich jak Traveling Salesman Problem (TSP). O wysokiej złożoności obliczeniowej Dla których metody dokładne zawodzą i nie są efektywne Dla których nie potrzebujemy the best rozwiązania, lecz dobrego dopuszczalnego, przybliżonego.

28 Problem komiwojażera Gdy dany jest zbiór miast i ich odległości dla każdej pary miast, należy wyznaczyć koszt takiej podróży, która odwiedza (przechodzi przez) wszystkie miasta dokładnie raz i wraca do punktu startowego. Badając wszystkie możliwe rozwiązania należy wyznaczyć n! permutacji. Wykorzystując techniki programowania dynamicznego, można problem ten rozwiązać w czasie O(n 2 2 n ) Ten problem ma znaczenie praktyczne. Przykład: wyznaczanie cyklu fabrycznego: uszeregowanie trasy dla odpowiednich maszyn wiertniczych wycinających w płytach PCB.

29 TSP rozwiązywane przez ACO

30 Modelowanie stada ptaków Zsynchronizowane zachowanie stada ptaków wydaje się być funkcją wysiłków ptaków w utrzymaniu optymalnej odległości między sobą i ich sąsiadami. Individual members can profit from the discoveries and previous experience of other members during the search for food. This advantage can become decisive, overweighting the disadvantages of competition for food Ptaki i ryby dostosowują swój ruch w sensie fizycznym w celu uniknięcia drapieżników, poszukiwania pożywienia i gniazda. Ludzie mają tendencję dostosowania swoich przekonań i postaw po to, aby dojść do porozumienia ze swymi rówieśnikami lub członkami społeczeństwa. Ludzie zmieniają abstrakcyjną wielowymiarową przestrzeń, unikając kolizji.

31 Modelowanie stada Definicje: Stado jest grupą obiektów, które wykorzystują ogólną klasę przystosowawczych, bezkolizyjnych, zaggregowanych równań ruchu. Boid jest symulowanym ptako-podobnym obiektem, prezentującym ten typ zachowań. Może nim być ryba, pszczoła, dinozaur, itp. Reguły stada: Spójność: każdy boid lata w kierunku środka wszystkich sąsiadów (to znaczy, boid jest w swoim lokalnym sąsiedztwie w centrum) Separacja : każdy boid utrzymuje bezpieczną odległość w stosunku don swoich sąsiadów, unikając kolizji Wyrównanie: każdy boid zrównuje swoją prędkość i wyrównuje ją w stosunku do swoich sąsiadów Uwaga: Istnieje szereg innych reguł uczynienia stada bardziej realistycznym.

32 Particle Swarm Optimization zaproponowany przez Eberharta i Kennedy ego w środku 90 Algorytm Optymalizacji Globalnej dealing with problems w którym najlepsze rozwiązanie może być reprezentowane jako punkt na powierzchni n-wymiarowej przestrzeni. Zainspirowany zachowaniami socjalnymi stada ptaków i ławicy ryb. Główne zastosowanie to Optymalizacja Numeryczna Zalety: Wymaga tylko bardzo prostych operacji matematycznych Obliczeniowo niedrogi, w obu przypadkach Wymagań pamięciowych Szybkości działania Duża liczba cząsteczek w stadzie powoduje, że optymalizacja stadna jest zdumiewająco odporna na problem lokalnych minimów.

33 Particle Swarm Optimization Wyobraźmy sobie stado ptaków w obszarze, gdzie jest pojedyncze źródło pożywienia. Ptak nie wie, gdzie jest to źródło pożywienia, ale zna odległość do źródła pożywienia. Najlepszą strategią jest podążanie za ptakiem, który znajduje się najbliżej tego pożywienia. Cząsteczki zapamiętują i komunikują się między sobą przekazując informacje o najlepszym rozwiązaniu znalezionym do tej pory.

34 Particle Swarm Optimization Rozważa się stado cząsteczek, które poruszają sie nad przestrzenią rozwiązań a cząsteczki są oceniane zgodnie z pewnymi kryteriami przystosowania, ewaluacji. Ruch cząsteczki zależy od: Jej najlepszej pozycji uzyskanej dotychczas (pbest) najlepszej pozycji cząsteczki otaczającej (lbest) lub całej grupy (gbest) w każdej iteracji, cząsteczka zmienia swą prędkość zgodnie z pbest lub lbest/gbest. Tak więc stado bada przestrzeń rozwiązań szukając obiecujących regionów.

35 Particle Swarm Optimization Pseudokod tej procedury jest następujący:

36 Particle Swarm Optimization Kombinacja gbest i pbest :wymaga kompromisu lbest topologia może być: Socjalna: cząsteczki w topologii są zawsze takie same, niezależnie gdzie są w przestrzeni; Geograficzna: cząsteczki są analizowane wśród tych o najmniejszej odległości; Global PSO vs. Local PSO: wersja globalna zbiega sie szybciej do rozwiązania lecz może łatwiej utykać w lokalnych optimach.

37 Technologia Stada: Zastosowania Technologia stada jest szczególnie atrakcyjna bo jest tania wydajna prosta Przykłady zastosowań: Kontrola pojazdów bezzałogowych Możliwość wykorzystania do kontroli nanobotów wewnątrz ciała zaatakowanego rakiem Disney: The Lion King był I filmem wyprodukowanym w technologii stada. The Lord of the rings wykorzystywał to równie w scenach batalistycznych. Replikacja zbiorów kratowych (grid):

38 Pszczoły miodne W przypadku pszczół miodnych podstawowe własności, na których oparta jest samoorganizacja, stanowią: sprzężenie zwrotne dodatnie: wraz ze wzrostem ilości źródeł nektaru wzrasta liczba obserwatorów odwiedzających je. sprzężenie zwrotne ujemne: proces odkrywania źródła pożywienia opuszczonego przez pszczoły jest zakończony. fluktuacje: zwiadowcy przeprowadzają losowe poszukiwania w celu odkrycia nowych źródeł pożywienia wielokrotne interakcje: pszczoły dzielą się swoimi informacjami na temat miejsc źródeł pożywienia z innymi pszczołami na obszarze tańca.

39 System Rojowy

40 Taniec kołysany pszczół

41 Artificial Bee Colony

42 Pszczoły tancerki Wymiana informacji jest najważniejszym zdarzeniem w formowaniu zbiorowej wiedzy. W czasie badania ula można rozróżnić części, które powszechnie występują we wszystkich ulach. Pod względem wymiany informacji najważniejszą częścią ula jest arena taneczna. Na arenie tanecznej zachodzi komunikacja pomiędzy pszczołami dotycząca źródeł pożywienia. Ten taniec nazywany jest tańcem wirowym (kołysanym). Obserwatorzy oglądając tańce przybyłych pszczół, prawdopodobnie zdobywają informacje na temat źródeł pożywienia i decydują, które wybiorą. Istnieje większe prawdopodobieństwo wybrania zasobniejszego źródła przez obserwatorów, ponieważ więcej informacji jest przekazywanych na temat tych źródeł. Prawdopodobnie pszczoły zbieraczki dzielą się liczbą informacji proporcjonalną do zasobu źródła pożywienia co oznacza, że długość tańca kołysanego jest wprost proporcjonalna do zasobności źródła. Stąd do bogatszych źródeł udaje się proporcjonalnie więcej pszczół.

43 Wnioski Możemy uczyć się z natury i przejmować te zasady z problemów, które już przez nią zostały rozwiązane. Wiele prostych indywiduów współoddziaływuje między sobą i może osiągnąć globalne zachowanie emergentne. Techniki bazujące na naturalnych kolektywnych zachowaniach (Swarm Intelligence) są interesujące bo są: tanie,wydajne i proste. Mają mnóstwo zastosowań. Swarm intelligence jest aktywnym działem Artificial Intelligence, gdzie prowadzonych jest wciąż mnóstwo studiów, związanych z praktycznymi zastosowaniami tych technik optymalizacyjnych.

44 To wszystko Dziękuję za uwagę