METODY HEURYSTYCZNE wykład 2

Podobne dokumenty
METODY HEURYSTYCZNE wykład 2

STRATEGIE HEURYSTYCZNE

STRATEGIE HEURYSTYCZNE HEURYSTYCZNE METODY HC: PROBLEM 8 KRÓLOWYCH METODA WZROSTU (SIMPLE) HILL-CLIMBING METODA NAJSZYBSZEGO WZROSTU

METODY HEURYSTYCZNE wykład 2

METODY HEURYSTYCZNE wykład 2

STRATEGIE HEURYSTYCZNE HEURYSTYCZNE METODY METODA WZROSTU (SIMPLE) HC: PROBLEM 8 KRÓLOWYCH

Heurystyczne metody przeszukiwania

Metody przeszukiwania

Podstawy sztucznej inteligencji

ALGORYTMY GENETYCZNE I EWOLUCYJNE

Optymalizacja parametryczna (punkt kartezjańskim jest niewypukła).

Algorytm genetyczny (genetic algorithm)-

Heurystyki. Strategie poszukiwań

Algorytm Genetyczny. zastosowanie do procesów rozmieszczenia stacji raportujących w sieciach komórkowych

Uniwersytet Zielonogórski Wydział Elektrotechniki, Informatyki i Telekomunikacji Instytut Sterowania i Systemów Informatycznych

Elementy kognitywistyki II: Sztuczna inteligencja. WYKŁAD V: Agent wciąż szuka rozwiązania (choć już nie na ślepo)

Wybrane podstawowe rodzaje algorytmów

Algorytmy genetyczne

LABORATORIUM 2: Przeszukiwanie grafów cz. 2 strategie heurystyczne

Sztuczna Inteligencja i Systemy Doradcze

Optymalizacja. Wybrane algorytmy

Wyznaczanie strategii w grach

ĆWICZENIE 1: Przeszukiwanie grafów strategie heurystyczne

Algorytmy genetyczne. Materiały do laboratorium PSI. Studia niestacjonarne

Metody Optymalizacji: Przeszukiwanie z listą tabu

Obliczenia ewolucyjne - plan wykładu

Algorytmy genetyczne. Paweł Cieśla. 8 stycznia 2009

Algorytmy dla gier dwuosobowych

Elementy kognitywistyki II:

LABORATORIUM 4: Algorytmy ewolucyjne cz. 2 wpływ operatorów krzyżowania i mutacji na skuteczność poszukiwań AE

Równoważność algorytmów optymalizacji

Algorytmy ewolucyjne NAZEWNICTWO

OBLICZENIA EWOLUCYJNE

Algorytmy genetyczne

SZTUCZNA INTELIGENCJA

Planowanie drogi robota, algorytm A*

Algorytmy genetyczne. Materiały do laboratorium PSI. Studia stacjonarne i niestacjonarne

Marcel Stankowski Wrocław, 23 czerwca 2009 INFORMATYKA SYSTEMÓW AUTONOMICZNYCH

SID Wykład 2 Przeszukiwanie

Aproksymacja funkcji a regresja symboliczna

Dobór parametrów algorytmu ewolucyjnego

w analizie wyników badań eksperymentalnych, w problemach modelowania zjawisk fizycznych, w analizie obserwacji statystycznych.

Generowanie i optymalizacja harmonogramu za pomoca

ALGORYTMY GENETYCZNE (wykład + ćwiczenia)

Wstęp do Sztucznej Inteligencji

Techniki optymalizacji

Działanie algorytmu oparte jest na minimalizacji funkcji celu jako suma funkcji kosztu ( ) oraz funkcji heurystycznej ( ).

Podstawy sztucznej inteligencji

Algorytmy ewolucyjne 1

Metody Rozmyte i Algorytmy Ewolucyjne

Algorytmy ewolucyjne - algorytmy genetyczne. I. Karcz-Dulęba

ALGORYTMY EWOLUCYJNE

Automatyczny dobór parametrów algorytmu genetycznego

Optymalizacja ciągła

Algorytmy genetyczne

Rozwiązywanie problemów metodą przeszukiwania

Podstawy Sztucznej Inteligencji (PSZT)

Strefa pokrycia radiowego wokół stacji bazowych. Zasięg stacji bazowych Zazębianie się komórek

Strategie ewolucyjne (ang. evolu4on strategies)

ALGORYTMY GENETYCZNE ćwiczenia

Zadania laboratoryjne i projektowe - wersja β

Politechnika Wrocławska Wydział Elektroniki INFORMATYKA SYSTEMÓW AUTONOMICZNYCH. Heurystyka, co to jest, potencjalne zastosowania

OSTASZEWSKI Paweł (55566) PAWLICKI Piotr (55567) Algorytmy i Struktury Danych PIŁA

Sztuczne sieci neuronowe. Krzysztof A. Cyran POLITECHNIKA ŚLĄSKA Instytut Informatyki, p. 311

OBLICZENIA EWOLUCYJNE

ALGORYTMY EWOLUCYJNE W OPTYMALIZACJI JEDNOKRYTERIALNEJ

Algorytmy metaheurystyczne podsumowanie

OBLICZENIA EWOLUCYJNE

PLAN WYKŁADU OPTYMALIZACJA GLOBALNA OPERATOR KRZYŻOWANIA ETAPY KRZYŻOWANIA

Techniki optymalizacji

Algorytmy genetyczne w optymalizacji

Schemat programowania dynamicznego (ang. dynamic programming)

Optymalizacja. Przeszukiwanie lokalne

Plan. Zakres badań teorii optymalizacji. Teoria optymalizacji. Teoria optymalizacji a badania operacyjne. Badania operacyjne i teoria optymalizacji

Odkrywanie algorytmów kwantowych za pomocą programowania genetycznego

Struktury danych i złożoność obliczeniowa Wykład 7. Prof. dr hab. inż. Jan Magott

Algorytmy stochastyczne, wykład 01 Podstawowy algorytm genetyczny

Algorytmy memetyczne (hybrydowe algorytmy ewolucyjne)

6. Klasyczny algorytm genetyczny. 1

SZTUCZNA INTELIGENCJA

METODY HEURYSTYCZNE wykład 1

Sztuczna Inteligencja i Systemy Doradcze

CZYM JEST SZTUCZNA INTELIGENCJA? REPREZENTACJA WIEDZY SZTUCZNA INTELIGENCJA PROJEKTOWANIE ALGORYTMÓW I METODY SZTUCZNEJ INTELIGENCJI

SCHEMAT ROZWIĄZANIA ZADANIA OPTYMALIZACJI PRZY POMOCY ALGORYTMU GENETYCZNEGO

METODY HEURYSTYCZNE wykład 1

Algorytmy ewolucyjne (3)

Tworzenie gier na urządzenia mobilne

Optymalizacja optymalizacji

ĆWICZENIE 1: Przeszukiwanie grafów cz. 1 strategie ślepe

Algorytmy genetyczne (AG)

Algorytm memetyczny dla rzeczywistego problemu planowania tras pojazdów

Algorytmy mrówkowe (optymalizacja kolonii mrówek, Ant Colony optimisation)

Metoda określania pozycji wodnicy statków na podstawie pomiarów odległości statku od głowic laserowych

Zadanie 5 - Algorytmy genetyczne (optymalizacja)

3. MINIMAX. Rysunek 1: Drzewo obrazujące przebieg gry.

Elementy sztucznej inteligencji. Materiał udostępniony na prawach rękopisu

Metody Programowania

METODY HEURYSTYCZNE wykład 3

Wstęp do Sztucznej Inteligencji

Ekologia wyk. 1. wiedza z zakresu zarówno matematyki, biologii, fizyki, chemii, rozumienia modeli matematycznych

Transkrypt:

METODY HEURYSTYCZNE wykład 2 1

STRATEGIE HEURYSTYCZNE 2

METODA WZROSTU (SIMPLE) HILL-CLIMBING Operator - działanie podejmowane w stosunku do stanu aktualnego aby otrzymać z niego kolejny stan. 1. Wygeneruj stan początkowy (CS). 2. Jeśli CS jest stanem końcowym to zwróć SUKCES i zakończ. 3. Wybierz operator, który nie był jeszcze używany dla stanu CS i wygeneruj przy jego pomocy stan NS. 4. Jeżeli: NS jest stanem końcowym to zwróć SUKCES i zakończ; NS nie jest stanem końcowym, ale jest lepszy od CS to CS=NS. 5. Powróć do 3. Strategia stosowana do zagadnień ciągłych oraz dyskretnych. 3

HC: PROBLEM 8 KRÓLOWYCH Lokalne minimum: Stan ma 1 konflikt. Każde przesunięcie w kolumnie zwiększa liczbę konfliktów. 4

METODA NAJSZYBSZEGO WZROSTU 1. Wygeneruj stan początkowy (CS). (STEEPEST-ASCENT HILL-CLIMBING) 2. Jeśli CS jest stanem końcowym to zwróć SUKCES i zakończ. 3. Dla każdego operatora, który nie był jeszcze używany wygeneruj stan NS. 4. Jeżeli: NS jest stanem końcowym: zwróć SUKCES i zakończ. NS nie jest stanem końcowym, ale jest lepszy od CS to CS=NS. 5. Powróć do 3. W SHC przechodzi się ze stanu bieżącego do pierwszego stanu dla którego wartość funkcji oceniającej okazała się lepsza. W SAHC sprawdza się dla każdego stanu wszystkie operatory i wybiera się ten, który daje najlepszy nowy stan. 5

WADY METODY HILL CLIMBING 1. Rozwija jedną ścieżkę. 2. W przypadku jednakowych kosztów losuje ścieżkę. 3. Lokalne ekstrema. 4. Plateau (równiny). 5. Wąskie grzbiety. Co zrobić? 3. Powrót do poprzednich węzłów i próba przemieszczania się w innym kierunku lub metoda wielostartu. 4. Wykonanie dużego skoku w pewnym kierunku (eksplorowanie nowego fragmentu przestrzeni stanów). 5. Wykonanie ruchu w kilku kierunkach naraz. 6

PIERWSZY NAJLEPSZY (BEST FIRST) W wersji podstawowej tożsamy z HC dla wariantu dyskretnego. W procesie poszukiwania zawsze można wrócić do węzła lepszego (jeśli są pamiętane). Wersje: szukanie zachłanne; A*. 7

SZUKANIE ZACHŁANNE (GREEDY SEARCH) Jedna z najprostszych strategii BF. F. heurystyczna szacuje pozostałe koszty dotarcia do celu (jak: odległość od celu). Najpierw rozwijany jest najbliższy węzeł. Problemy szukania drogi: metryki: 1. Euklidesowa; 2. Manhattan (poruszanie się tylko po liniach poziomych i pionowych). W innych problemach: oceny podobieństwa. 8

Zerind Arad 118 75 71 Oradea 140 Timisoara 111 Mehadia 75 Dobreta 151 Lugoj 70 Sibiu 120 80 99 Rimnicu Vilcea 146 97 138 Craiova Fagaras Pitesti 101 211 90 Neamt 85 Bucharest Giurgiu 87 Arad Iasi 92 142 98 Urziceni Vaslui Hirsova Eforie 86 W linii prostej do Bukaresztu z: Arad 366 Bucharest 0 Craiova 160 Dobreta 242 Eforie 161 Fagaras 176 Giurgiu 77 Hirsova 151 Iasi 226 Lugoj 244 Mehadia 241 Neamt 234 Oradea 380 Pitesti 98 Rimnicu Vilcea 193 Sibiu 253 Timisoara 329 Urziceni 80 Vaslui 199 Zerind 374 366 Sibiu 253 Timisoara 329 Zerind 374 Arad 366 Oradea 380 Sibiu 253 Fagaras Rimnicu Vilcea 176 193 Bucharest 0 450km 418km

Znalezione rozwiązanie jest suboptymalne (o 32 km dłuższe niż droga optymalna). Strategia zachłanna próbuje maksymalnie zmniejszyć koszt dotarcia do celu bez oceny, czy na dłuższa metę jest to najlepsze zachowanie. GS może źle wystartować i utknąć w ślepej uliczce: Zerind Arad 118 75 71 Oradea 151 140 Sibiu 80 99 Fagaras Neamt 87 Iasi 92 Vaslui Timisoara 111 Mehadia 75 Dobreta Lugoj 70 120 Rimnicu Vilcea 97 Craiova Pitesti 146 101 138 211 90 85 Bucharest Giurgiu 142 98 Urziceni Hirsova Eforie 86 10

GS nie jest algorytmem optymalnym (niekoniecznie znajduje rozwiązanie o minimalnym koszcie). GS nie jest algorytmem zupełnym (nie zawsze znajduje rozwiązanie). Złożoność czasowa GS w najgorszym razie wynosi O(b m ), dla m kroków w głąb i średnio b możliwości. Złożoność pamięciowa GS wynosi O(b m ) (przechowuje wszystkie węzły w pamięci). Alternatywa: minimalizacja kosztów dojścia do danego węzła g(n) metoda zupełna i optymalna, lecz mało efektywna Metoda A * łączy obydwa podejścia. 11

STRATEGIA A * Funkcji heurystyczna oceniająca koszty najtańszego rozwiązania przechodzącego przez węzeł n: f (n) = g(n) + h(n) g(n) dotychczasowy koszt dotarcia do stanu n; h(n) oszacowanie kosztu od stanu bieżącego n do stanu docelowego. 1. Rozpocznij od węzła początkowego i twórz nowe węzły {n} dopóki cel nie zostanie osiągnięty 2. Posortuj nowe węzły {n} zgodnie z funkcją: f(n)=g(n)+h(n) 3. Odrzuć ścieżki zapętlone 4. Wybierz najlepszy węzeł n 5. Zostaw tylko najtańszą ścieżkę do n 6. Jeśli n jest celem skończ; jeśli nie, rozwijaj dalsze węzły {n} łącznie z n 12

Zerind Arad 118 71 Oradea 75 151 140 Mehadia Dobreta Lugoj Sibiu 80 99 Timisoara Rimnicu Vilcea 111 75 70 120 418km 97 Craiova Fagaras Pitesti 146 101 138 211 Neamt 85 87 Bucharest Iasi 92 142 98 Urziceni Vaslui Hirsova 86 90 Eforie Giurgiu 1 Arad 0+366=366 W linii prostej do Bukaresztu z: Arad 366 Bucharest 0 Craiova 160 Dobreta 242 Eforie 161 Fagaras 176 Giurgiu 77 Hirsova 151 Iasi 226 Lugoj 244 Mehadia 241 Neamt 234 Oradea 380 Pitesti 98 Rimnicu Vilcea 193 Sibiu 253 Timisoara 329 Urziceni 80 Vaslui 199 Zerind 374 2 Sibiu 140+253=393 Timisoara 118+329=447 Zerind 75+374+449 Arad Oradea 5 Fagaras 239+176=415 Rimnicu Vilcea 220+193=413 280+366=646 291+380=671 Sibiu Bucharest 338+253=591 450+0=450 Craiova 4 3 Pitesti Sibiu 366+160=526 317+100=417 300+253=553 Rimnicu Vilcea Bucharest Craiova 7 414+193=607 418+0=418 455+260=615 6

A* jest algorytmem optymalnym (znajduje rozwiązanie o minimalnym koszcie) jeśli heurystyka h jest dopuszczalna. A* jest algorytmem zupełnym (zawsze znajduje rozwiązanie) jeśli nie ma nieskończenie wielu stanów takich, że: f f (G) gdzie: G - stan docelowy. Złożoność czasowa: wykładnicza względem [błąd względny h dług. rozwiązania]. Złożoność pamięciowa: O(b m ) (przechowuje wszystkie węzły w pamięci). 14

DOPUSZCZALNOŚĆ HEURYSTYKI Funkcja heurystyczna h(n) jest dopuszczalna, jeśli w każdym stanie n spełnia następujący warunek: h(n) h * (n) h * (n) - rzeczywisty koszt ścieżki od stanu n do celu. Np.: A stan początkowy; F stan docelowy; Na krawędziach: rzecz. koszty przejścia między stanami; Wartości f. heurystycznej h(n): A B C D E F h(-) 10 3 7 4 2 0 15

SPÓJNOŚĆ HEURYSTYKI Dopuszczalna funkcja heurystyczna h(n) jest spójna (spełnia wymóg monotoniczności), jeżeli dla każdego węzła n i każdego jego następcy n : h(n) c(n,n ) + h (n ) n c(n,n ) n h(n) h(n ) Jeżeli heurystyka h(n) jest spójna, to A * znajdzie optymalną ścieżkę. 16

STRATEGIA IDA * (ITERATIVE DEEPENING A*) 1. Stosuj algorytm szukania w głąb. 2. Oceniaj całkowite koszty f (n) = g(n) + h(n) heurystyką A*. 3. Jeśli f (n) > T cofaj się. 4. Jeśli nie znaleziono rozwiązania zwiększ T i powtarzaj. Obcinane są węzły, których wartość funkcji oceny leży poniżej progu T. Poziom obcinania jest iteracyjnie zwiększany, aż do osiągnięcia celu. Zalety: niewielkie wymagania pamięciowe - jak w szukaniu w głąb - jednakże szybsza. 17

SYMULOWANE WYŻARZANIE (SIMULATED ANNEALING) Algorytm z rodziny algorytmów Generuj i Testuj. Odmiana algorytmu największego wzrostu, w której ogranicza się problem lokalnych ekstremów. Dopuszcza się przejścia ze stanu bieżącego także do stanów gorszych (uniezależnienie się od punktu startowego i badanie znacznie większego obszaru przestrzeni rozwiązań). W miarę upływu czasu prawdopodobieństwo wykonania złego posunięcia zmniejsza się. 18

Z metalurgii: Kawałek metalu ogrzewany i pozostawiany do powolnego ostygnięcia. Powolne i regularne chłodzenie - obniżenie poziomu energii atomów do momentu znalezienia się w stanie metastabilnym (o minimalnej energii). Gwałtowne ochłodzenie: zamrożenie atomów na przypadkowych pozycjach. 19

Prawdopodobieństwo przejścia do wyższego stanu energetycznego: p = e E / kt E zmiana energii stanu; T temperatura przy jakiej następuje przejście do wyższego stanu energetycznego; k stała Boltzmanna. 20

SZTUCZNE SYMULOWANE WYŻARZANIE p ' = e E / T E zmiana funkcji heurystycznej; T temperatura (tempo studzenia, rozkład wyżarzania). Rozkład wyżarzania musi być dany (założony). Najczęściej jest związany z czasem (krokiem) procesu. Prawdopodobieństwo małego skoku w kierunku wzrastającej energii jest większe niż dużego skoku. Prawdopodobieństwo skoku powodującego wzrost energii zmniejsza się wraz ze spadkiem temperatury. Wielkość skoków maleje z upływem czasu. 21

1. Wygeneruj stan początkowy (CS). 2. Ustaw początkową temperaturę T oraz stan BestSoFar:=CS. 3. Dopóki T>0 i są stany nie wykorzystane jako CS: Wybierz jeden z niewykorzystanych stanów i nazwij go NS. Oblicz E=E(NS) E(CS). Jeśli E<=0 to CS:=NS oraz BestSoFar:=NS. Jeśli E>0 to CS:=NS z prawdopodobieństwem p. Zmniejsz temperaturę T. 4. Zwróć BestSoFar jako rozwiązanie i zakończ. 22

GRY DWUOSOBOWE Typowe założenia: 1. W grze uczestniczy dwóch graczy. 2. Gracze wykonują ruchy naprzemiennie. 3. W każdej sytuacji na planszy jest skończona liczba możliwych do wykonania ruchów. 4. Sytuacja na planszy i wykonany ruch jednoznacznie wyznaczają następną sytuację na planszy. 5. Każda możliwa sytuacja na planszy może być jednoznacznie zaklasyfikowana do jednej z następujących kategorii: wygrana pierwszego gracza, wygrana drugiego gracza, remis, sytuacja nierozstrzygnięta. 23

Pojedyncza partia gry może być w pełni opisana przez ciąg naprzemiennych ruchów obu graczy, od początkowego ustawienia do rozstrzygnięcia. Aby w dowolnym momencie partii wybrać najbardziej odpowiedni ruch dla jednego z graczy, można rozważyć wszystkie możliwe scenariusze jej dalszego ciągu. Naturalna reprezentacja: drzewo gry. poziom gracza poziom przeciwnika poziom gracza 24

Obecność przeciwnika, którego ruchy nie mogą być przewidziane i dokładnie zaplanowane, decyduje o istotnej odmienności zadania przeszukiwania w grach od innych zadań przeszukiwania. Istnieje zatem konieczność posługiwania się specyficznymi algorytmami. Najczęściej stosowane podejście: przyjęcie założenia, że przeciwnik dążąc do wygrania partii zawsze wybiera najkorzystniejszy dla siebie (a więc najmniej korzystny dla gracza) ruch. 25

Algorytm mini-maks Najprostszy algorytm przeszukiwania drzew mający zastosowa-nie w nielosowych algorytmach gry w dwie osoby, np. szachów. Dla każdego ruchu symulujemy wszystkie możliwe ruchy przeciwnika. Za wartość danego naszego ruchu uznajemy wartość najlepszego z punktu przeciwnika ruchu, który może on wykonać, jeśli my wykonamy dany ruch (część min). Następnie wybieramy ruch o najwyższej wartości (część max). 1-1 -1 1 3 2-1 1 2 4 2-1 26

Pełny mini-maks 1. Przypisz liściom drzewa ocenę jako użyteczność z punktu widzenia aktualnego gracza; 2. Dla każdego poziomu k, drzewa, zaczynając od poziomu przedostatniego i kończąc na poziomie 0, 1. jeśli poziom k odpowiada aktualnemu graczowi, przypisz każdemu węzłowi tego poziomu ocenę wyznaczoną jako maksimum ocen jego węzłów potomnych z poziomu k+1; 2. jeśli poziom k odpowiada przeciwnikowi aktualnego gracza, przypisz każdemu węzłowi tego poziomu ocenę wyznaczoną jako minimum ocen jego węzłów potomnych z poziomu k+1; 3. Wybierz ruch prowadzący do węzła poziomu 1 o maksymalnej ocenie. Tak sformułowany algorytm zakłada, że dysponujemy zbudowanym pełnym drzewem gry zwykle nie jest to możliwe... 27

Obcięty mini-maks Ograniczenie głębokości analizowania drzewa gry do pewnej liczby poziomów (zależnej od złożoności gry i dostępnej mocy obliczeniowej). Wystąpią węzły terminalne odpowiadające nierozstrzygniętej partii należy je w jakiś sposób ocenić. Ich ocena nie może być oparta na wyniku partii (brak rozstrzygnięcia) ani na ocenach węzłów potomnych (brak węzłów potomnych), lecz wyłącznie na analizie związanego z nim stanu gry potrzebna jest funkcja heurystyczna... F. heurystyczna ocenia użyteczność danego stanu z punktu widzenia gracza bez rozważania dalszych możliwych ruchów. 28

Algorytm mini-maks zadowalający, jeśli stosowany do umiarkowanie złożonych gier albo wymagamy tylko umiarkowanego poziomu gry (porównywalnego ze średnim ludzkim graczem. http://wazniak.mimuw.edu.pl/index.php?title=sztuczna_inteligencja w module Gry dwuosobowe postaci algorytmów mini-maks i obcięty mini-maks (wersja rekurencyjna). 29

Cięcia alfa-beta Oparty na obciętym algorytmie mini-maks, uwzględniającym kryteria umożliwiające bezpieczne pominięcie (wycięcie) fragmentów drzewa gry. Rezygnacja z rozbudowy i analizy drzewa gry tam, gdzie jej wynik i tak nie wpłynie na wybierany ruch. Oszczędność zasobów, które można wykorzystać do przeszukiwania obiecujących fragmentów drzewa gry. 30

Cięcie alfa: oceniając węzeł przez maksymalizację ocen węzłów potomnych możemy zakończyć wyznaczanie oceny węzła potomnego natychmiast po stwierdzeniu, że musi być ona niższa niż dotychczasowe maksimum α. Cięcie beta: oceniając węzeł przez minimalizację ocen węzłów potomnych możemy zakończyć wyznaczanie oceny węzła potomnego natychmiast po stwierdzeniu, że musi być ona wyższa niż dotychczasowe minimum β. α 1-1<=α -1 1 3 2-1 4 2-1 31

Skuteczność algorytmów opartych na zasadzie minimaksu w dużej mierze zależy od jakości używanej funkcji heurystycznej. Funkcja heurystyczna powinna : 1. Przypisywać ocenę dodatnią stanowi, z którego większe szanse wygranej ma gracz, 2. Przypisywać ocenę ujemną stanowi, z którego większe szanse wygranej ma przeciwnik, 3. Przypisywać ocenę tym większą co do wartości bezwzględnej, im przewaga szans wygranej gracza albo przeciwnika jest większa. 32

W najskuteczniejszych programach grających w gry (zwłaszcza szachy) - niezwykle wyrafinowane funkcje heurystyczne, oparte na najwyższej klasy wiedzy eksperckiej i wielu eksperymentach. Dobre podejście: by funkcja heurystyczna (nawet bardzo skuteczna) mogła podlegać modyfikacjom na podstawie rozgrywanych partii (wyposażanie programów grających w gry w zdolność do uczenia się). 33

DOBÓR METODY HEURYSTYCZNEJ Pytania: 1. Czy można dokonać dekompozycji problemu? 2. Czy można ignorować/anulować pewne stany? 3. Czy wynik jest znany z góry? 4. Czy rozwiązanie jest względne czy bezwzględne? 5. Czy oczekiwane rozwiązanie jest stanem czy ścieżką? 6. Jaka ilość wiedzy jest wymagana? 7. Czy program wymaga interakcji użytkownika? 34

Ad. 1. Dekompozycja problemu. Podział zadania na mniejsze, łatwiejsze do rozwiązania fragmenty. Korzyści: Możliwość rozwiązania dużych zadań, których nie można rozwiązać bez ich podziału; Mniejsze problemy można zazwyczaj rozwiązać w krótszym czasie. Sumaryczny czas obliczeń po dekompozycji jest często krótszy niż dla zadania oryginalnego. Nie wszystkie problemy dają się dekomponować... 35

Ad. 2. Ignorowanie i anulowanie kroków. Klasy zadań: 1. Z ignorowaniem błędów - np. dowodzenie twierdzeń: błędnie wykonane wnioskowanie można zignorować i poszukiwać innej drogi rozwiązania). 2. Odwracalne - np. ósemka: możliwy jest powrót z niewłaściwego stanu do poprzedniego, co daje szanse na znalezienie rozwiązania). 3. Nieodwracalne - np. szachy. Algorytm musi podejmować decyzje obciążone ryzykiem. Niezbędna analiza w przód (planowanie). 36

Ad. 3. Znajomość wyniku. 1. Pewny wynik (np. ósemka) 2. Niepewny wynik (np. szachy, brydż) Ad. 4. Względność rozwiązania. 1. Rozwiązanie względne: problemy typu dowolna ścieżka do rozwiązania rozwiązywalne w rozsądnym czasie przy zastosowaniu dobrej heurystyki. 2. Rozwiązanie bezwzględne: Problemy typu najlepsza ścieżka do rozwiązania wymagające bardziej wyczerpującego przeszukiwania przestrzeni stanów. 37

Ad. 5. Typy rozwiązań. 1. Pojedynczy stan z przestrzeni (istotny jest stan końcowy a nie wyniki pośrednie). 2. Ścieżka prowadząca od stanu początkowego do rozwiązania (wynik jest znany, istotna jest droga dojścia do niego). Ad. 6. Wiedza. 1. Problemy wymagające wiedzy do mechanizmu sterowania (wiedza niezbędna by usprawnić algorytm sterowania i eliminować niepożądane stany). Np szachy: ruchy figur, strategia. 2. Problemy wymagające szerokiej wiedzy (wiedza ma pomóc w określeniu rozwiązania, nie tylko przyspieszeniu jego znalezienia). Np. rozumienie tekstu. 38

Ad. 7. Interakcja z użytkownikiem. 1. Systemy samodzielne: Komputer szuka rozwiązania bez komunikacji z użytkownikiem i nie wymaga się wyjaśniania procesu dochodzenia do rozwiązania). Np.: dowodzenie twierdzeń. 2. Systemy konwersacyjne: Wymagana jest interakcja z użytkownikiem. Np.: systemy ekspertowe i diagnozy medyczne. 39

PRZYKŁAD: dobór heurystyki dla ósemki Liczba węzłów w drzewie: 3 22 Przykładowe heurystyki: h 1 (n) = liczba niewłaściwie ułożonych elementów; h 2 (n) = sumaryczna odległość Manhattan (określająca liczbę pól do pożądanego położenia). S G h 1 (S) = 6 h 2 (S) = 4+0+3+3+0+1+2+1=14 40

Jeśli obie heurystyki są dopuszczalne i dla każdego n h 2 (n) h 1 (n), to: h 2 zdominuje h 1 i gwarantuje odwiedzenie mniejszej liczby węzłów. Dla ósemki h 2 jest lepszą heurystyką niż h 1 Przykładowo, dla różnych głębokości przeszukiwań d: d=8: IDS 6384 węzłów d=14: IDS nieopłacalne A*(h 1 ) 39 węzłów A*(h 1 ) 539 węzłów A*(h 2 ) 25 węzłów A*(h 2 ) 113 węzłów Z k dopuszczalnych heurystyk wybiera się: h(n)=max[h 0 (n),, h k (n)] 41

42 OPTYMALIZACJA

OPTYMALIZACJA: Działanie, mające na celu zwiększenie efektywności aż do osiągnięcia pewnego optimum. Cel główny: ulepszenie. Cel drugorzędny: osiągnięcie optimum. METODY OPTYMALIZACJI ANALITYCZNE pośrednie PRZEGLĄDOWE (enumeracyjne) LOSOWE bezpośrednie 43

44 Metody analityczne bezpośrednie: Poruszanie się po wykresie funkcji w kierunku wyznaczonym przez lokalny gradient (wspinaczka po najbardziej stromym zboczu z możliwych). Metody analityczne pośrednie: Poszukiwanie ekstremów lokalnych poprzez rozwiązanie układu równań (zwykle nieliniowych), otrzymanych poprzez przyrównanie gradientu funkcji celu do zera.

45 GŁÓWNA WADA METODANALITYCZNYCH: MAŁA ODPORNOŚĆ

Funkcja trudna do optymalizacji metodami analitycznymi: x f ( x, x ) = 21.5 sin(4 π x ) + x sin(20 π x ) 1 2 1 2 2 [ ] [ ] x -3.0, 12.1 ; x 4.1, 5.8 ; 1 2 f Funkcja niemożliwa do optymalizacji metodami analitycznymi: f(x)

Czasem maksimum globalne nie jest pożądane: Preferowane są czasem rozwiązania, których otoczenie przyjmuje wartości bliskie temu ekstremum a nie te, dla których niewielkie oddalenie się od ekstremum powoduje gwałtowny spadek wartości funkcji. Np: w przypadku inwestycji kapitałowych, by nie ryzykować straty z powodu niezbyt precyzyjnie zdefiniowanej funkcji, bądź nieznacznej zmiany jakiegoś parametru funkcji. 47

48 METODY ENUMERACYJNE: Sprowadzają się do przeszukiwania wszystkich punktów przestrzeni w poszukiwaniu optimum. Algorytm niezwykle prosty lecz skuteczny jedynie w przypadku skończonych, małych przestrzeni. Zwykle sprawdzenie wszystkich możliwości jest niemożliwe w rozsądnym czasie (tzw. przekleństwo wymiaru).

49 METODY LOSOWE: W swej najprostszej postaci: bada się losowo całą przestrzeń zadania nie korzystając z innych informacji. Poszukiwanie takie jest zwykle bardzo czasochłonne (zwykle jednak mniej niż metody enumeracyjne). Algorytmy genetyczne i ewolucyjne również zawie-rają element losowości (algorytm zrandomizowany).

50 ALGORYTMY GENETYCZNE

Karol Darwin (1859 On the origin of species ): Gregor Johann Mendel (1822-1884) - austriacki zakonnik, augustianin, prekursor genetyki. Sformułował podstawowe prawa dziedziczenia (3 prawa Mendla), przeprowadzając badania nad krzyżowaniem roślin, głównie grochu jadalnego.

Ewolucja przez dobór naturalny oznacza, że przeżywają i rozmnażają się osobniki najlepiej przystosowane do warunków środowiska. Wynik przystosowania zależy od: - organizmu; - środowiska.

Na świat przychodzi dużo więcej potomstwa, niż może pomieścić środowisko. 53 Przeżywają nieliczni, ale za to najlepsi (selekcja naturalna). W procesie ewolucji istotne jest zachowywanie różnorodności cech. Siła ewolucji to nie zaawansowany proces doskonalenia jednostki, lecz utrzymywanie dużej liczby różnorodnych osobników (tzw. populacji), która ewoluuje jako całość.

ALGORYTMY GENETYCZNE: 54 AG odwzorowują naturalne procesy ewolucji zachodzące w czasie. Ich celem jest maksymalne dopasowanie osobników do istniejących warunków życia. Rolę środowiska spełnia tu funkcja oceniająca (funkcja celu). Pomimo elementu losowości AG nie błądzą przypadkowo, lecz wykorzystują efektywnie przeszłe doświadczenia.

55 John H. Holland, 1975: Adaptation in Natural and Artificial Systems : Koncepcja algorytmu przeszukiwania opartego na zasadzie doboru naturalnego. Procedurę probabilistycznego przeszukiwania dyskretnej przestrzeni stanów nazwał algorytmem genetycznym.

56 TERMINOLOGIA: 100011011 gen najmniejsza składowa chromosomu (decyduje o dziedziczności jednej lub kilku cech); chromosom uporządkowany ciąg genów (ciąg kodowy). Zwykle utożsamiany z osobnikiem; locus miejsce genu w chromosomie; allele warianty (stany) jednego genu warunkujące daną cechę; populacja pewna liczba osobników (chromosomów);

57 TERMINOLOGIA: 100011011 genotyp ogół genów danego osobnika; fenotyp ogół cech ujawniających się na zewnątrz (np. rozkodowana postać zmiennych projektowych); mutacja zmiana jednego lub kilku genów w chromosomie; krzyżowanie operacja mająca na celu wymianę materiału genetycznego między osobnikami; selekcja wybór osobników, które zostaną poddane operacjom genetycznym.

58 SCHEMAT DZIAŁANIA AG: procedure algorytm_genetyczny begin t:=0 wybierz populację początkową P(t) oceń P(t) while (not warunek_zakończenia) do begin t:=t+1 wybierz P(t) z P(t-1) (selekcja) zmień P(t) oceń P(t) end end (działanie operatorów genetycznych)

ZASTOSOWANIA PRAKTYCZNE AG (i AE): 59 wyznaczanie trasy połączeń kablowych; harmonogramowanie; sterowanie adaptacyjne; rozgrywanie gier; zadanie plecakowe; zadanie komiwojażera; sterowanie optymalne; optymalizacja obsługi pytań w bazach danych;

60 nieliniowe systemy dynamiczne analiza danych; przewidywanie; projektowanie sieci neuronowych: architektury i wagi; poruszanie robotem; tworzenie programów; planowanie; znajdowanie kształtu molekuł białek; tworzenie grafik i muzyki;...