STRATEGIE HEURYSTYCZNE

Podobne dokumenty
METODY HEURYSTYCZNE wykład 2

METODY HEURYSTYCZNE wykład 2

STRATEGIE HEURYSTYCZNE HEURYSTYCZNE METODY HC: PROBLEM 8 KRÓLOWYCH METODA WZROSTU (SIMPLE) HILL-CLIMBING METODA NAJSZYBSZEGO WZROSTU

METODY HEURYSTYCZNE wykład 2

METODY HEURYSTYCZNE wykład 2

STRATEGIE HEURYSTYCZNE HEURYSTYCZNE METODY METODA WZROSTU (SIMPLE) HC: PROBLEM 8 KRÓLOWYCH

Heurystyczne metody przeszukiwania

Metody przeszukiwania

Podstawy sztucznej inteligencji

ALGORYTMY GENETYCZNE I EWOLUCYJNE

Algorytm genetyczny (genetic algorithm)-

Optymalizacja parametryczna (punkt kartezjańskim jest niewypukła).

Heurystyki. Strategie poszukiwań

Algorytm Genetyczny. zastosowanie do procesów rozmieszczenia stacji raportujących w sieciach komórkowych

Uniwersytet Zielonogórski Wydział Elektrotechniki, Informatyki i Telekomunikacji Instytut Sterowania i Systemów Informatycznych

Elementy kognitywistyki II: Sztuczna inteligencja. WYKŁAD V: Agent wciąż szuka rozwiązania (choć już nie na ślepo)

Wybrane podstawowe rodzaje algorytmów

Algorytmy genetyczne

LABORATORIUM 2: Przeszukiwanie grafów cz. 2 strategie heurystyczne

Optymalizacja. Wybrane algorytmy

Wyznaczanie strategii w grach

ĆWICZENIE 1: Przeszukiwanie grafów strategie heurystyczne

Algorytmy genetyczne. Materiały do laboratorium PSI. Studia niestacjonarne

Metody Optymalizacji: Przeszukiwanie z listą tabu

Obliczenia ewolucyjne - plan wykładu

Algorytmy dla gier dwuosobowych

Sztuczna Inteligencja i Systemy Doradcze

Elementy kognitywistyki II:

Równoważność algorytmów optymalizacji

LABORATORIUM 4: Algorytmy ewolucyjne cz. 2 wpływ operatorów krzyżowania i mutacji na skuteczność poszukiwań AE

Algorytmy ewolucyjne NAZEWNICTWO

Algorytmy genetyczne. Paweł Cieśla. 8 stycznia 2009

Algorytmy genetyczne

SZTUCZNA INTELIGENCJA

Planowanie drogi robota, algorytm A*

Algorytmy genetyczne. Materiały do laboratorium PSI. Studia stacjonarne i niestacjonarne

Marcel Stankowski Wrocław, 23 czerwca 2009 INFORMATYKA SYSTEMÓW AUTONOMICZNYCH

Aproksymacja funkcji a regresja symboliczna

Dobór parametrów algorytmu ewolucyjnego

Generowanie i optymalizacja harmonogramu za pomoca

OBLICZENIA EWOLUCYJNE

ALGORYTMY GENETYCZNE (wykład + ćwiczenia)

w analizie wyników badań eksperymentalnych, w problemach modelowania zjawisk fizycznych, w analizie obserwacji statystycznych.

Wstęp do Sztucznej Inteligencji

SID Wykład 2 Przeszukiwanie

Techniki optymalizacji

Działanie algorytmu oparte jest na minimalizacji funkcji celu jako suma funkcji kosztu ( ) oraz funkcji heurystycznej ( ).

Algorytmy ewolucyjne 1

Algorytmy ewolucyjne - algorytmy genetyczne. I. Karcz-Dulęba

Podstawy sztucznej inteligencji

Automatyczny dobór parametrów algorytmu genetycznego

Optymalizacja ciągła

Metody Rozmyte i Algorytmy Ewolucyjne

Algorytmy genetyczne

Rozwiązywanie problemów metodą przeszukiwania

Podstawy Sztucznej Inteligencji (PSZT)

Strefa pokrycia radiowego wokół stacji bazowych. Zasięg stacji bazowych Zazębianie się komórek

Strategie ewolucyjne (ang. evolu4on strategies)

ALGORYTMY GENETYCZNE ćwiczenia

Zadania laboratoryjne i projektowe - wersja β

ALGORYTMY EWOLUCYJNE

Politechnika Wrocławska Wydział Elektroniki INFORMATYKA SYSTEMÓW AUTONOMICZNYCH. Heurystyka, co to jest, potencjalne zastosowania

OSTASZEWSKI Paweł (55566) PAWLICKI Piotr (55567) Algorytmy i Struktury Danych PIŁA

OBLICZENIA EWOLUCYJNE

Sztuczne sieci neuronowe. Krzysztof A. Cyran POLITECHNIKA ŚLĄSKA Instytut Informatyki, p. 311

ALGORYTMY EWOLUCYJNE W OPTYMALIZACJI JEDNOKRYTERIALNEJ

Algorytmy metaheurystyczne podsumowanie

Techniki optymalizacji

Algorytmy genetyczne w optymalizacji

Schemat programowania dynamicznego (ang. dynamic programming)

Optymalizacja. Przeszukiwanie lokalne

Plan. Zakres badań teorii optymalizacji. Teoria optymalizacji. Teoria optymalizacji a badania operacyjne. Badania operacyjne i teoria optymalizacji

Odkrywanie algorytmów kwantowych za pomocą programowania genetycznego

OBLICZENIA EWOLUCYJNE

Algorytmy stochastyczne, wykład 01 Podstawowy algorytm genetyczny

PLAN WYKŁADU OPTYMALIZACJA GLOBALNA OPERATOR KRZYŻOWANIA ETAPY KRZYŻOWANIA

Algorytmy memetyczne (hybrydowe algorytmy ewolucyjne)

6. Klasyczny algorytm genetyczny. 1

SZTUCZNA INTELIGENCJA

CZYM JEST SZTUCZNA INTELIGENCJA? REPREZENTACJA WIEDZY SZTUCZNA INTELIGENCJA PROJEKTOWANIE ALGORYTMÓW I METODY SZTUCZNEJ INTELIGENCJI

SCHEMAT ROZWIĄZANIA ZADANIA OPTYMALIZACJI PRZY POMOCY ALGORYTMU GENETYCZNEGO

Algorytmy ewolucyjne (3)

Sztuczna Inteligencja i Systemy Doradcze

Tworzenie gier na urządzenia mobilne

Struktury danych i złożoność obliczeniowa Wykład 7. Prof. dr hab. inż. Jan Magott

Optymalizacja optymalizacji

ĆWICZENIE 1: Przeszukiwanie grafów cz. 1 strategie ślepe

Algorytmy genetyczne (AG)

Algorytm memetyczny dla rzeczywistego problemu planowania tras pojazdów

Algorytmy mrówkowe (optymalizacja kolonii mrówek, Ant Colony optimisation)

Metoda określania pozycji wodnicy statków na podstawie pomiarów odległości statku od głowic laserowych

Zadanie 5 - Algorytmy genetyczne (optymalizacja)

3. MINIMAX. Rysunek 1: Drzewo obrazujące przebieg gry.

METODY HEURYSTYCZNE wykład 1

Metody Programowania

METODY HEURYSTYCZNE wykład 3

Wstęp do Sztucznej Inteligencji

METODY HEURYSTYCZNE wykład 1

Metody numeryczne Technika obliczeniowa i symulacyjna Sem. 2, EiT, 2014/2015

LABORATORIUM 5: Wpływ reprodukcji na skuteczność poszukiwań AE. opracował: dr inż. Witold Beluch

Transkrypt:

HC: PROBLEM 8 KRÓLOWYCH METODY HEURYSTYCZNE Lokalne minimum: wykład 2 1 Stan ma 1 konflikt. Każde przesunięcie w kolumnie zwiększa liczbę konfliktów. 4 STRATEGIE HEURYSTYCZNE 2 METODA NAJSZYBSZEGO WZROSTU (STEEPEST-ASCENT HILL-CLIMBING) 1. Wygeneruj stan początkowy (CS). 2. Jeśli CS jest stanem końcowym to zwróć SUKCES i zakończ. 3. Dla każdego operatora, który nie był jeszcze używany wygeneruj stan NS. 4. Jeżeli: NS jest stanem końcowym: zwróć SUKCES i zakończ. NS nie jest stanem końcowym, ale jest lepszy od CS to CS=NS. 5. Powróć do 3. W SHC przechodzi się ze stanu bieżącego do pierwszego stanu dla którego wartość funkcji oceniającej okazała się lepsza. W SAHC sprawdza się dla każdego stanu wszystkie operatory i wybiera się ten, który daje najlepszy nowy stan. 5 METODA WZROSTU (SIMPLE) HILL-CLIMBING Operator - działanie podejmowane w stosunku do stanu aktualnego aby otrzymać z niego kolejny stan. 1. Wygeneruj stan początkowy (CS). 2. Jeśli CS jest stanem końcowym to zwróć SUKCES i zakończ. 3. Wybierz operator, który nie był jeszcze używany dla stanu CS i wygeneruj przy jego pomocy stan NS. 4. Jeżeli: NS jest stanem końcowym to zwróć SUKCES i zakończ; NS nie jest stanem końcowym, ale jest lepszy od CS to CS=NS. 5. Powróć do 3. Strategia stosowana do zagadnień ciągłych oraz dyskretnych. 3 WADY METODY HILL CLIMBING 1. Rozwija jedną ścieżkę. 2. W przypadku jednakowych kosztów losuje ścieżkę. 3. Lokalne ekstrema. 4. Plateau (równiny). 5. Wąskie grzbiety. Co zrobić? 3. Powrót do poprzednich węzłów i próba przemieszczania się w innym kierunku lub metoda wielostartu. 4. Wykonanie dużego skoku w pewnym kierunku (eksplorowanie nowego fragmentu przestrzeni stanów). 5. Wykonanie ruchu w kilku kierunkach naraz. 6 1

PIERWSZY NAJLEPSZY (BEST FIRST) W wersji podstawowej tożsamy z HC dla wariantu dyskretnego. W procesie poszukiwania zawsze można wrócić do węzła lepszego (jeśli są pamiętane). Znalezione rozwiązanie jest suboptymalne (o 32 km dłuższe niż droga optymalna). Strategia zachłanna próbuje maksymalnie zmniejszyć koszt dotarcia do celu bez oceny, czy na dłuższa metę jest to najlepsze zachowanie. GS może źle wystartować i utknąć w ślepej uliczce: Wersje: szukanie zachłanne; A*. 7 10 SZUKANIE ZACHŁANNE (GREEDY SEARCH) Jedna z najprostszych strategii BF. F. heurystyczna szacuje pozostałe koszty dotarcia do celu (jak: odległość od celu). Najpierw rozwijany jest najbliższy węzeł. Problemy szukania drogi: metryki: 1. Euklidesowa; 2. Manhattan (poruszanie się tylko po liniach poziomych i pionowych). W innych problemach: oceny podobieństwa. 8 GS nie jest algorytmem optymalnym (niekoniecznie znajduje rozwiązanie o minimalnym koszcie). GS nie jest algorytmem zupełnym (nie zawsze znajduje rozwiązanie). Złożoność czasowa GS w najgorszym razie wynosi O(b m ), dla m kroków w głąb i średnio b możliwości. Złożoność pamięciowa GS wynosi O(b m ) (przechowuje wszystkie węzły w pamięci). Alternatywa: minimalizacja kosztów dojścia do danego węzła g(n) metoda zupełna i optymalna, lecz mało efektywna Metoda A * łączy obydwa podejścia. 11 Arad 366 Sibiu 253 Oradea 380 Sibiu 253 Fagaras 176 Arad 366 Timisoara 329 Bucharest 0 Rimnicu Vilcea 193 W linii prostej do Bukaresztu z: Arad 366 Bucharest 0 Craiova 160 Dobreta 242 Eforie 161 Fagaras 176 Giurgiu 77 Hirsova 151 Iasi 226 Lugoj 244 Mehadia 241 Neamt 234 Oradea 380 Pitesti 98 Rimnicu Vilcea 193 Sibiu 253 Timisoara 329 Urziceni 80 Vaslui 199 Zerind 374 Zerind 374 450km 418km STRATEGIA A * Funkcji heurystyczna oceniająca koszty najtańszego rozwiązania przechodzącego przez węzeł n: f (n) = g(n) + h(n) g(n) dotychczasowy koszt dotarcia do stanu n; h(n) oszacowanie kosztu od stanu bieżącego n do stanu docelowego. 1. Rozpocznij od węzła początkowego i twórz nowe węzły {n} dopóki cel nie zostanie osiągnięty 2. Posortuj nowe węzły {n} zgodnie z funkcją: f(n)=g(n)+h(n) 3. Odrzuć ścieżki zapętlone 4. Wybierz najlepszy węzeł n 5. Zostaw tylko najtańszą ścieżkę do n 6. Jeśli n jest celem skończ; jeśli nie, rozwijaj dalsze węzły {n} łącznie z n 12 2

418km W linii prostej do Bukaresztu z: Arad 366 Bucharest 0 Craiova 160 Dobreta 242 Eforie 161 Fagaras 176 Giurgiu 77 Hirsova 151 Iasi 226 Lugoj 244 Mehadia 241 Neamt 234 Oradea 380 Pitesti 98 Rimnicu Vilcea 193 Sibiu 253 Timisoara 329 Urziceni 80 Vaslui 199 1 Arad 0+366=366 Zerind 374 2 Sibiu 140+253=393 Timisoara 118+329=447 Zerind 75+374+449 Arad Oradea 5 Fagaras 239+176=415 3 Rimnicu Vilcea 220+193=413 280+366=646 291+380=671 Craiova 4 Pitesti 6 Sibiu Sibiu Bucharest 366+160=526 317+100=417 300+253=553 338+253=591 450+0=450 Rimnicu Vilcea 7Bucharest Craiova 414+193=607 418+0=418 455+260=615 SPÓJNOŚĆ HEURYSTYKI Dopuszczalna funkcja heurystyczna h(n) jest spójna (spełnia wymóg monotoniczności), jeżeli dla każdego węzła n i każdego jego następcy n : h(n) c(n,n ) + h (n ) c(n,n ) n h(n ) Jeżeli heurystyka h(n) jest spójna, to A * znajdzie optymalną ścieżkę. n h(n) 16 A* jest algorytmem optymalnym (znajduje rozwiązanie o minimalnym koszcie) jeśli heurystyka h jest dopuszczalna. A* jest algorytmem zupełnym (zawsze znajduje rozwiązanie) jeśli nie ma nieskończenie wielu stanów takich, że: f f (G) gdzie: G - stan docelowy. Złożoność czasowa: wykładnicza względem [błąd względny h dług. rozwiązania]. Złożoność pamięciowa: O(b m ) (przechowuje wszystkie węzły w pamięci). 14 STRATEGIA IDA * (ITERATIVE DEEPENING A*) 1. Stosuj algorytm szukania w głąb. 2. Oceniaj całkowite koszty f (n) = g(n) + h(n) heurystyką A*. 3. Jeśli f (n) > T cofaj się. 4. Jeśli nie znaleziono rozwiązania zwiększ T i powtarzaj. Obcinane są węzły, których wartość funkcji oceny leży poniżej progu T. Poziom obcinania jest iteracyjnie zwiększany, aż do osiągnięcia celu. Zalety: niewielkie wymagania pamięciowe - jak w szukaniu w głąb - jednakże szybsza. 17 DOPUSZCZALNOŚĆ HEURYSTYKI Funkcja heurystyczna h(n) jest dopuszczalna, jeśli w każdym stanie n spełnia następujący warunek: h(n) h * (n) h * (n) - rzeczywisty koszt ścieżki od stanu n do celu. Np.: A stan początkowy; F stan docelowy; Na krawędziach: rzecz. koszty przejścia między stanami; Wartości f. heurystycznej h(n): h(-) A 10 B 3 C 7 D 4 E 2 F 0 15 SYMULOWANE WYŻARZANIE (SIMULATED ANNEALING) Algorytm z rodziny algorytmów Generuj i Testuj. Odmiana algorytmu największego wzrostu, w której ogranicza się problem lokalnych ekstremów. Dopuszcza się przejścia ze stanu bieżącego także do stanów gorszych (uniezależnienie się od punktu startowego i badanie znacznie większego obszaru przestrzeni rozwiązań). W miarę upływu czasu prawdopodobieństwo wykonania złego posunięcia zmniejsza się. 18 3

Z metalurgii: Kawałek metalu ogrzewany i pozostawiany do powolnego ostygnięcia. Powolne i regularne chłodzenie - obniżenie poziomu energii atomów do momentu znalezienia się w stanie metastabilnym (o minimalnej energii). Gwałtowne ochłodzenie: zamrożenie atomów na przypadkowych pozycjach. 1. Wygeneruj stan początkowy (CS). 2. Ustaw początkową temperaturę T oraz stan BestSoFar:=CS. 3. Dopóki T>0 i są stany nie wykorzystane jako CS: Wybierz jeden z niewykorzystanych stanów i nazwij go NS. Oblicz E=E(NS) E(CS). Jeśli E<=0 to CS:=NS oraz BestSoFar:=NS. Jeśli E>0 to CS:=NS z prawdopodobieństwem p. Zmniejsz temperaturę T. 4. Zwróć BestSoFar jako rozwiązanie i zakończ. 19 22 Prawdopodobieństwo przejścia do wyższego stanu energetycznego: E zmiana energii stanu; T temperatura przy jakiej następuje przejście do wyższego stanu energetycznego; k stała Boltzmanna. 20 GRY DWUOSOBOWE Typowe założenia: 1. W grze uczestniczy dwóch graczy. 2. Gracze wykonują ruchy naprzemiennie. 3. W każdej sytuacji na planszy jest skończona liczba możliwych do wykonania ruchów. 4. Sytuacja na planszy i wykonany ruch jednoznacznie wyznaczają następną sytuację na planszy. 5. Każda możliwa sytuacja na planszy może być jednoznacznie zaklasyfikowana do jednej z następujących kategorii: wygrana pierwszego gracza, wygrana drugiego gracza, remis, sytuacja nierozstrzygnięta. 23 SZTUCZNE SYMULOWANE WYŻARZANIE E zmiana funkcji heurystycznej; T temperatura(tempo studzenia, rozkład wyżarzania). Rozkład wyżarzania musi być dany (założony). Najczęściej jest związany z czasem (krokiem) procesu. Prawdopodobieństwo małego skoku w kierunku wzrastającej energii jest większe niż dużego skoku. Prawdopodobieństwo skoku powodującego wzrost energii zmniejsza się wraz ze spadkiem temperatury. Wielkość skoków maleje z upływem czasu. 21 Pojedyncza partia gry może być w pełni opisana przez ciąg naprzemiennych ruchów obu graczy, od początkowego ustawienia do rozstrzygnięcia. Aby w dowolnym momencie partii wybrać najbardziej odpowiedni ruch dla jednego z graczy, można rozważyć wszystkie możliwe scenariusze jej dalszego ciągu. Naturalna reprezentacja: drzewo gry. poziom gracza poziom przeciwnika poziom gracza 24 4

Obecność przeciwnika, którego ruchy nie mogą być przewidziane i dokładnie zaplanowane, decyduje o istotnej odmienności zadania przeszukiwania w grach od innych zadań przeszukiwania. Istnieje zatem konieczność posługiwania się specyficznymi algorytmami. Najczęściej stosowane podejście: przyjęcie założenia, że przeciwnik dążąc do wygrania partii zawsze wybiera najkorzystniejszy dla siebie (a więc najmniej korzystny dla gracza) ruch. 25 Obcięty mini-maks Ograniczenie głębokości analizowania drzewa gry do pewnej liczby poziomów (zależnej od złożoności gry i dostępnej mocy obliczeniowej). Wystąpią węzły terminalne odpowiadające nierozstrzygniętej partii należy je w jakiś sposób ocenić. Ich ocena nie może być oparta na wyniku partii (brak rozstrzygnięcia) ani na ocenach węzłów potomnych (brak węzłów potomnych), lecz wyłącznie na analizie związanego z nim stanu gry potrzebna jest funkcja heurystyczna... F. heurystyczna ocenia użyteczność danego stanu z punktu widzenia gracza bez rozważania dalszych możliwych ruchów. 28 Algorytm mini-maks Najprostszy algorytm przeszukiwania drzew mający zastosowa-nie w nielosowych algorytmach gry w dwie osoby, np. szachów. Dla każdego ruchu symulujemy wszystkie możliwe ruchy przeciwnika. Za wartość danego naszego ruchu uznajemy wartość najlepszego z punktu przeciwnika ruchu, który może on wykonać, jeśli my wykonamy dany ruch (część min). Następnie wybieramy ruch o najwyższej wartości (część max). Algorytm mini-maks zadowalający, jeśli stosowany do umiarkowanie złożonych gier albo wymagamy tylko umiarkowanego poziomu gry (porównywalnego ze średnim ludzkim graczem. http://wazniak.mimuw.edu.pl/index.php?title=sztuczna_inteligencja w module Gry dwuosobowe postaci algorytmów mini-maks i obcięty mini-maks (wersja rekurencyjna). 1-1 -1 1 3 2-1 1 2 4 2-1 26 29 Pełny mini-maks 1. Przypisz liściom drzewa ocenę jako użyteczność z punktu widzenia aktualnego gracza; 2. Dla każdego poziomu k, drzewa, zaczynając od poziomu przedostatniego i kończąc na poziomie 0, 1. jeśli poziom k odpowiada aktualnemu graczowi, przypisz każdemu węzłowi tego poziomu ocenę wyznaczoną jako maksimum ocen jego węzłów potomnych z poziomu k+1; 2. jeśli poziom k odpowiada przeciwnikowi aktualnego gracza, przypisz każdemu węzłowi tego poziomu ocenę wyznaczoną jako minimum ocen jego węzłów potomnych z poziomu k+1; 3. Wybierz ruch prowadzący do węzła poziomu 1 o maksymalnej ocenie. Tak sformułowany algorytm zakłada, że dysponujemy zbudowanym pełnym drzewem gry zwykle nie jest to możliwe... 27 Cięcia alfa-beta Oparty na obciętym algorytmie mini-maks, uwzględniającym kryteria umożliwiające bezpieczne pominięcie (wycięcie) fragmentów drzewa gry. Rezygnacja z rozbudowy i analizy drzewa gry tam, gdzie jej wynik i tak nie wpłynie na wybierany ruch. Oszczędność zasobów, które można wykorzystać do przeszukiwania obiecujących fragmentów drzewa gry. 30 5

Cięcie alfa: oceniając węzeł przez maksymalizację ocen węzłów potomnych możemy zakończyć wyznaczanie oceny węzła potomnego natychmiast po stwierdzeniu, że musi być ona niższa niż dotychczasowe maksimum α. Cięcie beta: oceniając węzeł przez minimalizację ocen węzłów potomnych możemy zakończyć wyznaczanie oceny węzła potomnego natychmiast po stwierdzeniu, że musi być ona wyższa niż dotychczasowe minimum β. DOBÓR METODY HEURYSTYCZNEJ Pytania: 1. Czy można dokonać dekompozycji problemu? 2. Czy można ignorować/anulować pewne stany? 3. Czy wynik jest znany z góry? 4. Czy rozwiązanie jest względne czy bezwzględne? α 1-1<=α -1 5. Czy oczekiwane rozwiązanie jest stanem czy ścieżką? 6. Jaka ilość wiedzy jest wymagana? 1 3 2-1 4 2-1 31 7. Czy program wymaga interakcji użytkownika? 34 Skuteczność algorytmów opartych na zasadzie minimaksu w dużej mierze zależy od jakości używanej funkcji heurystycznej. Ad. 1. Dekompozycja problemu. Podział zadania na mniejsze, łatwiejsze do rozwiązania fragmenty. Funkcja heurystyczna powinna : 1. Przypisywać ocenę dodatnią stanowi, z którego większe szanse wygranej ma gracz, 2. Przypisywać ocenę ujemną stanowi, z którego większe szanse wygranej ma przeciwnik, 3. Przypisywać ocenę tym większą co do wartości bezwzględnej, im przewaga szans wygranej gracza albo przeciwnika jest większa. 32 Korzyści: Możliwość rozwiązania dużych zadań, których nie można rozwiązać bez ich podziału; Mniejsze problemy można zazwyczaj rozwiązać w krótszym czasie. Sumaryczny czas obliczeń po dekompozycji jest często krótszy niż dla zadania oryginalnego. Nie wszystkie problemy dają się dekomponować... 35 W najskuteczniejszych programach grających w gry (zwłaszcza szachy) - niezwykle wyrafinowane funkcje heurystyczne, oparte na najwyższej klasy wiedzy eksperckiej i wielu eksperymentach. Ad. 2. Ignorowanie i anulowanie kroków. Klasy zadań: 1. Z ignorowaniem błędów - np. dowodzenie twierdzeń: błędnie wykonane wnioskowanie można zignorować i poszukiwać innej drogi rozwiązania). Dobre podejście: by funkcja heurystyczna (nawet bardzo skuteczna) mogła podlegać modyfikacjom na podstawie rozgrywanych partii (wyposażanie programów grających w gry w zdolność do uczenia się). 33 2. Odwracalne - np. ósemka: możliwy jest powrót z niewłaściwego stanu do poprzedniego, co daje szanse na znalezienie rozwiązania). 3. Nieodwracalne - np. szachy. Algorytm musi podejmować decyzje obciążone ryzykiem. Niezbędna analiza w przód (planowanie). 36 6

Ad. 3. Znajomość wyniku. 1. Pewny wynik (np. ósemka) 2. Niepewny wynik (np. szachy, brydż) Ad. 4. Względność rozwiązania. 1. Rozwiązanie względne: problemy typu dowolna ścieżka do rozwiązania rozwiązywalne w rozsądnym czasie przy zastosowaniu dobrej heurystyki. 2. Rozwiązanie bezwzględne: Problemy typu najlepsza ścieżka do rozwiązania wymagające bardziej wyczerpującego przeszukiwania przestrzeni stanów. 37 PRZYKŁAD: dobór heurystyki dla ósemki Liczba węzłów w drzewie: 3 22 Przykładowe heurystyki: h 1 (n) = liczba niewłaściwie ułożonych elementów; h 2 (n) = sumaryczna odległość Manhattan (określająca liczbę pól do pożądanego położenia). S G h 1 (S) = 6 h 2 (S) = 4+0+3+3+0+1+2+1=14 40 Ad. 5. Typy rozwiązań. 1. Pojedynczy stan z przestrzeni (istotny jest stan końcowy a nie wyniki pośrednie). 2. Ścieżka prowadząca od stanu początkowego do rozwiązania (wynik jest znany, istotna jest droga dojścia do niego). Ad. 6. Wiedza. 1. Problemy wymagające wiedzy do mechanizmu sterowania (wiedza niezbędna by usprawnić algorytm sterowania i eliminować niepożądane stany). Np szachy: ruchy figur, strategia. 2. Problemy wymagające szerokiej wiedzy (wiedza ma pomóc w określeniu rozwiązania, nie tylko przyspieszeniu jego znalezienia). Np. rozumienie tekstu. 38 Jeśli obie heurystyki są dopuszczalne i dla każdego n h 2 (n) h 1 (n), to: h 2 zdominuje h 1 i gwarantuje odwiedzenie mniejszej liczby węzłów. Dla ósemki h 2 jest lepszą heurystyką niż h 1 Przykładowo, dla różnych głębokości przeszukiwań d: d=8: IDS 6384 węzłów d=14: IDS nieopłacalne A*(h 1 ) 39 węzłów A*(h 1 ) 539 węzłów A*(h 2 ) 25 węzłów A*(h 2 ) 113 węzłów Z k dopuszczalnych heurystyk wybiera się: h(n)=max[h 0 (n),, h k (n)] 41 Ad. 7. Interakcja z użytkownikiem. 1. Systemy samodzielne: Komputer szuka rozwiązania bez komunikacji z użytkownikiem i nie wymaga się wyjaśniania procesu dochodzenia do rozwiązania). Np.: dowodzenie twierdzeń. OPTYMALIZACJA 2. Systemy konwersacyjne: Wymagana jest interakcja z użytkownikiem. Np.: systemy ekspertowe i diagnozy medyczne. 39 42 7

OPTYMALIZACJA: Funkcja trudna do optymalizacji metodami analitycznymi: Działanie, mające na celu zwiększenie efektywności aż do osiągnięcia pewnego optimum. Cel główny: ulepszenie. Cel drugorzędny: osiągnięcie optimum. METODY OPTYMALIZACJI ANALITYCZNE pośrednie PRZEGLĄDOWE (enumeracyjne) LOSOWE Funkcja niemożliwa do optymalizacji metodami analitycznymi: f(x) bezpośrednie 43 x Metody analityczne bezpośrednie: Czasem maksimum globalne nie jest pożądane: Poruszanie się po wykresie funkcji w kierunku wyznaczonym przez lokalny gradient (wspinaczka po najbardziej stromym zboczu z możliwych). Metody analityczne pośrednie: Poszukiwanie ekstremów lokalnych poprzez rozwiązanie układu równań (zwykle nieliniowych), otrzymanych poprzez przyrównanie gradientu funkcji celu do zera. 44 Preferowane są czasem rozwiązania, których otoczenie przyjmuje wartości bliskie temu ekstremum a nie te, dla których niewielkie oddalenie się od ekstremum powoduje gwałtowny spadek wartości funkcji. Np: w przypadku inwestycji kapitałowych, by nie ryzykować straty z powodu niezbyt precyzyjnie zdefiniowanej funkcji, bądź nieznacznej zmiany jakiegoś parametru funkcji. 47 GŁÓWNA WADA METOD ANALITYCZNYCH: MAŁA ODPORNOŚĆ METODY ENUMERACYJNE: Sprowadzają się do przeszukiwania wszystkich punktów przestrzeni w poszukiwaniu optimum. Algorytm niezwykle prosty lecz skuteczny jedynie w przypadku skończonych, małych przestrzeni. Zwykle sprawdzenie wszystkich możliwości jest niemożliwe w rozsądnym czasie (tzw. przekleństwo wymiaru). 45 48 8

METODY LOSOWE: W swej najprostszej postaci: bada się losowo całą przestrzeń zadania nie korzystając z innych informacji. Poszukiwanie takie jest zwykle bardzo czasochłonne (zwykle jednak mniej niż metody enumeracyjne). Algorytmy genetyczne i ewolucyjne również zawie-rają element losowości (algorytm zrandomizowany). Ewolucja przez dobór naturalny oznacza, że przeżywają i rozmnażają się osobniki najlepiej przystosowane do warunków środowiska. Wynik przystosowania zależy od: - organizmu; - środowiska. 49 Na świat przychodzi dużo więcej potomstwa, niż może pomieścić środowisko. Przeżywają nieliczni, ale za to najlepsi (selekcja naturalna). ALGORYTMY GENETYCZNE W procesie ewolucji istotne jest zachowywanie różnorodności cech. Siła ewolucji to nie zaawansowany proces doskonalenia jednostki, lecz utrzymywanie dużej liczby różnorodnych osobników (tzw. populacji), która ewoluuje jako całość. 50 53 Karol Darwin (1859 On the origin of species ): ALGORYTMY GENETYCZNE: AG odwzorowują naturalne procesy ewolucji zachodzące w czasie. Ich celem jest maksymalne dopasowanie osobników do istniejących warunków życia. Rolę środowiska spełnia tu funkcja oceniająca (funkcja celu). Gregor Johann Mendel (1822-1884) - austriacki zakonnik, augustianin, prekursor genetyki. Pomimo elementu losowości AG nie błądzą przypadkowo, lecz wykorzystują efektywnie przeszłe doświadczenia. Sformułował podstawowe prawa dziedziczenia (3 prawa Mendla), przeprowadzając badania nad krzyżowaniem roślin, głównie grochu jadalnego. 54 9

SCHEMAT DZIAŁANIA AG: John H. Holland, 1975: Adaptation in Natural and Artificial Systems : Koncepcja algorytmu przeszukiwania opartego na zasadzie doboru naturalnego. Procedurę probabilistycznego przeszukiwania dyskretnej przestrzeni stanów nazwał algorytmem genetycznym. procedure algorytm_genetyczny begin t:=0 wybierz populację początkową P(t) oceń P(t) while (not warunek_zakończenia) do begin t:=t+1 wybierz P(t) z P(t-1) (selekcja) zmień P(t) (działanie operatorów genetycznych) oceń P(t) end end 55 58 TERMINOLOGIA: 100011011 ZASTOSOWANIA PRAKTYCZNE AG (i AE): gen najmniejsza składowa chromosomu (decyduje o dziedziczności jednej lub kilku cech); chromosom uporządkowany ciąg genów (ciąg kodowy). Zwykle utożsamiany z osobnikiem; locus miejsce genu w chromosomie; allele warianty (stany) jednego genu warunkujące daną cechę; populacja pewna liczba osobników (chromosomów); wyznaczanie trasy połączeń kablowych; harmonogramowanie; sterowanie adaptacyjne; rozgrywanie gier; zadanie plecakowe; zadanie komiwojażera; sterowanie optymalne; optymalizacja obsługi pytań w bazach danych; 56 59 TERMINOLOGIA: 100011011 genotyp ogół genów danego osobnika; fenotyp ogół cech ujawniających się na zewnątrz (np. rozkodowana postać zmiennych projektowych); mutacja zmiana jednego lub kilku genów w chromosomie; krzyżowanie operacja mająca na celu wymianę materiału genetycznego między osobnikami; selekcja wybór osobników, które zostaną poddane operacjom genetycznym. nieliniowe systemy dynamiczne analiza danych; przewidywanie; projektowanie sieci neuronowych: architektury i wagi; poruszanie robotem; tworzenie programów; planowanie; znajdowanie kształtu molekuł białek; tworzenie grafik i muzyki;... 57 60 10