Optymalizacja optymalizacji

Podobne dokumenty
Algorytm Genetyczny. zastosowanie do procesów rozmieszczenia stacji raportujących w sieciach komórkowych

Algorytm genetyczny (genetic algorithm)-

Algorytmy genetyczne

Sztuczna Inteligencja Tematy projektów Sieci Neuronowe

Obrona rozprawy doktorskiej Neuro-genetyczny system komputerowy do prognozowania zmiany indeksu giełdowego

Strefa pokrycia radiowego wokół stacji bazowych. Zasięg stacji bazowych Zazębianie się komórek

Inteligentne systemy informacyjne

Inteligentne systemy decyzyjne: Uczenie maszynowe sztuczne sieci neuronowe

Uczenie sieci typu MLP

Sieci neuronowe do przetwarzania informacji / Stanisław Osowski. wyd. 3. Warszawa, Spis treści

Dobór parametrów algorytmu ewolucyjnego

Uczenie sieci neuronowych i bayesowskich

Algorytmy ewolucyjne NAZEWNICTWO

Algorytmy genetyczne. Materiały do laboratorium PSI. Studia stacjonarne i niestacjonarne

Algorytmy genetyczne jako metoda wyszukiwania wzorców. Seminarium Metod Inteligencji Obliczeniowej Warszawa 26 X 2005 mgr inż.

Temat: Sieci neuronowe oraz technologia CUDA

Algorytmy genetyczne. Materiały do laboratorium PSI. Studia niestacjonarne

Zadania laboratoryjne i projektowe - wersja β

Zadanie 5 - Algorytmy genetyczne (optymalizacja)

Gospodarcze zastosowania algorytmów genetycznych

Wprowadzenie do teorii systemów ekspertowych

Wstęp do teorii sztucznej inteligencji Wykład II. Uczenie sztucznych neuronów.

Prof. Stanisław Jankowski

Algorytmy ewolucyjne - algorytmy genetyczne. I. Karcz-Dulęba

Zastosowanie sztucznych sieci neuronowych w prognozowaniu szeregów czasowych (prezentacja 2)

SCHEMAT ROZWIĄZANIA ZADANIA OPTYMALIZACJI PRZY POMOCY ALGORYTMU GENETYCZNEGO

Algorytmy genetyczne

8. Neuron z ciągłą funkcją aktywacji.

Inspiracje soft computing. Soft computing. Terminy genetyczne i ich odpowiedniki w algorytmach genetycznych. Elementarny algorytm genetyczny

Algorytmy genetyczne w interpolacji wielomianowej

Systemy uczące się Lab 4

Automatyczny dobór parametrów algorytmu genetycznego

Podstawy Sztucznej Inteligencji (PSZT)

Temat: Sztuczne Sieci Neuronowe. Instrukcja do ćwiczeń przedmiotu INŻYNIERIA WIEDZY I SYSTEMY EKSPERTOWE

wiedzy Sieci neuronowe (c.d.)

HAŁASU Z UWZGLĘDNIENIEM ZJAWISK O CHARAKTERZE NIELINIOWYM

Metody i techniki sztucznej inteligencji / Leszek Rutkowski. wyd. 2, 3 dodr. Warszawa, Spis treści

Generowanie i optymalizacja harmonogramu za pomoca

wiedzy Sieci neuronowe

PLAN WYKŁADU OPTYMALIZACJA GLOBALNA OPERATOR KRZYŻOWANIA ETAPY KRZYŻOWANIA

Algorytmy memetyczne (hybrydowe algorytmy ewolucyjne)

Program "FLiNN-GA" wersja 2.10.β

Techniki optymalizacji

Algorytmy genetyczne. Dariusz Banasiak. Katedra Informatyki Technicznej Wydział Elektroniki

Modelowanie interakcji helis transmembranowych

Testy De Jonga. Problemy. 1 Optymalizacja dyskretna i ciągła

O badaniach nad SZTUCZNĄ INTELIGENCJĄ

Sztuczne sieci neuronowe. Krzysztof A. Cyran POLITECHNIKA ŚLĄSKA Instytut Informatyki, p. 311

Wykorzystanie metod ewolucyjnych w projektowaniu algorytmów kwantowych

Przykład optymalizacji struktury sztucznej sieci neuronowej metodą algorytmów genetycznych

PROGNOZOWANIE OSIADAŃ POWIERZCHNI TERENU PRZY UŻYCIU SIECI NEURONOWYCH**

Obliczenia ewolucyjne - plan wykładu

4.1. Wprowadzenie Podstawowe definicje Algorytm określania wartości parametrów w regresji logistycznej...74

Równoważność algorytmów optymalizacji

ZACHODNIOPOMORSKI UNIWERSYTET TECHNOLOGICZNY W SZCZECINIE

Zastosowanie optymalizacji rojem cząstek (PSO) w procesie uczenia wielowarstwowej sieci neuronowej w problemie lokalizacyjnym

Sieć przesyłająca żetony CP (counter propagation)

Inteligentne systemy decyzyjne: Uczenie maszynowe sztuczne sieci neuronowe

Zastosowanie optymalizacji rojem cząstek (PSO) w procesie uczenia wielowarstwowej sieci neuronowej w problemie lokalizacyjnym, kontynuacja badań

Wstęp do Sztucznej Inteligencji

O badaniach nad SZTUCZNĄ INTELIGENCJĄ

WYKŁAD 4 PLAN WYKŁADU. Sieci neuronowe: Algorytmy uczenia & Dalsze zastosowania. Metody uczenia sieci: Zastosowania

Tomasz Pawlak. Zastosowania Metod Inteligencji Obliczeniowej

Odkrywanie algorytmów kwantowych za pomocą programowania genetycznego

1. Historia 2. Podstawy neurobiologii 3. Definicje i inne kłamstwa 4. Sztuczny neuron i zasady działania SSN. Agenda

Metody Sztucznej Inteligencji II

ALGORYTMY GENETYCZNE ćwiczenia

O badaniach nad SZTUCZNĄ INTELIGENCJĄ

Algorytmy estymacji stanu (filtry)

Wstęp do sieci neuronowych, wykład 6 Wsteczna propagacja błędu - cz. 3

synaptycznych wszystko to waży 1.5 kg i zajmuje objętość około 1.5 litra. A zużywa mniej energii niż lampka nocna.

przetworzonego sygnału

DEKOMPOZYCJA HIERARCHICZNEJ STRUKTURY SZTUCZNEJ SIECI NEURONOWEJ I ALGORYTM KOORDYNACJI

ALGORYTMY GENETYCZNE (wykład + ćwiczenia)

ALGORYTMY GENETYCZNE JAKO NARZĘDZIE OPTYMALIZACYJNE STOSOWANE W SIECIACH NEURONOWYCH

Program MC. Obliczyć radialną funkcję korelacji. Zrobić jej wykres. Odczytać z wykresu wartość radialnej funkcji korelacji w punkcie r=

Najprostsze modele sieci z rekurencją. sieci Hopfielda; sieci uczone regułą Hebba; sieć Hamminga;

Algorytmy ewolucyjne. wprowadzenie

Wstęp do teorii sztucznej inteligencji Wykład III. Modele sieci neuronowych.

Deep Learning na przykładzie Deep Belief Networks

LABORATORIUM 4: Algorytmy ewolucyjne cz. 2 wpływ operatorów krzyżowania i mutacji na skuteczność poszukiwań AE

Algorytmy genetyczne w optymalizacji

Optymalizacja ciągła

Widzenie komputerowe

Algorytm wstecznej propagacji błędów dla sieci RBF Michał Bereta

Algorytmy genetyczne. Paweł Cieśla. 8 stycznia 2009

WYKORZYSTANIE SIECI NEURONOWEJ DO BADANIA WPŁYWU WYDOBYCIA NA SEJSMICZNOŚĆ W KOPALNIACH WĘGLA KAMIENNEGO. Stanisław Kowalik (Poland, Gliwice)

Algorytmy genetyczne

Rój cząsteczek. Particle Swarm Optimization. Adam Grycner. 18 maja Instytut Informatyki Uniwersytetu Wrocławskiego

Wstęp do sieci neuronowych, wykład 02 Perceptrony c.d. Maszyna liniowa.

Sztuczne Sieci Neuronowe. Wiktor Tracz Katedra Urządzania Lasu, Geomatyki i Ekonomiki Leśnictwa, Wydział Leśny SGGW

BIOCYBERNETYKA ALGORYTMY GENETYCZNE I METODY EWOLUCYJNE. Adrian Horzyk. Akademia Górniczo-Hutnicza

Wstęp do sieci neuronowych laboratorium 01 Organizacja zajęć. Perceptron prosty

1. Architektury, algorytmy uczenia i projektowanie sieci neuronowych

Chemiczne składniki komórek

PRZEWODNIK PO PRZEDMIOCIE

Sieci neuronowe jako sposób na optymalizacje podejmowanych decyzji. Tomasz Karczyoski Wydział W-08 IZ

Podejście memetyczne do problemu DCVRP - wstępne wyniki. Adam Żychowski

Komputerowe wspomaganie projektowanie leków

Algorytmy ewolucyjne. Łukasz Przybyłek Studenckie Koło Naukowe BRAINS

Transkrypt:

7 maja 2008

Wstęp Optymalizacja lokalna Optymalizacja globalna Algorytmy genetyczne Badane czasteczki Wykorzystane oprogramowanie (Algorytm genetyczny) 2 Sieć neuronowa Pochodne met-enkefaliny

Optymalizacja lokalna Optymalizacja globalna Optymalizacja lokalna - metody gradientowe bardzo szybkie deterministyczne efekt zależy od parametrów poczatkowych

Optymalizacja lokalna Optymalizacja globalna Algorytmy genetyczne Metody optymalizacji globalnej oparte na mechanizmach doboru naturalnego i dziedziczności. Podstawowe operacje genetyczne: kodowanie, selekcja, krzyżowanie, mutacja.

Optymalizacja lokalna Optymalizacja globalna Przeszukiwanie systematyczne Badanie energii wszystkich konformacji mogacych odpowiadać minimum globalnemu. jedyna metoda dajaca pewność znalezienia rozwiazania wydajna dla małych czasteczek nierealna dla dużych układów o wielu stopniach swobody

Wstęp Optymalizacja lokalna Optymalizacja globalna Sieć neuronowa (sztuczna sieć neuronowa) to ogólna nazwa struktur matematycznych i ich programowych lub sprzętowych modeli, realizujacych obliczenia lub przetwarzanie sygnałów poprzez rzędy elementów, zwanych neuronami, wykonujacych pewna podstawowa operację na swoim wejściu. Oryginalna inspiracja takiej struktury była budowa naturalnych układów nerwowych, w szczególności mózgu.

Optymalizacja lokalna Optymalizacja globalna - zastosowania przetwarzanie informacji generalizacja problemów rozpoznawanie i klasyfikacja wzorców predykcja szeregów czasowych analiza danych statystycznych odszumianie i kompresja obrazu i dźwięku sterowanie i automatyzacja

Budowa neuronu Wstęp Optymalizacja lokalna Optymalizacja globalna (a) układ nerwowy (b) sztuczna sieć neuronowa

Budowa sieci neuronowej Optymalizacja lokalna Optymalizacja globalna

Uczenie sieci neuronowych Optymalizacja lokalna Optymalizacja globalna Algorytm wstecznej propagacji błędu: zestaw danych uczacych; obliczanie wartości sygnałów; dla ostatniej warstwy bład to różnica pomiędzy wartościa otrzymana a docelowa; rzutowanie wartości błędu na wewnętrzne warstwy (mnożenie przez odpowiednie wagi); modyfikacja wag

Optymalizacja lokalna Optymalizacja globalna -podsumowanie : moga być używane jako czarna skrzynka, ich efektywna wartość zależy od danych uczacych, przybliżaja badaną zależność za pomoca pewnej funkcji.

Algorytmy genetyczne Algorytmy genetyczne Badane czasteczki Wykorzystane oprogramowanie Dobór następujacych parametrów: rozmiar populacji (10-2000), sposób selekcji (13 sposobów), sposób (3 sposoby) i prawdopodobieństwo (0-1) krzyżowania sposób (2*13 sposobów) i prawdopodobieństwo (0-1) mutacji, schemat ewolucji (Darwin, Baldwin, Lamarck). W sumie około 2433600 kombinacji, 278 lat testów.

(Algorytmy genetyczne) 2 Algorytmy genetyczne Badane czasteczki Wykorzystane oprogramowanie Optymalizacja genetyczna parametrów algorytmu genetycznego: możliwość szybkiego znalezienia dobrych parametrów, różne parametry sa optymalne dla różnych procesów, nie ma idealnego zestawu dla wszystkich czasteczek.

Algorytmy genetyczne Badane czasteczki Wykorzystane oprogramowanie + algorytmy genetyczne Dobór parametrów algorytmu genetycznego przez sieć neuronową w oparciu o: różnorodność populacji (genotypy) różnorodność populacji (energie) skuteczność algorytmu

Badane czasteczki Wstęp Algorytmy genetyczne Badane czasteczki Wykorzystane oprogramowanie łańcuchy wodorowęglowe C 10 H 22, C 20 H 42 ergotamina met-enkefalina (Tyr-Gly-Gly-Phe-Met) pochodne met-enkefaliny

oprogramowanie, biblioteki Algorytmy genetyczne Badane czasteczki Wykorzystane oprogramowanie AMMP (Another Molecular Mechanics Program) wiazania harmoniczne katy harmoniczne katy torsyjne elektrostatyczne oddziaływania punktoych atomów potencjały Van der Waalsa GAUL (Genetic Algorithm Utility Library) FANN (Fast Artifitial Neural Network Library)

(Algorytm genetyczny) 2 Sieć neuronowa Pochodne met-enkefaliny (Algorytm genetyczny) 2 C 20 H 42 rozmiar populacji 100 krzyżowanie jednopunktowe mutacja jednopunktowa (wszystkich osobników) selekcja ruletkowa prawdopodobieństwo krzyżowania 0.6 prawdopodobieństwo mutacji 0.3 met-enkefalina rozmiar populacji 50 krzyżowanie wielopunktowe mutacja wielopunktowa (losowych osobników) selekcja najlepszy z trzech prawdopodobieństwo krzyżowania 1 prawdopodobieństwo mutacji 0.3

Porównanie wyników Wstęp (Algorytm genetyczny) 2 Sieć neuronowa Pochodne met-enkefaliny algorytm C 10 C 20 Met Erg met1-36.3783-33.5627 175.759 792.546 met2-34.0050-30.2951 176.081 792.54 C 20-36.914-33.8394 187.1587 797.5103 najlepszy -36.914-34.157 172.41 791.99

(Algorytm genetyczny) 2 Sieć neuronowa Pochodne met-enkefaliny Sieć neuronowa - porównanie wyników atgorytm C 10 C 20 Met Erg ammp -22.0397-18.6159 246.6875 804.2938 gen -36.914-33.8394 175.759 792.54 sieć -34597-34.153 176.3027 793.1846

(Algorytm genetyczny) 2 Sieć neuronowa Pochodne met-enkefaliny Badane czasteczki met-cl met-oh met-ch 3 met-c 3 H 7 met-ph met-ph-ch 3

Pochodne met-enkefaliny - wyniki (Algorytm genetyczny) 2 Sieć neuronowa Pochodne met-enkefaliny czasteczka met1 met2 lan2 sieć met 175.759 176.081 187.1586 176.3027 met-cl 198.625 198.927 211.0004 201.7230 met-oh 176.004 176.91 185.2069 175.8490 met-ch 3 219.3953 218.767 227.6896 218.7623 met-c 3 H 7 235.7780 234.6990 246.7632 237.9240 met-ph 312.3210 312.7580 325.4413 311.8489 met-ph-ch 3 312.9470 310.9040 321.8651 310.2403

Wnioski Czasteczki o zbliżonej budowie potrzebuja podobnych parametrów algorytmu genetycznego. Sterowanie algorytmu genetycznego siecia neuronową poprawia zbieżność i zapobiega utknięciu w minimum lokalnym.

Widoki na przyszłość Inteligentne rozpoznawanie podobieństwa struktur. Metody półempiryczne. Większe układy. Połaczenie metod półempirycznych z mechanika molekularna.