Sztuczne sieci neuronowe i sztuczna immunologia jako klasyfikatory danych. Dariusz Badura Letnia Szkoła Instytutu Matematyki 2010

Podobne dokumenty
Lekcja 5: Sieć Kohonena i sieć ART

S O M SELF-ORGANIZING MAPS. Przemysław Szczepańczyk Łukasz Myszor

Plan. Sztuczne systemy immunologiczne. Podstawowy słownik. Odporność swoista. Architektura systemu naturalnego. Naturalny system immunologiczny

Sztuczne sieci neuronowe. Krzysztof A. Cyran POLITECHNIKA ŚLĄSKA Instytut Informatyki, p. 335

Wstęp do teorii sztucznej inteligencji Wykład III. Modele sieci neuronowych.

Sztuczna inteligencja

Sieci neuronowe do przetwarzania informacji / Stanisław Osowski. wyd. 3. Warszawa, Spis treści

Zastosowanie sztucznych systemów immunologicznych w zagadnieniach optymalizacji

Sztuczne sieci neuronowe

Systemy Inteligentnego Przetwarzania wykład 7: Sieci RBF

Sztuczne sieci neuronowe

Metody Sztucznej Inteligencji II

IMPLEMENTACJA SIECI NEURONOWYCH MLP Z WALIDACJĄ KRZYŻOWĄ

Monitorowanie i Diagnostyka w Systemach Sterowania

Wprowadzenie. SOM jest skrótem od Self Organizing Maps, czyli Samoorganizujące się mapy.

1. Historia 2. Podstawy neurobiologii 3. Definicje i inne kłamstwa 4. Sztuczny neuron i zasady działania SSN. Agenda

Literatura. Sztuczne sieci neuronowe. Przepływ informacji w systemie nerwowym. Budowa i działanie mózgu

METODY INŻYNIERII WIEDZY KNOWLEDGE ENGINEERING AND DATA MINING

SIECI RBF (RADIAL BASIS FUNCTIONS)

Wstęp do sztucznych sieci neuronowych

Elementy Sztucznej Inteligencji. Sztuczne sieci neuronowe cz. 2

Najprostsze modele sieci z rekurencją. sieci Hopfielda; sieci uczone regułą Hebba; sieć Hamminga;

wiedzy Sieci neuronowe

Podstawy sztucznej inteligencji

Wstęp do sieci neuronowych, wykład 8 Samoorganizacja topologiczna, analiza składowych głównych.

Inteligentne systemy przeciw atakom sieciowym

MOśLIWOŚCI ZASTOSOWAŃ SZTUCZNYCH SYSTEMÓW IMMUNOLOGICZNYCH W OBSZARZE ZARZĄDZANIA WIEDZĄ. Anna Kempa. Wprowadzenie

Metody i techniki sztucznej inteligencji / Leszek Rutkowski. wyd. 2, 3 dodr. Warszawa, Spis treści

Podstawy Sztucznej Inteligencji Sztuczne Sieci Neuronowe. Krzysztof Regulski, WIMiIP, KISiM, B5, pok. 408

Uczenie sieci radialnych (RBF)

Sztuczna Inteligencja Tematy projektów Sieci Neuronowe

Sztuczne sieci neuronowe (SNN)

4.1. Wprowadzenie Podstawowe definicje Algorytm określania wartości parametrów w regresji logistycznej...74

Wstęp do sieci neuronowych, wykład 07 Uczenie nienadzorowane cd.

Wstęp do sieci neuronowych, wykład 07 Uczenie nienadzorowane.

Rozdział 1 Sztuczne sieci neuronowe. Materiały do zajęć dydaktycznych - na podstawie dokumentacji programu Matlab opracował Dariusz Grzesiak

SIECI KOHONENA UCZENIE BEZ NAUCZYCIELA JOANNA GRABSKA-CHRZĄSTOWSKA

Sieć przesyłająca żetony CP (counter propagation)

1. Logika, funkcje logiczne, preceptron.

Sieci Kohonena Grupowanie

Sztuczne Sieci Neuronowe

SZTUCZNA INTELIGENCJA

2.4. Algorytmy uczenia sieci neuronowych

Obliczenia Naturalne - Algorytmy immunologiczne

Inteligentne systemy decyzyjne: Uczenie maszynowe sztuczne sieci neuronowe

synaptycznych wszystko to waży 1.5 kg i zajmuje objętość około 1.5 litra. A zużywa mniej energii niż lampka nocna.

Sztuczne Sieci Neuronowe. Wiktor Tracz Katedra Urządzania Lasu, Geomatyki i Ekonomiki Leśnictwa, Wydział Leśny SGGW

Temat: Sieci neuronowe oraz technologia CUDA

Wstęp do sieci neuronowych, wykład 07 Uczenie nienadzorowane.

PROGNOZOWANIE OSIADAŃ POWIERZCHNI TERENU PRZY UŻYCIU SIECI NEURONOWYCH**

Wstęp do teorii sztucznej inteligencji Wykład II. Uczenie sztucznych neuronów.

Co to jest grupowanie

Metody sztucznej inteligencji Zadanie 3: (1) klasteryzacja samoorganizująca się mapa Kohonena, (2) aproksymacja sieć RBF.

Elementy kognitywistyki II: Sztuczna inteligencja. WYKŁAD X: Sztuczny neuron

Sieci neuronowe jako sposób na optymalizacje podejmowanych decyzji. Tomasz Karczyoski Wydział W-08 IZ

PODSTAWY IMMUNOLOGII Komórki i cząsteczki biorące udział w odporności nabytej (cz. III): Aktywacja i funkcje efektorowe limfocytów B

Wstęp do sieci neuronowych, wykład 03 Warstwy RBF, jednostka ADALINE.

Algorytm wstecznej propagacji błędów dla sieci RBF Michał Bereta

HAŁASU Z UWZGLĘDNIENIEM ZJAWISK O CHARAKTERZE NIELINIOWYM

8. Neuron z ciągłą funkcją aktywacji.

Obliczenia Naturalne - Sztuczne sieci neuronowe

Wstęp do teorii sztucznej inteligencji

Algorytmy immunologiczne. Dr inż. Michał Bereta p. 144 / 10, Instytut Informatyki

SIECI NEURONOWE Liniowe i nieliniowe sieci neuronowe

Sieci neuronowe w Statistica

Definicja perceptronu wielowarstwowego

Odporność nabyta: Nadzieja Drela Wydział Biologii UW, Zakład Immunologii

Sieci neuronowe w Statistica. Agnieszka Nowak - Brzezioska

Obliczenia inteligentne Zadanie 4

Systemy uczące się Lab 4

KARTA MODUŁU KSZTAŁCENIA

SIECI REKURENCYJNE SIECI HOPFIELDA

Wstęp do sieci neuronowych, wykład 03 Warstwy RBF, jednostka Adaline.

I EKSPLORACJA DANYCH

Wykład 1: Wprowadzenie do sieci neuronowych

1. W jaki sposób radzimy sobie z problemem zatrzymywania się w lokalnym minimum błędu podczas procesu uczenia?

Lp. tydzień wykłady seminaria ćwiczenia

Sztuczne sieci neuronowe. Uczenie, zastosowania

Zastosowania sieci neuronowych

Projekt Sieci neuronowe

PODSTAWY IMMUNOLOGII Komórki i cząsteczki biorące udział w odporności nabytej (cz.i): wprowadzenie (komórki, receptory, rozwój odporności nabytej)

Widzenie komputerowe

Wstęp do sieci neuronowych, wykład 02 Perceptrony c.d. Maszyna liniowa.

MODELOWANIE RZECZYWISTOŚCI

Sztuczne siei neuronowe - wprowadzenie

PRÓBA ZASTOSOWANIA SIECI NEURONOWYCH DO PROGNOZOWANIA OSIADAŃ POWIERZCHNI TERENU POWSTAŁYCH NA SKUTEK EKSPLOATACJI GÓRNICZEJ**

Elementy inteligencji obliczeniowej

Wstęp do teorii sztucznej inteligencji

Rozpoznawanie wzorców. Dr inż. Michał Bereta p. 144 / 10, Instytut Informatyki

Podstawy Sztucznej Inteligencji (PSZT)

METODY INŻYNIERII WIEDZY KNOWLEDGE ENGINEERING AND DATA MINING

Zastosowanie sieci Kohonena do klasyfikacji próbek węgla kamiennego wg PN-54/G

OBLICZENIA EWOLUCYJNE

Sieć Hopfielda. Sieci rekurencyjne. Ewa Adamus. ZUT Wydział Informatyki Instytut Sztucznej Inteligencji i Metod Matematycznych.

Elementy kognitywistyki II: Sztuczna inteligencja. WYKŁAD XI: Sztuczne sieci neuronowe

Sztuczne sieci neuronowe Ćwiczenia. Piotr Fulmański, Marta Grzanek

Zastosowanie metod eksploracji danych Data Mining w badaniach ekonomicznych SAS Enterprise Miner. rok akademicki 2014/2015

METODY INŻYNIERII WIEDZY

Tolerancja immunologiczna

ZACHODNIOPOMORSKI UNIWERSYTET TECHNOLOGICZNY W SZCZECINIE

Transkrypt:

Sztuczne sieci neuronowe i sztuczna immunologia jako klasyfikatory danych Dariusz Badura Letnia Szkoła Instytutu Matematyki 2010

Sieci neuronowe jednokierunkowa wielowarstwowa sieć neuronowa sieci Kohonena sieci neuronowe z radialną funkcją bazową sieci neuronowe rozmyte

Jednokierunkowa wielowarstwowa sieć neuronowa u i = N j= 1 W ij x j + W i0

Jednokierunkowa wielowarstwowa sieć neuronowa

sieci Kohonena Neuron typu Hebba aktywowanie połączenia Sieć Kohonena współzawodnictwo neuronów ze sobą, aby stać się aktywnymi (pobudzonymi) WTA (Winner Takes All) tylko jeden neuron może być aktywny pozostałe pozostają w stanie spoczynku. WTM (Winner Takes Most) neuron wygrywający konkurencję uaktywnia się w sposób maksymalny i umożliwia częściowe uaktywnienie neuronów sąsiedztwa.

sieci Kohonena aktualizacja wag neuronu zwycięzcy (wg reguły Kohonena) w ij (k+1)=w ij (k) + η[x i w ij (k)] normalizacja wektorów wejściowych i wag net = w T x = w x cosϕi gdy w = x = 1 na wartość net ma wpływ różnica kątowa między wektorami w i x. Zwycięża neuron, który jest najbliższy aktualnemu wektorowi uczącemu x. d( x, w w ) = min d( x, w) x 1 i n w

sieci neuronowe z radialną funkcją bazową wyznaczenie aktywacji, w neuronach warstwy ukrytej, odbywa się na zasadzie wyznaczenia wartości radialnej funkcji bazowej (argumentem funkcji jest odległość x-c ) warstwa wyjściowa sumuje aktywacje neuronów warstwy ukrytej każdy neuron warstwy wyjściowej jest neuronem liniowym i reprezentuje jedną klasę

sieci neuronowe z radialną funkcją bazową Twierdzenie Covera (1965) Złożony problem klasyfikacyjny zrzutowany nieliniowo na przestrzeń wielowymiarową może być rozdzielony za pomocą separatora liniowego z większym prawdopodobieństwem niż przy rzutowaniu na przestrzeń o mniejszej liczbie wymiarów.

Sztuczny system immunologiczny Immunologia Badanie odporności organizmów na patogeny: zarazki, toksyny i niektóre substancje chemiczne Układ odpornościowy Zdolność odróżnienia własnych składników od obcych Odpowiedź immunologiczna pozwalająca na usuwanie obcych organizmów

Sztuczny system immunologiczny

Sztuczny system immunologiczny B - komórka Na powierzchni B-limfocytu znajduje się wiele tysięcy receptorów (przeciwciał). Specjalizowany fragment receptora służący do identyfikacji innych molekuł paratop, Drugi fragment receptora lub antygenu, do którego może dołączać się paratop epitop. Siła wiązania paratop epitop nazywana jest w immunologii stopniem dopasowania. Stopień dopasowania określa powinowactwo przeciwciała do antygenu. Receptory są specjalizowanymi detektorami, ponieważ wiążą tylko kilka strukturalnie zbliżonych epitopów.

Sztuczny system immunologiczny B komórka - stopień dopasowania Poniższe równanie określa stopień dopasowania j-tego paratopu przez i-ty epitop w przypadku binarnej reprezentacji B-komórki m ij = G ( e i (n + k) p j (n) - s+1 ) k n

Sztuczny system immunologiczny B komórka - stopień dopasowania W przypadku reprezentacji liczb rzeczywistych stopień dopasowania może przypominać właściwości neuronu z radialną funkcją bazową W przypadku reprezentacji symbolicznej stopień dopasowania musi być indywidualnie kształtowany

Sztuczny system immunologiczny Obliczanie poziomu stymulacji (zmiany koncentracji) elementów systemu immunologicznego (przeciwciał) Dla każdego przeciwciała pod uwagę brane są 4 składniki: 1. Stymulacja przeciwciała przez inne przeciwciała 2. Supresja przeciwciała rozpoznanego przez inne przeciwciała 3. Stymulacja przeciwciała przez patogeny 4. Supresja przeciwciała powodowana wymieraniem

Algorytm selekcji klonalnej.. można podzielić na dwa etapy: 1. etap ekspansji klonalnej, bazujący na naturalnym mechanizmie selekcji klonalnej oraz 2. etap hipermutacji. Pierwszy etap jest odpowiedzialny za wyselekcjonowanie najlepiej dopasowanych przeciwciał i namnożenie ich (np. proporcjonalnie do ich stopnia dopasowania). Hipermutacja realizuje proces dojrzewania przeciwciał, przekształcając namnożone klony w taki sposób, by niektóre z nich osiągnęły lepszy stopień dopasowania niż ich poprzednicy.

Porównanie Zarówno sieci neuronowe jak i system immunologiczny są systemami, w których jego elementy aktywują się przy określonym stopniu dopasowania wektora wejściowego; neurony (SSN) aktywują się w przypadku odpowiednio małej odległości od centrum neuronu, zaś B-komórki (SSI) aktywowane są gdy stopień dopasowania wektora wejściowego jest odpowiednio duży. Liczba neuronów w sieci SSN jest zazwyczaj stała, liczba B- komórek w SSI jest zmienna i zależy od aktywności systemu. Można zbudować sieć neuronową o cechach neuronów zbliżonych do właściwości B-komórek mobilna sieć neuronowa.

Dziękuję za uwagę