Algorytmy immunologiczne. Dr inż. Michał Bereta p. 144 / 10, Instytut Informatyki

Wielkość: px

Rozpocząć pokaz od strony:

Download "Algorytmy immunologiczne. Dr inż. Michał Bereta p. 144 / 10, Instytut Informatyki"

Robert Wójcik
5 lat temu
Przeglądów:

1 Algorytmy immunologiczne Dr inż. Michał Bereta p. 144 / 10, Instytut Informatyki mbereta@pk.edu.pl beretam@torus.uck.pk.edu.pl

2 Metody uczenia maszynowego Uczenie z nauczycielem Uczenie bez nadzoru Uczenie z krytykiem (ze wzmocnieniem, ang. reinforcement learning)

3 Metody uczenia maszynowego Uczenie z nauczycielem Nauczyciel: prezentuje przykłady, z którymi związana jest prawidłowa odpowiedź etykieta klasy (w przypadku klasyfikacji) wartośd rzeczywista (w przypadku zadania regresji) zna poprawną odpowiedź jest w stanie ukierunkowad naukę np. uczenie sieci neuronowych (algorytm backpropagation)

4 Metody uczenia maszynowego Uczenie bez nadzoru Do dyspozycji systemu uczącego się jest jedynie zbiór danych bez wskazania do jakich klas te dane należą Częstym zadaniem jest automatyczne wykrycie tych klas, jeśli one istnieją

5 Metody uczenia maszynowego Uczenie z krytykiem (ze wzmocnieniem, ang. reinforcement learning) Istnieje nauczyciel, ale udziela on odpowiedzi jedynie dobrze lub źle w odpowiedzi na zachowanie systemu Przykład: uczenie się strategi gry Wygrana = dobrze Przegrana = źle

6 Metody uczenia maszynowego Uczenie z krytykiem (ze wzmocnieniem, ang. reinforcement learning) Przykład: uczenie strategii gry w Backgammon (tryktrak)

7 Analiza danych Analiza danych ma za zadanie wykrycie istniejących w danych grup podobnych przykładów, sytuacji, itp. Każda grupa zawiera przykłady, które są podobne bardziej do siebie nawzajem niż do przykładów z innych grup. Częstym zadaniem jest również streszczenie danego zbioru danych.

8 Analiza danych Problemy: Ile grup szukamy? Jak mierzyd podobieostwo? Jak sobie radzied z danymi o dużej wymiarowości (duża liczba parametrów opisujących każdy przykład)? Jak sobie radzid w dużymi zbiorami danych?

9 Analiza danych Problemy: Dane niekompletne Dane zaszumione (z błędami) Problemy dynamiczne (zmieniające się w czasie) Dane rozproszone w wielu bazach danych Przykłady znajdują się w różnych miejscach Atrybuty znajdują się w różnych miejscach Rozproszone są zarówno przykłady jak i atrybuty

10 Analiza danych Problemy: Czego tak napradę szukamy? Innych danych podobnych do znanego nam przypadku? Najbardziej podobny przykład do naszego może byd mimo wszystko bardzo odmienny Wyróżniających się grup (np. klientów)? Zmian, nowości, informacji o łączenia się grup wcześniej wyraźnie oddzielonych?

11 Analiza danych Problemy z wizualizacją i weryfikacją wyników w problemach wielowymiarowych

12 Analiza danych Trzy wyraźnie grupy (rozkład sferyczny)

13 Analiza danych

14 Czy to są oddzielne grupy? Analiza danych

15 Grupy czy "szumy"? Analiza danych

16 Analiza danych Algorytm k-średnich (K-means) Określ liczbę szukanych grup Zainicjuj centra grup losowo lub za pomocą wybranych przykładów Powtarzaj dopóki centra ulegają zmianie: Dla każdego centrum określ zbiór przykładów, dla których jest to najbliższe centrum (przy danej mierze odległości) Wylicz nowe centrum jako średnia z przykładów z poprzedniego punktu

17 Analiza danych Problemy z algorytmem k-średnich Jak dobrad liczbę grup? Zastosowad współczynniki jakości grupowania Który współczynnik jakości wybrad? Algorytm może utknąd (centrum ustala się w miejscu gdzie nie ma żadnych danych) Dobrze działa dla danych, w których istnieją wyraźnie grupy sferyczne

18 Analiza danych Algorytm rozmytych k-średnich (fuzzy k- means) Każdy przykład może należed jednocześnie do więcej niż jednej grupy, ale z różnych stopniem przynależności Brak ostrego przydziału do wybranej grupy Może byd zaletą wykrycie wątpliwych przypadków na granicy Ostry podział łatwy do otrzymania z podziału rozmytego

19 Analiza danych Duża liczba innych algorytmów Possibility clustering Algorytmy grupowania hierachicznego Sieci Kohonena Algorytm gazu neuronowego Sztuczne systemy immunologiczne Sieci diotypowe

20 Sieci Kohonena

21 Sieci Kohonena

22 Sieci idiotypowe Modele immunologiczne Klonalna selekcja Negatywna selekcja Dojrzewanie specyficzności odpowiedzi immunologicznej Teoria sieci immunologicznej (ang. immune network theory)

23 Sieci idiotypowe Oznaczenia Ab (ang. Antibody, przeciwciało) Ag (ang. Antigen, antygen) B (limfocyt B)

24 Sieci idiotypowe Ab rozpoznaje częśd Ag zwaną epitopem Idiotyp jest zdefiniowany jako zbiór epitopów obecnych w zbiorze Ab Każdy B jest mono-specyficzny (jeden rodzaj Ab) Ag ma przeważnie kilka rodzajów epitopów Może byd rozpoznany przez kilka rodzajów Ab) Paratop, V-region (ang. Variable region) częśd Ab odpowiedzialna za wiązanie/dopasowanie do Ag ang. Affinity stopieo dopasowania Ab-Ag

25 Sieci idiotypowe

26 Sieci idiotypowe Teoria sieci immunologicznej Jerne, N. K. (1974), Towards a Network Theory of the Immune System, Ann. Immunol. (Inst. Pasteur) 125C, pp Nagroda Nobla w 1984r. częściowo za prace nad teorią klonalnej selekcji i teorią sieci immunologicznych

27 Sieci idiotypowe Teoria sieci immunologicznej System immunologiczny jest zdefiniowany jako złożona sied połączeo paratope-idiotope Istotne są nie tylko molekuły ale również dynamika ich interakcji W efekcie na rozpoznanie komórki systemu immunologicznego odpowiadają pozytywnie lub negatywnie Pozytywnie: proliferacja, aktywacja, produkcja i uwalnienie przeciwciał Negatywnie: śmierd komorki, supresja, tolerancja

28 Sieci idiotypowe Sied immunologiczna Struktura Typy interakcji (połączenia między komórkami) Dynamika Zmiana w czasie koncentracji i jakości dopasowanie do antygenów Meta-dynamika Ciągła produkcja nowych komórek Śmierd nieaktywnych komórek Supresja autoagresywnych komórek

29 Sieci idiotypowe RPV rate of population variation Ostatni element zawiera interakcje zarówno Ab-Ag jak i Ab-Ab

30 Sieci idiotypowe W strukturze sieci zapisany jest wewnętrzny obraz (ang. internal image) Ag

31 Sieci idiotypowe Klonalna selekcja jest nadal używana do symulowanie dojrzewania odpowiedzi immunologicznej

32 Sieci idiotypowe Algorytm ten ma na celu zbudowanie zbioru połączonych komórek (reprezentacja grafowa) reprezentujących analizowany zbiór danych. Streszczenie danych liczba sztucznych Ab < liczba przykładów w analizowanym zbiorze danych

33 Sieci idiotypowe

34 Sieci idiotypowe

35 Sieci idiotypowe Odległośd Euklidesa użyta jako miara dopasowania Dwa kroki supresji Clonal suppression Network suppression

36 Sieci idiotypowe Analiza otrzymanej sieci idiotypowej Minimalne drzewo spinające Następny krok: odcięcie zbyt długich krawędzi w celu wyodrębnienia grup histogram dendrogram

37 Sieci idiotypowe Analiza otrzymanej sieci idiotypowej Minimalne drzewo spinające Następny krok: odcięcie zbyt długich krawędzi w celu wyodrębnienia grup

38 Sieci idiotypowe Analiza otrzymanej sieci idiotypowej histogram

39 Sieci idiotypowe Analiza otrzymanej sieci idiotypowej dendrogram

40 ainet Duża liczba parametrów Oddziałują na siebie w skomplikowany sposób Jaki jest ich optymalny dobór? Niewydajny jeśli zbiór do analizy jest duży - każdy przykład jest prezentowany sieci osobno, nadmiar Ab usuwany na koocu kiedy populacja jest już duża zostaje jeden klon jesli supresja klonalna zbyt mocna

41 ainet Krok supresji sieciowej: jak rozumied najgorsze? Suma do wszystkich przykładów? Minimum? Minimum z zadanej liczby najbardziej związanych (najbliższych)? Przy supresji - czy usuwad oba Ab? Jak generowad nowe - losowo czy losowo wybierac ze zbioru przykładów?

42 ainet System reaguje dynamicznie - np. nowe pośrednie grupy łączą grupy do tej pory oddzielone Co z nowymi małymi skupiskami? Male skupiska mogą rozregulowad sied - jeśli n (liczba Ab wybieranych do klonowania) jest duże a skupisko małe to będą co chwilę pojawiad się ogniwa pośrednie jeśli próg supresji sieciowej jest odpowiednio duży

43 ainet Siec niestabilna jeśli próg supresji sieciowej jest zbyt duży i n (liczba Ab wybieranych do klonowania) zbyt duze wybierane są Ab z innych grup

44 ainet Jeśli próg supresji sieciowej jest mały a trzeba usuwad najgorsze to usuwa dobre Rozwiązania: Nie usuwad jeśli dany Ab jest dośd dobry W kolejnych iteracjach usuwad coraz mniejszą liczbę Ab Usuwad małą liczbę Ab wolniejsza zbieżnośd algorytmu

45 Immune K-Means

46 Immune K-Means Połączenie algorytmu k-średnich i klonalnej selekcji Dwie wersje algorytmu różniące się krokiem supresji Dla analizy danych (uczenie bez nauczyciela) Do zadao klasyfikacji (uczenie z nauczycielem) Dwie zaproponowane supresje mogą byd wykorzystane jednocześnie

47 Immune K-Means

48 Immune K-Means

49 Immune K-Means

50 Immune K-Means

51 Analiza danych

Podobne dokumenty

Sztuczne sieci neuronowe i sztuczna immunologia jako klasyfikatory danych. Dariusz Badura Letnia Szkoła Instytutu Matematyki 2010

Sztuczne sieci neuronowe i sztuczna immunologia jako klasyfikatory danych Dariusz Badura Letnia Szkoła Instytutu Matematyki 2010 Sieci neuronowe jednokierunkowa wielowarstwowa sieć neuronowa sieci Kohonena