Technologie Informacyjne

Wielkość: px

Rozpocząć pokaz od strony:

Download "Technologie Informacyjne"

Józef Wróbel
6 lat temu
Przeglądów:

1 Systemy Uczące się Szkoła Główna Służby Pożarniczej Zakład Informatyki i Łączności January 16, 2017

2 1 Wprowadzenie 2 Uczenie nadzorowane 3 Uczenie bez nadzoru 4 Uczenie ze wzmocnieniem

3 Uczenie się - proces poznawczy prowadzący do modyfikacji zachowania osobnika pod wpływem doświadczeń co zwykle zwiększa przystosowanie osobnika do otoczenia. Zdolność uczenia się, w różnym zakresie posiadają zwierzęta, ludzie, grupy ludzi a także komputery.

4 Wprowadzenie Uczenie nadzorowane Uczenie bez nadzoru Uczenie ze wzmocnieniem

5 Klasyfikacja wysocy? niscy

6 Klasyfikacja cd. Jan Kowal, M, 172 cm, czy wysoki? lp. imię nazwisko wzrost płeć czy wysoki 1. Jan Nowakowski 191 M tak 2. Jan Wiśniewski 185 M tak 3. Jan Kowalski 181 M tak 4. Jan Nowak 175 M nie 5. Janina Kowalska 171 K tak 6. Janina Nowak 160 K nie

7 Leniwe klasyfikatory Algorytm k-nn

8 Leniwe klasyfikatory Naiwny klasyfikator Bayesowski Jan Kowal, M, 172 cm, czy wysoki? lp. imię nazwisko wzrost płeć czy wysoki 1. Jan Nowakowski 191 M tak 2. Jan Wiśniewski 185 M tak 3. Jan Kowalski 181 M tak 4. Jan Nowak 175 M nie 5. Janina Kowalska 171 K tak 6. Janina Nowak 160 K nie P(wysoki dane) = P(wysoki)p(plec wysoki)p(wzrost wysoki) p(dane) (1) p(dane) = P(wysoki)p(plec wysoki)p(wzrost wysoki) + P(niski)p(plec niski)p(wzrost niski) (2) p(dane) = 0.2 (3) P wysoki = (4) P niski = (5)

9 Leniwe klasyfikatory Leniwy vs. gorliwy klasyfikator Leniwy klasyfikator brak procesu uczenia się. Nie generuje modelu dla metod predykcji. Klasyfikacja polega na kombinowaniu bezpośrednio z danych treningowych. Gorliwy klasyfikator buduje pełny model opisujący metodę predykcji. Klasyfikacja polega na generowaniu odpowiedzi z modelu. Dane treningowe Klasyfikator leniwy WYNIK N Dane testowe Klasyfikator gorliwy Model WYNIK N Czy Jan Kowal wysoki?

Gorliwe klasyfikatory Drzewa klasyfikacyjne Drzewa klasyfikacyjne zbiorcza nazwa rodziny metod statystycznych, dokonujących za pomocą

10 Gorliwe klasyfikatory Drzewa klasyfikacyjne Drzewa klasyfikacyjne zbiorcza nazwa rodziny metod statystycznych, dokonujących za pomocą diagramów zwanych drzewami klasyfikacji obserwacji statystycznych, czyli podziału próby statystycznej na klasy obserwacji o podobnych właściwościach.

11 Gorliwe klasyfikatory Drzewa klasyfikacyjne cd. Entropia w ramach teorii informacji jest definiowana jako średnia ważona ilości informacji niesionej przez pojedynczą wiadomość, gdzie wagami są prawdopodobieństwa nadania poszczególnych wiadomości. H(x) = n i=1 p(i)log 2 1 p(i) (6) lp. imię nazwisko wzrost płeć czy wysoki 1. Jan Nowakowski 191 M tak 2. Jan Wiśniewski 185 M tak 3. Jan Kowalski 181 M tak 4. Jan Nowak 175 M nie 5. Janina Kowalska 171 K tak 6. Janina Nowak 160 K nie H(x) = 4 1 log log = 0, 918 (7) Hw (x) = 1 (1log log 2 0) + 1 ( 1 1 log log ) = 0, 459 (8) Hp (x) = 4 ( 3 1 log log ) + 2 ( 1 1 log log 2 ) = 0, 873 (9) 1 2

12 Gorliwe klasyfikatory Sztuczne Sieci Neuronowe W układach nerwowych żywych organizmów stosunkowo proste elementy (neurony), współdziałając są w stanie realizować wysokopoziomowe, złożone funkcje. U podstaw sztucznych sieci neuronowych (ANN) leży idea wykorzystania prostych elementów obliczeniowych do tworzenia układów zdolnych rozwiązywać skomplikowane zadania. Siła rozwiązania leży nie w samych elementach obliczeniowych, a w sposobie ich łączenia. x x x x n w1 w2 w 3 wn y

13 Gorliwe klasyfikatory Sztuczne Sieci Neuronowe przepływ sygnełów wejściowych warstwy ukryte x 1 warstwa wejściowa warstwa wyjściowa y 1 x 2 y 2 x n przepływ sygnełów o błędzie

14 Metody oceny klasyfikatorów Tablica Dezorientacji sklasyfkiowany wysoki sklasyfkiowany wysoki TAK NIE P N wysoki TAK T 12 3 wysoki NIE F 4 14 N P Dokładność (ACC)= Precyzja (Precision) = Przywołanie (Recall) = TP+FP TP+TN+FP+FN TP TP+FN TP TP+TN

15 Metody oceny klasyfikatorów Ewaluacja

16 Metody oceny klasyfikatorów Krzywa ROC Ocena klasyfikacji osób wg wzrostu krzywa ROC wg ubioru krzywa ROC

17 Metody oceny klasyfikatorów NFL No Free Lunch Theorem 10 2! ! !

18 Wartości liczbowe powierzchnia zdarzenia kubatura zdarzenia zuzyto wody sis jrg osoby

19 Definicja Grupowanie (analiza skupień, klasteryzacja) to metoda dokonująca grupowania elementów we względnie jednorodne klasy. Podstawą grupowania w większości algorytmów jest podobieństwo pomiędzy elementami wyrażone przy pomocy miary podobieństwa. Poprzez grupowanie można również rozwiązać problemy z gatunku odkrywania struktury w danych oraz dokonywanie uogólniania.

20 Ogólna zasada Atrybut Atrybut 1

21 Ogólna zasada clusplot(pam(x = x, k = 2)) Atrybut Component Atrybut Component 1 These two components explain 100 % of the point variability.

22 Predefiniowana liczba grup Algorytm K - centroidów Atrybut Atrybut 1

23 Predefiniowana liczba grup Algorytm K - centroidów Atrybut Atrybut 1

24 Predefiniowana liczba grup Algorytm K - centroidów Atrybut Atrybut 1

25 Predefiniowana liczba grup Algorytm K - centroidów Atrybut Atrybut 1

26 Predefiniowana liczba grup Algorytm K - centroidów Atrybut Atrybut 1

27 Predefiniowana liczba grup Algorytm K - centroidów Atrybut Atrybut 1

28 Predefiniowana liczba grup Algorytm K - centroidów Atrybut Atrybut 1

29 Predefiniowana liczba grup Algorytm K - centroidów Atrybut Atrybut 1

30 Predefiniowana liczba grup Algorytm K - centroidów Atrybut Atrybut 1

31 Predefiniowana liczba grup Algorytm K - centroidów Atrybut Atrybut 1

32 Predefiniowana liczba grup Szacowanie liczby grup Atrybut b 1 a1 s(i) = b(i) a(i) max{a(i), b(i)} S k = n s(i) i= Atrybut 1

33 Predefiniowana odległość Grupowanie hierarchiczne Atrybut Atrybut 1

34 Predefiniowana odległość Grupowanie hierarchiczne ,159 0,159 0,159 0,159 0,131 0,131 0,131 0,131 0,235 0,235 0,235 0,235 0,266 0,266 0,266 0,266 0,317 0,317 0,317 0,317 0,313 0,313 0,313 0,313 0,291 0,291 0,291 0,291 0,270 0,270 0,270 0,270 0,265 0,265 0,265 0,265 0,443 0,443 0,443 0,443 0,430 0,430 0,430 0,430 0,510 0,510 0,510 0,510 0,432 0,432 0,432 0,432 0,531 0,531 0,531 0,531 0,589 0,589 0,589 0,589 0,578 0,578 0,578 0,578 0,535 0,535 0,535 0,535 0,561 0,561 0,561 0,561 0,604 0,604 0,604 0,604 0,612 0,612 0,612 0,612 0,567 0,567 0,567 0,567 0,563 0,563 0,563 0,563 0,488 0,488 0,488 0,488 0,478 0,478 0,478 0, a) b) c) d)

35 Interpretacja grupowania Grupowanie bazy SWD-ST nr grupy licz. raportów S k nazwa kontener śmieć śmietnik trawa nieużytek tłumica trawa tłumica suchy komora silnik akumulator trawa suchy tłumica winda windowy szyba śmieć wysypisko dziki kontener śmieć śmietnik miejski trawa śmieć wojskowy mieszkać strzelnica latarnia toaleta podkład stodoła obora słoma wagon pociąg tramwaj trawa nieużytek tłumica spawalniczy lepik spawacz mieszkać piwnica piwniczny skrzynka energetyczny gaśnica zsypowy schodowy klatka potrawa garnek mieszkać podkład kolejowy nasypać garnek mieszkać mięso trawa kontener tłumica zsypowy kontener schodowy kontener śmieć śmietnik termit synteza kilogram

36 Uczenie ze wzmocnieniem - dziedzina uczenia maszynowego czerpiąca inspiracje z psychologii behawioralnej. Rozważa ona problem, jaką agent komputerowy powinien podjąć akcję w danym środowisku tak aby maksymalizować szanse na skumulowana nagrodę.

Podobne dokumenty

Wprowadzenie do uczenia maszynowego

Wprowadzenie do uczenia maszynowego Agnieszka Ławrynowicz 12 stycznia 2017 Co to jest uczenie maszynowe? dziedzina nauki, która zajmuje się sprawianiem aby komputery mogły uczyć się bez ich zaprogramowania