Sztuczna inteligencja : Naiwny klasyfikator Bayesa

Wielkość: px

Rozpocząć pokaz od strony:

Download "Sztuczna inteligencja : Naiwny klasyfikator Bayesa"

Teodor Niemiec
7 lat temu
Przeglądów:

1 Instytut Informatyki Uniwersytetu Śląskiego 18 kwietnia 2012

2 Rysunek: Klasyfikator Bayesa

3 Jakie jest prawdopodobieństwo, że nowy obiekt będzie zielony/czerwony? Jaki będzie kolor nowego obiektu? Obliczenie prawdopodobieństwa a priori: prawdopodobieństwo, które możemy ustalić na podstawie obserwacji zbioru. prawd. a priori zielonego = l.zielonych l.wszystkich prawd. a priori czerwonego = l.czerwonych l.wszystkich wszystkich obiektów = 60 obiektów zielonych = 40 obiektów czerwonych = 20

Obliczenie prawdopodobieństwa a priori: prawdopodobieństwo, które możemy ustalić na podstawie

Stąd : prawd. a priori zielonego = 40 60 prawd.

4 Stąd : prawd. a priori zielonego = prawd. a priori czerwonego = Rysunek: Klasyfikator Bayesa

5 Następnym krokiem jest wybranie obiektów sąsiadujących z nowym obiektem - umiejscowienie nowego obiektu. Obliczenie ile kulek czerwonych jest w sąsiedzywie nowego obiektu Obliczenie ile kulek zielonych jest w sąsiedztwie nowego obiektu Szansa, że X będzie zielone = l.zielonychwssiedztwiex cak.l.zielonych Szansa, że X będzie czerwone = l.czerwonychwssiedztwiex cak.l.czerwonych więc mamy: Szansa, że X będzie zielone = 1 40 Szansa, że X będzie czerwone = 3 20

sąsiedztwie nowego obiektu Szansa, że X będzie zielone = l.zielonychwssiedztwiex cak.l.zielonych Szansa, że X będzie czerwone = l.

6 Teraz możemy wyliczyć prawdopodobieństwa: X zielone = = 1 60 X czerwone = 1 40 X będzie czerwone, ponieważ ma większe prawdopodobieństwo.

7 Przykład: mamy zbiór danych treningowych złożony z 30 koni, 50 kotów i 20 kur. Otrzymalismy zwierzę (obiekt testowy) czworonożne. Jak określić jego gatunek? Musimy wyliczyć prawdopodobieństwo warunkowe tego, że zwierzę jest koniem, o ile ma 4 nogi, i podobnie dla kota i kury. W tym zadaniu prawdopodobieństwa te możemy wyliczyć wprost, jako odpowiednio 3 8, 5/8 i 0 (gdyż 3 8 czworonogów jest końmi, 5 8 kotami i 0 kurami). Wnioskujemy, że nieznane zwierzę jest raczej kotem.

Musimy wyliczyć prawdopodobieństwo warunkowe tego, że zwierzę jest koniem, o ile ma 4 nogi, i podobnie dla kota i kury.

8 Do jakiej klasy wyznaczone zostanie czarne kółko? (Rozpatrując różne sąsiedztwo). Rysunek: Klasyfikator Bayesa

9 Rozpatrzmy przykład gry w tenisa. Tablica: Tabela danych Pogoda Temperatura Wilgotność Wietrznie Klasa Słonecznie Gorąco Duża Nie N Słonecznie Gorąco Duża Tak N Pochmurnie Gorąco Duża Nie P Deszcz Umiarkowanie Duża Nie P Deszcz Chłodno Normalna Nie P Deszcz Chłodno Normalna Tak N Pochmurnie Chłodno Normalna Tak P Słonecznie Umiarkowanie Duża Nie N Słonecznie Chłodno Normalna Nie P Deszcz Umiarkowanie Normalna Nie P Słonecznie Umiarkowanie Normalna Tak P Pochmurnie Umiarkowanie Duża Tak P Pochmurnie Gorąco Normalna Nie P Deszcz Umiarkowanie Duża Tak N

Gorąco Duża Nie P Deszcz Umiarkowanie Duża Nie P Deszcz Chłodno Normalna Nie P Deszcz Chłodno Normalna Tak N Pochmurnie Chłodno Normalna

10 Czy gra w tenisa odbedzie się w następujących warunkach: Słonecznie, zimno, Duża, wieje Pochmurnie, gorąco, Duża, wieje

11 Czy gra w tenisa odbedzie się w następujących warunkach: Słonecznie, zimno, Duża, wieje Pochmurnie, gorąco, Duża, wieje Decyzja: P(p) = 9 14 P(n) = 5 14 Obliczmy: Pogoda: P(słonecznie P) = 2 9 P(Słonecznie N) = 3 5 P(Pochmurnie P) = 4 9 P(Pochmurnie N) = 0 P(Deszcz P) = 3 9 P(Deszcz N) = 2 5

P(n) = 5 14 Obliczmy: Pogoda: P(słonecznie P) = 2 9 P(Słonecznie N) = 3

12 Temperatura:

13 Temperatura: P(Gorąco P) = 2 9 P(Gorąco N) = 2 5 P(Umiarkowanie P) = 4 9 P(Umiarkowanie N) = 2 5 P(Chłodno P) = 3 9 P(Chłodno N) = 1 5

14 Temperatura: P(Gorąco P) = 2 9 P(Gorąco N) = 2 5 P(Umiarkowanie P) = 4 9 P(Umiarkowanie N) = 2 5 P(Chłodno P) = 3 9 P(Chłodno N) = 1 5 Wilgotność: P(Duża P) = 3 9 P(Duża N) = 4 5 P(Normalna P) = 6 9 P(Normalna N) = 2 5

15 Temperatura: P(Gorąco P) = 2 9 P(Gorąco N) = 2 5 P(Umiarkowanie P) = 4 9 P(Umiarkowanie N) = 2 5 P(Chłodno P) = 3 9 P(Chłodno N) = 1 5 Wilgotność: P(Duża P) = 3 9 P(Duża N) = 4 5 P(Normalna P) = 6 9 P(Normalna N) = 2 5 Wiatr: P(Tak P)= 3 9 P(Tak N)= 3 5 P(Nie P) = 6 9 P(Nie N) = 2 5

Wilgotność: P(Duża P) = 3 9 P(Duża N) = 4 5 P(Normalna P) = 6 9

16 Zadanie Przygotować dowolny zbiór danych, a następnie dla tego zbioru zbudować naiwny klasyfikator Bayesa. przygotować obiekty posiadające dwa wymiary (dwa atrybuty), przedstawić rozkład obiektów na wykresie w excelu, określić dwa różne sąsiedztwa i wyznaczyć przynależność nowego obiektu do klasy decyzyjnej.

przygotować obiekty posiadające dwa wymiary (dwa atrybuty), przedstawić

Podobne dokumenty

Twierdzenie Bayesa. Indukowane Reguły Decyzyjne Jakub Kuliński Nr albumu: 53623

Twierdzenie Bayesa. Indukowane Reguły Decyzyjne Jakub Kuliński Nr albumu: 53623 Twierdzenie Bayesa Indukowane Reguły Decyzyjne Jakub Kuliński Nr albumu: 53623 Niniejszy skrypt ma na celu usystematyzowanie i uporządkowanie podstawowej wiedzy na temat twierdzenia Bayesa i jego zastosowaniu