Mapy poznawcze jako narzędzia rozumienia informacji

Transkrypt

1 Mapy poznawcze jako narzędzia rozumienia informacji Wydział Matematyki i Nauk Informacyjnych Politechnika Warszawska i Wydział Matematyki i Informatyki Uniwersytet w Białymstoku homenda Kraków, 28 marca, 2014

2 Plan prezentacji Mapy poznawcze - wprowadzenie 1 Mapy poznawcze - wprowadzenie Mapy poznawcze, geneza terminu 2 Testy wstępne 3 Eksperymenty 4 z rozmyta z ziarnista

3 Plan prezentacji Mapy poznawcze - wprowadzenie 1 Mapy poznawcze - wprowadzenie Mapy poznawcze, geneza terminu 2 Testy wstępne 3 Eksperymenty 4 z rozmyta Mapy poznawcze, geneza terminu

4 Mapy poznawcze, geneza terminu Mapy poznawcze, geneza terminu Mapy poznawcze: Tollman, E. C. (1948), Cognitive maps in rats and men, Psychological Review, 55, , pojęcie utajonego uczenia się zwierzat, Axelrod, R. (1976), Structure of Decision: the Cognitive Maps of Political Elites, Princeton, NJ: Princeton University Press, zwiazki przyczynowo-skutkowe w świecie polityki, ekonomii, gospodarki.

5 Określenia Mapy poznawcze - wprowadzenie Mapy poznawcze, geneza terminu Figure : Mapa poznawcza z trzema pojęciami wartości wag: w ij { 1, 0, 1}, krawędzie z wagami zerowymi sa pomijane.

6 Mapy poznawcze, geneza terminu Kosko, B. (1986). Fuzzy Cognitive Maps., Int. J. Man Machine Studies, 24, :

7 Plan prezentacji Mapy poznawcze - wprowadzenie Testy wstępne 1 Mapy poznawcze - wprowadzenie Mapy poznawcze, geneza terminu 2 Testy wstępne 3 Eksperymenty 4 z rozmyta

8 Mapy poznawcze - wprowadzenie Testy wstępne : G = (V, E, w) (V, E) - graf skierowany, V = {v 1,..., v n }, E V V, w : E [ 1, 1] - wagi krawędzi, W - macierz wag,

9 Mapy poznawcze - wprowadzenie Testy wstępne Obliczenie: Y i = f (W X i ) W - macierz wag rozmiaru n n, X i - aktywacja mapy, X i = [x 1i,..., x ni ] T, x 1i,..., x ni [0, 1], Y i - odpowiedź mapy, Y i = [y 1i,..., y ni ] T, y 1i,..., y ni [0, 1], - produkt macierzy, np. iloczyn macierzy, f : (, + ) [0, 1], funkcja aktywacji n y ji = f ( w jk x ki ) k=1

10 Mapy poznawcze - wprowadzenie Testy wstępne Funkcje aktywacji (przykładowe): f : (, + ) [0, 1] 1 sigmoidalna: f (x) = 1 + e τ x, 0 τ x < π/2, 1 sinus: f (x) = 2 (sin(τ x) + 1) π/2 τ x pi/2 1 τ x > π/2 0 τ x < 1, 1 liniowa: f (x) = 2 (τ x + 1) 1 τ x 1 1 τ x > 1

11 Testy wstępne

12 Mapy poznawcze - wprowadzenie Testy wstępne Produkt (przykładowe): Y i = f (W X i ) iloczyn macierzy: n y ji = f ( w jk x ki ), k=1 dla wag unipolarnych za pomoca min / max: y ji = max { min{w jk, x ki } : k = 1, 2,..., n }, dla wag unipolarnych produkt za pomoca norm trójkatnych, dla wag bipolarnych produkt za pomoca norm zrównoważonych,

13 Mapy poznawcze - wprowadzenie Testy wstępne Założenia: Danych jest N obserwacji dla pewnych zjawisk: X = [X 1, X 2,..., X N ] - aktywacje, X i = [x 1i, x 2i,..., x ni ] T, G = [G 1, G 2,..., G N ] - cele, G i = [g 1i, g 2i,..., g ni ] T, Zjawisko jest modelowane poznawcza, to znaczy: f (W X i ) = G i dla każdego i = 1, 2,..., N

14 Mapy poznawcze - wprowadzenie Testy wstępne Wyznaczyć rozmytę mapę W modelujac a te zjawiska, to znaczy taka, że: f (W X) = G lub przynajmniej taka W, że Y = f (W X) jest tak bliskie G jak to tylko możliwe

15 Zakłócenia Mapy poznawcze - wprowadzenie Testy wstępne owanie nie jest doskonałe. Zakłócenia na poziomie wag, np. błędy oceny ekspertów. Zakłócenia na poziomie celów: Zakłócenia losowe, np. błędy odczytu z przyrzadów pomiarowych. Zakłócenia systematyczne, np błędy funkcjonowania przyrzadów pomiarowych.

16 Tak bliskie, jak tylko możliwe Dane: X = [X 1, X 2,..., X N ] - aktywacje, G = [G 1, G 2,..., G N ] - cele, W - macierz wag, Testy wstępne Odpowiedź mapy: Y = f (W X), Y = [Y 1, Y 2,..., Y N ] Ocena odpowiedzi: MSE = 1 N N n MAE = 1 N n j=1 i=1 N j=1 i=1 n (y ij g ij ) 2, n y ij g ij, XAE = max { y ij g ij : i {1, 2,..., n}, j {1, 2,..., N} },

17 Testy wstępne Mapy poznawcze - wprowadzenie Testy wstępne Dane: X = [X 1, X 2,..., X N ] - aktywacje, losowe, rozkład jednostajny, W - macierz wag, losowe, rozkład jednostajny, G = [G 1, G 2,..., G N ] - cele, G = f (W X) mapy: Y = f (W X), Y = [Y 1, Y 2,..., Y N ] Wyniki: zastosowane metody gradientowa i PSO, proces bardzo szybko zbieżny, wagi odtworzone z bardzo duża dokładnościa.

18 Testy wstępne Mapy poznawcze - wprowadzenie Testy wstępne Dane: X = [X 1, X 2,..., X N ] - aktywacje, losowe, rozkład jednostajny, W - macierz wag, losowe, rozkład jednostajny, G = [G 1, G 2,..., G N ] - cele, G = f (W X), G D - cele zakłócone rozkładem normalnym, mapy: Y = f (W X), Y = [Y 1, Y 2,..., Y N ] Wyniki: zastosowane metody gradientowa i PSO, MSE (i XAE) na zbiorze nie/zakłóconych celów i na zbiorze testowym, odtwarzanie wag zależne od wielu czynników.

19 Testy wstępne Figure : Statystyka błędów dla zakłóconych celów (lewa kolumna) i zakłóconych wag (prawa kolumna)

20 Testy wstępne Mapy poznawcze - wprowadzenie Testy wstępne Figure : Statystyka błędów na niezakłóconych celach, mapa rekonstruowana dla zakłóconych celów i zakłóconych wag

21 Plan prezentacji Mapy poznawcze - wprowadzenie Eksperymenty 1 Mapy poznawcze - wprowadzenie Mapy poznawcze, geneza terminu 2 Testy wstępne 3 Eksperymenty 4 z rozmyta

22 Eksperymenty z ziarnami przedziałowymi : G = (V, E, w) (V, E) - graf skierowany, V = {v 1,..., v n }, E V V, w : E [ 1, 1] [ 1, 1] - wagi krawędzi, przedziały [w, w + ], 1 w w + 1, W - macierz wag, W - dekompozycja do W i W +,

23 Mapy poznawcze - wprowadzenie Eksperymenty Obliczenie: Y i = f (W X i ) W - macierz wag rozmiaru n n, Y i - odpowiedź mapy, Y i = [y 1i,..., y ni ] T, Y i - dekompozycja do Y i i Y + i, y ji = [y ji, y + ji ], Y i = f (W X i ), Y + i = f (W + X i ) y,+ ji = f ( n k=1 w,+ jk x ki )

24 Mapy poznawcze - wprowadzenie Eksperymenty Danych jest N obserwacji dla pewnego zjawiska: X = [X 1, X 2,..., X N ] - aktywacje, X i = [x 1i, x 2i,..., x ni ] T, G = [G 1, G 2,..., G N ] - cele, G i = [g 1i, g 2i,..., g ni ] T, Wyznaczyć ziarnista mapę modelujac a zjawisko, to znaczy taka, że: f (W X) G lub przynajmniej taka, że f (W X) pokrywa G w stopniu możliwie najwyższym

25 Eksperymenty W stopniu możliwie najwyższym Dane: X = [X 1, X 2,..., X N ] - aktywacje, G = [G 1, G 2,..., G N ] - cele, W - macierz wag, Odpowiedź mapy: Y = f (W X), Y = [Y 1, Y 2,..., Y N ] Ocena odpowiedzi: CVW = 1 N N n CVS = 1 N j=1 i=1 n (g ij y ij ), słabe pokrycie, N n i=1 (g ij y ij ), silne pokrycie, n j=1

26 Metody rozwiazania Eksperymenty rozmytej mapy poznawczej Zamiana wag numerycznych na wagi ziarniste w ij w ij = [w ij, w + w + ij w ij ij ], = max{ 1, w ij γ ε/2}, = min{1, w ij + (1 γ) ε/2}, Ziarna wyznaczone w przestrzeni celów

27 Metody rozwiazania Eksperymenty Kompromis między szczegółowościa, a wielkościa pokrycia: Na poziomie wag: ustalona wartość ε dla wag, długość ziarna/przedziału każdej wagi nie przekracza 2 ε, suma długości ziaren/przedziałów nie przekracza n 2 ε. Na poziomie celów: jako wynik ziarnistości wag, niezależnie od wag i aktywacji,

28 Metody rozwiazania Eksperymenty Zamiana wag numerycznych na wagi ziarniste w ij w ij = [w ij, w + w + ij w ij ij ], = max{ 1, w ij γ ε/2}, = min{1, w ij + (1 γ) ε/2}, ε ij - indywidualny dobór długości przedziałów, γ - ustalone centrum przedziału, ε - ustalona długość przedziałów, γ ij - dobór położenia centrum przedziału, ε ij - indywidualny dobór długości przedziałów, γ ij - indywidualny dobór położenia centrum przedziału: kolejno, jednocześnie.

29 ε ij, γ Mapy poznawcze - wprowadzenie Eksperymenty

30 Eksperymenty ε, γ ij

31 ε ij, γ ij - kolejno Mapy poznawcze - wprowadzenie Eksperymenty

32 ε ij, γ ij - jednocześnie Eksperymenty

33 Porównanie syntetyczne Eksperymenty mean of weak coverage approach train ND train D test adjustment of ε adjustment of γ adjust. of ε then γ adjust. of ε and γ

34 Metody rozwiazania Eksperymenty Konstrukcja wag ziarnistych w ij w ij = [w ij, w + w + ij w ij ij ], = max{ 1, w ij γ ε/2}, = min{1, w ij + (1 γ) ε/2}, w ij - indywidualny dobór położenia przedziałów, ε, γ - ustalone długości i centrów przedziałów, w ij, ε ij - indywidualny dobór położenia i długosci przedziałów, γ - ustalone położenie centrów przedziałów, w ij, ε ij, γ ij - indywidualny dobór połozenia, długości i centrów przedziałów,

35 w ij, ε ij, γ ij - jednocześnie Eksperymenty

36 ε ij, γ ij - góra, w ij, ε ij, γ ij - dół Eksperymenty

37 ε ij, γ ij - góra, w ij, ε ij, γ ij - dół Eksperymenty

38 Eksperymenty basic fuzzy; w ij ; w ij, ε ij ; w ij, ε ij, γ ij train not distorted train distorted test MWC MSC MWC MSC MWC MSC MWC MSC

39 Plan prezentacji Mapy poznawcze - wprowadzenie 1 Mapy poznawcze - wprowadzenie Mapy poznawcze, geneza terminu 2 Testy wstępne 3 Eksperymenty 4 z rozmyta z rozmyta z ziarnista

40 z rozmyta z ziarnista Rozmyta mapa poznawcza jako model szeregu czasowego Szereg czasowy: c 1, c 2, c 3, c 4,... Aktywacje: X 1 = [c 1, c 2,..., c n ] T X 2 = [c 2, c 3,..., c n+1 ] T X N = [c N, c N+1,..., c N+n 1 ] T Cele: G 1 = [c 2, c 3,..., c n+1 ] T G 2 = [c 3, c 4,..., c n+2 ] T G N = [c N+1, c N+2,..., c N+n ] T

41 z rozmyta z ziarnista Rozmyta mapa poznawcza jako model szeregu czasowego X X 1 X 2 X 3... X N 1 X N X 1 c 1 c 2 c 3 c N 1 c N X 2 c 2 c 3 c 4 c N c N+1 X n 1 c n 1 c n c n+1 c N+n 1 c N+n 2 X n c n c n+1 c n+2 c N+n 2 c N+n 1 G G 1 G 2 G 3... G N 1 G N G 1 c 2 c 3 c 4 c N c N+1 G 2 c 3 c 4 c 5 c N+1 c N+2 G n 1 c n c n+1 c n+2 c N+n c N+n 1 G n c n+1 c n+2 c n+3 c N+n 1 c N+n

42 z rozmyta z ziarnista Rozmyta mapa poznawcza jako model szeregu czasowego Y j = f ( W X j ) ( n y ij = f (W i X j ) = f k=1 w ij = 0 dla i > j w ik x kj ) Y j = f ( B + W X j ) ( y ij = f (b i + W i X j ) = f b i + n ) w ik x kj k=1

43 z rozmyta z ziarnista Rozmyta mapa poznawcza jako model szeregu czasowego

44 z rozmyta z ziarnista Rozmyta mapa poznawcza jako model szeregu czasowego Prognozowanie - co minimalizować?

45 z rozmyta z ziarnista Rozmyta mapa poznawcza jako model szeregu czasowego Prognozowanie - co minimalizować? MSE = 1 N n (y ij c i+j ) 2 n N j=1 i=1 XAE = max { y ij c i+j : i = 1, 2,..., n, j = 1, 2,..., N } FMSE = 1 N N (y nj c n+j ) 2 j=1 FXAE = max { y nj c n+j : j = 1, 2,..., N }

46 z rozmyta z ziarnista Rozmyta mapa poznawcza jako model szeregu czasowego Annual rainfall in London from ,

47 z rozmyta z ziarnista Rozmyta mapa poznawcza jako model szeregu czasowego Number of births per month in New York city, from January 1946 to December 1959,

48 z rozmyta z ziarnista Rozmyta mapa poznawcza jako model szeregu czasowego Campito tree rings, which indicate tree growth, in years

49 z rozmyta z ziarnista Rozmyta mapa poznawcza jako model szeregu czasowego FCM n=5 for births time series

50 z rozmyta z ziarnista Rozmyta mapa poznawcza jako model szeregu czasowego MSEs*100 for time series forecasts with different map sizes with and without bias. rain birth tree rings map no with no with no with size bias bias bias bias bias bias

51 z rozmyta z ziarnista Rozmyta mapa poznawcza jako model szeregu czasowego Comparison of MSEs obtained for three time series with different modeling and forecasting methods. MSE*100 rain births tree rings method train forecast train forecast train forecast ARIMA par=(1,0,0) Holt-Winters FCM, n=5, no bias FCM, n=5 with bias

52 z rozmyta z ziarnista Szereg czasowy Reprezentacja szeregu skalarnego w przestrzeni Amplituda/Delta a 0, a 1, a 2, a 3,... - wartości (amplitudy), δa 1, δa 2, δa 3,... - zmiany (delty): δa 1 = a 1 a 0, δa 2 = a 2 a 1, δa 3 = a 3 a 2, szereg syntetyczny, 2, 6, 4, 8, 2, 6, 4, 8, 2,... - amplitudy, zaburzenia amplitud z rozkładu normalnego: µ = 0, sd = 0.7, zmiany j.w.

53 z rozmyta z ziarnista Szereg czasowy

54 z rozmyta z ziarnista Transformacja do przestrzeni pojęć Grupowanie jednowymiarowe: amplitudy: Small, Moderately Small, Moderately High, High, delty: High Negative, Small Negative, Moderately Positive. Grupowanie dwuwymiarowe: (S,HN), (S,SN), (S,MP), (MS,HN),..., (H,MP).

55 z rozmyta z ziarnista Transformacja do przestrzeni pojęć!

56 z rozmyta z ziarnista Transformacja do przestrzeni pojęć!

57 z rozmyta z ziarnista Transformacja do przestrzeni pojęć

58 z rozmyta z ziarnista w przestrzeni pojęć

67 z rozmyta z ziarnista Zagadnienia warte uwagi Analiza szeregu czasowego w przestrzeni: Amplituda/Zmiany amplitudy/dynamika zmian. Zamiana przestrzeni Amplituda/Zmiany amplitudy/dynamika zmian na historię. Dalsze badania możliwości upraszczania rekonstruowanych map poznawczych owanie ziaren za pomoca różnych funkcji. Ziarnistość aktywacji. Propagacja wsteczna ziarnistości celów. Analiza skuteczności map poznawczych dla różnych kryteriów ich oceny.

68 z rozmyta z ziarnista Mapy poznawcze jako narzędzia rozumienia informacji Wydział Matematyki i Nauk Informacyjnych Politechnika Warszawska i Wydział Matematyki i Informatyki Uniwersytet w Białymstoku homenda Kraków, 28 marca, 2014