Neuroasocjacyjne modele obliczeniowe w sztucznej inteligencji dla celów formowania się wiedzy i skojarzeń

Transkrypt

1 Neuroasocjacyjne modele obliczeniowe w sztucznej inteligencji dla celów formowania się wiedzy i skojarzeń IRRACJONALNOŚĆ kontra RACJONALNOŚĆ czyli starcie tytanów na poziomie skojarzeń i inteligencji dr Adrian Horzyk AGH, Wydział EAIiIB, Katedra Automatyki i Informatyki Biomedycznej Google: Horzyk horzyk@agh.edu.pl

2 Czy mózg jest racjonalny czy irracjonalny? Człowiek zdolny jest do racjonalnego działania. Człowiek często postępuje irracjonalnie zwykle pod wpływem intuicji lub potrzeb, które go do tego skłaniają. Intuicja tworzy się na skutek nieświadomych skojarzeń mogąc podsuwać nam wartościowe wnioski, które jednak trudno wytłumaczyć racjonalnie. Potrzeby ludzi wynikają nie tylko z ich fizjologii, lecz również z ich charakteru, inteligencji oraz orientacji duchowej. Ich zróżnicowanie u ludzi jest duże, więc dla innych mogą stwarzać wrażenie pozornie irracjonalnych.

3 Czym jest wiedza? Wiedza to potęga [Sir Francis Bacon] Wiedza definiowana jest zwykle przez pryzmat efektów jej działania: informacji, wniosków, reguł, zasad, algorytmów Platon: Wiedza to prawdziwe i uzasadnione przekonanie jak stwierdził Sokrates w rozmowie z Teajtetem. Arystoteles rozróżniał wiedzę praktyczną i teoretyczną. W psychologii przyjmuje się zazwyczaj, iż wiedza to ogół treści utrwalonych w umyśle ludzkim w wyniku kumulowania doświadczenia oraz uczenia się.

4 Wiedza i jej modele informatyczne Informatyka wymaga bardziej ścisłej definicji wiedzy, bez której nie jest w stanie jej modelować i wykorzystać. W informatyce najczęściej wiedzę (knowledge) definiuje się jako pewien zbiór faktów (informacji) i reguł (algorytmów) z nimi powiązanych oraz umożliwiających ich przetwarzanie. Tak powstały tzw. bazy wiedzy (knowledge base), które są bazami danych i reguł pozwalającymi na eksplorację danych wnioskowanie na podstawie ograniczonego zbioru warunków, reguł i algorytmów określonych przez człowieka. Czy w istocie rzeczy można wiedzę gromadzić, jak często się mówi? Czy jest ona zbiorem faktów i reguł?

5 FUN AKT Wiedza i sztuczne sieci neuronowe W sztucznych sieciach neuronowych wiedzą nazywa się ich zdolność do uogólniania wynikającą ze struktury i parametrów określonych w wyniku ich treningu z wykorzystaniem pewnego zbioru danych zawierających sprawdzone lub wzorcowe fakty. W E J Ś C I A WAGA 1 WAGA 2 WAGA 3 WAGA N WAGA 1 WAGA 2 WAGA 3 WAGA N SUM SUM FUN AKT FUN AKT Model neuronu McCullocha-Pittsa i sztuczna sieć neuronowa WAGA 1 WAGA 2 SUM FUN AKT W Y J Ś C I A

6 Skojarzeniowa natura wiedzy Kojarzysz te fakty ze sobą? - specyficzny sposób wiązania faktów Wiedza umożliwia nam: Kojarzyć ze sobą rozpoznane fakty Wnioskować na ich podstawie i je weryfikować Rozważać alternatywy, a nawet sprzeczności Szukać rozwiązań problemów Postępować efektywnie, skutecznie i inteligentnie Wiedza jest ściśle powiązana z inteligencją. Inteligentne wnioski otrzymujemy dzięki skojarzeniom.

7 Skojarzenia i ich tajemnicza natura Czym jest kojarzenie? Co to znaczy kojarzyć? Co pozwala nam wywoływać pożądane skojarzenia? Dlaczego coś się nam z czymś kojarzy? Dzięki czemu kojarzenie jest możliwe? Jakie biologiczne mechanizmy stoją za skojarzeniami? Co wpływa na tworzenie się skojarzeń w umyśle? Czy można celowo zaprogramować skojarzenia własne lub innych osób? W jaki sposób mogą przebiegać skojarzenia? Jaki związek mają skojarzenia z nauką, wiedzą i inteligencją?

8 Sieć biologicznych neuronów pozwala nam kojarzyć Biologiczne mechanizmy kojarzenia oparte są o plastyczne mechanizmy działające w neuronach i na styku ich połączeń synaptycznych. Nasza pamięć jest ulotna i nietrwała, ponieważ mózg jest plastyczny. Można więc mówić raczej o efekcie pamięci niż o pamięci. Mimo że skojarzenia biegną dla nas sekwencyjnie, tworząc pewien ciąg myślowy możliwy do przedstawienia w postaci pewnego algorytmu lub metody, w mózgu zachodzą skomplikowane równoległe procesy skojarzeniowe pozwalające stworzyć taki efekt.

9 Neuron jako żywa komórka Neuron jest żywą komórką, która dla swojego przetrwania potrzebuje substancje odżywcze oraz swoistą aktywność, która zapewnia jej prawidłowy metabolizm i rozwój, inaczej grozi jej apoptoza - zaprogramowana śmierć, czyli autodestrukcja. Komórka musi rosnąć lub kurczyć się w celu dostosowania się do potrzeb swojej aktywności, produkując odpowiednią ilość neurotransmiterów, neuropeptydów itd.

10 Asocjacyjny model neuronu Asocjacyjny model neuronu (ASN) wierniej odwzorowuje funkcje biologicznego neuronu realizowane w czasie umożliwiając mu: Aktywną reprezentację wielu powtarzających się i zarazem nietłumionych przez inne neurony kombinacji bodźców. Dyskryminację pozostałych kombinacji nie aktywujących go. Reaktywne działanie i plastyczną adaptację. Stopniową relaksację umożliwiającą mu wykorzystanie kontekstu wcześniejszych pobudzeń, jak również jego stopniowe wygaszanie, ograniczając jego wpływ na przyszłe skojarzenia. Refrakcję, która jest szansą dla innych neuronów, umożliwiającą alternatywne skojarzenia. Tworzenie funkcjonalnie zróżnicowanych połączeń z innymi neuronami, umożliwiające nam kojarzenie.

11 Co robi asocjacyjny neuron? 1. Optymalizuje swoją aktywność poprzez dyskryminację części kombinacji danych wejściowych. 2. Plastycznie zmienia swoją wielkość oraz ilość swoich połączeń z innymi neuronami, reagując na aktywność innych bliskich neuronów. 3. Osłabia lub wzmacnia wagę połączeń synaptycznych w odpowiedzi na pobudzenia podprogowe lub wywołujące jego aktywację i oddziaływanie na kolejne neurony. 4. Tworzy połączenia z aktywowanymi neuronami reprezentującymi podobne lub następujące po sobie obiekty. 5. Może reprezentować wiele podobnych i równocześnie różnych kombinacji danych wejściowych.

12 Asocjacyjne podobieństwo i następstwo W grafowej neuroaktywnej strukturze można odzwierciedlić różne zależności pomiędzy danymi i ich kombinacjami: podobieństwo i następstwo odgrywające fundamentalną rolę w trakcie procesów uczenia się i kojarzenia.

13 Transformacja istotnych relacji do struktury grafowej Jeśli fakty (wzorce) oraz ich części (dane) zostaną aktywnie powiązane w strukturze grafowej reaktywnych neuronów, wtedy mogą wywoływać aktywacje innych neuronów, tworząc skojarzenia i formułując wnioski.

14 Asocjacyjne podobieństwo i definiowanie Połączenia pomiędzy neuronami umożliwiają definiowanie oraz łączenie ze sobą obiektów o takich samych lub podobnych cechach, co umożliwia ich pobudzanie, aktywacje i tworzenie się skojarzeń.

15 Automatyczne ujawnianie się korelacji i podobieństw Połączenia pomiędzy neuronami reprezentującymi różne obiekty lub klasy automatycznie ujawniają wszelkie korelacje, podobieństwa i różnice, jakie występują pomiędzy nimi bez konieczności ich wyszukiwaniadzięki nieredundantnej ich reprezentacji.

16 Asocjacyjny model neuronowej klasyfikacji danych Tworzenie się klasyfikatora neuronowego

17 Definiowanie łączące różne wrażenia zmysłowe Każdy obiekt może być zdefiniowany (określony) przez różne wrażenia zmysłowe, tworząc jego reprezentację neuronalną na skutek bliskiej w czasie aktywności neuronów wywołanych przez oddziaływanie tego obiektu na pola sensoryczne poszczególnych zmysłów. Dzięki temu skojarzenia mogą być wywołane na skutek oddziaływania bodźców tylko na część tych zmysłów.

18 Asocjacyjne następstwo odwzorowujące sekwencje Dzięki możliwości plastycznego tworzenia się oraz wzmacniania połączeń pomiędzy często aktywowanymi neuronami w podobnym czasie, istnieje możliwość odwzorowania następstwa elementów w strukturze połączeń międzyneuronalnych pozwalających na wywoływanie następnych elementów różnych sekwencji, które mogą być ze sobą powiązane. W zależności od kontekstu wywoływane jest odpowiednie skojarzenie.

19 Asocjacyjne relacje Asocjacyjne relacje odwzorowane w połączeniach międzyneuronalnych automatycznie tworzące i wzmacniające się dzięki plastyczności neuronalnej pomiędzy często aktywowanymi neuronami równocześnie lub w niewielkim odstępie czasu: Asocjacyjne podobieństwo ASIM (associative similarity) Asocjacyjne następstwo ASEQ (associative sequence) Asocjacyjny kontekst ACON (associative context) Asocjacyjne definiowanie ADEF (associative definition) Asocjacyjne hamowanie ASUP (associative suppression)

20 Tworzenie się klas i uogólnień Dzięki bogatej i powiązanej ze sobą strukturze połączeń powstają uogólnienia, a dzięki ograniczonemu kontekstowi reprezentacje klas.

21 Tworzenie się wiedzy na poziomie lingwistycznym Kontekstowe asocjacyjne połączenia międzyneuronalne w połączeniu ze stopniową relaksacją neuronów pozwalają na aktywację neuronów reprezentujących różne obiekty i działania.

22 Uogólnianie na skutek zagregowanej reprezentacji Przedstawiony graf reprezentuje 32 sekwencje słowne: nartnik biegnie po wodzie, nartnik to owad, nartnik to zwierzę, kot biegnie po łące, kot biegnie po podłodze, kot biegnie po trafie, kot to ssak, kot to zwierzę, mrówka biegnie po podłodze, mrówka to owad, mrówka to zwierzę, koń biegnie po łące, koń biegnie po trawie, koń biegnie po wodzie, koń płynie w wodzie, koń to ssak, koń to zwierzę, pies biegnie po łące, pies biegnie po podłodze, pies biegnie po trawie, pies biegnie po wodzie, pies płynie w wodzie, pies to ssak, pies to zwierzę, ryba płynie w wodzie, ryba to zwierzę, delfin płynie w wodzie, delfin to zwierzę, delfin to ssak, wąż płynie w wodzie, wąż to zwierzę, wąż to gad umożliwiając uogólnianie, np.: zwierzę płynie

23 Asocjacyjna sztuczna inteligencja Skojarzeniowa wiedza jest efektem aktywnej neuronowej reprezentacji niezduplikowanych elementów informacji, które mogą na siebie oddziaływać w zależności od kontekstu. W wyniku tego dochodzi do serii aktywacji neuronów, które reprezentują skojarzenia, czyli specyficzny sposób wyszukiwania i tworzenia się informacji, w trakcie których może dochodzić do uogólnień wynikających z pozornej niedoskonałości reprezentacji danych i działania mechanizmów neuronalnych. Asocjacyjna sztuczna inteligencja to zdolność sztucznego systemu skojarzeniowego do automatycznego reagowania na napływające dane poprzez wywoływanie serii skojarzeń wynikających z uformowanej w nim wiedzy wokół jego potrzeb. Potrzeby ukierunkowują działanie systemu skojarzeniowego.

24 Systematyka potrzeb charakteru oraz jego typologia Typologia charakteru pozwala zrozumieć złożoność zależności potrzeb i wolę ich zaspokojenia:

25 Algorytmy kontra Skojarzenia Współczesna informatyka i komputery oparte są o maszynę Turinga zdolną odczytywać instrukcje (rozkazy) i je wykonywać na pasywnych danych, które są zapisane na teoretycznie nieskończonej taśmie, reprezentującej pamięć współczesnych komputerów. Pasywne przechowywanie danych wyklucza możliwość ich wpływu na siebie, co prowadzi do konieczności wykorzystania ludzkiej inteligencji do tworzenia programów zdolnych je przetwarzać.

26 Ludzki umysł inspiracją dla przyszłych maszyn Ludzki umysł to skomplikowany system skojarzeniowy pozwalający na bardzo efektywne i automatyczne tworzenie się: Reaktywnych neuronowych reprezentacji powtarzających się kombinacji danych, ich zakresów, podzbiorów i kombinacji. Połączeń pomiędzy bliskimi neuronami, które często ulegają aktywacji w bliskim czasie ze względu na reprezentację podobnych albo często następujących po sobie obiektów. Skojarzeń w wyniku aktywacji neuronów na skutek pobudzania i aktywacji receptorów i innych neuronów za pośrednictwem zmysłów oraz śladów pamięciowych.

27 Neuroasocjacyjne obliczenia Neuroasocjacyjne obliczenia w systemach skojarzeniowych umożliwiają: Aktywną, nieredundantną reprezentację danych. Reaktywne oddziaływanie na siebie kombinacji danych dzięki podobieństwu ich elementów lub utrwalonemu następstwu. Automatyczne i plastyczne tworzenie struktury połączeń międzyneuronalnych odwzorowujących obserwowane relacje pomiędzy danymi i ich kombinacjami. Znaczne obniżenie złożoności obliczeniowej, gdyż nie wymagają przeszukiwania pasywnych zbiorów danych, z czym zmagają się współczesne komputery. Tworzenie się aktywnych, funkcjonalnych zależności zastępujących wiele różnych algorytmów stosowanych w informatyce.

28 Automatyczne programowanie się skojarzeń Jeśli w systemie skojarzeniowym dojdzie do utworzenia się połączeń międzyneuronalnych albo ich wzmocnienia lub osłabienia czy też zmiany wielkości perikarionu neuronów pod wpływem oddziaływania kombinacji danych na niego, wtedy automatycznie dochodzi zmian wywoływanych skojarzeń poprzez zmianę kolejności lub szybkości pobudzania, hamowania lub aktywacji poszczególnych neuronów. Ze względu na to, iż wynikiem działania systemów skojarzeniowych są wywoływane skojarzenia, ich zmiana odpowiada automatycznemu przeprogramowaniu się takiego systemu.

29 Zakończenie Systemy skojarzeniowe umożliwiają automatyczne tworzenie się skojarzeń i wiedzy. Wiedza nie jest zbiorem danych, informacji i reguł, więc nie można jej gromadzić, lecz jest wynikiem skomplikowanych plastycznych procesów odgrywających się w systemach skojarzeniowych. Informacja tworzy się w systemie skojarzeniowym na skutek skojarzeń w ramach uformowanej wiedzy. Inteligencja jest naturalnym skutkiem działania systemów skojarzeniowych, w których formuje się wiedza oraz powstają uogólnienia, klasy obiektów lub działań itd.

30 Życzę wielu konstruktywnych wniosków Pytania?