Neuroasocjacyjne modele obliczeniowe w sztucznej inteligencji dla celów formowania się wiedzy i skojarzeń

Podobne dokumenty
WIEDZA METODY INŻYNIERII WIEDZY KNOWLEDGE ENGINEERING AND DATA MINING. Adrian Horzyk. Akademia Górniczo-Hutnicza

Adrian Horzyk

Adrian Horzyk

Elementy kognitywistyki II: Sztuczna inteligencja. WYKŁAD X: Sztuczny neuron

Adrian Horzyk Web: Google: Adrian Horzyk Gabinet: paw. C3 p. 206

Wprowadzenie do teorii systemów ekspertowych

PROLOG WSTĘP DO INFORMATYKI. Akademia Górniczo-Hutnicza. Wydział Elektrotechniki, Automatyki, Informatyki i Inżynierii Biomedycznej.

METODY INŻYNIERII WIEDZY KNOWLEDGE ENGINEERING AND DATA MINING

O badaniach nad SZTUCZNĄ INTELIGENCJĄ

O badaniach nad SZTUCZNĄ INTELIGENCJĄ

Podstawowe zagadnienia. Mgr Monika Mazurek Instytut Psychologii Uniwersytet Jagielloński

WSTĘP DO INFORMATYKI SIECI NEURONOWE I SZTUCZNA INTELIGENCJA wykład

WSTĘP I TAKSONOMIA METODY INŻYNIERII WIEDZY KNOWLEDGE ENGINEERING AND DATA MINING. Adrian Horzyk. Akademia Górniczo-Hutnicza

Wstęp do teorii sztucznej inteligencji Wykład II. Uczenie sztucznych neuronów.

Adrian Horzyk

Wstęp do teorii sztucznej inteligencji Wykład III. Modele sieci neuronowych.

SZTUCZNA INTELIGENCJA

MODELOWANIE RZECZYWISTOŚCI

Elementy kognitywistyki III: Modele i architektury poznawcze

METODY INŻYNIERII WIEDZY

BAZY DANYCH. NIERELACYJNE BAZY DANYCH NoSQL I ASOCJACYJNE STRUKTURY DANYCH. Adrian Horzyk. Akademia Górniczo-Hutnicza

Badacze zbudowali wiele systemów technicznych, naśladujących w komputerze ludzki mózg. Najbardziej pożyteczne okazały się sieci neuronowe.

METODY INŻYNIERII WIEDZY

Inteligentne systemy decyzyjne: Uczenie maszynowe sztuczne sieci neuronowe

Wstęp do sztucznych sieci neuronowych

O badaniach nad SZTUCZNĄ INTELIGENCJĄ

Praca dyplomowa magisterska

Inspiracje kognitywne w procesie analizy pozycji szachowej

BIOCYBERNETYKA PROLOG

Literatura. Sztuczne sieci neuronowe. Przepływ informacji w systemie nerwowym. Budowa i działanie mózgu

Wstęp do Sztucznej Inteligencji

BAZY DANYCH NORMALIZACJA BAZ DANYCH. Microsoft Access. Adrian Horzyk. Akademia Górniczo-Hutnicza

prawda symbol WIEDZA DANE komunikat fałsz liczba INFORMACJA (nie tyko w informatyce) kod znak wiadomość ENTROPIA forma przekaz

Neurodydaktyka - rewolucja czy rozsądek? Dr n.med.tomasz Srebnicki

LEKCJA 1 DEFINICJE I KONCEPCJE STRESU

Podstawy Sztucznej Inteligencji (PSZT)

SZTUCZNA INTELIGENCJA

Kumulowanie się defektów jest możliwe - analiza i potwierdzenie tezy

8. Neuron z ciągłą funkcją aktywacji.

Wstęp. Przedmowa. 2o Psychologia rozwoju człowieka 63

Sztuczne sieci neuronowe

BIOCYBERNETYKA SIECI NEURONOWE. Akademia Górniczo-Hutnicza. Wydział Elektrotechniki, Automatyki, Informatyki i Inżynierii Biomedycznej.

Sztuczne Systemy Skojarzeniowe. Adrian Horzyk

METODY INŻYNIERII WIEDZY KNOWLEDGE ENGINEERING AND DATA MINING. EKSPLORACJA DANYCH Ćwiczenia. Adrian Horzyk. Akademia Górniczo-Hutnicza

K.Pieńkosz Badania Operacyjne Wprowadzenie 1. Badania Operacyjne. dr inż. Krzysztof Pieńkosz

Prezentacja, którą czytacie jest jedynie zbiorem sugestii. Nie zawiera odpowiedzi na pytania wprost. Jeżeli nie wiedzielibyście jak odpowiedzieć na

Sztuczna inteligencja

Temat: Sztuczne Sieci Neuronowe. Instrukcja do ćwiczeń przedmiotu INŻYNIERIA WIEDZY I SYSTEMY EKSPERTOWE

G. Morgan, Obrazy organizacji, Warszawa 1997

Komputerowe Systemy Przemysłowe: Modelowanie - UML. Arkadiusz Banasik arkadiusz.banasik@polsl.pl

Informacja w perspektywie obliczeniowej. Informacje, liczby i obliczenia

Uniwersytet w Białymstoku Wydział Ekonomiczno-Informatyczny w Wilnie SYLLABUS na rok akademicki 2012/2013

Stefan Sokołowski SZTUCZNAINTELIGENCJA. Inst. Informatyki UG, Gdańsk, 2009/2010

Akademia Młodego Ekonomisty

OBLICZENIA ZA POMOCĄ PROTEIN

ZAJĘCIA 1. uczenie się i pamięć mechanizmy komórkowe. dr Marek Binder Zakład Psychofizjologii

Informatyka w medycynie Punkt widzenia kardiologa

Elementy kognitywistyki III: Modele i architektury poznawcze

AUTOMATYKA INFORMATYKA

PODSTAWY INFORMATYKI wykład 13.

Praca dyplomowa magisterska

PODSTAWY BAZ DANYCH I SZTUCZNEJ INTELIGENCJI. Adrian Horzyk. Akademia Górniczo-Hutnicza

Wstęp do kognitywistyki. Wykład 6: Psychologia poznawcza

BAZY DANYCH MAKRA I PRZYCISKI. Microsoft Access. Adrian Horzyk. Akademia Górniczo-Hutnicza

Turing i jego maszyny

Podstawy pedagogiki leśnej od Edukacji Środowiskowej do Edukacji na rzecz zrównoważonego rozwoju. Bjørn Helge Bjørnstad

JAKIEGO RODZAJU NAUKĄ JEST

IMPLEMENTACJA SIECI NEURONOWYCH MLP Z WALIDACJĄ KRZYŻOWĄ

S O M SELF-ORGANIZING MAPS. Przemysław Szczepańczyk Łukasz Myszor

Wykład I. Wprowadzenie do baz danych

Sztuczna inteligencja - wprowadzenie

Zagadnienia optymalizacji i aproksymacji. Sieci neuronowe.

Inteligentne systemy informacyjne

METODY INŻYNIERII WIEDZY KNOWLEDGE ENGINEERING AND DATA MINING

1. Historia 2. Podstawy neurobiologii 3. Definicje i inne kłamstwa 4. Sztuczny neuron i zasady działania SSN. Agenda

HURTOWNIE DANYCH I BUSINESS INTELLIGENCE

W poszukiwaniu sensu w świecie widzialnym

ZAGADNIENIA DO EGZAMINU DYPLOMOWEGO NA STUDIACH INŻYNIERSKICH. Matematyka dyskretna, algorytmy i struktury danych, sztuczna inteligencja

2

Systemy uczące się wykład 2

Heurystyki. Strategie poszukiwań

Reprezentacje poznawcze

Wstęp do kognitywistyki. Wykład 3: Logiczny neuron. Rachunek sieci neuronowych

SZTUCZNA INTELIGENCJA

Wstęp do kognitywistyki. Wykład 7: Psychologia poznawcza: nietrwałe reprezentacje mentalne

Czy architektura umysłu to tylko taka sobie bajeczka? Marcin Miłkowski

Systemy baz danych w zarządzaniu przedsiębiorstwem. W poszukiwaniu rozwiązania problemu, najbardziej pomocna jest znajomość odpowiedzi

Sztuczna Inteligencja Tematy projektów Sieci Neuronowe

Programowanie i projektowanie obiektowe

Metody Sztucznej Inteligencji II

SIECI NEURONOWE Liniowe i nieliniowe sieci neuronowe

1.7. Eksploracja danych: pogłębianie, przeszukiwanie i wyławianie

Praca dyplomowa magisterska

Percepcja jako zmysłowy odbiór bodźców Procesy percepcji Percepcja jako proces Definicja percepcji/spostrzegania Odbiór wrażeń Percepcja rejestracja

Sztuczne sieci neuronowe i sztuczna immunologia jako klasyfikatory danych. Dariusz Badura Letnia Szkoła Instytutu Matematyki 2010

Neurokognitywistyka. Mózg jako obiekt zainteresowania w

Rozdział 1 Sztuczne sieci neuronowe. Materiały do zajęć dydaktycznych - na podstawie dokumentacji programu Matlab opracował Dariusz Grzesiak

Elementy kognitywistyki II: Sztuczna inteligencja. WYKŁAD XII: Modele i architektury poznawcze

Transkrypt:

Neuroasocjacyjne modele obliczeniowe w sztucznej inteligencji dla celów formowania się wiedzy i skojarzeń IRRACJONALNOŚĆ kontra RACJONALNOŚĆ czyli starcie tytanów na poziomie skojarzeń i inteligencji dr Adrian Horzyk AGH, Wydział EAIiIB, Katedra Automatyki i Informatyki Biomedycznej Google: Horzyk E-mail: horzyk@agh.edu.pl

Czy mózg jest racjonalny czy irracjonalny? Człowiek zdolny jest do racjonalnego działania. Człowiek często postępuje irracjonalnie zwykle pod wpływem intuicji lub potrzeb, które go do tego skłaniają. Intuicja tworzy się na skutek nieświadomych skojarzeń mogąc podsuwać nam wartościowe wnioski, które jednak trudno wytłumaczyć racjonalnie. Potrzeby ludzi wynikają nie tylko z ich fizjologii, lecz również z ich charakteru, inteligencji oraz orientacji duchowej. Ich zróżnicowanie u ludzi jest duże, więc dla innych mogą stwarzać wrażenie pozornie irracjonalnych.

Czym jest wiedza? Wiedza to potęga [Sir Francis Bacon] Wiedza definiowana jest zwykle przez pryzmat efektów jej działania: informacji, wniosków, reguł, zasad, algorytmów Platon: Wiedza to prawdziwe i uzasadnione przekonanie jak stwierdził Sokrates w rozmowie z Teajtetem. Arystoteles rozróżniał wiedzę praktyczną i teoretyczną. W psychologii przyjmuje się zazwyczaj, iż wiedza to ogół treści utrwalonych w umyśle ludzkim w wyniku kumulowania doświadczenia oraz uczenia się.

Wiedza i jej modele informatyczne Informatyka wymaga bardziej ścisłej definicji wiedzy, bez której nie jest w stanie jej modelować i wykorzystać. W informatyce najczęściej wiedzę (knowledge) definiuje się jako pewien zbiór faktów (informacji) i reguł (algorytmów) z nimi powiązanych oraz umożliwiających ich przetwarzanie. Tak powstały tzw. bazy wiedzy (knowledge base), które są bazami danych i reguł pozwalającymi na eksplorację danych wnioskowanie na podstawie ograniczonego zbioru warunków, reguł i algorytmów określonych przez człowieka. Czy w istocie rzeczy można wiedzę gromadzić, jak często się mówi? Czy jest ona zbiorem faktów i reguł?

FUN AKT Wiedza i sztuczne sieci neuronowe W sztucznych sieciach neuronowych wiedzą nazywa się ich zdolność do uogólniania wynikającą ze struktury i parametrów określonych w wyniku ich treningu z wykorzystaniem pewnego zbioru danych zawierających sprawdzone lub wzorcowe fakty. W E J Ś C I A WAGA 1 WAGA 2 WAGA 3 WAGA N WAGA 1 WAGA 2 WAGA 3 WAGA N SUM SUM FUN AKT FUN AKT Model neuronu McCullocha-Pittsa i sztuczna sieć neuronowa WAGA 1 WAGA 2 SUM FUN AKT W Y J Ś C I A

Skojarzeniowa natura wiedzy Kojarzysz te fakty ze sobą? - specyficzny sposób wiązania faktów Wiedza umożliwia nam: Kojarzyć ze sobą rozpoznane fakty Wnioskować na ich podstawie i je weryfikować Rozważać alternatywy, a nawet sprzeczności Szukać rozwiązań problemów Postępować efektywnie, skutecznie i inteligentnie Wiedza jest ściśle powiązana z inteligencją. Inteligentne wnioski otrzymujemy dzięki skojarzeniom.

Skojarzenia i ich tajemnicza natura Czym jest kojarzenie? Co to znaczy kojarzyć? Co pozwala nam wywoływać pożądane skojarzenia? Dlaczego coś się nam z czymś kojarzy? Dzięki czemu kojarzenie jest możliwe? Jakie biologiczne mechanizmy stoją za skojarzeniami? Co wpływa na tworzenie się skojarzeń w umyśle? Czy można celowo zaprogramować skojarzenia własne lub innych osób? W jaki sposób mogą przebiegać skojarzenia? Jaki związek mają skojarzenia z nauką, wiedzą i inteligencją?

Sieć biologicznych neuronów pozwala nam kojarzyć Biologiczne mechanizmy kojarzenia oparte są o plastyczne mechanizmy działające w neuronach i na styku ich połączeń synaptycznych. Nasza pamięć jest ulotna i nietrwała, ponieważ mózg jest plastyczny. Można więc mówić raczej o efekcie pamięci niż o pamięci. Mimo że skojarzenia biegną dla nas sekwencyjnie, tworząc pewien ciąg myślowy możliwy do przedstawienia w postaci pewnego algorytmu lub metody, w mózgu zachodzą skomplikowane równoległe procesy skojarzeniowe pozwalające stworzyć taki efekt.

Neuron jako żywa komórka Neuron jest żywą komórką, która dla swojego przetrwania potrzebuje substancje odżywcze oraz swoistą aktywność, która zapewnia jej prawidłowy metabolizm i rozwój, inaczej grozi jej apoptoza - zaprogramowana śmierć, czyli autodestrukcja. Komórka musi rosnąć lub kurczyć się w celu dostosowania się do potrzeb swojej aktywności, produkując odpowiednią ilość neurotransmiterów, neuropeptydów itd.

Asocjacyjny model neuronu Asocjacyjny model neuronu (ASN) wierniej odwzorowuje funkcje biologicznego neuronu realizowane w czasie umożliwiając mu: Aktywną reprezentację wielu powtarzających się i zarazem nietłumionych przez inne neurony kombinacji bodźców. Dyskryminację pozostałych kombinacji nie aktywujących go. Reaktywne działanie i plastyczną adaptację. Stopniową relaksację umożliwiającą mu wykorzystanie kontekstu wcześniejszych pobudzeń, jak również jego stopniowe wygaszanie, ograniczając jego wpływ na przyszłe skojarzenia. Refrakcję, która jest szansą dla innych neuronów, umożliwiającą alternatywne skojarzenia. Tworzenie funkcjonalnie zróżnicowanych połączeń z innymi neuronami, umożliwiające nam kojarzenie.

Co robi asocjacyjny neuron? 1. Optymalizuje swoją aktywność poprzez dyskryminację części kombinacji danych wejściowych. 2. Plastycznie zmienia swoją wielkość oraz ilość swoich połączeń z innymi neuronami, reagując na aktywność innych bliskich neuronów. 3. Osłabia lub wzmacnia wagę połączeń synaptycznych w odpowiedzi na pobudzenia podprogowe lub wywołujące jego aktywację i oddziaływanie na kolejne neurony. 4. Tworzy połączenia z aktywowanymi neuronami reprezentującymi podobne lub następujące po sobie obiekty. 5. Może reprezentować wiele podobnych i równocześnie różnych kombinacji danych wejściowych.

Asocjacyjne podobieństwo i następstwo W grafowej neuroaktywnej strukturze można odzwierciedlić różne zależności pomiędzy danymi i ich kombinacjami: podobieństwo i następstwo odgrywające fundamentalną rolę w trakcie procesów uczenia się i kojarzenia.

Transformacja istotnych relacji do struktury grafowej Jeśli fakty (wzorce) oraz ich części (dane) zostaną aktywnie powiązane w strukturze grafowej reaktywnych neuronów, wtedy mogą wywoływać aktywacje innych neuronów, tworząc skojarzenia i formułując wnioski.

Asocjacyjne podobieństwo i definiowanie Połączenia pomiędzy neuronami umożliwiają definiowanie oraz łączenie ze sobą obiektów o takich samych lub podobnych cechach, co umożliwia ich pobudzanie, aktywacje i tworzenie się skojarzeń.

Automatyczne ujawnianie się korelacji i podobieństw Połączenia pomiędzy neuronami reprezentującymi różne obiekty lub klasy automatycznie ujawniają wszelkie korelacje, podobieństwa i różnice, jakie występują pomiędzy nimi bez konieczności ich wyszukiwaniadzięki nieredundantnej ich reprezentacji.

Asocjacyjny model neuronowej klasyfikacji danych Tworzenie się klasyfikatora neuronowego

Definiowanie łączące różne wrażenia zmysłowe Każdy obiekt może być zdefiniowany (określony) przez różne wrażenia zmysłowe, tworząc jego reprezentację neuronalną na skutek bliskiej w czasie aktywności neuronów wywołanych przez oddziaływanie tego obiektu na pola sensoryczne poszczególnych zmysłów. Dzięki temu skojarzenia mogą być wywołane na skutek oddziaływania bodźców tylko na część tych zmysłów.

Asocjacyjne następstwo odwzorowujące sekwencje Dzięki możliwości plastycznego tworzenia się oraz wzmacniania połączeń pomiędzy często aktywowanymi neuronami w podobnym czasie, istnieje możliwość odwzorowania następstwa elementów w strukturze połączeń międzyneuronalnych pozwalających na wywoływanie następnych elementów różnych sekwencji, które mogą być ze sobą powiązane. W zależności od kontekstu wywoływane jest odpowiednie skojarzenie.

Asocjacyjne relacje Asocjacyjne relacje odwzorowane w połączeniach międzyneuronalnych automatycznie tworzące i wzmacniające się dzięki plastyczności neuronalnej pomiędzy często aktywowanymi neuronami równocześnie lub w niewielkim odstępie czasu: Asocjacyjne podobieństwo ASIM (associative similarity) Asocjacyjne następstwo ASEQ (associative sequence) Asocjacyjny kontekst ACON (associative context) Asocjacyjne definiowanie ADEF (associative definition) Asocjacyjne hamowanie ASUP (associative suppression)

Tworzenie się klas i uogólnień Dzięki bogatej i powiązanej ze sobą strukturze połączeń powstają uogólnienia, a dzięki ograniczonemu kontekstowi reprezentacje klas.

Tworzenie się wiedzy na poziomie lingwistycznym Kontekstowe asocjacyjne połączenia międzyneuronalne w połączeniu ze stopniową relaksacją neuronów pozwalają na aktywację neuronów reprezentujących różne obiekty i działania.

Uogólnianie na skutek zagregowanej reprezentacji Przedstawiony graf reprezentuje 32 sekwencje słowne: nartnik biegnie po wodzie, nartnik to owad, nartnik to zwierzę, kot biegnie po łące, kot biegnie po podłodze, kot biegnie po trafie, kot to ssak, kot to zwierzę, mrówka biegnie po podłodze, mrówka to owad, mrówka to zwierzę, koń biegnie po łące, koń biegnie po trawie, koń biegnie po wodzie, koń płynie w wodzie, koń to ssak, koń to zwierzę, pies biegnie po łące, pies biegnie po podłodze, pies biegnie po trawie, pies biegnie po wodzie, pies płynie w wodzie, pies to ssak, pies to zwierzę, ryba płynie w wodzie, ryba to zwierzę, delfin płynie w wodzie, delfin to zwierzę, delfin to ssak, wąż płynie w wodzie, wąż to zwierzę, wąż to gad umożliwiając uogólnianie, np.: zwierzę płynie

Asocjacyjna sztuczna inteligencja Skojarzeniowa wiedza jest efektem aktywnej neuronowej reprezentacji niezduplikowanych elementów informacji, które mogą na siebie oddziaływać w zależności od kontekstu. W wyniku tego dochodzi do serii aktywacji neuronów, które reprezentują skojarzenia, czyli specyficzny sposób wyszukiwania i tworzenia się informacji, w trakcie których może dochodzić do uogólnień wynikających z pozornej niedoskonałości reprezentacji danych i działania mechanizmów neuronalnych. Asocjacyjna sztuczna inteligencja to zdolność sztucznego systemu skojarzeniowego do automatycznego reagowania na napływające dane poprzez wywoływanie serii skojarzeń wynikających z uformowanej w nim wiedzy wokół jego potrzeb. Potrzeby ukierunkowują działanie systemu skojarzeniowego.

Systematyka potrzeb charakteru oraz jego typologia Typologia charakteru pozwala zrozumieć złożoność zależności potrzeb i wolę ich zaspokojenia:

Algorytmy kontra Skojarzenia Współczesna informatyka i komputery oparte są o maszynę Turinga zdolną odczytywać instrukcje (rozkazy) i je wykonywać na pasywnych danych, które są zapisane na teoretycznie nieskończonej taśmie, reprezentującej pamięć współczesnych komputerów. Pasywne przechowywanie danych wyklucza możliwość ich wpływu na siebie, co prowadzi do konieczności wykorzystania ludzkiej inteligencji do tworzenia programów zdolnych je przetwarzać.

Ludzki umysł inspiracją dla przyszłych maszyn Ludzki umysł to skomplikowany system skojarzeniowy pozwalający na bardzo efektywne i automatyczne tworzenie się: Reaktywnych neuronowych reprezentacji powtarzających się kombinacji danych, ich zakresów, podzbiorów i kombinacji. Połączeń pomiędzy bliskimi neuronami, które często ulegają aktywacji w bliskim czasie ze względu na reprezentację podobnych albo często następujących po sobie obiektów. Skojarzeń w wyniku aktywacji neuronów na skutek pobudzania i aktywacji receptorów i innych neuronów za pośrednictwem zmysłów oraz śladów pamięciowych.

Neuroasocjacyjne obliczenia Neuroasocjacyjne obliczenia w systemach skojarzeniowych umożliwiają: Aktywną, nieredundantną reprezentację danych. Reaktywne oddziaływanie na siebie kombinacji danych dzięki podobieństwu ich elementów lub utrwalonemu następstwu. Automatyczne i plastyczne tworzenie struktury połączeń międzyneuronalnych odwzorowujących obserwowane relacje pomiędzy danymi i ich kombinacjami. Znaczne obniżenie złożoności obliczeniowej, gdyż nie wymagają przeszukiwania pasywnych zbiorów danych, z czym zmagają się współczesne komputery. Tworzenie się aktywnych, funkcjonalnych zależności zastępujących wiele różnych algorytmów stosowanych w informatyce.

Automatyczne programowanie się skojarzeń Jeśli w systemie skojarzeniowym dojdzie do utworzenia się połączeń międzyneuronalnych albo ich wzmocnienia lub osłabienia czy też zmiany wielkości perikarionu neuronów pod wpływem oddziaływania kombinacji danych na niego, wtedy automatycznie dochodzi zmian wywoływanych skojarzeń poprzez zmianę kolejności lub szybkości pobudzania, hamowania lub aktywacji poszczególnych neuronów. Ze względu na to, iż wynikiem działania systemów skojarzeniowych są wywoływane skojarzenia, ich zmiana odpowiada automatycznemu przeprogramowaniu się takiego systemu.

Zakończenie Systemy skojarzeniowe umożliwiają automatyczne tworzenie się skojarzeń i wiedzy. Wiedza nie jest zbiorem danych, informacji i reguł, więc nie można jej gromadzić, lecz jest wynikiem skomplikowanych plastycznych procesów odgrywających się w systemach skojarzeniowych. Informacja tworzy się w systemie skojarzeniowym na skutek skojarzeń w ramach uformowanej wiedzy. Inteligencja jest naturalnym skutkiem działania systemów skojarzeniowych, w których formuje się wiedza oraz powstają uogólnienia, klasy obiektów lub działań itd.

Życzę wielu konstruktywnych wniosków Pytania?