Adrian Horzyk Web: Google: Adrian Horzyk Gabinet: paw. C3 p. 206
|
|
- Natalia Przybylska
- 7 lat temu
- Przeglądów:
Transkrypt
1 WSTĘP DO INFORMATYKI Wprowadzenie do zagadnień SZTUCZNEJ INTELIGENCJI i SIECI NEURONOWYCH wykład Adrian Horzyk Web: horzyk@agh.edu.pl Google: Adrian Horzyk Gabinet: paw. C3 p. 206
2 Potrzeby i rozwój inteligencji Potrzeby skłaniają nas do działania i dzięki temu powodują rozwój inteligencji, gdyż człowiek uczy się, w jaki sposób może zaspokajać różne potrzeby oraz w jaki sposób może to robić możliwie efektywnie. Inteligencja rozwija się równolegle ze wzrostem wiedzy, która bazując na skojarzeniach formuje się w neuronowych strukturach mózgowych.
3 Od czego rozpoczął się rozwój informatyki? Od badania sposobu działania ludzkiego umysłu. Od badania mózgu i prób naśladowania go. Od rozwoju matematyki i algorytmów rozwiązujących różnorodne problemy. Od teorii języków formalnych, budowy pierwszych automatów, parserów, maszyny Turinga, która była pierwowzorem dla budowy pierwszych komputerów: - fizyczny model, - model symulacyjny Maszyna Turinga to model abstrakcyjnej maszyny obliczeniowej stworzony w 1936 r. przez Alana Turinga. Istnieje twierdzenie, które mówi, że problem jest rozwiązywalny na (współczesnym) komputerze, jeśli da się zdefiniować rozwiązującą go maszynę Turinga. Maszyna ta składa się z nieskończenie długiej taśmy podzielonej na pola. Maszyna może znajdywać się zawsze w jednym z N stanów i jest zawsze ustawiona nad jednym z pól. Maszyna może zapisywać nową wartość w polu, zmieniać jej stan, a następnie przesunąć się o jedno pole w prawo lub w lewo. Taka operacja zwana jest rozkazem, których lista jest traktowana jak program. Matematycy zastanawiają się, czy może istnieć inny model obliczeniowy poza maszyną Turinga, który mógłby spowodować przyspieszenie rozwoju komputerów.
4 Mózg i jego możliwości obliczeniowe Ludzki mózg składa się z ok.: neuronów komórek glejowych odpowiedzialnych za ich odżywianie oraz mielinizację połączeń, jak również sprzątanie połączeń synaptycznych, średnio połączeń na neuron, jakkolwiek istnieje tutaj duża różnorodność związana z funkcją poszczególnych neuronów. Jeśliby wszystkie synapsy były w stanie równocześnie wykonywać pewną operację obliczeniową, mózg posiadałby moc obliczeniową na poziomie 5 Petaflopów operacji na sekundę i umożliwiałby zapis ok. 10 TB danych, lecz mózg działa zupełnie inaczej niż współczesne komputery i szacunków znanych ze współczesnych komputerów nie można przenosić na systemy biologiczne. Mózg zużywa ok. 20% energii całego organizmu, stanowi tylko ok. 2% masy ciała. Nasze 23 pary chromosomów, zawiera ok genów i może przenosić ok. 6 Gb informacji (to ok. 250 tomów po 1000 stron) Mózgi zwierząt są zwykle dużo mniejsze, szczególnie w odniesieniu do części korowych umożliwiających nam ludziom myślenie, zapamiętywanie przez asocjację różnych bodźców i ich reprezentacji:
5 MÓZG I REPREZENTACJA KOROWA Poniższy homunkulus pokazuje rozmiar reprezentacji korowej (sensorycznej) różnych części ciała reprezentowanych w niej przez różnie wielkie obszary kory mózgowej. Reprezentacja ta, jak widać, jest zależna funkcjonalnie od naszych potrzeb i czynności, jakie wykonujemy:
6 PRZETWARZANIE INFORMACJI PRZEZ MÓZG W mózgu (biologicznym systemie obliczeniowym) informacje są przetwarzane inaczej niż na współczesnych komputerach: nie ma kodów programów ani ich kompilacji, nie ma pamięci RAM, dysków, magazynów danych, nie ma tablic, tabel ani baz danych, nie ma instrukcji warunkowych, nie ma iteracyjnych pętli obliczeniowych, nie ma tasiemek, głowic ani maszyny Turinga Istnieją natomiast inne mechanizmy i elementy obliczeniowe oraz pamięciowe: są neurony i ich połączenia, które przez cały czas plastycznie zmieniają swoją wielkość, konfigurację, ilość połączeń, stopień wpływu sygnałów wejściowych, reprezentowane kombinacje bodźców wejściowych, na które reagują aktywacją oraz na te pozostałe, które zostają zdyskryminowane. są połączenia, które decydują o sposobie przepływu informacji i umożliwiają wykształcenie się pewnych wzorców na podstawie powtarzających się bodźców. jest płyn mózgowo rdzeniowy oraz sensory czuciowe
7 Połączenia między neuronami Sieć połączeń pomiędzy neuronami jest nietrywialna i do dzisiaj stanowi zagadkę dla nauki. Połączenia tworzą się i przekazują sygnały pomiędzy neuronami:
8 Neuron, jego potrzeby i funkcja Neuron to żywa komórka, która zdolna jest łączyć się z innymi neuronami tak, żeby być w stanie odbierać sygnały o ich aktywności, agregować je oraz reagować na pewne ich kombinacje, które umożliwiają im prawidłowe funkcjonowanie i przeżycie. Neurony nie mogą być ani za mało ani za bardzo aktywne, bo inaczej by doszło do ich apoptozy zaprogramowanej śmierci neuronu, przed którą chronią je różne mechanizmy plastyczności.
9 Model neuronu i jego plastyczność Żeby w informatyce wykorzystać potencjał funkcjonalny biologicznych neuronów oraz całej ich sieci (grafu), zwanych często sieciami neuronowymi, trzeba opracować uproszczony model ich działania pod kątem najistotniejszych jego funkcji związanych z przetwarzaniem danych i informacji. Trzeba określić, co i pod wpływem czego może się zmieniać Biologiczne neurony reprezentują pewne kombinacje danych wejściowych, zaś na gruncie sztucznej inteligencji definiuje się często różne inne modele.
10 Neuron i jego dynamika Biologiczny neuron to żywa komórka, która potrzebuje się odżywiać oraz wykonywać pewne funkcje, bez których jej metabolizm nie funkcjonowałby prawidłowo, prowadziłby do zaburzeń, a w dalszej kolejności do jego śmierci. Prawidłowo funkcjonujący neuron musi być odpowiednio odżywiany przez komórki glejowe oraz musi reagować odpowiednią ilość pobudzeń, żeby osiągnąć pewną równowagę i stabilizację. Za mała ilość pobudzeń i aktywacji ( głód ), aktywuje w nim pewne procesy plastyczności, które prowadzą do zmniejszania jego objętości (wielkości), co sprawia, iż jest on bardziej wrażliwy na nadchodzące bodźce, prowadząc do jego częstszej aktywacji i poprawy metabolizmu komórkowego. Wtedy też neuron zaczyna reagować na większą ilość kombinacji bodźców wejściowych. Za duża ilość pobudzeń i aktywacji jest dla neuronu szkodliwa, gdyż powoduje w nim wyczerpanie zasobów neurotransmiterów (pęcherzyków w synapsach) oraz gromadzenie się kationów (Ca2+, Zn2+) ( zakwasy ) naruszających jego równowagę wewnętrzną, mogąc prowadzić po pewnym czasie do jego śmierci (apoptozy). Neuron może jednak bronić się przed tym zwiększając swoją objętość (wielkość) oraz duplikując mechanizmy wewnętrzne, które obniżają jego wrażliwość na bodźce i zarazem umożliwiają mu reagowanie na większą ilość kationów i innych związków biochemicznych. Funkcjonalnie taki neuron ogranicza swoje reakcje na słabsze kombinacje bodźców.
11 Informatyczne modele neuronów Pierwsze modele neuronów: Model McCullocha-Pittsa (1943 r.) odzwierciedla tylko proste sumowanie statycznie ważonych sygnałów wejściowych x 1,,x n, jakie do niego docierają, próg aktywacji w 0 oraz pewną funkcję aktywacji f zależną od wartości sumy ważonej sygnałów wejściowych i wartości progu: Mimo dużej prostoty, model ten znalazł ogromną ilość zastosowań w bardzo wielu współcześnie stosowanych metodach inteligencji obliczeniowej, pokazując swoją uniwersalność i możliwość jego zastosowania w różnych zadaniach aproksymacji, regresji, klasyfikacji, pamięciach skojarzeniowych i wielu innych. Pierwsza generacja neuronów McCullocha-Pittsa zbudowana była na bazie dyskretnych funkcji aktywacji, które zwracają wartości unipolarne {0; 1} lub bipolarne {-1; 1}.
12 Modele neuronu z ciągłymi funkcjami aktywacji Druga generacja neuronów wywodzących się modelu McCullocha-Pittsa stosuje ciągłe funkcje aktywacji z zakresu [0;1] lub [-1;1], wykorzystując najczęściej sigmoidalne lub radialne funkcje aktywacji. Istnieją neurony sigmoidalne, neurony oparte o funkcję tangens hiperboliczny lub neuronami radialnymi, np. neuron Gaussowski, neuron Hardy ego, neuron wielomianowy. Są one stosowane obecnie najpowszechniej w różnego rodzaju modelach sztucznych sieci neuronowych: gdzie β, σ, δ i c są parametrami, z których niektóre mogą być adaptowane w trakcie procesu nauki sieci, wykorzystującej takie neurony.
13 Działanie prostego neuronu o funkcji ciągłej Działanie sieci neuronowej jest wypadkową działania poszczególnych neuronów oraz zachodzących pomiędzy nimi interakcji. Pojedynczy neuron w typowych przypadkach realizuje (z matematycznego punktu widzenia) operację iloczynu skalarnego wektora sygnałów wejściowych oraz wektora wag. W efekcie odpowiedź neuronu zależy od wzajemnych stosunków geometrycznych pomiędzy wektorami sygnałów i wektorami wag.
14 Obecne zastosowania i rynek sieci neuronowych Sieci neuronowe obecnie stosowane są do: Klasyfikacji (obrazów, mowy, procesów, ) Regresji (funkcji matematycznych, ) Rozpoznawania (obiektów, ludzi, gestów, pisma ) Identyfikacji (obiektów, ludzi, gestów, pisma ) Przewidywania i prognozowania (np. szeregów czasowych, kursów walut, ) Sterowania i optymalizacji (np. różnych urządzeń ze sprzężeniem zwrotnym, ) Analizy i grupowania (np. w marketingu, sprzedaży, produkcji, ) Analizy ryzyka i opłacalności (np. kredytów i pożyczek bankowych, ) Doboru (np. surowców, składników, dla których nie jest znana technologia) i wielu innych zagadnień, gdzie nie znamy algorytmu lub jego założenia są rozmyte albo złożoność obliczeniowa klasycznych rozwiązań zbyt duża. Obecny rynek rozwiązań z zakresu sztucznej inteligencji i sieci neuronowych liczy sobie USD rocznie i z roku na rok wykładniczo rośnie.
15 Sztuczne sieci neuronowe Sztuczne sieci neuronowe są pewnymi bardzo uproszczonymi modelami rzeczywistych sieci (grafów) neuronowych funkcjonujących np. w ludzkim mózgu.
16 Uczenie sztucznych sieci neuronowych Obecnie istnieje kilkadziesiąt podstawowych metod uczenia sieci neuronowych dla różnych architektur sieciowych, zbudowanych z różnego rodzaju neuronów o różnych funkcjach aktywacji. Wiele z nich polega na minimalizacji pewnej funkcji błędu sieci, jaki powstaje pomiędzy wzorcami uczącymi i rzeczywistą odpowiedzią sieci na prezentowany jej wzorzec. Stosowane są różne metody minimalizacji najczęściej gradientowe. Istnieje jednak również wiele innych podejść wywodzących się z biologii, gdyż obecne modele sztucznych sieci neuronowych funkcjonalnie dosyć daleko odeszły od ich biologicznych pierwowzorów (ze względu na ograniczoną wiedzę o ich funkcjonowaniu i tworzeniu się). W sztucznych sieciach neuronowych często stosuje się: Metody gradientowe oparte o minimalizację funkcji błędu (problem lokalnych minimów, braku zbieżności do minimum globalnego oraz przeuczenia się) Połączenia neuronów na zasadzie każdy z każdym Warstwowe ułożenie neuronów (występujące tylko w pewnych strukturach mózgu) Różne metody agregacji sygnałów wejściowych (sumowanie, iloczyn) Różne ciągłe i nieciągłe funkcje aktywacji (sigmoidalna, tangensoidalna, radialna) które niestety mają niewiele wspólnego z działaniem biologicznych neuronów, ograniczają ich działania lub modelują tylko w bardzo ograniczonym stopniu rzeczywiste struktury neuronowe ALE mimo to działają i umożliwiają wykonywanie różnych obliczeń w oparciu o uczenie się i dostrajanie parametrów sieci.
17 Uczenie sztucznych sieci neuronowych Do najbardziej znanych i powszechnie wykorzystywanych metod uczenia sieci neuronowych należą: Reguła Hebba polegająca na wzmacnianiu tych połączeń synaptycznych (A~B), w których aktywność jednego neuronu A powoduje aktywność drugiego połączonego z nim neuronu B. Odpowiada to empirycznym badaniom nad LTP (long term potentiation). Metoda wstecznej propagacji błędów (back propagation) umożliwiająca uczenie sieci wielowarstwowych poprzez propagację różnicy pomiędzy pożądanym a otrzymanym sygnałem na wyjściu sieci. Samoorganizacja w sieci neuronowej (np. SOM) umożliwiają uczenie sieci bez nauczyciela (unsupervised), którego celem jest wykształcenie w sieci neuronów, które by reagowały na pewne powtarzające się kombinacje bodźców z przestrzeni danych, którym można później przypisać pewne znaczenie. W tych sieciach wzmacniany jest neuron, który osiąga największą wartość pobudzenia oraz ew. również otaczające go neurony, co zapewnia sytuowanie podobnych kombinacji bodźców blisko siebie. Sieci rekurencyjne (np. sieci Hoppfielda), których bodźce krążą przez pewien określony czas aż do osiągnięcia pewnego stanu stabilności, który jest traktowany jako odpowiedź sieci.
18 Jak wygląda postawienie zadania dla sieci neuronowej Mamy pewien zbiór uczący i nie znamy reguł np. klasyfikacji obiektów (Iris). Sieć neuronowa ma za zadanie znalezienie tych zależności oraz ich uogólnienie na przypadki, których nie było w zbiorze uczącym podobnie jak dzieje się to mózgu. WSTEP DO informatyki, Adrian Horzyk,
19 Tworzenie asocjacyjnej neuronowej grafowej struktury danych dla danych zbioru uczącego Iris Poszczególne wartości wzorców uczących są ze sobą łączone (kojarzone) później umożliwiając szybkie odnajdywanie korelacji pomiędzy wzorcami i klasami.
20
21 Aktywne asocjacyjne sieci neuronowe reprezentujące 150 wzorców Iris
22 Określanie dyskryminatywnych kombinacji przedziałów wartości dla klas
23 ASONN Associative Self-Optimizing Neural Network dla Iris W wyniku procesów asocjacji można określić najbardziej dyskryminatywne kombinacje przedziałów i podzbiorów wartości poszczególnych parametrów wejściowych, które będą definiowany poszczególne klasy i umożliwiały klasyfikację.
24 EWOLUCJA PRZETWARZANIA DANYCH W INFORMATYCE
25 Transformacja tabeli bazy danych do postaci asocjacyjnej struktury Grafowa struktura ASSORT umożliwia szybkie sortowanie względem wszystkich parametrów równocześnie. TABLE
26 Transformacja tabeli bazy danych do postaci asocjacyjnej struktury Grafowa struktura ASSORT umożliwia szybkie sortowanie względem wszystkich parametrów równocześnie. TABLE
27 Transformacja tabeli bazy danych do postaci asocjacyjnej struktury Grafowa struktura ASSORT umożliwia szybkie sortowanie względem wszystkich parametrów równocześnie. TABLE
28 Transformacja tabeli bazy danych do postaci asocjacyjnej struktury Grafowa struktura ASSORT umożliwia szybkie sortowanie względem wszystkich parametrów równocześnie. TABLE
29 Transformacja tabeli bazy danych do postaci asocjacyjnej struktury Grafowa struktura ASSORT umożliwia szybkie sortowanie względem wszystkich parametrów równocześnie. TABLE
30 Transformacja tabeli bazy danych do postaci asocjacyjnej struktury Grafowa struktura ASSORT umożliwia szybkie sortowanie względem wszystkich parametrów równocześnie. TABLE
31 Transformacja tabeli bazy danych do postaci asocjacyjnej struktury Grafowa struktura ASSORT umożliwia szybkie sortowanie względem wszystkich parametrów równocześnie. TABLE
32 Transformacja tabeli bazy danych do postaci asocjacyjnej struktury Grafowa struktura ASSORT umożliwia szybkie sortowanie względem wszystkich parametrów równocześnie. TABLE
33 Transformacja tabeli bazy danych do postaci asocjacyjnej struktury Grafowa struktura ASSORT umożliwia szybkie sortowanie względem wszystkich parametrów równocześnie. TABLE
34 Transformacja tabeli bazy danych do postaci asocjacyjnej struktury Grafowa struktura ASSORT umożliwia szybkie sortowanie względem wszystkich parametrów równocześnie. TABLE
35 Transformacja tabeli bazy danych do postaci asocjacyjnej struktury Grafowa struktura ASSORT umożliwia szybkie sortowanie względem wszystkich parametrów równocześnie. TABLE
36 TWORZENIE ASOCJACYJNEJ SIECI NEURONOWEJ DLA SEKWENCJI WZORCÓW UCZĄCYCH: S1, S2, S3, S4, S5 TRAINING SEQUENCES and their frequency of repetition in the training sequence set 1x S1 E1 E2 E3 5x S2 E4 E5 E2 E6 1x S3 E7 E5 E2 E8 3x S4 E7 E9 E8 2x S5 E4 E2 E3 (0) ANAKG
37 TWORZENIE ASOCJACYJNEJ SIECI NEURONOWEJ DLA SEKWENCJI WZORCÓW UCZĄCYCH: S1, S2, S3, S4, S5 TRAINING SEQUENCES and their frequency of repetition in the training sequence set 1x 5x 1x 3x 2x S1 E1 E2 E3 S2 E4 E5 E2 E6 S3 E7 E5 E2 E8 S4 E7 E9 E8 S5 E4 E2 E3 S1 E1:1 d=0,50 WE1,E3=0,67 WE1,E2=1,00 WE2,E3=1,00 E3:1 E2:1 (1) ANAKG
38 TWORZENIE ASOCJACYJNEJ SIECI NEURONOWEJ DLA SEKWENCJI WZORCÓW UCZĄCYCH: S1, S2, S3, S4, S5 TRAINING SEQUENCES and their frequency of repetition in the training sequence set 1x 5x 1x 3x 2x S1 E1 E2 E3 S2 E4 E5 E2 E6 S3 E7 E5 E2 E8 S4 E7 E9 E8 S5 E4 E2 E3 S2 d=0,50 WE1,E3=0,67 E1:1 WE1,E2=1,00 d=0,50 WE4,E2=0,67 WE5,E2=1,00 E4:1 WE4,E5=1,00 (2) E5:1 WE2,E3=0,67 E2:2 WE2,E6=0,67 d=0,33 WE4,E6=0,50 d=0,50 WE5,E6=0,67 E3:1 E6:1 ANAKG
39 TWORZENIE ASOCJACYJNEJ SIECI NEURONOWEJ DLA SEKWENCJI WZORCÓW UCZĄCYCH: S1, S2, S3, S4, S5 TRAINING SEQUENCES and their frequency of repetition in the training sequence set 1x 5x 1x 3x 2x S1 E1 E2 E3 S2 E4 E5 E2 E6 S3 E7 E5 E2 E8 S4 E7 E9 E8 S5 E4 E2 E3 S3 d=0,50 WE1,E3=0,67 E1:1 WE1,E2=1,00 d=0,50 WE4,E2=0,67 d=0,50 WE7,E2=0,67 d=2,00 WE5,E2=1,00 E4:1 WE4,E5=1,00 WE7,E5=1,00 E5:2 E7:1 (3) ANAKG WE2,E3=0,50 E2:3 WE2,E6=0,50 d=0,33 WE4,E6=0,50 d=0,50 WE5,E6=0,40 WE2,E8=0,50 d=0,50 WE5,E8=0,40 d=0,33 WE7,E8=0,50 E3:1 E6:1 E8:1
40 TWORZENIE ASOCJACYJNEJ SIECI NEURONOWEJ DLA SEKWENCJI WZORCÓW UCZĄCYCH: S1, S2, S3, S4, S5 TRAINING SEQUENCES and their frequency of repetition in the training sequence set 1x 5x 1x 3x 2x S1 E1 E2 E3 S2 E4 E5 E2 E6 S3 E7 E5 E2 E8 S4 E7 E9 E8 S5 E4 E2 E3 S4 d=0,50 WE1,E3=0,67 E1:1 WE1,E2=1,00 d=0,50 WE4,E2=0,67 d=0,50 WE7,E2=0,40 d=2,00 WE5,E2=1,00 E4:1 WE4,E5=1,00 WE7,E5=0,67 E5:2 WE7,E9=0,67 E9:1 E7:2 (4) ANAKG WE2,E3=0,50 E2:3 E3:1 WE2,E6=0,50 d=0,33 WE4,E6=0,50 d=0,50 WE5,E6=0,40 E6:1 WE2,E8=0,50 d=0,50 WE5,E8=0,40 d=0,83 WE7,E8=0,59 WE9,E8=1,00 E8:2
41 TWORZENIE ASOCJACYJNEJ SIECI NEURONOWEJ DLA SEKWENCJI WZORCÓW UCZĄCYCH: S1, S2, S3, S4, S5 TRAINING SEQUENCES and their frequency of repetition in the training sequence set 1x 5x 1x 3x 2x S1 E1 E2 E3 S2 E4 E5 E2 E6 S3 E7 E5 E2 E8 S4 E7 E9 E8 S5 E4 E2 E3 S5 E1:1 WE1,E2=1,00 d=1,50 WE4,E2=0,86 d=0,50 WE7,E2=0,40 d=2,00 WE5,E2=1,00 E4:2 WE4,E5=0,67 WE7,E5=0,67 E5:2 WE7,E9=0,67 E9:1 E7:2 (5) ANAKG E2:4 d=0,50 WE1,E3=0,67 d=0,50 WE4,E3=0,40 d=2,00 WE2,E3=0,67 E3:2 WE2,E6=0,40 d=0,33 WE4,E6=0,29 d=0,50 WE5,E6=0,40 E6:1 WE2,E8=0,40 d=0,50 WE5,E8=0,40 d=0,83 WE7,E8=0,59 WE9,E8=1,00 E8:2
42 TWORZENIE ASOCJACYJNEJ SIECI NEURONOWEJ DLA SEKWENCJI WZORCÓW UCZĄCYCH: S1, S2, S3, S4, S5 TRAINING SEQUENCES and their frequency of repetition in the training sequence set 1x 5x 1x 3x 2x S1 E1 E2 E3 S2 E4 E5 E2 E6 S3 E7 E5 E2 E8 S4 E7 E9 E8 S5 E4 E2 E3 4x S2 2x E1:1 WE1,E2=1,00 d=4,50 WE4,E2=0,78 d=1,50 WE7,E2=0,55 d=6,00 WE5,E2=1,00 S4 1x S5 E4:7 d=5,00 WE4,E5=0,83 WE7,E5=0,29 E5:6 d=3,00 WE7,E9=0,86 E9:3 E7:4 (6) ANAKG E2:9 d=0,50 WE1,E3=0,67 WE4,E3=0,25 d=3,00 WE2,E3=0,50 E3:3 d=5,00 WE2,E6=0,71 d=1,67 WE4,E6=0,38 d=2,50 WE5,E6=0,53 E6:5 WE2,E8=0,20 d=0,50 WE5,E8=0,15 d=2,83 WE7,E8=0,63 d=3,00 WE9,E8=1,00 E8:4
43 EWALUACJA ASOCJACYJNEJ SIECI NEURONOWEJ Zewnętrzne pobudzenie neuronu E4 wywołuje następujący bieg sztucznych skojarzeń: E4 E5 E2 E6 TRAINING SEQUENCES and their frequency of repetition in the training sequence set 1x 5x 1x 3x 2x S1 E1 E2 E3 S2 E4 E5 E2 E6 S3 E7 E5 E2 E8 S4 E7 E9 E8 S5 E4 E2 E3 E1:1 WE1,E2=1,00 d=4,50 WE4,E2=0,78 d=1,50 WE7,E2=0,55 d=6,00 WE5,E2=1,00 E4:7 d=5,00 WE4,E5=0,83 WE7,E5=0,29 E5:6 d=3,00 WE7,E9=0,86 E9:3 E2:9 E7:4 (7) ANAKG d=0,50 WE1,E3=0,67 WE4,E3=0,25 d=3,00 WE2,E3=0,50 E3:3 d=5,00 WE2,E6=0,71 d=1,67 WE4,E6=0,38 d=2,50 WE5,E6=0,53 E6:5 WE2,E8=0,20 d=0,50 WE5,E8=0,15 d=2,83 WE7,E8=0,63 d=3,00 WE9,E8=1,00 E8:4 Otrzymana odpowiedź (sekwencja aktywacji neuronów) odpowiada sekwencji uczącej S2: S2 E4 E5 E2 E6
44 PORÓWNANIE DWÓCH SIECI UCZONYCH RÓŻNĄ ILOŚCIĄ SEKWENCJI
45 d=7,00 7x START d=7,00 7x knowledge w=0,25 d=2,00 w=0,44 1x can 2x is w=0,25 w=0,25 d=0,50 w=0,13 w=0,67 1x comes 1x be 1x consolidates 1x not w=0,25 d=0,50 w=0,13 w=0,67 w=0,25 1x into 2x actively 1x fundamental 1x aggregates 1x a d=0,50 w=0,13 w=0,67 d=0,33 w=0,50 1x being 1x reacts d=0,50 w=0,67 1x representation 1x set d=0,33 w=0,40 d=0,50 w=0,67 w=0,67 w=0,50 2x on w=0,50 2x various d=0,33 w=-0,5 1x for 3x of d=2,00 2x represented 3x the 1x intelligence w=0,50 d=0,33 w=0,40 w=0,50 w=0,67 d=0,50 w=0,40 w=0,67 w=0,40 d=2,00 d=2,00 w=0,80 d=0,50 w=0,67 1x basis 1x associative d=0,50 w=0,67 1x in d=0,50 w=0,40 1x objects d=3,00 w=0,75 d=0,50 w=0,67 w=0,50 5x facts d=0,50 w=0,67 1x systems 4x and d=0,33 w=0,50 STRUKTURA SIECI NEURONOWEJ REPREZENTUJĄCEJ OBIEKTY LINGWISTYCZNE d=0,33 w=0,50 d=2,00 w=0,57 7x. (full stop) d=0,33 w=0,29 d=0,25 w=0,40 d=0,33 w=0,50 d=3,00 w=0,86 3x rules d=3,00 d=0,33 w=0,20
46 Response to What is knowledge? As-neurons are consecutively activated after training sequences and give the answers: Knowledge is fundamental for intelligence. Knowledge is not a set of facts and rules
47 WYKORZYSTANIE DO AUTOMATYCZNEJ KOREKTY TEKSTÓW WSTEP DO informatyki, Adrian Horzyk,
48 LITERATURA I BIBLIOGRAFIA DO WYKŁADU 1. J. E. Hopcroft, R. Motwani, J. D. Ullman, Wprowadzenie do teorii automatów, języków i obliczeń, PWN, Warszawa, Adrian Horzyk, Asocjacyjna sztuczna inteligencja i sztuczne systemy skojarzeniowe, monografia habilitacyjna, Adrian Horzyk, How Does Human-Like Knowledge Come into Being in Artificial Associative Systems, Proc. of the 8-th International Conference on Knowledge, Information and Creativity Support Systems, Kraków, Tadeusiewicz R.: Wybrane zagadnienia cyfrowego modelowania fragmentów systemu nerwowego. W materiałach II Ogólnopolskiego Sympozjum: System - Modelowanie -Sterowanie, Zakopane 1974, Tadeusiewicz R.: Elementarne wprowadzenie do sieci neuronowych z przykładowymi programami, Akademicka Oficyna Wydawnicza, Warszawa, De Schutter E.: Using realistic models to study synaptic integration in cerebellar Purkinjego cells, Reviews in the Neurosciences,10, 1999,
WSTĘP DO INFORMATYKI SIECI NEURONOWE I SZTUCZNA INTELIGENCJA wykład
WSTĘP DO INFORMATYKI SIECI NEURONOWE I SZTUCZNA INTELIGENCJA wykład Adrian Horzyk Web: http://home.agh.edu.pl/~horzyk/ E-mail: horzyk@agh.edu.pl Google: Adrian Horzyk, Gabinet: paw. C3p. 205 Akademia Górniczo-Hutniacza
Bardziej szczegółowoBIOCYBERNETYKA SIECI NEURONOWE. Akademia Górniczo-Hutnicza. Wydział Elektrotechniki, Automatyki, Informatyki i Inżynierii Biomedycznej.
Akademia Górniczo-Hutnicza Wydział Elektrotechniki, Automatyki, Informatyki i Inżynierii Biomedycznej BIOCYBERNETYKA Adrian Horzyk SIECI NEURONOWE www.agh.edu.pl Mózg inspiruje nas od wieków Co takiego
Bardziej szczegółowoMETODY INŻYNIERII WIEDZY
METODY INŻYNIERII WIEDZY SZTUCZNE SIECI NEURONOWE MLP Adrian Horzyk Akademia Górniczo-Hutnicza Wydział Elektrotechniki, Automatyki, Informatyki i Inżynierii Biomedycznej Katedra Automatyki i Inżynierii
Bardziej szczegółowoSztuczne Systemy Skojarzeniowe. Adrian Horzyk
Sztuczne Systemy Skojarzeniowe Inspiracje biologiczne Adrian Horzyk horzyk@agh.edu.pl AGH Akademia Górniczo-Hutnicza Wydział Elektrotechniki, Automatyki, Informatyki i Inżynierii Biomedycznej Katedra Automatyki
Bardziej szczegółowoIMPLEMENTACJA SIECI NEURONOWYCH MLP Z WALIDACJĄ KRZYŻOWĄ
IMPLEMENTACJA SIECI NEURONOWYCH MLP Z WALIDACJĄ KRZYŻOWĄ Celem ćwiczenia jest zapoznanie się ze sposobem działania sieci neuronowych typu MLP (multi-layer perceptron) uczonych nadzorowaną (z nauczycielem,
Bardziej szczegółowo1. Historia 2. Podstawy neurobiologii 3. Definicje i inne kłamstwa 4. Sztuczny neuron i zasady działania SSN. Agenda
Sieci neuropodobne 1. Historia 2. Podstawy neurobiologii 3. Definicje i inne kłamstwa 4. Sztuczny neuron i zasady działania SSN Agenda Trochę neurobiologii System nerwowy w organizmach żywych tworzą trzy
Bardziej szczegółowoLiteratura. Sztuczne sieci neuronowe. Przepływ informacji w systemie nerwowym. Budowa i działanie mózgu
Literatura Wykład : Wprowadzenie do sztucznych sieci neuronowych Małgorzata Krętowska Wydział Informatyki Politechnika Białostocka Tadeusiewicz R: Sieci neuronowe, Akademicka Oficyna Wydawnicza RM, Warszawa
Bardziej szczegółowoWIEDZA METODY INŻYNIERII WIEDZY KNOWLEDGE ENGINEERING AND DATA MINING. Adrian Horzyk. Akademia Górniczo-Hutnicza
METODY INŻYNIERII WIEDZY KNOWLEDGE ENGINEERING AND DATA MINING WIEDZA Adrian Horzyk Akademia Górniczo-Hutnicza Wydział Elektrotechniki, Automatyki, Informatyki i Inżynierii Biomedycznej Katedra Automatyki
Bardziej szczegółowoSztuczne sieci neuronowe
www.math.uni.lodz.pl/ radmat Cel wykładu Celem wykładu jest prezentacja różnych rodzajów sztucznych sieci neuronowych. Biologiczny model neuronu Mózg człowieka składa się z około 10 11 komórek nerwowych,
Bardziej szczegółowoWstęp do teorii sztucznej inteligencji Wykład III. Modele sieci neuronowych.
Wstęp do teorii sztucznej inteligencji Wykład III Modele sieci neuronowych. 1 Perceptron model najprostzszy przypomnienie Schemat neuronu opracowany przez McCullocha i Pittsa w 1943 roku. Przykład funkcji
Bardziej szczegółowoWstęp do teorii sztucznej inteligencji Wykład II. Uczenie sztucznych neuronów.
Wstęp do teorii sztucznej inteligencji Wykład II Uczenie sztucznych neuronów. 1 - powtórzyć o klasyfikacji: Sieci liniowe I nieliniowe Sieci rekurencyjne Uczenie z nauczycielem lub bez Jednowarstwowe I
Bardziej szczegółowoAdrian Horzyk
Sztuczne Systemy Skojarzeniowe SSS Asocjacyjne grafowe struktury danych AGDS Associative Graph Data Structure Adrian Horzyk horzyk@agh.edu.pl AGH Akademia Górniczo-Hutnicza Wydział Elektrotechniki, Automatyki,
Bardziej szczegółowoWstęp do sztucznych sieci neuronowych
Wstęp do sztucznych sieci neuronowych Michał Garbowski Zachodniopomorski Uniwersytet Technologiczny w Szczecinie Wydział Informatyki 15 grudnia 2011 Plan wykładu I 1 Wprowadzenie Inspiracja biologiczna
Bardziej szczegółowoPodstawy Sztucznej Inteligencji (PSZT)
Podstawy Sztucznej Inteligencji (PSZT) Paweł Wawrzyński Uczenie maszynowe Sztuczne sieci neuronowe Plan na dziś Uczenie maszynowe Problem aproksymacji funkcji Sieci neuronowe PSZT, zima 2013, wykład 12
Bardziej szczegółowoPODSTAWY BAZ DANYCH I SZTUCZNEJ INTELIGENCJI. Adrian Horzyk. Akademia Górniczo-Hutnicza
PODSTAWY BAZ DANYCH I SZTUCZNEJ INTELIGENCJI Adrian Horzyk Akademia Górniczo-Hutnicza Wydział Elektrotechniki, Automatyki, Informatyki i Inżynierii Biomedycznej Katedra Automatyki i Inżynierii Biomedycznej
Bardziej szczegółowosynaptycznych wszystko to waży 1.5 kg i zajmuje objętość około 1.5 litra. A zużywa mniej energii niż lampka nocna.
Sieci neuronowe model konekcjonistyczny Plan wykładu Mózg ludzki a komputer Modele konekcjonistycze Perceptron Sieć neuronowa Uczenie sieci Sieci Hopfielda Mózg ludzki a komputer Twój mózg to 00 000 000
Bardziej szczegółowoElementy kognitywistyki II: Sztuczna inteligencja. WYKŁAD X: Sztuczny neuron
Elementy kognitywistyki II: Sztuczna inteligencja WYKŁAD X: Sztuczny neuron Koneksjonizm: wprowadzenie 1943: Warren McCulloch, Walter Pitts: ogólna teoria przetwarzania informacji oparta na sieciach binarnych
Bardziej szczegółowoSztuczne sieci neuronowe (SNN)
Sztuczne sieci neuronowe (SNN) Pozyskanie informacji (danych) Wstępne przetwarzanie danych przygotowanie ich do dalszej analizy Selekcja informacji Ostateczny model decyzyjny SSN - podstawy Sieci neuronowe
Bardziej szczegółowoWprowadzenie do teorii systemów ekspertowych
Myślące komputery przyszłość czy utopia? Wprowadzenie do teorii systemów ekspertowych Roman Simiński siminski@us.edu.pl Wizja inteligentnych maszyn jest od wielu lat obecna w literaturze oraz filmach z
Bardziej szczegółowoSztuczna Inteligencja Tematy projektów Sieci Neuronowe
PB, 2009 2010 Sztuczna Inteligencja Tematy projektów Sieci Neuronowe Projekt 1 Stwórz projekt implementujący jednokierunkową sztuczną neuronową złożoną z neuronów typu sigmoidalnego z algorytmem uczenia
Bardziej szczegółowoNeuroasocjacyjne modele obliczeniowe w sztucznej inteligencji dla celów formowania się wiedzy i skojarzeń
Neuroasocjacyjne modele obliczeniowe w sztucznej inteligencji dla celów formowania się wiedzy i skojarzeń IRRACJONALNOŚĆ kontra RACJONALNOŚĆ czyli starcie tytanów na poziomie skojarzeń i inteligencji dr
Bardziej szczegółowoTemat: Sieci neuronowe oraz technologia CUDA
Elbląg, 27.03.2010 Temat: Sieci neuronowe oraz technologia CUDA Przygotował: Mateusz Górny VIII semestr ASiSK Wstęp Sieci neuronowe są to specyficzne struktury danych odzwierciedlające sieć neuronów w
Bardziej szczegółowoMODELOWANIE RZECZYWISTOŚCI
MODELOWANIE RZECZYWISTOŚCI Daniel Wójcik Instytut Biologii Doświadczalnej PAN Szkoła Wyższa Psychologii Społecznej d.wojcik@nencki.gov.pl dwojcik@swps.edu.pl tel. 022 5892 424 http://www.neuroinf.pl/members/danek/swps/
Bardziej szczegółowoTemat: Sztuczne Sieci Neuronowe. Instrukcja do ćwiczeń przedmiotu INŻYNIERIA WIEDZY I SYSTEMY EKSPERTOWE
Temat: Sztuczne Sieci Neuronowe Instrukcja do ćwiczeń przedmiotu INŻYNIERIA WIEDZY I SYSTEMY EKSPERTOWE Dr inż. Barbara Mrzygłód KISiM, WIMiIP, AGH mrzyglod@ agh.edu.pl 1 Wprowadzenie Sztuczne sieci neuronowe
Bardziej szczegółowoSieci neuronowe jako sposób na optymalizacje podejmowanych decyzji. Tomasz Karczyoski Wydział W-08 IZ
optymalizacje podejmowanych decyzji Tomasz Karczyoski Wydział W-08 IZ Czym są sieci neuronowe Struktura matematycznych oraz programowy lub sprzętowy model, realizujących obliczenia lub przetwarzanie sygnałów
Bardziej szczegółowoSZTUCZNA INTELIGENCJA
SZTUCZNA INTELIGENCJA SYSTEMY ROZMYTE Adrian Horzyk Akademia Górniczo-Hutnicza Wydział Elektrotechniki, Automatyki, Informatyki i Inżynierii Biomedycznej Katedra Automatyki i Inżynierii Biomedycznej Laboratorium
Bardziej szczegółowoSIECI NEURONOWE Liniowe i nieliniowe sieci neuronowe
SIECI NEURONOWE Liniowe i nieliniowe sieci neuronowe JOANNA GRABSKA-CHRZĄSTOWSKA Wykłady w dużej mierze przygotowane w oparciu o materiały i pomysły PROF. RYSZARDA TADEUSIEWICZA BUDOWA RZECZYWISTEGO NEURONU
Bardziej szczegółowo8. Neuron z ciągłą funkcją aktywacji.
8. Neuron z ciągłą funkcją aktywacji. W tym ćwiczeniu zapoznamy się z modelem sztucznego neuronu oraz przykładem jego wykorzystania do rozwiązywanie prostego zadania klasyfikacji. Neuron biologiczny i
Bardziej szczegółowoUczenie sieci neuronowych i bayesowskich
Wstęp do metod sztucznej inteligencji www.mat.uni.torun.pl/~piersaj 2009-01-22 Co to jest neuron? Komputer, a mózg komputer mózg Jednostki obliczeniowe 1-4 CPU 10 11 neuronów Pojemność 10 9 b RAM, 10 10
Bardziej szczegółowoWykład 1: Wprowadzenie do sieci neuronowych
Wykład 1: Wprowadzenie do sieci neuronowych Historia badań nad sieciami neuronowymi. - początki: badanie komórek ośrodkowego układu nerwowego zwierząt i człowieka, czyli neuronów; próby wyjaśnienia i matematycznego
Bardziej szczegółowoMetody i techniki sztucznej inteligencji / Leszek Rutkowski. wyd. 2, 3 dodr. Warszawa, Spis treści
Metody i techniki sztucznej inteligencji / Leszek Rutkowski. wyd. 2, 3 dodr. Warszawa, 2012 Spis treści Przedmowa do wydania drugiego Przedmowa IX X 1. Wstęp 1 2. Wybrane zagadnienia sztucznej inteligencji
Bardziej szczegółowoMetody Sztucznej Inteligencji II
17 marca 2013 Neuron biologiczny Neuron Jest podstawowym budulcem układu nerwowego. Jest komórką, która jest w stanie odbierać i przekazywać sygnały elektryczne. Neuron działanie Jeżeli wartość sygnału
Bardziej szczegółowoSieci neuronowe do przetwarzania informacji / Stanisław Osowski. wyd. 3. Warszawa, Spis treści
Sieci neuronowe do przetwarzania informacji / Stanisław Osowski. wyd. 3. Warszawa, 2013 Spis treści Przedmowa 7 1. Wstęp 9 1.1. Podstawy biologiczne działania neuronu 9 1.2. Pierwsze modele sieci neuronowej
Bardziej szczegółowoElementy kognitywistyki III: Modele i architektury poznawcze
Elementy kognitywistyki III: Modele i architektury poznawcze Wykład III: Psychologiczne modele umysłu Gwoli przypomnienia: Kroki w modelowaniu kognitywnym: teoretyczne ramy pojęciowe (modele pojęciowe)
Bardziej szczegółowoTuring i jego maszyny
Turing Magdalena Lewandowska Politechnika Śląska, wydział MS, semestr VI 20 kwietnia 2016 1 Kim był Alan Turing? Biografia 2 3 Mrówka Langtona Bomba Turinga 4 Biografia Kim był Alan Turing? Biografia Alan
Bardziej szczegółowoAdrian Horzyk
Metody Inteligencji Obliczeniowej Metoda K Najbliższych Sąsiadów (KNN) Adrian Horzyk horzyk@agh.edu.pl AGH Akademia Górniczo-Hutnicza Wydział Elektrotechniki, Automatyki, Informatyki i Inżynierii Biomedycznej
Bardziej szczegółowoUczenie sieci typu MLP
Uczenie sieci typu MLP Przypomnienie budowa sieci typu MLP Przypomnienie budowy neuronu Neuron ze skokową funkcją aktywacji jest zły!!! Powszechnie stosuje -> modele z sigmoidalną funkcją aktywacji - współczynnik
Bardziej szczegółowoInteligentne systemy decyzyjne: Uczenie maszynowe sztuczne sieci neuronowe
Inteligentne systemy decyzyjne: Uczenie maszynowe sztuczne sieci neuronowe wykład 1. Właściwości sieci neuronowych Model matematyczny sztucznego neuronu Rodzaje sieci neuronowych Przegląd d głównych g
Bardziej szczegółowoNajprostsze modele sieci z rekurencją. sieci Hopfielda; sieci uczone regułą Hebba; sieć Hamminga;
Sieci Hopfielda Najprostsze modele sieci z rekurencją sieci Hopfielda; sieci uczone regułą Hebba; sieć Hamminga; Modele bardziej złoŝone: RTRN (Real Time Recurrent Network), przetwarzająca sygnały w czasie
Bardziej szczegółowoPROGNOZOWANIE OSIADAŃ POWIERZCHNI TERENU PRZY UŻYCIU SIECI NEURONOWYCH**
Górnictwo i Geoinżynieria Rok 31 Zeszyt 3 2007 Dorota Pawluś* PROGNOZOWANIE OSIADAŃ POWIERZCHNI TERENU PRZY UŻYCIU SIECI NEURONOWYCH** 1. Wstęp Eksploatacja górnicza złóż ma niekorzystny wpływ na powierzchnię
Bardziej szczegółowoOptymalizacja optymalizacji
7 maja 2008 Wstęp Optymalizacja lokalna Optymalizacja globalna Algorytmy genetyczne Badane czasteczki Wykorzystane oprogramowanie (Algorytm genetyczny) 2 Sieć neuronowa Pochodne met-enkefaliny Optymalizacja
Bardziej szczegółowoDeep Learning na przykładzie Deep Belief Networks
Deep Learning na przykładzie Deep Belief Networks Jan Karwowski Zakład Sztucznej Inteligencji i Metod Obliczeniowych Wydział Matematyki i Nauk Informacyjnych PW 20 V 2014 Jan Karwowski (MiNI) Deep Learning
Bardziej szczegółowoI EKSPLORACJA DANYCH
I EKSPLORACJA DANYCH Zadania eksploracji danych: przewidywanie Przewidywanie jest podobne do klasyfikacji i szacowania, z wyjątkiem faktu, że w przewidywaniu wynik dotyczy przyszłości. Typowe zadania przewidywania
Bardziej szczegółowoInteligentne systemy informacyjne
Inteligentne systemy informacyjne Moduł 10 Mieczysław Muraszkiewicz www.icie.com.pl/lect_pw.htm M. Muraszkiewicz strona 1 Sieci neuronowe szkic Moduł 10 M. Muraszkiewicz strona 2 Dwa nurty M. Muraszkiewicz
Bardziej szczegółowoSztuczne Sieci Neuronowe. Wiktor Tracz Katedra Urządzania Lasu, Geomatyki i Ekonomiki Leśnictwa, Wydział Leśny SGGW
Sztuczne Sieci Neuronowe Wiktor Tracz Katedra Urządzania Lasu, Geomatyki i Ekonomiki Leśnictwa, Wydział Leśny SGGW SN są częścią dziedziny Sztucznej Inteligencji Sztuczna Inteligencja (SI) zajmuje się
Bardziej szczegółowowiedzy Sieci neuronowe
Metody detekcji uszkodzeń oparte na wiedzy Sieci neuronowe Instytut Sterowania i Systemów Informatycznych Universytet Zielonogórski Wykład 7 Wprowadzenie Okres kształtowania się teorii sztucznych sieci
Bardziej szczegółowoWstęp do sieci neuronowych, wykład 12 Wykorzystanie sieci rekurencyjnych w optymalizacji grafowej
Wstęp do sieci neuronowych, wykład 12 Wykorzystanie sieci rekurencyjnych w optymalizacji grafowej Maja Czoków, Jarosław Piersa Wydział Matematyki i Informatyki, Uniwersytet Mikołaja Kopernika 2013-01-09
Bardziej szczegółowoModele Obliczeń. Wykład 1 - Wprowadzenie. Marcin Szczuka. Instytut Matematyki, Uniwersytet Warszawski
Modele Obliczeń Wykład 1 - Wprowadzenie Marcin Szczuka Instytut Matematyki, Uniwersytet Warszawski Wykład fakultatywny w semestrze zimowym 2014/2015 Marcin Szczuka (MIMUW) Modele Obliczeń 2014/2015 1 /
Bardziej szczegółowoWstęp do sieci neuronowych, wykład 6 Wsteczna propagacja błędu - cz. 3
Wstęp do sieci neuronowych, wykład 6 Wsteczna propagacja błędu - cz. 3 Andrzej Rutkowski, Maja Czoków, Jarosław Piersa Wydział Matematyki i Informatyki, Uniwersytet Mikołaja Kopernika 2018-11-05 Projekt
Bardziej szczegółowoZastosowanie sztucznych sieci neuronowych w prognozowaniu szeregów czasowych (prezentacja 2)
Zastosowanie sztucznych sieci neuronowych w prognozowaniu szeregów czasowych (prezentacja 2) Ewa Wołoszko Praca pisana pod kierunkiem Pani dr hab. Małgorzaty Doman Plan tego wystąpienia Teoria Narzędzia
Bardziej szczegółowoModelowanie jako sposób opisu rzeczywistości. Katedra Mikroelektroniki i Technik Informatycznych Politechnika Łódzka
Modelowanie jako sposób opisu rzeczywistości Katedra Mikroelektroniki i Technik Informatycznych Politechnika Łódzka 2015 Wprowadzenie: Modelowanie i symulacja PROBLEM: Podstawowy problem z opisem otaczającej
Bardziej szczegółowoInteligentne systemy decyzyjne: Uczenie maszynowe sztuczne sieci neuronowe
Inteligentne systemy decyzyjne: Uczenie maszynowe sztuczne sieci neuronowe Trening jednokierunkowych sieci neuronowych wykład 2. dr inż. PawełŻwan Katedra Systemów Multimedialnych Politechnika Gdańska
Bardziej szczegółowoBadacze zbudowali wiele systemów technicznych, naśladujących w komputerze ludzki mózg. Najbardziej pożyteczne okazały się sieci neuronowe.
Naśladując w komputerze ludzki mózg staramy się połączyć zalety komputera (dostępność i szybkość działania) z zaletami mózgu (zdolność do uczenia się) informatyka + 2 Badacze zbudowali wiele systemów technicznych,
Bardziej szczegółowoObliczenia Naturalne - Sztuczne sieci neuronowe
Literatura Wprowadzenie Obliczenia Naturalne - Sztuczne sieci neuronowe Paweł Paduch Politechnika Świętokrzyska 13 marca 2014 Paweł Paduch Obliczenia Naturalne - Sztuczne sieci neuronowe 1 z 43 Plan wykładu
Bardziej szczegółowoID1SII4. Informatyka I stopień (I stopień / II stopień) ogólnoakademicki (ogólno akademicki / praktyczny) stacjonarne (stacjonarne / niestacjonarne)
Załącznik nr 7 do Zarządzenia Rektora nr 10/12 z dnia 21 lutego 2012r. KARTA MODUŁU / KARTA PRZEDMIOTU Kod modułu ID1SII4 Nazwa modułu Systemy inteligentne 1 Nazwa modułu w języku angielskim Intelligent
Bardziej szczegółowoElementy kognitywistyki III: Modele i architektury poznawcze
Elementy kognitywistyki III: Modele i architektury poznawcze Wykład VII: Modelowanie uczenia się w sieciach neuronowych Uczenie się sieci i trening nienaruszona struktura sieci (z pewnym ale ) nienaruszone
Bardziej szczegółowoAdrian Horzyk
Sztuczne Systemy Skojarzeniowe SSS Relacje Bazodanowe czy Asocjacje AGDS? DB Relations v AGDS Associations? Adrian Horzyk horzyk@agh.edu.pl AGH Akademia Górniczo-Hutnicza Wydział Elektrotechniki, Automatyki,
Bardziej szczegółowo1. Logika, funkcje logiczne, preceptron.
Sieci neuronowe 1. Logika, funkcje logiczne, preceptron. 1. (Logika) Udowodnij prawa de Morgana, prawo pochłaniania p (p q), prawo wyłączonego środka p p oraz prawo sprzeczności (p p). 2. Wyraź funkcję
Bardziej szczegółowoElementy inteligencji obliczeniowej
Elementy inteligencji obliczeniowej Paweł Liskowski Institute of Computing Science, Poznań University of Technology 9 October 2018 1 / 19 Perceptron Perceptron (Rosenblatt, 1957) to najprostsza forma sztucznego
Bardziej szczegółowoSztuczne sieci neuronowe Ćwiczenia. Piotr Fulmański, Marta Grzanek
Sztuczne sieci neuronowe Ćwiczenia Piotr Fulmański, Marta Grzanek Piotr Fulmański 1 Wydział Matematyki i Informatyki, Marta Grzanek 2 Uniwersytet Łódzki Banacha 22, 90-232, Łódź Polska e-mail 1: fulmanp@math.uni.lodz.pl,
Bardziej szczegółowoSztuczne sieci neuronowe. Krzysztof A. Cyran POLITECHNIKA ŚLĄSKA Instytut Informatyki, p. 311
Sztuczne sieci neuronowe Krzysztof A. Cyran POLITECHNIKA ŚLĄSKA Instytut Informatyki, p. 311 PLAN: Wykład 5 - Metody doboru współczynnika uczenia - Problem inicjalizacji wag - Problem doboru architektury
Bardziej szczegółowoMETODY INŻYNIERII WIEDZY KNOWLEDGE ENGINEERING AND DATA MINING
METODY INŻYNIERII WIEDZY KNOWLEDGE ENGINEERING AND DATA MINING NEURONOWE MAPY SAMOORGANIZUJĄCE SIĘ Self-Organizing Maps SOM Adrian Horzyk Akademia Górniczo-Hutnicza Wydział Elektrotechniki, Automatyki,
Bardziej szczegółowoBudowa i własności. sztucznych neuronów i sieci
Budowa i własności sztucznych neuronów i sieci Uwaga: Slajdy w tej prezentacji są intensywnie animowane, więc na statycznych kopiach mogą być mało czytelne (elementy pokazywane podczas animacji sekwencyjnie
Bardziej szczegółowoSystemy pomiarowo-diagnostyczne. Metody uczenia maszynowego wykład III 2016/2017
Systemy pomiarowo-diagnostyczne Metody uczenia maszynowego wykład III bogumil.konopka@pwr.edu.pl 2016/2017 Wykład III - plan Regresja logistyczna Ocena skuteczności klasyfikacji Macierze pomyłek Krzywe
Bardziej szczegółowoDefinicja perceptronu wielowarstwowego
1 Sieci neuronowe - wprowadzenie 2 Definicja perceptronu wielowarstwowego 3 Interpretacja znaczenia parametrów sieci 4 Wpływ wag perceptronu na jakość aproksymacji 4.1 Twierdzenie o uniwersalnych właściwościach
Bardziej szczegółowoMETODY INTELIGENCJI OBLICZENIOWEJ wykład 5
METODY INTELIGENCJI OBLICZENIOWEJ wykład 5 1 2 SZTUCZNE SIECI NEURONOWE cd 3 UCZENIE PERCEPTRONU: Pojedynczy neuron (lub 1 warstwa neuronów) typu percep- tronowego jest w stanie rozdzielić przestrzeń obsza-
Bardziej szczegółowoHAŁASU Z UWZGLĘDNIENIEM ZJAWISK O CHARAKTERZE NIELINIOWYM
ZASTOSOWANIE SIECI NEURONOWYCH W SYSTEMACH AKTYWNEJ REDUKCJI HAŁASU Z UWZGLĘDNIENIEM ZJAWISK O CHARAKTERZE NIELINIOWYM WPROWADZENIE Zwalczanie hałasu przy pomocy metod aktywnych redukcji hałasu polega
Bardziej szczegółowoSeminarium magisterskie. Dyskusja nad tematem pracy magisterskiej pisanej pod kierunkiem pani Dr hab. Małgorzaty Doman
Seminarium magisterskie Dyskusja nad tematem pracy magisterskiej pisanej pod kierunkiem pani Dr hab. Małgorzaty Doman Plan wystąpienia Ogólnie o sztucznych sieciach neuronowych Temat pracy magisterskiej
Bardziej szczegółowoSieć przesyłająca żetony CP (counter propagation)
Sieci neuropodobne IX, specyficzne architektury 1 Sieć przesyłająca żetony CP (counter propagation) warstwa Kohonena: wektory wejściowe są unormowane jednostki mają unormowane wektory wag jednostki są
Bardziej szczegółowoAlgorytmy sztucznej inteligencji
Algorytmy sztucznej inteligencji Dynamiczne sieci neuronowe 1 Zapis macierzowy sieci neuronowych Poniżej omówione zostaną części składowe sieci neuronowych i metoda ich zapisu za pomocą macierzy. Obliczenia
Bardziej szczegółowoOBLICZENIA ZA POMOCĄ PROTEIN
OBLICZENIA ZA POMOCĄ PROTEIN KODOWANIE I PRZETWARZANIE INFORMACJI W ORGANIZMACH Informacja genetyczna jest przechowywana w DNA i RNA w postaci liniowych sekwencji nukleotydów W genach jest przemieniana
Bardziej szczegółowoS O M SELF-ORGANIZING MAPS. Przemysław Szczepańczyk Łukasz Myszor
S O M SELF-ORGANIZING MAPS Przemysław Szczepańczyk Łukasz Myszor Podstawy teoretyczne Map Samoorganizujących się stworzył prof. Teuvo Kohonen (1982 r.). SOM wywodzi się ze sztucznych sieci neuronowych.
Bardziej szczegółowoAlgorytm wstecznej propagacji błędów dla sieci RBF Michał Bereta
Algorytm wstecznej propagacji błędów dla sieci RBF Michał Bereta www.michalbereta.pl Sieci radialne zawsze posiadają jedną warstwę ukrytą, która składa się z neuronów radialnych. Warstwa wyjściowa składa
Bardziej szczegółowoSIECI REKURENCYJNE SIECI HOPFIELDA
SIECI REKURENCYJNE SIECI HOPFIELDA Joanna Grabska- Chrząstowska Wykłady w dużej mierze przygotowane w oparciu o materiały i pomysły PROF. RYSZARDA TADEUSIEWICZA SPRZĘŻENIE ZWROTNE W NEURONIE LINIOWYM sygnał
Bardziej szczegółowoSieci neuronowe w Statistica
http://usnet.us.edu.pl/uslugi-sieciowe/oprogramowanie-w-usk-usnet/oprogramowaniestatystyczne/ Sieci neuronowe w Statistica Agnieszka Nowak - Brzezińska Podstawowym elementem składowym sztucznej sieci neuronowej
Bardziej szczegółowoSieci neuronowe w Statistica. Agnieszka Nowak - Brzezioska
Sieci neuronowe w Statistica Agnieszka Nowak - Brzezioska Podstawowym elementem składowym sztucznej sieci neuronowej jest element przetwarzający neuron. Schemat działania neuronu: x1 x2 w1 w2 Dendrites
Bardziej szczegółowoPodstawy Sztucznej Inteligencji Sztuczne Sieci Neuronowe. Krzysztof Regulski, WIMiIP, KISiM, B5, pok. 408
Podstawy Sztucznej Inteligencji Sztuczne Sieci Neuronowe Krzysztof Regulski, WIMiIP, KISiM, regulski@aghedupl B5, pok 408 Inteligencja Czy inteligencja jest jakąś jedną dziedziną, czy też jest to nazwa
Bardziej szczegółowoZastosowanie optymalizacji rojem cząstek (PSO) w procesie uczenia wielowarstwowej sieci neuronowej w problemie lokalizacyjnym
Zastosowanie optymalizacji rojem cząstek (PSO) w procesie uczenia wielowarstwowej sieci neuronowej w problemie lokalizacyjnym Jan Karwowski Wydział Matematyki i Nauk Informacyjnych PW 17 XII 2013 Jan Karwowski
Bardziej szczegółowoSztuczne sieci neuronowe i sztuczna immunologia jako klasyfikatory danych. Dariusz Badura Letnia Szkoła Instytutu Matematyki 2010
Sztuczne sieci neuronowe i sztuczna immunologia jako klasyfikatory danych Dariusz Badura Letnia Szkoła Instytutu Matematyki 2010 Sieci neuronowe jednokierunkowa wielowarstwowa sieć neuronowa sieci Kohonena
Bardziej szczegółowoMETODY INŻYNIERII WIEDZY
METODY INŻYNIERII WIEDZY Metoda K Najbliższych Sąsiadów K-Nearest Neighbours (KNN) ĆWICZENIA Adrian Horzyk Akademia Górniczo-Hutnicza Wydział Elektrotechniki, Automatyki, Informatyki i Inżynierii Biomedycznej
Bardziej szczegółowoWstęp do sieci neuronowych, wykład 07 Uczenie nienadzorowane cd.
Wstęp do sieci neuronowych, wykład 07 Uczenie nienadzorowane cd. M. Czoków, J. Piersa Wydział Matematyki i Informatyki, Uniwersytet Mikołaja Kopernika w Toruniu 2013-11-26 Projekt pn. Wzmocnienie potencjału
Bardziej szczegółowoPodstawowe zagadnienia. Mgr Monika Mazurek Instytut Psychologii Uniwersytet Jagielloński
Podstawowe zagadnienia Mgr Monika Mazurek Instytut Psychologii Uniwersytet Jagielloński NEUROPLASTYCZNOŚĆ - zdolność neuronów do ulegania trwałym zmianom w procesie uczenia się (Konorski,, 1948) Główne
Bardziej szczegółowoMETODY INŻYNIERII WIEDZY
METODY INŻYNIERII WIEDZY Metoda K Najbliższych Sąsiadów K-Nearest Neighbours (KNN) ĆWICZENIA Adrian Horzyk Akademia Górniczo-Hutnicza Wydział Elektrotechniki, Automatyki, Informatyki i Inżynierii Biomedycznej
Bardziej szczegółowoZastosowanie metod eksploracji danych Data Mining w badaniach ekonomicznych SAS Enterprise Miner. rok akademicki 2013/2014
Zastosowanie metod eksploracji danych Data Mining w badaniach ekonomicznych SAS Enterprise Miner rok akademicki 2013/2014 Sieci neuronowe Sieci neuronowe W XIX wieku sformułowano teorię opisującą podstawowe
Bardziej szczegółowoSztuczna inteligencja
Sztuczna inteligencja Wykład 7. Architektury sztucznych sieci neuronowych. Metody uczenia sieci. źródła informacji: S. Osowski, Sieci neuronowe w ujęciu algorytmicznym, WNT 1996 Podstawowe architektury
Bardziej szczegółowoInteligentne systemy przeciw atakom sieciowym
Inteligentne systemy przeciw atakom sieciowym wykład Sztuczne sieci neuronowe (SSN) Joanna Kołodziejczyk 2016 Joanna Kołodziejczyk Inteligentne systemy przeciw atakom sieciowym 2016 1 / 36 Biologiczne
Bardziej szczegółowoMETODY INŻYNIERII WIEDZY KNOWLEDGE ENGINEERING AND DATA MINING. EKSPLORACJA DANYCH Ćwiczenia. Adrian Horzyk. Akademia Górniczo-Hutnicza
METODY INŻYNIERII WIEDZY KNOWLEDGE ENGINEERING AND DATA MINING EKSPLORACJA DANYCH Ćwiczenia Adrian Horzyk Akademia Górniczo-Hutnicza Wydział Elektrotechniki, Automatyki, Informatyki i Inżynierii Biomedycznej
Bardziej szczegółowoMETODY INŻYNIERII WIEDZY KNOWLEDGE ENGINEERING AND DATA MINING
METODY INŻYNIERII WIEDZY KNOWLEDGE ENGINEERING AND DATA MINING UCZENIE GŁĘBOKIE I GŁĘBOKIE SIECI NEURONOWE DEEP LEARNING AND DEEP NEURAL NETWORKS Adrian Horzyk Akademia Górniczo-Hutnicza Wydział Elektrotechniki,
Bardziej szczegółowoUniwersytet w Białymstoku Wydział Ekonomiczno-Informatyczny w Wilnie SYLLABUS na rok akademicki 2012/2013 http://www.wilno.uwb.edu.
SYLLABUS na rok akademicki 01/013 Tryb studiów Studia stacjonarne Kierunek studiów Informatyka Poziom studiów Pierwszego stopnia Rok studiów/ semestr /3 Specjalność Bez specjalności Kod katedry/zakładu
Bardziej szczegółowoPodstawy sztucznej inteligencji
wykład 5 Sztuczne sieci neuronowe (SSN) 8 grudnia 2011 Plan wykładu 1 Biologiczne wzorce sztucznej sieci neuronowej 2 3 4 Neuron biologiczny Neuron Jest podstawowym budulcem układu nerwowego. Jest komórką,
Bardziej szczegółowoWidzenie komputerowe
Widzenie komputerowe Uczenie maszynowe na przykładzie sieci neuronowych (3) źródła informacji: S. Osowski, Sieci neuronowe w ujęciu algorytmicznym, WNT 1996 Zdolność uogólniania sieci neuronowej R oznaczenie
Bardziej szczegółowoZagadnienia optymalizacji i aproksymacji. Sieci neuronowe.
Zagadnienia optymalizacji i aproksymacji. Sieci neuronowe. zajecia.jakubw.pl/nai Literatura: S. Osowski, Sieci neuronowe w ujęciu algorytmicznym. WNT, Warszawa 997. PODSTAWOWE ZAGADNIENIA TECHNICZNE AI
Bardziej szczegółowoTechniki szybkiego uczenia się
Akademia Młodego Ekonomisty Techniki szybkiego uczenia się dr Katarzyna Mikołajczyk Szkoła Główna Handlowa w Warszawie 21 listopada 2017 r. AKADEMIA MŁODEGO EKONOMISTY WWW.GIMVERSITY.PL = organ, który
Bardziej szczegółowoSieci M. I. Jordana. Sieci rekurencyjne z parametrycznym biasem. Leszek Rybicki. 30 listopada Leszek Rybicki Sieci M. I.
Sieci M. I. Jordana Sieci rekurencyjne z parametrycznym biasem Leszek Rybicki 30 listopada 2007 Leszek Rybicki Sieci M. I. Jordana 1/21 Plan O czym będzie 1 Wstęp do sieci neuronowych Neurony i perceptrony
Bardziej szczegółowoZACHODNIOPOMORSKI UNIWERSYTET TECHNOLOGICZNY W SZCZECINIE
ZACHODNIOPOMORSKI UNIWERSYTET TECHNOLOGICZNY W SZCZECINIE INSTYTUT TECHNOLOGII MECHANICZNEJ Metody Sztucznej Inteligencji Sztuczne Sieci Neuronowe Wstęp Sieci neuronowe są sztucznymi strukturami, których
Bardziej szczegółowoPRZEWODNIK PO PRZEDMIOCIE
Nazwa przedmiotu: Kierunek: Mechatronika Rodzaj przedmiotu: obowiązkowy Rodzaj zajęć: wykład, laboratorium I KARTA PRZEDMIOTU CEL PRZEDMIOTU PRZEWODNIK PO PRZEDMIOCIE C1. Zapoznanie studentów z inteligentnymi
Bardziej szczegółowoZasady analizy algorytmów
Zasady analizy algorytmów A więc dziś w programie: - Kilka ważnych definicji i opisów formalnych - Złożoność: czasowa i pamięciowa - Kategorie problemów - Jakieś przykłady Problem: Zadanie możliwe do rozwiązania
Bardziej szczegółowoWSTĘP I TAKSONOMIA METODY INŻYNIERII WIEDZY KNOWLEDGE ENGINEERING AND DATA MINING. Adrian Horzyk. Akademia Górniczo-Hutnicza
METODY INŻYNIERII WIEDZY KNOWLEDGE ENGINEERING AND DATA MINING WSTĘP I TAKSONOMIA Adrian Horzyk Akademia Górniczo-Hutnicza Wydział Elektrotechniki, Automatyki, Informatyki i Inżynierii Biomedycznej Katedra
Bardziej szczegółowoSztuczne sieci neuronowe. Krzysztof A. Cyran POLITECHNIKA ŚLĄSKA Instytut Informatyki, p. 311
Sztuczne sieci neuronowe Krzysztof A. Cyran POLITECHNIKA ŚLĄSKA Instytut Informatyki, p. 311 Wykład 7 PLAN: - Repetitio (brevis) -Algorytmy miękkiej selekcji: algorytmy ewolucyjne symulowane wyżarzanie
Bardziej szczegółowo