Wstęp do kognitywistyki. Wykład 3: Logiczny neuron. Rachunek sieci neuronowych

Transkrypt

1 Wstęp do kognitywistyki Wykład 3: Logiczny neuron. Rachunek sieci neuronowych

2 Epistemologia eksperymentalna W. McCulloch: Wszystko, czego dowiadujemy się o organizmach wiedzie nas do wniosku, iż nie są one jedynie analogiczne do maszyn, ale że są one maszynami Eksperymentalna epistemologia: zrozumienie fizjologicznego podłoża wiedzy Jak skończony mózg ludzki jest w stanie rozumieć abstrakcyjne definicje (liczby), radzić sobie z logiką formalną, obliczać? Jak rozpoznajemy przynależność obiektów do tej samej klasy? (wizualnie, drogą symbolicznych obliczeń)

3 Badania, rozwój Badania, rozwój 1940: dowód, że sieci neuronowe są w stanie obliczyć dowolną liczbę (dowód log.) do którego zdolny jest człowiek 1947: neurofizjologiczna teoria wyjaśniająca: możliwość wiedzy o uniwersaliach niezawodne rozpoznawanie wzorców przez mózg 1950: Co oko żaby mówi żabiemu mózgowi? 1964: psychon najprostszy akt psychiczny: o charakterystyce czasowej i z historią wewnętrznie zdolny do wiązania wiedzy i działań aspekt semiotyczny psychon odpowiada sądowi odpowiednik mózgowy impulsy o charakterze wszystko-albonic

4 Sieci neuronowe łańcuchy psychonów to zdania złożone odwzorowywalne na terminy logiczne lata próba wyrażenia sieci neuronowych w notacji podobnej do logiki zdań; problem: sieci kołowe (ze sprzężeniem zwrotnym) W. Pitts: w teorii należy reprezentować opóźnienie [delay] dostarczył niezbędnej wiedzy matematycznej McCulloch, Pitts 1943: A Logical Calculus of the Ideas Immanent in Nervous Activity zintegrowane 3 idee: rachunek zdań, maszyny Turinga, synapsy neuronalne manifest psychologii obliczeniowej oraz AI

5 Rachunek sieci neuronowych sieć jednostek wymodelowanych zgodnie z ówczesną wiedzą ad neuronów neuron MC-P to urządzenie typu w-a-n, odpalające gdy został osiągnięty próg próg definiuje się w kat. liczby impulsów dobiegających z innych neuronów TPE [temporal propositional expressions] zdarzenia w czasie nie tylko notacja, ale również rachunek neuron MC-P to nie matematyczna abstrakcja, ale uproszczona reprezentacja rzeczy realnej

6 (a) precession (identyczność) N 2 (t) N 1 (t 1) (b) dysjunkcja N 3 (t) N 1 (t 1) N 2 (t 1) (c) koniunkcja N 3 (t) N 1 (t 1) N 2 (t 1) (d) binegacja N 3 (t) N 1 (t 1) N 2 (t 1) próg: wejście z dwóch węzłów

7 Rachunek sieci neuronowych pozwolił m.in. dowieść: zachowanie dowolnej nie-cyklicznej sieci można wyrazić w rachunku zdań każda funkc. log. rachunku zdań jest realizowana przez pewną sieć wszystkie sieci są rekursywnie definiowalne przez 4 podstawowe typy (patrz obrazek powyżej) każda sieć oblicza funkcję obliczalną przez pewną maszynę Turinga dowolna uniwersalna MT może obliczyć wszystko, co jest obliczalne przez sieci MC-P

8 Rachunek sieci neuronowych Niedoskonałość rachunku traktowanego jako logika matematyczna znaczenie miała próba wykorzystania logiki do stawiania psychologicznych i neurologicznych pytań Dla każdej klasy funkcji musimy wyliczać, jaka sieć będzie ją będzie mogła ją obliczyć Nie wiadomo jaka sieć generuje zjawisko nie wiemy co to za zjawisko Badania miały objąć całość psychologii, nie tylko poznanie (m.in. uczenie się, zachowanie nakierowane na cel, urojenia i halucynacje) Rachunek neuronowy to nie jedynie gra matematyczna, ale teoria (uproszczonych) ale fizycznych neuronów

9 Logiczny neuron McC-P: resume (1943) Ogólna teoria przetwarzania informacji oparta na sieci binarnych przełączników lub elementów decyzyjnych Nazywane neuronami były znacznie prostsze niż ich biologiczne odpowiedniki McCulloch i Pitts pokazali, iż takie sieci mogą, w zasadzie, przeprowadzić dowolne obliczanie, podobnie jak komputer cyfrowy czy jego matematyczna abstrakcja: maszyna Turinga

10 Abstrakcyjny manifest McC-P [od rachunku do komputera] nie było mowy o modelowaniu komputerowym von Neumann: wykorzystanie elementów Boole'owskich; definicje podstawowych mechanizmów obliczeniowych komputery to systemy ogólnego zastosowania manipulujące symbolami obiecujące podejście w perspektywie wyjaśniania i symulowania myśli von Neumann: EDVAC, Turing ACE

11 ENIAC: Electronic Numerical Integrator And Computer

12 Abstrakcyjny manifest McC-P [funkcja, nie implementacja] materialistyczny w wymowie, ignorował fizyczne szczegóły unikali zobowiązań w odniesieniu do neurobiologicznych kontrowersji (proces inhibicji w mózgu) funkcjonalne efekty obserwowalnego eksperymentalnie uczenia się można reprezentować bez znajomości mechanizmów elektrochemicznych psychony dopuszczały wieloraką realizowalność skupianie się na procesach mentalnych niezależnie od mózgu

13 EDVAC: Electronic Discrete Variable Automatic Computer