NR 259 BIULETYN INSTYTUTU HODOWLI I AKLIMATYZACJI ROŚLIN 2011 MONIKA JANASZEK 1 DARIUSZ R. MAŃKOWSKI 2 JANUSZ KOZDÓJ 3 1 Wydział Iżyierii Produkcji, Szkoła Główa Gospodarstwa Wiejskiego w Warszawie 2 Zakład Nasieictwa i Nasioozawstwa, IHAR PIB Radzików 3 Zakład Biotechologii i Cytogeetyki Rośli, IHAR PIB Radzików Sieci euroowe typu MLP w progozowaiu plou jęczmieia jarego MLP artificial eural etworks i predictig the yield if sprig barley U rośli zbożowych, poszczególe cechy plootwórcze oraz struktura morfologicza kłosa kształtują się w określoych fazach rozwojowych, które zachodzą w zmieych warukach środowiska. Iterakcja geotypu z biotyczymi i abiotyczymi czyikami środowiska w trakcie trwaia okresu wegetacji rośli rówież wpływa a kształtowaie się wielkości plou. W iiejszej pracy dokoao aproksymacji wielkości plou a podstawie cech, charakteryzujących ie tylko okres wegetacji rośli, ale także fazę ich pełej dojrzałości. Do aproksymacji wykorzystao sieć MLP o bardzo prostej topologii, wyikającej zarówo z liczby, jak i struktury dostępych daych. Efekt wytreowaia sieci był pozytywy. Uzyskae wyiki wyraźie wskazują, iż sieć typu MLP może służyć jako arzędzie wspomagające progozowaie plou jęczmieia jarego. Słowa kluczowe: jęczmień jary, MLP, liie DH, progozowaie plou, sztucze sieci euroowe I cereal plats, idividual yieldig characteristics ad the morphological structure of the spike are formed i certai phases of developmet, which occur i varyig evirometal coditios. The iteractio of geotype with the biotic ad abiotic evirometal factors durig the period of vegetatio also affects the formatio of yield. I this paper we approximate the yield o the basis of traits that characterize ot oly the vegetatio period, but also the phase of full maturity. For the approximatio, a MLP etwork with a very simple topology, resultig from both the umber ad structure of available data, was used. The effect of etwork traiig was positive. The results obtaied show clearly that the MLP etwork may be used as a support tool for the predictio of the yield of sprig barley. Key words: artificial eural etworks, DH lies, MLP, sprig barley, yield predictio Praca była prezetowaa w ramach I Warsztatów Biometryczych, które odbyły się w IHAR-PIB w Radzikowie w diach 14-15 wrześia 2010 r. 93
Moika Jaaszek... WSTĘP Modelowaie procesu wzrostu rośli ma wartość zarówo utylitarą, jak i pozawczą. Wzrost rośli jest procesem mierzalym, a zatem dającym się ująć matematyczie. Jest to rówież proces ieliiowy, który kształtuje się pod wpływem wielu czyików. Statystycze modele procesu wzrostu rośli powstają przede wszystkim w celu wspomagaia podejmowaia decyzji w gospodarce rolej, a jedym z celów modelowaia jest oszacowaie produkcji rośliej kilka tygodi, a awet miesięcy przed zbiorem. Precyzyje i szybkie przewidywaie wysokości plou jest iezmierie pomoce w plaowaiu i zarządzaiu produkcją roślią. Aalizy porówawcze rośli, przeprowadzoe w dłuższym, wieloletim okresie badań w warukach polowych, pozwalają a ich oceę pod względem różych cech użytkowych oraz wielkości i jakości plou. Tego typu aalizy są przydate, zwłaszcza w przypadku badań prowadzących do uzyskaia owych odmia o poprawioych cechach użytkowych. Ostateczym kryterium decydującym o przydatości owych liii jest wielkość plou i jego stabilość w latach. Są oe uzależioe od struktury morfologiczej rośliy i jej cech plootwórczych (Kozdój i i., 2010). W przypadku rośli zbożowych, w tym i jęczmieia jarego, poszczególe cechy plootwórcze oraz struktura morfologicza kłosa kształtują się w określoych fazach rozwojowych (Klepper i i., 1998, Góry, 2004), które zachodzą w zmieych warukach środowiska (Łubkowski, 1968, Kozdój, 1992, 1994). Iterakcja geotypu z biotyczymi i abiotyczymi czyikami środowiska w trakcie trwaia okresu wegetacji rośli uprawych rówież decyduje o wielkości plou. Modelowaie plou rośli ie jest zadaiem łatwym, zwłaszcza z puktu widzeia statystyki. Budowa modeli progostyczych jest w tym wypadku często utrudioa ze względu a aturę samych daych, ich ilość, strukturę oraz występowaie iterakcji między zmieymi, które moża wykorzystać do budowy tego typu modeli. Wydaje się więc uzasadioe poszukiwaie iych, bardziej wydajych arzędzi, które sprostałyby zadaiu modelowaia złożoych systemów bez jaso określoych, stałych wzorców zachowań. Praktyka pokazuje, że sieci euroowe z powodzeiem radzą sobie z iformacją zaszumioą i iekompletą, a przy tym posiadają zdolość do uogóliaia zdobytej wiedzy. Z tego względu coraz częściej są oe wykorzystywae rówież w zagadieiach modelowaia plou rośli uprawych (O Neal i i., 2002; Park i i., 2005; Uo i i., 2005; Khazaei i i., 2008). Celem iiejszej pracy był opis sztuczych sieci euroowych jako arzędzia aalizy daych i ich wykorzystaia w zagadieiach związaych z progozowaiem plou rośli zbożowych a podstawie iformacji o podstawowych, fizjologiczych cechach plootwórczych oraz czasie trwaia poszczególych faz rozwojowych rośliy. W pracy przedstawioo opis sztuczych sieci euroowych ich działaia, budowy i wykorzystaia. Przedstawioo rówież przykład możliwości wykorzystaia sieci euroowej typu MLP w progozowaiu wysokości plou jęczmieia jarego. 94
Moika Jaaszek... CZYM SĄ SZTUCZNE SIECI NEURONOWE? Sztucze sieci euroowe aśladują swoją strukturą i działaiem układ eurologiczy człowieka. Powstały oe w efekcie wieloletich badań w dziedziie eurofizjologii, zmierzających do opracowaia matematyczego modelu działaia ludzkiej komórki erwowej. Ludzki system erwowy zbudoway jest z przeszło 25 miliardów wzajemie połączoych komórek erwowych, posiadających zdolość do odbieraia, przekazywaia i reagowaia a impulsy elektrochemicze od blisko dziesięciu tysięcy swoich sąsiadów, a także komórek receptorowych. Uproszczoy schemat budowy komórki erwowej (eurou) przedstawia rysuek 1. ucleus axo termials cell body The Ecyclopedia of Sciece Rys. 1. Schemat budowy ludzkiego eurou Fig. 1. Schematic diagram of the huma euro Ciało pojedyczego eurou (soma) otoczoe jest wypustkami (dedrytami), które wprowadzają do iego impulsy elektrochemicze, pochodzące od iych euroów. Poadto euro posiada dokładie jedą wypustkę wyprowadzającą impulsy (akso), dzięki której może rówolegle komuikować się ze swoimi sąsiadami, jak rówież z otaczającymi go mięśiami. Komuikację między poszczególymi komórkami erwowymi zapewiają złącza erwowe zwae syapsami. W tym obszarze akso komórki erwowej oddzieloy jest od dedrytu lub ciała iego eurou tzw. szczelią syaptyczą. Akso wyposażoy jest w kolebki syaptycze, które zawierają pęcherzyki wypełioe substacją o właściwościach regulujących aktywację iych komórek erwowych (europrzekaźik). Komórka erwowa, za pośredictwem europrzekaźików, odbiera od swoich sąsiadów zarówo sygały aktywujące, jak i wyciszające, które astępie sumuje. Jeżeli wypadkowa wprowadzoych sygałów przekroczy ustaloą wartość, zwaą progiem, wówczas euro jest aktywoway i za pośredictwem aksou przekazuje sygał iym euroom. Aktywowae komórki erwowe komuikują się w te sam sposób z kolejymi euroami. W podoby sposób działa sztucza sieć euroowa, przetwarzając dostarczoe do iej sygały wejściowe przez rzędy elemetów azywae sztuczymi euroami. Neuroy te, 95
96 Moika Jaaszek... podobie jak pojedycze komórki erwowe, odbierają i sumują docierające do ich sygały, przetwarzają je zgodie z zadaą regułą i przekazują swoim sąsiadom. Dziś sztucze sieci euroowe (SSN) postrzegae są jako samodziela dziedzia wiedzy, oferująca arzędzia sterujące i decyzyje, które realizują ie tylko zadaia aproksymacji, klasyfikacji i rozpozawaia wzorców, ale rówież predykcji, sterowaia oraz asocjacji (Osowski, 1996). SSN wykorzystywae są jako zaawasowae arzędzia aalitycze, przydate główie w przypadku, gdy zachodzi koieczość modelowaia zjawisk o silie ieliiowym charakterze, wielowymiarowych zależości fukcyjych, lub gdy rozpatryway problem jest złożoy i zawodzą klasycze metody jego rozwiązaia (Tompos i i., 2007). W przeciwieństwie do metod statystyczych, sieci euroowe ie wymagają zajomości charakteru badaego zjawiska. Ich zaletą jest zdolość do samodzielego odkrywaia zależości między zmieymi czy to przez wielokrote prezetowaie sieci przypadków uczących, czy też a podstawie podobieństwa między przypadkami. Poprawe działaie modelu euroowego ie wymaga wstępych założeń dotyczących związków między zmieymi opisującymi modelowae zjawisko, ai też zajomości rozkładu tych zmieych (Mittal i Zhag, 2000; Seyha i i., 2005). OD PERCEPTRONU DO MLP Pierwszej próby sformalizowaia opisu działaia i roli ludzkiego eurou w procesie rówoległego i rozproszoego przetwarzaia iformacji, dokoali w 1943 roku Warre McCulloch i Walter Pitts (Osowski, 2006). Działaie eurou opisali oi prostą zależością: y = f (s), (1) gdzie: s = w0 + x i w i, (2) w której liczba sygałów wejściowych docierających do eurou, x i i-ty sygał wejściowy, w i waga syaptycza i-tego sygału wejściowego, w 0 wartość progowa (waga, odpowiadająca progowi aktywacji x 0 =1), f fukcja aktywacji, s efekt działaia sumatora, odpowiadający poziomowi pobudzeia eurou (liiowa fukcja wartości wejściowych). Zgodie z powyższym zapisem sztuczy euro odbiera dostarczoe do iego sygały i oblicza ich sumę ważoą. Efektem działaia sumatora jest sygał s, odzwierciedlający działaie liiowej części sztuczego eurou. Sygał te jest przekształcay w wyjściowy sygał y za pomocą fukcji aktywacji, która z reguły jest ciągłą fukcją ieliiową. Możeie sygałów wejściowych przez wagi syaptycze jest odpowiedikiem aturalego procesu wzmaciaia lub osłabiaia impulsów przez syapsy. Modyfikacja wartości wag syaptyczych za pomocą odpowiediego algorytmu umożliwia uczeie sztuczego eurou. Fukcja aktywacji decyduje atomiast o możliwościach uczeia się eurou lub rozpozawaia przez iego wzorców. W zależości od celu postawioego przed euroem może oa przybrać róże postacie. W pierwszych euroach stosowao fukcje skokowe: uipolarą (progową), przyjmującą wartości i= 0
Moika Jaaszek... 0 lub 1 oraz fukcję bipolarą (sigum), przyjmującą wartości -1 lub 1. Obecie ajczęściej wykorzystywae są fukcje: liiowa: f ( s) = ks k 0, (3) idetyczościowa: f ( s) = s, (4) tages hiperboliczy: 1 exp( βs) f ( s) = β (0, ) 1+ exp( βs) (5) sigmoidala: 1 f ( s) = (0, ) 1+ exp( βs) (6) Fukcja aktywacji w modelu McCullocha i Pittsa była fukcją skokową Heaviside'a (uipolarą) w postaci: 0 dla s < 0 H ( s) = 1dla s 0 (7) co ozaczało, że euro był aktywoway tylko wtedy, kiedy sygał s przyjmował wartość większą od zera. Mógł o zatem tylko rozpozać i klasyfikować sygały wejściowe do jedej z dwóch klas. W ogólym przypadku, jeśli euro posiada wejść, wówczas przestrzeń decyzyja jest rozdzielaa za pomocą hiperpłaszczyzy o 1 wymiarach a dwie podprzestrzeie, a owa hiperpłaszczyza azywaa jest graicą decyzyją i opisuje ją wzór: i= 1 wi xi + w0 = 0. (8) Sieć euroową o ajprostszej budowie azywamy perceptroem (Roseblatt, 1958). Składa się oa z rówolegle pracujących sztuczych euroów, między którymi ie ma żadych połączeń. Taka struktura bywa azywaa iekiedy perceptroem dwuwarstwowym, poieważ dla większej przejrzystości wyodrębia się w im warstwę wejściową. W rzeczywistości jest to struktura jedowarstwowa, poieważ właściwą warstwą dokoującą sumowaia i obliczaia wyjścia według wartości fukcji aktywacji jest tylko warstwa druga. Sygał w tej sieci przekazyway jest tylko w jedym kieruku. Fukcja aktywacji jest taka sama dla wszystkich euroów w warstwie, przy czym dla warstwy wejściowej jest fukcją idetyczościową, a dla wyjściowej zwykle uipolarą lub bipolarą (Gatar, 2009). Perceptro Roseblatta może realizować zadaie klasyfikacji obiektów przez wyzaczeie liiowej fukcji dyskrymiacyjej pod warukiem, że klasy są liiowo separowale. O ile do klasyfikacji sygałów (wzorców) do dwóch zbiorów wystarczy jede euro w warstwie wyjściowej, to klasyfikacja do k klas wymaga obecości w tej warstwie dokładie k euroów wyjściowych, przy czym każdy euro reprezetuje jedą klasę (rys. 2). 97
Moika Jaaszek... wyjście; output Rys. 2. Perceptro, klasyfikujący obiekty charakteryzowae sygałami x 1, x 2, x 3 do jedej z trzech klas Fig. 2. Perceptro, classifyig objects characterized by sigals x 1, x 2, x 3 to oe of three classes 98 Rys. 3. Perceptro wielowarstwowy Fig. 3. Multilayer perceptro Wzorzec jest przypisay do tej klasy, dla której euro wyjściowy wygeeruje ajsiliejszy sygał. Siła sygału wyjściowego zależy atomiast od zestawu wag, jaki posiada każdy euro wyjściowy. Ograiczeia perceptrou Roseblatta sprawiają, że do rozwiązaia złożoych zadań iezbędy jest zestaw perceptroów, zorgaizowaych w warstwy o różych fukcjach aktywacji. Taką strukturę azywamy perceptroem
Moika Jaaszek... wielowarstwowym (ag. multilayer perceptro) lub siecią MLP. W strukturze sieci MLP, wyraźie wyróżia się warstwę wejściową i wyjściową, a oprócz ich euroy ukryte, które umożliwiają modelowaie praktyczie dowolego problemu, rówież ieliiowego (rys. 3). Liczba warstw ukrytych w sieci MLP może być w zasadzie dowola, ale ie ozacza to, że sieć z większą liczbą warstw ukrytych potrafi klasyfikować lub aproksymować w sposób bardziej dogody lub prostszy. Udowodioo, że każda ograiczoa fukcja ciągła może być aproksymowaa z dowolie małym błędem przez sieć MLP z jedą warstwą ukrytą oraz, że dowola fukcja może być aproksymowaa z dowolą dokładością przez sieć MLP z dwoma warstwami ukrytymi (Cybeko, 1988 i 1989). TOPOLOGIA I UCZENIE SIECI MLP Zbudowaie i wytreowaie sieci euroowej ie jest zadaiem łatwym i wymaga doświadczeia. Przede wszystkim ależy wybrać typ sieci euroowej, biorąc pod uwagę charakter modelowaego zjawiska. Struktura sieci, sposób przepływu iformacji między poszczególymi jej warstwami oraz budowa i połączeie pojedyczych euroów, a także kokrete przezaczeie pozwalają a ogóle wyróżieie kilku typów sieci euroowych: jedokierukowe (perceptroy jedo- i wielowarstwowe), rekurecyje (sieć Hopfielda, sieć Hammiga, RTRN ag. Real Time Recurret Network, BAM ag. Bidirectioal Associative Memory), sieci samoorgaizujące się (SOM ag. Self Orgaizig Maps, sieć Heraulta-Juttea), sieci o radialych fukcjach bazowych, sieci ART oraz sieci probabilistycze i hybrydowe. Z uwagi a charakter poruszoego problemu w dalszej części pracy skupimy się a jedokierukowych sieciach wielowarstwowych, czyli sieciach MLP. Uczeie się sieci euroowej jest zdolością adaptacji wag zgodie z wymagaiami, stawiaymi odwzorowaiu daych wejściowych w dae wyjściowe. Proces te zwykle przebiega cykliczie aż do mometu osiągięcia miimum fukcji celu. Sieci MLP są uczoe w trybie adzorowaym (z auczycielem), co ozacza, że zae są żądae wartości wzorców, a dobór wag powiie zapewić możliwie ajlepsze dopasowaie wyjść sieci do tych wzorców. Algorytmy uczeia sieci MLP ależą do grupy metod gradietowych, których stosowaie jest możliwe i efektywe jedyie w przypadku gdy fukcja aktywacji jest fukcją ciągłą. Gradietowe metody uczeia sieci euroowych, szeroko opisae w literaturze (Tadeusiewicz, 1993; Osowski, 1996), polegają a cykliczej aktualizacji wag sieci a podstawie iformacji o gradiecie fukcji celu i wyzaczaym w każdym kroku kieruku miimalizacji. Istieje wiele algorytmów uczeia sieci MLP, ależą do ich m.i.: algorytm wsteczej propagacji błędów, algorytm ajwiększego spadku, algorytm zmieej metryki, algorytm Leveberga-Marquardta, algorytm Gaussa-Newtoa (ieliiowa metoda ajmiejszych kwadratów), algorytm gradietów sprzężoych. Za ajbardziej efektywe uzaje się metody oparte a algorytmie Newtoa, zae pod azwą metod zmieej metryki lub metod quasi-newtoowskich. Do metod tych ależą: metoda BFGS (Broyde-Fletcher-Goldfarb-Shao) oraz metoda DFP (Davido-Fletcher-Powell). Algorytmy quasi-newtoa poszukują puktów stacjoarych 99
Moika Jaaszek... fukcji celu, przy założeiu że może być oa aproksymowaa fukcją kwadratową w otoczeiu optimum i wykorzystują pierwsze pochode (gradiet) fukcji celu do iteracyjego przybliżaia jej Hessiau (BFGS) lub jego odwrotości (DFG). Celem uczeia sieci euroowej jest taki dobór jej topologii i parametrów, który zapewi miimalizację błędu w wyzaczaiu wartości wyjściowej. Zbiór daych, opisujących modelowae zjawisko, powiie zostać podzieloy a zbiór uczący, walidacyjy i testowy. Dobór wag odbywa się w zbiorze uczącym, ale ostateczym celem jest miimalizacja błędu dla zbioru testowego, czyli tzw. błędu geeralizacji. Na etapie uczeia sieci (w fazie przyswajaia ) wykorzystyway jest zbiór uczący oraz będący jego częścią zbiór walidacyjy, dzięki któremu możemy kotrolować przebieg uczeia przez sprawdzaie stopia wytreowaia euroów. W rzeczywistości uczeie obejmuje dwie fazy: dobór wag dla zbioru uczącego i testowaie wag a próbkach ze zbioru walidacyjego. Modyfikacja wartości wag trwa tak długo aż w zbiorze uczącym ie zostaie osiągięte kryterium aproksymacji (miimalizacja błędu aproksymacji) lub gdy błąd w zbiorze walidacyjym ie zaczie rosąć. W przypadku obu tych zbiorów fukcją błędu jest zazwyczaj suma kwadratów odchyleń (ozaczaa jako SS lub SOS) między wartością zadaą a wyjściem sieci. Jeżeli dobór wag zostaie zakończoy, sieć przechodzi w tryb odtwarzaia, w którym wykorzystyway jest zbiór testowy. Zawiera o wartości, które wcześiej ie brały udziału w uczeiu sieci. Jeżeli struktura sieci oraz wagi zostały dobrae prawidłowo, to model powiie geerować możliwie ajmiejszy błąd, czyli powio zostać osiągięte miimum globale fukcji celu. Walidację modelu, czyli jego oceę pod względem zdolości odwzorowaia modelowaego zjawiska, przeprowadza się a podstawie wartości globalego błędu modelu (GE), obliczaego dla zbioru testowego: GE i i = 1 = ( z y ) z i = 1 (9) gdzie liczba przypadków, z wartość zadaa (wzorzec), y odpowiedź sieci. Poadto, zarówo a etapie uczeia, jak i testowaia moża, aalizować wartości błędów, które staowią kryterium jakości modelu. Do ajczęściej wykorzystywaych kryteriów ależą: błąd średi błąd średi bezwzględy odchyleie stadardowe 2 i i 2 1 ME = 1 MAE =, ( z i y i ) i= 1 ( z i y i ) i = 1 (10) (11) 100
Moika Jaaszek... ( z y ) i= 1 RMS = (12) 1 zormalizowae odchyleie stadardowe RMS RMS = (13) y max y mi wariacja błędu 1 2 MSE = ( z i y i ) (14) 1 i = 1 Dodatkowymi mierikami jakości modelu, stosowaymi w problemach regresyjych mogą być: iloraz odchyleń stadardowych (SDR), obliczay jako iloraz odchyleia stadardowego błędów predykcji i odchyleia stadardowego zmieej wyjściowej oraz współczyik liiowej korelacji Pearsoa (R), obliczay ogółem lub w poszczególych typach zbiorów, dla odpowiedzi sieci i wartości zadaych. Zdolość geeralizacji, czyli umiejętość uogóliaia wiedzy w zakresie modelowaego systemu (Trajer, 2001), jest fukcją złożoości sieci. Aby sieć uzyskała dobrą geeralizację, proces uczeia powiie spełiać kilka waruków (Nghia, 2000): zbiór uczący powiie być reprezetatywy dla modelowaego zjawiska (procesu) i zawierać cechy, które istotie je opisują, liczba przypadków uczących powia zaczie (przyajmiej dziesięciokrotie) przewyższać liczbę połączeń w sieci (liczbę wag sieci), struktura sieci powia być możliwie ajprostsza, proces uczeia powiie zostać zakończoy w chwili osiągięcia miimum błędu a zbiorze sprawdzającym (iym iż uczący). Istotą rolę w zapewiaiu dobrych zdolości uogóliających sieci odgrywa wymiar Vapika-Chervoekisa (VCdim), odzwierciedlający stopień złożoości sieci. Góry i doly zakres tej miary moża oszacować a podstawie zależości (Hush i Hore, 1993): K 2 N VC dim 2N w (1 + log N ), 2 (15) w której [ ] część całkowita liczby, N liczba wejść sieci (wymiar wektora wejściowego), K liczba euroów w warstwie ukrytej, N w całkowita liczba połączeń w sieci (odpowiada liczbie wag), N całkowita liczba euroów w sieci. Dola graica tej miary jest w przybliżeiu rówa liczbie połączeń między warstwą wejściową a warstwą ukrytą, a graica góra przekracza dwukrotość wszystkich połączeń sieci. W praktyce za miarę VCdim przyjmuje się liczbę wszystkich wag sieci. Im większa jest liczba połączeń w sieci, tym większa jest jej złożoość i wartość miary VCdim. Własości uogóliające sieci MLP są zależe od stosuku liczby przypadków uczących do wartości VCdim. Jeśli dyspoujemy małą liczbą próbek to przy ustaloej wartości wymiaru VCdim sieć dobrze dopasuje się do daych w zbiorze uczącym, ale ie i i 2 101
102 Moika Jaaszek... zapewi to dobrej geeralizacji. Liczba dobieraych parametrów zaczie przewyższy liczbę dopasowywaych sygałów wyjściowych (Osowski, 1996). Nadmiarowość parametrów sieci zapewi iemal ideale odwzorowaie daych, ie umożliwi jedak rozwiązaia zadaia, które te dae reprezetują, gdyż sieć ie będzie posiadać zdolości uogóliaia. Oszacowaie wartości wymiaru VCdim umożliwia określeie rozmiarów zbioru uczącego, który zapewi dobre zdolości uogóliające sieci. Zgodie z wcześiejszymi wskazówkami liczba próbek w zbiorze uczącym powia przyajmiej dziesięciokrotie przewyższać wartość miary VCdim. Zapewieie dobrych własości uogóliających przy rozwiązywaiu złożoych problemów wymaga ie tylko igerecji w zbiór uczący, ale rówież w strukturę sieci. Praktyka pokazuje, że w większości przypadków dobre rezultaty moża osiągąć stosując ajprostsze struktury sieci MLP. Zgodie z twierdzeiem Hecht-Nielsea sieć euroowa, posiadająca N euroów a wejściu, (2N+1) euroów ukrytych i jede euro wyjściowy, może z dowolą dokładością aproksymować każdą fukcję ciągłą (Trajer, 2001). Określeie struktury sieci MLP często sprawia trudości, zwłaszcza w zakresie doboru liczby euroów w warstwie ukrytej. Zwiększeie liczby euroów ukrytych, umożliwia modelowaie bardziej złożoych zjawisk, ale powoduje rozrastaie się sieci, co skutkuje spowolieiem jej działaia i trudościami w uczeiu, zwłaszcza skłoością do zbytiego dopasowywaia się do daych uczących (modelowaie szumu). Ograiczeie stopia złożoości sieci realizuje się zwykle w dwojaki sposób: przez budowę kilku modeli o różych strukturach i wybór tego, który geeruje ajmiejszy błąd dla zbioru testowego lub przez redukcję wag, których wartość bezwzględa ie wpływa istotie a fukcję błędu. W tym procesie skupiamy się a elimiowaiu zbędych połączeń między euroami warstwy wejściowej i ukrytej, ie uwzględiając możliwości ograiczeia liczby wejść sieci. Wymiar wektora wejść ustala liczba zmieych, opisujących modelowae zjawisko, a każda z tych zmieych wosi do modelu róże dawki istotych iformacji. Doświadczoy badacz potrafi wyelimiować iepotrzebe (miej istote) iformacje, ale przy modelowaiu skomplikowaych zjawisk taka selekcja ie zawsze jest możliwa. W takich wypadkach moża wykoać aalizę wrażliwości sieci względem daych uczących. Aalizę tę przeprowadza się po wstępym auczeiu sieci, a polega oa a wyzaczeiu sumy kwadratów odchyleń (regresja) lub liczby błędych klasyfikacji (klasyfikacja) po usuięciu jedej ze zmieych. Miarą wrażliwości sieci jest iloraz błędu uzyskaego przy uruchomieiu sieci dla zbioru daych bez jedej zmieej i błędu uzyskaego z kompletem zmieych. Im większy błąd po odrzuceiu zmieej, w stosuku do pierwotego błędu, tym bardziej wrażliwa jest sieć a brak tej zmieej. Należy jedak pamiętać, że wyik aalizy wrażliwości może zostać zafałszoway jeżeli zmiee wejściowe są silie zależe, poieważ iloraz błędu obliczay iezależie, dla każdej zmieej może ie odzwierciedlać rzeczywistej sytuacji. Główym celem iiejszej pracy było sprawdzeie możliwości wykorzystaia jedokierukowych sieci wielowarstwowych MLP jako arzędzia wspomagającego progozowaie plou jęczmieia jarego. Realizacja celu pracy wymagała rówież wyboru optymalej struktury (topologii) sieci euroowej, wskazaia wektora zmie-
Moika Jaaszek... ych, istotie determiujących plo jęczmieia jarego oraz ocey wpływu redukcji tego wektora a zdolości predykcyje sieci. MATERIAŁ I METODY Przedmiotem badań były rośliy liii podwojoych haploidów (DH) jęczmieia jarego (Hordeum vulgare L.) oraz rośliy odmiay Scarlett. Badae liie DH uzyskao a drodze adrogeezy w kulturze i vitro z izolowaych mikrospor jęczmieia jarego odmiay Scarlett. Doświadczeie założoo a glebie zbielicowaej, czarej ziemi, klasy boitacyjej IIIb/IVa, kompleksu glebowego żytiego bardzo dobrego. Siewu ziariaków liii DH kolejej geeracji i odmiay Scarlett wykoao: 14-04-2004 (10 liii DH), 29-03-2007 (4 liie DH), oraz 2-04-2008 (3 liie DH). Przedsiewie wykoao awożeie mierale wieloskładikowym awozem mieralym Polifoska 6 w ilości 300 kg/ha, pogłówie awożeie azotowe w postaci saletry amoowej (34% N) w ilości 100 kg/ha. Zastosowao chemicze odchwaszczaie preparatem Mustag w fazie krzewieia. W okresie wegetacji rośli wykoao opisy stadiów rozwojowych rośli wg dziesiętej skali Zadoksa (Zadoks i i., 1974). Fazy rozwojowe rośliy wyodrębioo a podstawie kryteriów, którymi była struktura morfologicza rośliy wyrażoa jej pokrojem, czyli liczbą liści w siewce, liczbą pędów w rośliie, liczbą węzłów a pędzie główym, pojawieiem się kłosa poad liściem flagowym, pyleiem. Fazy dojrzewaia ziariaków wyodrębioo a podstawie jego kosystecji, barwy i stopia twardości. W fazie dojrzałości pełej, z każdego poletka pobierao losowo po 15 rośli. Tak więc dla każdej badaej liii DH i dla odmiay Scarlett, w każdym roku badań uzyskao po 15 obserwacji aalizowaych cech, traktowaych dalej jako powtórzeia. Łączie przeaalizowao 315 rośli, w tym 165 (2004 r.), 60 (2007 r.) i 90 rośli (2008 r.). Dokoao pomiaru długości ajdłuższego pędu w rośliie, określao całkowitą liczbę pędów w rośliie z uwzględieiem pędów produktywych (i. kłosoośych), iedogoów (iedojrzałe), w tym suchych (otogeetyczie ajmłodsze pędy w rośliie, iedorozwiięte i silie zaschięte podczas zbioru rośli). Przeprowadzoo pomiary długości kłosów, policzoo ogólą liczbę kłosków w kłosie z uwzględieiem liczby kłosków sterylych i płodych, liczbę ziariaków w kłosie, zważoo ziariaki ze wszystkich kłosów z jedej rośliy. Średią masę ziariaków z kłosa staowił iloraz masy ziariaków z rośliy i liczby kłosów z rośliy. Jedostkową masę ziariaka staowił iloraz masy ziariaków z rośliy i liczby ziariaków z rośliy. Średią masę ziariaków z kłosa i jedostkową masę ziariaka wyliczoo a podstawie daych uzyskaych z 15 rośli z trzech powtórzeń zarówo dla liii DH jak i odmiay wzorcowej. Do budowy modelu progostyczego posłużył zbiór daych, który zawierał 315 przypadków (traktowaych a rówi obserwacji dla liii DH i odmiay Scarlett) oraz 11 zmieych, określających: długość trwaia faz: krzewieia, strzelaia w źdźbło, kłoszeia i pyleia oraz łączy czas trwaia faz dojrzałości mleczej, woskowej i pełej, a także długość pędu, długość kłosa, liczbę kłosów z rośliy, liczbę kłosków sterylych, liczbę kłosków płodych, masę ziara z kłosa oraz plo ziara z rośliy. Zbiór daych podzie- 103
Moika Jaaszek... loo a zbiór testowy, zawierający 78 (25% daych) losowo wybraych próbek oraz a zbiór uczący, który zawierał 237 (75% daych) pozostałych próbek, z czego 24 (10% daych) z ich weszło do zbioru walidacyjego. W celu sprawdzeia, czy do progozowaia wartości plou jęczmieia jarego, a podstawie aalizowaych daych, wystarczy zastosowaie statystyczych modeli liiowych, przeprowadzoo aalizę regresji wielokrotej plou ziara z rośliy względem pozostałych aalizowaych cech plootwórczych. Aalizę regresji wielokrotej wraz z badaiem uzyskaego modelu przeprowadzoo w Systemie SAS w wersji 9.2 (SAS Istitute Ic., 2009). Neuroowy model progostyczy w postaci sieci MLP zaimplemetowao w programie Statistica 9.0. Biorąc pod uwagę liczbę próbek uczących oraz liczbę wejść sieci ustaloo, że powia oa mieć strukturę 10:2:1 (10 wejść, 2 euroy w jedej warstwie ukrytej, 1 wyjście) aby posiadać zdolość uogóliaia (rys. 4). Rys. 4. Struktura sieci MLP, wykorzystaej do progozowaia plou Fig. 4. The structure of the MLP etwork used for field predictio Wartość miary VCdim dla tego modelu wyosiła 23, a więc liczba próbek uczących (237) przekraczała dziesięciokrotie liczbę połączeń sieci. Wyjście sieci staowiła zmiea, określająca plo ziara z rośliy, a wejścia wprowadzao pozostałych 10 zmieych. Sieć uczoo przez 200 epok (cykli) z wykorzystaiem algorytmu quasi- Newtoowskiego BFGS. Wagi w pierwszym cyklu uczeia zaiicjalizowao w sposób losowy i w trakcie uczeia ie stosowao ich redukcji. Ocey stopia dopasowaia modelu do rozpatrywaego problemu, dokoao główie a podstawie wartości błędu globalego, współczyika korelacji liiowej Pearsoa oraz ilorazu odchyleń stadardowych. Wpływ redukcji wektora zmieych wejściowych a zdolości predykcyje sieci zbadao a podstawie wyików, uzyskaych w aalizie wrażliwości modelu. Na jej podstawie wybrao rówież optymalą strukturę sieci MLP. 104
Moika Jaaszek... OMÓWIENIE WYNIKÓW W celu sprawdzeia, czy do progozowaia plou ziara z rośliy jęczmieia jarego wystarczy prosty model liiowy, przeprowadzoo aalizę fukcji regresji wielokrotej dla plou ziara z rośliy względem pozostałych aalizowaych cech plootwórczych. Do wyboru fialego modelu regresji wielokrotej, zawierającego wyłączie cechy plootwórcze powiązae w sposób statystyczie istoty z ploem ziara z rośliy, wykorzystao dwukierukową metodę krokową doboru zmieych do modelu (ag. stepwise selectio). Fialy model zawierał 5 zmieych przyczyowych (tab. 1). Współczyik determiacji dla tego modelu wyosił =0,9837, a współczyik determiacji poprawioy względem stopi swobody wyosił =0,9835. Źródło; Source Model; Model Reszty; Residual Razem; Total Parametr; Parameter Stopie swobody; Degrees of freedom Stała; Itercept Czas trwaia fazy kłoszeia i pyleia; Duratio of ear emergece ad athesis stages Liczba kłosów z rośliy; Spikes o. per plat Długość kłosa Legth of spike Masa ziariaków z kłosa Grai mass per spike Czas trwaia fazy dojrzewaia; Duratio of maturatio phases ** Istote przy α = 0,01 ** Sigificat at α = 0.01 Model regresji wielokrotej Multiple regressio model Aaliza wariacji dla modelu regresji wielokrotej; Aalysis of variace for multiple regressio model Suma kwadratów; Sum of squares Średi kwadrat; Mea square Statystyka F; F statistic 5 7855,676 1571,1352 3738,73** 309 129,852 0,4202 314 7985,528 Oszacowaie parametrów modelu regresji wielokrotej; Parameter estimatio for multiple regressio model Oszacowaie; Błąd stadardowy; estimatio Stadard error Statystyka t t statistic 46,4619 7,4879 6,20** 1,4728 0,2247 6,56** 1,1661 0,0151 77,27** 0,1410 0,0539 2,62** 7,4685 0,2490 30,00** 1,1845 0,1645 7,20** Tabela 1 Mogłoby się więc wydawać, że do progozowaia wartości plou jęczmieia jarego, w tym przypadku wystarczyłby prosty, statystyczy model regresji wielokrotej. Nie wolo jedak zapomiać, że zastosowaie modelu liiowego obłożoe jest ścisłymi założeiami co do zmieych i cech samego modelu. Pierwszy waruek mówi o tym, że zmiea zależa, tu: plo ziara z rośliy, musi mieć rozkład ormaly. Poieważ plo jest rodzajem średiej (łączy zbiór podzieloy przez jedostkę pomiarową), to zgodie 105
Moika Jaaszek... z twierdzeiem Lideberga-Lévy ego, zwaym Cetralym Twierdzeiem Graiczym (Wójcik i Laudański, 1989), ma o z założeia rozkład ormaly. Te waruek jest więc spełioy. Drugie, fudametale założeie modelu liiowego regresji wielokrotej dotyczy reszt (ag. residuals), czyli różic pomiędzy wartościami uzyskaymi z modelu regresyjego, a rzeczywistymi wartościami zmieej zależej. Założeie to mówi, że reszty muszą być losowe oraz ich rozkład musi być rozkładem ormalym (Rawligs i i., 2001). W rozpatrywaym modelu reszty zdecydowaie ie miały charakteru losowego (rys. 5), gdyż ie tworzyły losowej chmury puktów a wykresie ich rozrzutu. Dodatkowo aaliza zgodości rozkładu reszt z rozkładem ormalym z zastosowaiem czterech różych testów statystyczych wykazała, że rozkład reszt ie jest awet zbliżoy do rozkładu ormalego (statystyka Shapiro-Wilka = 0,9636**, statystyka Kołmogorova-Smirova = 0,0800**; statystyka Cramera-vo Milesa = 0,6096**; statystyka Adersoa-Darliga = 3,2611**). Rys. 5. Wykres rozrzutu reszt względem wartości przewidywaych Fig. 5. Residuals vs. predicted scatterplot 106
Moika Jaaszek... Kryterium Criterio Miary dopasowaia modelu Measures of fit of the model Aproksymacja (zbiór uczący) Approximatio (traiig set) Walidacja (zbiór testowy) Validatio (test set) SS 0,120855 1,413112 MAE 0,001446 0,014710 MSE 0,000512 0,018352 RMS 0,065094 0,13547 R 0,999990 0,999606 SDR 0,004395 0,028444 GE 0,012771 Tabela 2 Niespełieie założeń liiowego modelu regresji wielokrotej co do rozkładu reszt pozwoliło a wyciągięcie wiosku, że model liiowy, a w szczególości model regresji wielokrotej, ie jest właściwym modelem do progozowaia wielkości plou jęczmieia jarego. Do tego celu ależałoby wykorzystać modele ieliiowe. Mogą to być modele statystycze (wielocechowe modele ieliiowe uważa się za skomplikowae i stwarzające problemy w iterpretacji) oraz modele matematycze. Do tej drugiej grupy zaliczyć moża sztucze sieci euroowe. Model euroowy o strukturze 10:2:1 osiągął kryterium aproksymacji w 179 cyklu, co ozacza, że adaptacja wag przez algorytm uczący została dokoaa 179 razy (jest to algorytm szybko zbieży, stąd tak krótki czas uczeia). Jakość dopasowaia modelu prezetuje tabela 2. Współczyiki korelacji liiowej Pearsoa zarówo dla zbioru uczącego, jak i testowego były wysokie, co ozacza, że odpowiedź modelu jest moco zbliżoa do wartości zadaych, a sieć potrafi prawidłowo odwzorować zależości charakterystycze dla modelowaego zjawiska. Przykładowe odwzorowaia plou w fukcji dwóch zmieych wejściowych prezetuje rysuek 6. Ostateczej ocey jakości dopasowaia modelu dokoao a podstawie wartości błędu globalego, który wskazuje, że propoowaa sieć popełia przy progozowaiu plou błąd rzędu 0,013, a więc odwzorowaie jest dość dokłade. Łatwo zauważyć, że wartości błędów geerowaych dla zbioru testowego są ieco wyższe iż w zbiorze uczącym. Jest to pośredi efekt prawidłowego doboru topologii sieci, zapewiającej zdolości uogóliające modelu, przy określoej a wstępie liczbie wejść. Sieć przewiduje wartości wyjściowe z większym błędem, ale mimo wszystko jest to błąd dopuszczaly. W celu ograiczeia liczby zmieych wejściowych, co jest rówozacze z uproszczeiem struktury sieci, przeprowadzoo aalizę wrażliwości sieci. Jej wyiki wyraźie wskazały cztery zmiee, które w porówaiu do pozostałych zmieych wejściowych ie wosiły do modelu a tyle istotych iformacji, żeby ie moża było z ich zrezygować (tab. 3). Wartości ilorazów błędów uzyskaych przy uruchomieiu sieci dla zbioru daych bez tych zmieych i błędu uzyskaego z kompletem zmieych były zbliżoe do jedości, co ozacza, że usuięcie którejkolwiek z ich praktyczie ie ma wpływu a jakość modelu. 107
Moika Jaaszek... a 108 b Rys. 6. Przykładowe odwzorowaia zmieej zależej przez sieć MLP Fig. 6. The examples of mappig of the depedet variable by the MLP etwork
Moika Jaaszek... Zmiee; Variables Czas trwaia fazy krzewieia; Duratio of tillerig stage Czas trwaia fazy strzelaia w źdźbło; Duratio of shootig phase Czas trwaia fazy kłoszeia i pyleia; Duratio of ear emergece ad athesis stages Czas trwaia fazy dojrzewaia; Duratio of maturatio phases Długość pędu; Legth of stem Liczba kłosów z rośliy; Spikes o. per plat Długość kłosa; Legth of spike Liczba kłosków sterylych; Sterile spikelet o. Liczba kłosków płodych; Fertile spikelet o. Masa ziariaków z kłosa; Grai weight per spike Aaliza wrażliwości Sesitivity aalysis Sieć MLP 10:2:1; Network MLP 10:2:1 7,01 26,64 97,47 19,61 1,13 193,56 1,04 1,13 1,10 54,70 Tabela 3 Sieć Network Kryterium Criterio Miary dopasowaia modeli z ograiczoą liczbą zmieych Fit measures of models with a limited umber of variables MLP 6:2:1 MLP 6:3:1 Tabela 4 aproksymacja (zbiór uczący) walidacja (zbiór testowy) aproksymacja (zbiór uczący) walidacja (zbiór testowy) approximatio (traiig set) validatio (test set) approximatio (traiig set) validatio (test set) SS 0,122071 1,435406 0,143788 1,449856 MAE 0,000152 0,016502 0,001276 0,014389 MSE 0,000517 0,018642 0,000609 0,018829 RMS 0,022743 0,136534 0,024683 0,137220 R 0,999990 0,999647 0,999988 0,999641 SDR 0,004514 0,026843 0,004893 0,027028 GE 0,013928 0,013998 A zatem z modelu bazowego usuięto zmiee: liczba kłosków sterylych, długość pędu, liczba kłosków płodych, długość kłosa. Ograiczeie liczby wejść sieci dało podstawy do poowego rozpatrzeia jej struktury. Przy sześciu zmieych wejściowych i jedej zmieej wyjściowej ależało rozpatrzeć modele MLP o strukturach 6:2:1 (VCdim = 14) oraz 6:3:1 (VCdim = 21). Obie struktury spełiały waruek, dotyczący miimalej liczby przypadków uczących, a zatem uczoo i testowao oba modele w celu ustaleia, który z ich uzyska lepsze parametry jakościowe. Wartości błędów globalych 109
110 Moika Jaaszek... oraz pozostałych kryteriów ocey obu sieci były zbliżoe (tab. 4), zatem jako optymalą wybrao sieć o ajprostszej strukturze, czyli 6:2:1. Różica w dokładości odwzorowaia wartości zmieej zależej między modelem z ograiczoą liczbą zmieych a modelem bazowym wyosiła zaledwie 0,001, a zatem uproszczeie struktury modelu ie miało wpływu a jego jakość. PODSUMOWANIE I DYSKUSJA Metody statystycze wykorzystywae w badaiach roliczych opierają się ajczęściej a modelach liiowych. Wielocechowe modele ieliiowe są stosowae rzadziej, prawdopodobie ze względu a utarte twierdzeie, że są trude w zastosowaiu i iterpretacji wyików. Jak wspomiao we wstępie, sieci euroowe typu MLP z łatwością radzą sobie z modelowaiem zjawisk i procesów przyrodiczych, rówież o charakterze ieliiowym, przez co mogą staowić alteratywę dla modeli statystyczych. W iiejszej pracy dokoao aproksymacji wielkości plou a podstawie cech, charakteryzujących ie tylko okres wegetacji rośli, ale także fazę ich pełej dojrzałości. Do aproksymacji wykorzystao sieć MLP o bardzo prostej topologii, wyikającej zarówo z liczby, jak i struktury dostępych daych. Efekt wytreowaia sieci był pozytywy, a propooway model podawał progozowaą wielkość plou z błędem rzędu 0,014 dla daych testowych. Uzyskae wyiki wyraźie wskazują, iż sieć typu MLP może służyć jako arzędzie wspomagające progozowaie plou jęczmieia jarego. Należy jedak pamiętać, iż trafość progoz wykoywaych z pomocą tego arzędzia jest ściśle uzależioa od charakteru daych, a podstawie których zostało oo wytreowae. Przyszła eksploatacja takiego modelu polega a wprowadzaiu do iego zestawu iformacji i odczytywaiu progozowaej wartości plou. Do zbioru iformacji wejściowych dla propoowaego modelu ależały m.i. liczba kłosów z rośliy oraz masa ziare z kłosa, a więc iformacje, które moża zdobyć dopiero po wejściu rośli w fazę dojrzałości pełej. Zatem progoza wykoywaa przez te model ie jest czasowo zbyt odległa od mometu zbioru. W celu wykoywaia progoz długotermiowych ależałoby się zastaowić ad zbiorem iformacji wejściowych, który ie może zawierać daych iemożliwych do uzyskaia w momecie wykoywaia progozy, a zatem ilość i charakter iformacji wprowadzaej do sieci euroowej w postaci wektora zmieych wejściowych jest ściśle uzależioa od przyszłego przezaczeia modelu. Wydłużaie termiu progozy jest rówozacze ze zwiększeiem błędu progozy. Z drugiej stroy moża model progostyczy potraktować jak pewego rodzaju symulację i wówczas oszacować część daych a długo przed uzyskaiem ich faktyczych wartości. Trafość progoz wykoaych przez taki model rówież będzie miejsza, ze względu a błędy szacukowe. Dokładość działaia sieci MLP zależy przede wszystkim od jakości i ilości wprowadzaych do iej daych, co ściśle determiuje strukturę i własości sieci. W przypadku modeli progostyczych istote jest zachowaie rówowagi między ich zdolością do aproksymacji i geeralizacji, a więc topologia sieci ie może być w całości dziełem przypadku. Prezetoway przykład pokazał, że zastosowaie zaych z literatury zaleceń
Moika Jaaszek... oraz kryteriów umożliwił już a wstępie prawidłowy dobór struktury sieci, co zapewiło zdolość modelu do aproksymacji, przejawiającą się w możliwie ajdokładiejszym odwzorowaiu wpływu czyików plootwórczych a wysokość plou oraz zdolość do geeralizacji, umożliwiającą wykoywaie trafych progoz dla owych, iezaych przypadków. Jakość progozowaia plou przez propooway model przekouje, że sześć zmieych, pozostałych po aalizie wrażliwości (tab. 3), staowi ajważiejsze cechy plootwórcze jęczmieia jarego. Jedak model te ie opisuje struktury ai siły zależości między tymi składowymi, a jedyie odwzorowuje efekt ich wspólego wpływu a wielkość plou. LITERATURA Cybeko G. 1988. Cotiuous valued eural etworks with two hidde layers are sufficiet. Techical Report. Departmet of Computer sciece, Tufts Uiversity, Medford. Cybeko G. 1989. Approximatio by superpositio s of a sigmoidal fuctio. Mathematics of Cotrol, Sigals, ad Systems 2: 303 314. Gatar E. 2009. Aaliza dyskrymiacyja. W: Statystycza aaliza daych z wykorzystaiem programu R, Walesiak M., Gatar E. (red.). PWN, Warszawa. Góry A. G. 2004. Zarys geetyki jęczmieia (Hordeum vulgare L.). W: Zarys geetyki zbóż. Praca zbiorowa pod red. A. G. Górego. t. 1: 15 80. Hush D., Hore B. 1993. Progress i supervised eural etworks. IEEE Sigal Processig Magazie, Jauary: 8 39. Khazaei J., Naghavi M. R., Jahasouz M. R., Salimi-Khorshidi G. 2008. Yield estimatio ad clusterig of chickpea geotypes usig soft computig techiques. Agro. J. 100 (4): 1077 1087. Klepper B., Rickma R.W., Waldma S., Chevalier P. 1998. The physiological life cycle of wheat: Its use i breedig ad crop maagemet. Euphytica 100: 341 347. Kozdój J. 1992. Wpływ wybraych czyików środowiska a morfogeezę kłosa i potecjał plootwórczy zbóż. Biul. IHAR 183: 59 71. Kozdój J. 1994. Wzrost i rozwój rośliy zbożowej badaia botaicze a praktyka rolicza. Biul. IHAR 192: 3 21. Kozdój J., Mańkowski D. R., Oleszczuk S. 2010. Aaliza potecjału plootwórczego liii podwojoych haploidów jęczmieia jarego (Hordeum vulgare L.) otrzymaych a drodze adrogeezy. Biul. IHAR 256: 97 116. Łubkowski Z. 1968. Jęczmień, Wyd. 2. PWRiL, Warszawa. Mittal G. S., Zhag J. 2000. Predictio of temperature ad moisture cotet of frakfurters durig thermal processig usig eural etwork. Meat Sci. 55: 13 24. Nghia D. D. 2000. Sieci euroowe w zastosowaiu do rozpozawaia i klasyfikacji wzorców. Rozprawa doktorska. Wydział Elektryczy, Politechika Warszawska. O Neal M. R., Egel B. A., Ess D. R., Frakeberger J. R. 2002. Neural etwork predictio of maize field usig alterative data codig algorithms. Biosyst. Eg. 83: 31 45. Osowski S. 1996. Sieci euroowe w ujęciu algorytmiczym. WNT, Warszawa. Osowski S. 2006. Sieci euroowe do przetwarzaia iformacji. WPW, Warszawa. Park S. J., Hwag C. S., Vlek P. L. G. 2005. Compariso of adaptive techiques to predict crop yield respose uder varyig soil ad lad maagemet coditios. Agric. Syst. 85: 59 81. Rawligs J. O., Patula S. G., Dickey D. A. 2001. Applied Regressio Aalysis a Research Tool. Secod Editio. New York, USA: Spriger-Verlag Ic. Roseblatt F. 1958. The perceptro: A probabilistic model for iformatio storage ad orgaizatio i the brai. Psychological Review 65 (6): 386 408. 111
Moika Jaaszek... SAS Istitute Ic. 2009. SAS/STAT 9.2 User s Guide, Secod Editio. Cary, NC, USA: SAS Publishig, SAS Istitute Ic. Seyha A. T., Tayfur G., Karakurt M., Tagolu M. 2005. Artificial eural etwork (ANN) predictio of compressive stregth of VARTM processed polymer composites. Comput. Mater. Sci. 34: 99 105. Tadeusiewicz R. 1993. Sieci euroowe, Wyd. 2. Akademicka Oficya Wydawicza, RM., Warszawa. Tompos A., Margitfalvi J. L., Tfirst E., Heberger K. 2007. Predictive performace of highly complex artificial eural etworks. Appl. Catal. A 324: 90 93. Trajer J. 2001. Modelowaie procesu przechowywaia warzyw w wybraych jego aspektach. Rozprawy aukowe i moografie. Wydawictwo SGGW, Warszawa. Uo Y., Prasher S. O., Lacroix R., Goel P. K., Karimi Y., Viau A., Patel R. M. 2005. Artificial eural etworks to predict cor yield from Compact Airbor Spectrographic Imager data. Comput. Electro. Agric. 47: 149 161. Wójcik A. R., Laudański Z. 1989. Plaowaie i wioskowaie statystycze w doświadczalictwie. Warszawa: PWN. Zadoks J. C., Chag T. T., Kozak C. F. 1974. A decimal code for the growth stages of cereals. EUCARPIA Bulleti. Vol. 7: 42 52. 112