Informatyka. Wykład /2018z

Transkrypt

1 Informatyka Wykład /2018z Bogumil.Konopka@pwr.edu.pl

2 Plan Problemy algebry liniowej (rozwiązywanie układów równań) Uchwyty do funkcji, funkcje anonimowe Analiza funkcji matematycznych: Interpolacja, aproksymacja, ekstrapolacja Całkowanie Różniczkowanie MATLABa w obliczeniach statystycznych (Tutorial do tworzenia GUI)

3 Układ równań w algebrze Układ równań liniowych: Zapis macierzowy: Równoważne iloczynowi Slajd W. Dyrka, Informatyka 2011/2012 wykład 6

4 Rozwiązywanie układów równań x 1 + 3x 2 + 2x 3 = 0 x 1 x 3 = 1 2x 1 3x 2 x 3 = 3 A x = b Rozwiązanie: A x x 1 x 2 x 3 = b A 1 A x = A 1 b x = A 1 b x = A\b Przykład: B Mrozek, Z Mrozek, 2010, Roz

5 Rozwiązywanie układów równań (2) Układ równań jest oznaczony tzn. liczba liniowo niezależnych równań = liczbie zmiennych x 1 + 3x 2 + 2x 3 = 0 x 1 x 3 = 1 2x 1 3x 2 x 3 = 3 x = A 1 b x = A\b A=[-1 3 2;1 0-1; ] %utworzenie macierzy wspolczynnikow uwarunkowanie=cond(a) %sprawdzenie właściwości numerycznych b=[0 1 3]' % lub b=[0;1;3] x=a\b % metoda szybsza i dokladniejsza x2=inv(a)*b % metoda wolniejsza i mniej dokladna x = x2 = x 1 x 2 x 3 = Przykład: B Mrozek, Z Mrozek, 2010, Roz

6 Rozwiązywanie układów równań liniowych (3) Obliczenie współczynników funkcji liniowej przechodzącej przez dwa punkty (x 1 =- 1, y 1 = 1); (x 2 =1, y 2 = 3) y = a 1 x + a 2 a 1 = a a 2 3 = a a 2 y X 1 3 = a 1 a 2 y=[1;3] X=[-1 1;1 1]; a=x\y

7 Rozwiązywanie układów równań liniowych (2) Obliczenie współczynników funkcji liniowej przechodzącej przez dwa punkty (x 1 =- 1, y 1 = 1); (x 2 =1, y 2 = 3) y = a 1 x + a 2 a 1 = a a 2 3 = a a 2 y X 1 3 = a 1 a 2 y=[1;3] X=[-1 1;1 1]; a=x\y osx=-1.5:0.001:1.5; y1=osx.*a(1)+a(2); plot(x(:,1),y,'mo', 'LineWidth',2 %CIACH...

8 Rozwiązywanie układów równań układ niedookreślony Liczba równań niezależnych liniowo jest MNIEJSZA niż liczba zmiennych Obliczyć równanie hiperboli przechodzącej przez punkty (x 1 =- 1, y 1 = 1); (x 2 =1, y 2 = 3) y = a 1 x 2 + a 2 x + a 3 1 y=[1;3] xp=[-1;1] X=[xp.^2 xp; ones(2,1)]; a_d=x\y a_pinv=pinv(x)*y y X a 1 3 = a a 2 a 3

9 Rozwiązywanie układów równań układ niedookreślony Liczba równań niezależnych liniowo jest MNIEJSZA niż liczba zmiennych Obliczyć równanie hiperboli przechodzącej przez punkty (x 1 =- 1, y 1 = 1); (x 2 =1, y 2 = 3) y = a 1 x 2 + a 2 x + a 3 1 y=[1;3] xp=[-1;1] X=[xp.^2 xp; ones(2,1)]; a_d=x\y a_pinv=pinv(x)*y y X a 1 3 = a a 2 a 3 a_d = a_pinv =

10 Rozwiązywanie układów równań układ nadokreślony Liczba równań niezależnych liniowo jest WIĘKSZA niż liczba zmiennych Obliczyć równanie hiperboli przechodzącej przez N punktów (x_data,y_data) y = a 1 x 2 + a 2 x + a 3 y 1 y M = 2 x 1 x x M x M 1 a 1 a 2 a 3

11 Rozwiązywanie układów równań układ nadokreślony Liczba równań niezależnych liniowo jest WIĘKSZA niż liczba zmiennych Obliczyć równanie hiperboli przechodzącej przez N punktów (x_data,y_data) y = a 1 x 2 + a 2 x + a 3 y 1 y M = 2 x 1 x x M x M 1 a 1 a 2 a 3 X=[x_data.^2 x_data; ones(n,1)]; a_d=x\y_data(:); a_pinv=pinv(x)*y_data(:); osx=-1.5:0.001:1.5; y2=a_d(1)*osx.^2+a_d(2)*osx+a_d(3); y2_pinv=a_pinv(1)*osx.^2+a_pinv(2)*osx+a_pinv(3);

12 Operator dzielenia lewostronnego \ Operator \ pozwala rozwiązać układ równań w postaci A x = b x = A\b Algorytm rozwiązania wybierany jest automatycznie: Alg. permutowanego podstawiania wstecz (A macierz trójkątna lub przestawiona) Algorytm eliminacji Gaussa (A - macierz kwadratowa, niesymetryczna i nie trójkątna) Rozkład QR i rozwiązanie w sensie minimum błędu średniokwadratowego A x b (A - macierz prostokątna)

13 Interpolacja aproksymacja - ekstrapolacja

14 Interpolacja aproksymacja - ekstrapolacja

15 Interpolacja aproksymacja - ekstrapolacja

16 Interpolacja aproksymacja - ekstrapolacja

17 Interpolacja w MATLABIE Interpolacja za pomocą funkcji interp1 %Przykladowe dane x=-10:0.1:10; y=1./(1+exp(-0.8.*x)); y_exp=y+randn(1,201)*0.1; Ind=1:25:201; x_dane=x(ind); y_dane=y_exp(ind) %Interpolacja y_interp1= interp1(x_dane,y_dane,x,'linear'); y_interp1_nn= interp1(x_dane,y_dane,x,'nearest'); y_interp1_cubic= interp1(x_dane,y_dane,x,'cubic'); y_interp1_spline= interp1(x_dane,y_dane,x,'spline');

18 Interpolacja w MATLABIE Interpolacja za pomocą funkcji interp1 %Przykladowe dane x=-10:0.1:10; y=1./(1+exp(-0.8.*x)); y_exp=y+randn(1,201)*0.1; Ind=1:25:201; x_dane=x(ind); y_dane=y_exp(ind) %Interpolacja y_interp1= interp1(x_dane,y_dane,x,'linear'); y_interp1_nn= interp1(x_dane,y_dane,x,'nearest'); y_interp1_cubic= interp1(x_dane,y_dane,x,'cubic'); y_interp1_spline= interp1(x_dane,y_dane,x,'spline');

19 Interpolacja sygnałów okresowych Interpolacja za pomocą funkcji interpft %Spróbkowany sygnał y = [ ]; N = length(y); %Interpolacja L = 5; %Czynnik zwiekszenie probkowania M = N*L;%Tyle punktów pomiarowych chcemy uzyskać x = 0:L:L*N-1; xi = 0:M-1; yi = interpft(y,m); plot(x,y,'o',xi,yi,'*') legend('original data','interpolated data')

20 Inne funkcje interpolujące interp2, interp3, interpn Interpolacja dwu-, trój- i N- wymiarowa griddata, griddatan Interpolacja trój- N-wymiarowa na siatce Scatteredinterpolant Interpolacja trójwymiarowa na siatce spline, pchip Wylicza to samo co: interp( spline ), interp(, cubic ) ppval Wylicza wartości funkcji sklejanej

21 Ekstrapolacja Większość funkcji interpolujących może służyć do ekstrapolacji x_extrap=10:20; %x z poza zakresu x_dane %Interpolacja y_interp1_cubic= interp1(x_dane,y_dane,x, 'cubic'); y_interp1_spline= interp1(x_dane,y_dane,x,'spline'); %Ekstrapolacja y_extrap_cubic= interp1(x_dane,y_dane, x_extrap,'cubic'); y_extrap_spline= interp1(x_dane,y_dane, x_extrap,'spline'); Trzeba uważać!

22 Aproksymacja Funkcja aproksymująca nie musi przechodzić przez punkty dane Funkcja aproksymująca minimalizuje błąd

23 Aproksymacja wielomianem (polyfit, polyval) Większość funkcji można dopasować wielomianem Konieczne jest dobranie odpowiednio dużego stopnia %APROKSYMACJA [p,s]=polyfit(x,y_exp,7); [y_fit,delta]=polyval(p,x,s); figure plot(x,y_exp,'o',x,y_fit,':r') xlabel('os X') ylabel('os Y') axis([-10.2,10.2,-0.2,1.2]) >> p p = y x = x x x

24 Aproksymacja wielomianem (polyfit, polyval) Polyfit zwraca: p - wektor współczynników wielomianu S struktura współczynników koniecznych do estymacji błędu Polyval zwraca: y_fit wartości wielomianu dla x Delta estymator odchylenia standardowego błędu (y p(x)) y±delta zawiera przynajmniej 50% wszystkich próbek [p,s]=polyfit(x,y_exp,7); [y_fit,delta]=polyval(p,x,s);

25 Ocena skuteczności dopasowania Estymacja błędu - delta hold on plot(x,y_exp,'o',x,y_fit,':r') errorbar(x(1:20:201),y_fit(1:20:201),... delta(1:20:201),'linestyle','none',..., 'Color','Red') Błąd średniokwadratowy RMSE (Root Mean Squared Error) RMSE = 1 N 1 i=1 N y i p(x i ) 2

26 Aproksymacja funkcją fit opts = fitoptions('method','nonlinear','normalize','off') ftype = fittype('1/(1+exp(-b*x))','options',opts) [g, gof, out ] = fit(x',y_exp',ftype) Fitoptions - definiuje opcje algorytmu wykorzystanego przy dopasowywaniu np.: Algorytm Punkt początkowy algorytmu itp.. Fittype definiuje model użyty w dopasowaniu Może być z biblioteki domyślnych modeli (np. poly1, poly2, poly3 ) Może być model ustalony przez użytkownika (np. '1/(1+exp(-b*x))')

27 Aproksymacja funkcją fit ocena skuteczności [g, gof, out ] = fit(x',y_exp',ftype) >> g g = General model: g(x) = 1/(1+exp(-b*x)) Coefficients (with 95% confidence bounds): b = (0.6541, ) >> gof gof = sse: rsquare: dfe: 200 adjrsquare: rmse: WAŻNE! >> out out = numobs: 201 numparam: 1 residuals: [201x1 double] Jacobian: [201x1 double] exitflag: 3 firstorderopt: e-04 iterations: 4 funccount: 10 cgiterations: 0 algorithm: 'trust-region-reflective' message: 'Success, but fitting stopped because change in residuals less than tolerance (TolFun).

28 Aproksymacja funkcją fit - wynik opts = fitoptions('method','nonlinear',... 'Normalize','Off') ftype = fittype('1/(1+exp(-b*x))',... 'options',opts) [g,gof,out] = fit(x',y_exp',ftype) %Wyliczenie punktow g_fit=1./(1+exp(-g.b*x)); [g1,gof1,out1]=fit(x',y_exp','poly3') %Wyliczenie punktow g_fit_poly3=g1.p1*x.^3... +g1.p2*x.^2+g1.p3*x+g1.p4; figure hold on plot(x,y_exp,'bo') plot(x,g_fit,'-r','linewidth',3) plot(x,g_poly3,':r','linewidth',3) legend('points','1/(1+exp(-b*x))','poly3')

29 Uchwyty do funkcji Pozwala odnosić się do funkcji, bez korzystania z nazwy uchwyt_wyk=@plot % utworzenie uchwytu do funkcji plot uchwyt_wyk(x,y) % wykres liniowy uchwyt_wyk=@bar % utworzenie uchwytu do funkcji bar uchwyt_wyk(x,y) % wykres slupkowy Ta sama instrukcja, różne efekty

30 Uchwyty do funkcji prosty przykład Chcemy napisać program, który będzie wizualizował dane Mamy kilka funkcji do wizualizacji W zależności od potrzeb użytkownika do wizualizacji będą wykorzystywane różne funkcje function rysuj_wykres(x,y,uchwyt_do_rysowania) uchwyt_do_rysowania(x,y) Program przyjmuje uchwyt do funkcji rysującej jako argument wejściowy >> uchwyt_wyk=@plot; >> rysuj_wykres(x,y,uchwyt_wyk) >> uchwyt_wyk=@bar; >> rysuj_wykres(x,y,uchwyt_wyk) >> rysuj_wykres(x,y,@plot) >> rysuj_wykres(x,y,@bar)

31 Uchwyty do funkcji kiedy przydatne? Nasz program chce coś osiągnąć. Jest kilka sposobów na osiągnięcie celu. Posługujemy się uchwytem żeby dać możliwość łatwej modyfikacji sposobu osiągnięcia celu uchwyt umożliwia przekazywanie funkcji jako argumentu wejściowego. Przykład: Program na jakimś etapie korzysta z N liczb losowych. Mamy do dyspozycji kilka funkcji generujących liczby losowe. Program może korzystać z uchwytu do funkcji generującej liczby losowe użytkownik może łatwo zmieniać rozkład generowanych liczb.

32 Funkcje anonimowe Funkcje, które nie mają nazwy. Korzystamy z nich tylko przez uchwyty. Skladnia: Uchwyt (lista_arg) wyrazenie

33 Funkcje anonimowe - przykład a=-2 %[m/s2] V0=10 %[m/s] Uchwyt (lista_arg) wyrażenie %Utworzenie funkcji anonimowej z jednym argumentem wejsciowym uchwyt=@(t)v0*t+(a*t.^2)/2 clear a, V0 t=0:10; S=uchwyt(t)%skorzystanie z funkcji anonimowej plot(t,s) plot(t,uchwyt(t))

34 Całkowanie numeryczne metoda trapezów % predkosci vel = [ ]; time = 0:24; %czas distance = trapz(time,vel) Znaczny błąd jeżeli: f(x) nie jest liniowa, a X i+1 X i są duże

35 Całkowanie numeryczne metody adaptacyjne (integral, quad, quadl, quadgk) Składnia: calka = integral (fun, xmin, xmax) calka = integral (fun, xmin, xmax, Name, Value) fun uchwyt do całkowanej funkcji Funkcja musi jako argument przyjmować wektor liczb i zwracać dla niego wektor wartości xmin dolna granica całkowania ymax górna granica całkowania AbsTol błąd bezwzględny, RelTol błąd względny, ArrayValued, Waypoints Algorytm globalnej kwadratury adaptacyjnej odcinki całkowania są najkrótsze w miejscach o największej zmienności f(x).

36 Całkowanie numeryczne metody adaptacyjne - przykład function y=rozkladnormalny(x) %Funkcja liczy gestosc prawdopodobienswa dla N(0,1) sigma=1; mu=0; y=1/(sigma*sqrt(2*pi))*exp(-(x-mu).^2/(2*sigma^2)); >> integral(@rozkladnormalny,-0.5,0.5) %skladnia integral(fun, xmin, xmax, Name, Value) ans =

37 Całkowanie numeryczne metody adaptacyjne - przykład function y=rozkladnormalny(x) %Funkcja liczy gestosc prawdopodobienswa dla N(0,1) sigma=1; mu=0; y=1/(sigma*sqrt(2*pi))*exp(-(x-mu).^2/(2*sigma^2)); >> integral(@rozkladnormalny,-0.5,0.5) %skladnia integral(fun, xmin, xmax, Name, Value) ans = r_norm=@(x,mu,sigma) 1/(sigma*sqrt(2*pi))*exp(-(x-mu).^2/(2*sigma^2)) x=-4:0.01:4; plot(x,r_norm(x,0,1)) clear x integral(@(x)r_norm(x,0,1),-3,3) %calka na przedziale [-3, 3] ans =

38 Różniczkowanie numeryczne Pochodna: f x 0 = dy dx = lim f x 0 + Δx f(x 0 ) Δx 0 Δx W obliczeniach numerycznych wyliczany jest iloraz różnicowy: dy dx = f x i+1 f(x i ) x i+1 x i W MATLABIE: dy_dx=diff(y)./diff(x)

39 Różniczkowanie numeryczne - przykład %Rozniczkowanie numeryczne s=@(a,t) 1/2*a.*t.^2; t=0:0.1:20 droga=s(0.5,t); dsdt=diff(droga)./diff(t); plot(t,droga,'-b',t(1:end-1),dsdt,'-r',... 'LineWidth',2) xlabel('t [s]') legend('droga', 'Predkosc')

40 Numeryczne obliczanie gradientu Gradient pole wektorowe wskazujące kierunki najszybszych wzrostów wartości danego pola skalarnego w poszczególnych punktach, przy czym moduł (długość) każdej wartości wektorowej jest równy szybkości wzrostu. ( X = gradient(f) [FX,FY] = gradient(f) % F tablica dwuwymiarowa [FX,FY,FZ,...] = gradient(f) % F tablica trójwymiarowa [...] = gradient(f,h) % h określa jakie sa odstępy między punktami [...] = gradient(f,h1,h2,... )

41 Numeryczne obliczanie gradientu przykład v = -2:0.2:2; [x,y] = meshgrid(v); z = x.* exp(-x.^2 - y.^2); %wyznaczenie funkcji [px,py] = gradient(z,.2,.2); figure surface(x,y,z) grid on figure contour(x,y,z) hold on quiver(v,v,px,py) %w punktach (v,v) rysuje wektory hold off

42 Numeryczne obliczanie gradientu przykład >> A=[ ; ; ] A = Rozpisać >> [px,py]=gradient(a) px = py = Przykład w oparciu o M Kotulska, Informatyka, Wykład 5, 2013/2014

43 Zastosowanie MATLABA w obliczeniach statystycznych - podstawy Poznanie danych wizualizacja i statystyki deskryptywne Testy na normalność rozkładu Przedziały ufności dla średniej Testy Studenta

44 Histogramy N=1000; X=2*randn(N,1)+2; Polecenie: hist(x) % Rysuje histogram z 10 przedzialami Hist(X,k) % Rysuje histogram z k przedziałami [nelem,xcenters]=hist(x) % Podaje licznosci % i srodki przedzialow, nic nie rysuje Liczba przedziałów k może zmieniać odbiór danych:* k= log 2 n+1 (Zasada Strug a ) k = max X min(x) h, h = 2 IQR(x) n 1/3 lub h = 3.5 s n 1/3 *Bethold,Borgelt,Höppner,Klawonn, Guide to Intelogent Data Anlysis, 2010

45 Statystyki deskryptywne data=[x,randn(n,1)]; srednia=mean(data) mediana=median(data) kwartyle=quantile(data,[0.25,0.5,0.75]) rozstep = range(data) rozstepiqr=iqr(data) odchstd_proba=std(data) odchstd_pop=std(data,1) srednia = mediana = kwartyle = minimum = maximium = rozstep = rozstepirq = odchstd_proba = odchstd_pop =

46 Wykres ramkowy - boxplot figure boxplot([x,randn(n,1)]) ylabel('wartosc X') xlabel('klasa') Co jest gdzie?

47 Standaryzacja rozkładu Z-score Standardyzacja: Zscore i = X i X s [X1_z,muX1,sigmaX1]=zscore(X); DoTransformacji=[muX1,sigmaX1] PrzedTransformacja=[mean(X), std(x)] PoTransformacji=[mean(X1_z), std(x1_z)] DoTransformacji = PrzedTransformacja = PoTransformacji =

48 Testy na normalność rozkładu W statystyce często wykonuje się założenie o normalności rozkładu Test Andersona-Darlinga [h,p,adstat,cv] = adtest(x) h = 0 p = adstat = cv = Test Kolmogorova-Smirnova >> [h,p,ksstat,cv] = kstest(x) h = 1 p = e-250 ksstat = cv = >> [h,p]=kstest(x1_z) h = p = Test Jarque-Bera >> [h,p,jbstat,critval] = jbtest(x) Warning: P is greater than the largest tabulated value, returning 0.5. > In jbtest at 133 h = 0 p = jbstat = critval =

49 Wykres kwantylowy - qqplot qqplot(x)

50 Przedział ufności dla μ, gdy σ nie znane Konstrukcja przedziału: μ ± tα 2 SE, Gdzie: SE = s n kwantyl z rozkładu Studenta, z n-1 stopniami swobody tα 2 >> CU=mean(X)+tinv([0.05/2, /2], 999).*std(X)/sqrt(N-1) CU = >> [muhat,sigmahat,mu_ci,sigma_ci] = normfit(x) muhat = sigmahat = mu_ci = sigma_ci =

51 Test t-studenta dla jednej próby h0: μ = 1 ha:μ 1 >> [h,p,ci,stats]=ttest(x,1) h = 1 p = e-46 ci = stats = tstat: df: 999 sd: h0:μ = 1 ha:μ < 1 %Czy średnia jest mniejsza? >> [h,p,ci,stats]=ttest(x,1,'tail','left') h = 0 p = 1 ci = -Inf stats = tstat: df: 999 sd:

52 Test t-studenta dla dwóch niezależnych prób h0: μ 1 = μ 2 ha: μ 1 μ 2 >> [h,p,ci,stats]=ttest2(x,x2) h = 1 p = e-136 ci = stats = tstat: df: 1998 sd:

53 Dzisiaj najważniejsze było: MATLAB rozwiązuje układy równań liniowych przy wykorzystaniu reprezentacji macierzowej Interpolacja, aproksymacja i ekstrapolacja to problemy związane z szacowaniem wartości funkcji. Interpolacja i aproksymacja różnią się pod względem podejścia. Ekstrapolacja może korzystać z metod zarówno interpolacji jak i aproksymacji. Uchwyty do funkcji pozwalają: przekazywać funkcje jako parametry do innych funkcji tworzyć funkcje anonimowe MATLAB ma zastosowania w różnych dziedzinach nauki i inżynierii