Inverse problems - Introduction - Probabilistic approach

Podobne dokumenty
Elementy wspo łczesnej teorii inwersji

tum.de/fall2018/ in2357

Metody inwersji Bayesowskiej - zaczynamy...

Hard-Margin Support Vector Machines

TTIC 31210: Advanced Natural Language Processing. Kevin Gimpel Spring Lecture 9: Inference in Structured Prediction

Machine Learning for Data Science (CS4786) Lecture11. Random Projections & Canonical Correlation Analysis

Linear Classification and Logistic Regression. Pascal Fua IC-CVLab

Probabilistic Methods and Statistics. Computer Science 1 st degree (1st degree / 2nd degree) General (general / practical)

DEFINING REGIONS THAT CONTAIN COMPLEX ASTRONOMICAL STRUCTURES

Elementy wspo łczesnej teorii inwersji

Elementy wspo łczesnej teorii inwersji

Proposal of thesis topic for mgr in. (MSE) programme in Telecommunications and Computer Science

Convolution semigroups with linear Jacobi parameters

Elementy wspo łczesnej teorii inwersji

Symmetry and Geometry of Generalized Higgs Sectors

Gradient Coding using the Stochastic Block Model

Previously on CSCI 4622

Maximum A Posteriori Chris Piech CS109, Stanford University

Medical electronics part 10 Physiological transducers

Nonlinear data assimilation for ocean applications

STATISTICAL METHODS IN BIOLOGY

New Roads to Cryptopia. Amit Sahai. An NSF Frontier Center

OpenPoland.net API Documentation

Few-fermion thermometry

Machine Learning for Data Science (CS4786) Lecture 24. Differential Privacy and Re-useable Holdout

Współczesna technika inwersyjna - dokad zmierzamy? Wojciech Dȩbski

Spis treści. Przedmowa Monika Książek Rozdział I Analiza danych jakościowych... 25

Tychy, plan miasta: Skala 1: (Polish Edition)

TTIC 31210: Advanced Natural Language Processing. Kevin Gimpel Spring Lecture 8: Structured PredicCon 2

Tadeusz SZKODNY. POLITECHNIKA ŚLĄSKA ZESZYTY NAUKOWE Nr 1647 MODELOWANIE I SYMULACJA RUCHU MANIPULATORÓW ROBOTÓW PRZEMYSŁOWYCH

The impact of the global gravity field models on the orbit determination of LAGEOS satellites

Strangeness in nuclei and neutron stars: many-body forces and the hyperon puzzle

Modern methods of statistical physics

EXAMPLES OF CABRI GEOMETRE II APPLICATION IN GEOMETRIC SCIENTIFIC RESEARCH

Rozpoznawanie twarzy metodą PCA Michał Bereta 1. Testowanie statystycznej istotności różnic między jakością klasyfikatorów

SPIS TREŚCI SPIS WAŻNIEJSZYCH OZNACZEŃ WSTĘP KRÓTKA CHARAKTERYSTYKA SEKTORA ENERGETYCZNEGO W POLSCE... 14

Teoria sygnałów. Signal Theory. Electrical Engineering 1 st degree (1st degree / 2nd degree) General (general / practical)

Mgr inż. Krzysztof KRAWIEC. Rozprawa doktorska. Streszczenie

THEORETICAL STUDIES ON CHEMICAL SHIFTS OF 3,6 DIIODO 9 ETHYL 9H CARBAZOLE

Towards Stability Analysis of Data Transport Mechanisms: a Fluid Model and an Application

Raport bieżący: 44/2018 Data: g. 21:03 Skrócona nazwa emitenta: SERINUS ENERGY plc

Analysis of Movie Profitability STAT 469 IN CLASS ANALYSIS #2

Vacuum decay rate in the standard model and beyond

archivist: Managing Data Analysis Results

Metody inwersji Bayesowskiej -L7- IGF PAN, 21.IV.2005

Węglowego. Title: Pasywna tomografia sejsmiczna obszaru Górnośląskiego Zagłębia. Author: Wojciech Dębski, Łukasz Rudziński

Algorytmy MCMC (Markowowskie Monte Carlo) dla skokowych procesów Markowa

II-go stopnia. Stacjonarne. Zagadnienia egzaminacyjne AUTOMATYKA I ROBOTYKA TYP STUDIÓW STOPIEŃ STUDIÓW SPECJALNOŚĆ

Zastosowania metod analitycznej złożoności obliczeniowej do przetwarzania sygnałów cyfrowych oraz w metodach numerycznych teorii aproksymacji

[3] Hałgas S., An algorithm for fault location and parameter identification of analog circuits

Neural Networks (The Machine-Learning Kind) BCS 247 March 2019

The Overview of Civilian Applications of Airborne SAR Systems

PRZEWODNIK PO PRZEDMIOCIE. Negotiation techniques. Management. Stationary. II degree

Revenue Maximization. Sept. 25, 2018

Matematyka Stosowana na Politechnice Wrocławskiej. Komitet Matematyki PAN, luty 2017 r.

HOW MASSIVE ARE PROTOPLANETARY/ PLANET HOSTING/PLANET FORMING DISCS?

M W M Z correlation. πα 1 M G F 2 = 2M 2 W 2 W

Steps to build a business Examples: Qualix Comergent

Model standardowy i stabilność próżni

ZASTOSOWANIE SPLOTU FUNKCJI DO OPISU WŁASNOŚCI NIEZAWODNOŚCIOWYCH UKŁADÓW Z REZERWOWANIEM

Eksperymenty reaktorowe drugiej generacji wyznaczenie ϑ 13

SPOTKANIE 3: Regresja: Regresja liniowa

Wprowadzenie do programu RapidMiner Studio 7.6, część 9 Modele liniowe Michał Bereta

Kolegium Dziekanów i Dyrektorów

ZASTOSOWANIE SPLOTU FUNKCJI DO OPISU WŁASNOŚCI NIEZAWODNOŚCIOWYCH UKŁADÓW Z REZERWOWANIEM

Helena Boguta, klasa 8W, rok szkolny 2018/2019

Możliwości zastosowania dozymetrii promieniowania mieszanego n+γ. mgr inż. Iwona Pacyniak

PRZYKŁAD ZASTOSOWANIA DOKŁADNEGO NIEPARAMETRYCZNEGO PRZEDZIAŁU UFNOŚCI DLA VaR. Wojciech Zieliński

Wprowadzenie do uczenia maszynowego. Jakub Tomczak

Wpływ kwantowania na dokładność estymacji momentów sygnałów o rozkładach normalnych

Wojewodztwo Koszalinskie: Obiekty i walory krajoznawcze (Inwentaryzacja krajoznawcza Polski) (Polish Edition)

/ / * ** ***

Wstęp do Metod Systemowych i Decyzyjnych Opracowanie: Jakub Tomczak

4. EKSPLOATACJA UKŁADU NAPĘD ZWROTNICOWY ROZJAZD. DEFINICJA SIŁ W UKŁADZIE Siła nastawcza Siła trzymania

Rozpoznawanie obrazów

Odporność statystyk według Ryszarda Zielińskiego a porządki stochastyczne

Remote Sensing & Photogrammetry L6. Beata Hejmanowska Building C4, room 212, phone:

5.3. Analiza maskowania przez kompaktory IED-MISR oraz IET-MISR wybranych uszkodzeń sieci połączeń Podsumowanie rozdziału

Verification in POMDPs

Wojewodztwo Koszalinskie: Obiekty i walory krajoznawcze (Inwentaryzacja krajoznawcza Polski) (Polish Edition)

Environmental Chemistry Selected topics in statistics and metrology

Prices and Volumes on the Stock Market

Katowice, plan miasta: Skala 1: = City map = Stadtplan (Polish Edition)

Wykład 11: Analiza danych w tablicach dwudzielczych

Metodyki projektowania i modelowania systemów Cyganek & Kasperek & Rajda 2013 Katedra Elektroniki AGH

Adres do korespondencji: Instytut Metalurgii i Inżynierii Materiałowej PAN, Kraków, ul. Reymonta 25

Metropolization : Local Development and Government in Poland

Strategic planning. Jolanta Żyśko University of Physical Education in Warsaw

reinforcement learning through the optimization lens Benjamin Recht University of California, Berkeley

deep learning for NLP (5 lectures)

Hippo Boombox MM209N CD. Instrukcja obsługi User s Manual

Spis treści. Wprowadzenie 13

CEE 111/211 Agenda Feb 17

Quantum implementation of Parrondo s paradox

Nauka Przyroda Technologie

Wybrzeze Baltyku, mapa turystyczna 1: (Polish Edition)

Rachunek lambda, zima

Klasyfikacja Support Vector Machines

OBWIESZCZENIE MINISTRA INFRASTRUKTURY. z dnia 18 kwietnia 2005 r.

4. P : P SO P Spin, π : P M: 6. F = P Spin Spin(n) S, F ± = P Spin Spin(n) S ± 7. ω: Levi-Civita, R:, K:

Transkrypt:

Inverse problems - Introduction - Probabilistic approach Wojciech Dȩbski Instytut Geofizyki PAN debski@igf.edu.pl Wydział Fizyki UW, 13.10.2004

Wydział Fizyki UW Warszawa, 13.10.2004 (1) Plan of the talk I. INTRODUCTION forward/inverse problems inversion as a parameter estimation task direct/indirect measurements II. PROBABILISTIC APPROACH inversion as an inference process description of information - probability experimental, theoretical, and apriori information Building A posteriori pdf Bayesian rule - a posteriori probability Tarantola s (probabilistic) approach A posteriori pdf - examples II. GEOPHYSICAL EXAMPLES

Forward and inverse problems forward modelling Wydział Fizyki UW Warszawa, 13.10.2004 (2)

Forward and inverse problems inversion Wydział Fizyki UW Warszawa, 13.10.2004 (3)

Forward and inverse problems parameter estimation Wydział Fizyki UW Warszawa, 13.10.2004 (4)

Wydział Fizyki UW Warszawa, 13.10.2004 (5) Model and Data Parameters Physical System: Model parameters: p 1, p 2, p K Predicted (Observed) data: m = (m 1, m 2, m M ) d = (d 1, d 2, d N ) Forward modelling: d = f(m)

Wydział Fizyki UW Warszawa, 13.10.2004 (6) Linear Inverse Problem Algebraic approach d = G m Naive inversion: m est = G 1 d Algebraic method: G T d = G T G m G T G = G T G + λi m est = (G T G + λi) 1 d

Wydział Fizyki UW Warszawa, 13.10.2004 (7) Inverse Problem Optimization approach Searching the model space for the model which best fits the data Least squares method: (d obs f(m)) T (d obs f(m)) = min More generally: (d obs f(m)) D + m m apr M = min

Wydział Fizyki UW Warszawa, 13.10.2004 (8) Direct / Indirect measurements Counts: events No. of particles quantified parameters Counts in a scale unit: mass luminosity temperature Quantities unmeasureable directly: mas of a earth, star, galaxy temperature distribution in the Earth, the sun, etc. mass of elementary particles...

Direct & Indirect measurements Wydział Fizyki UW Warszawa, 13.10.2004 (9)

Direct & Indirect measurements Wydział Fizyki UW Warszawa, 13.10.2004 (10)

Indirect measurement - Example Wydział Fizyki UW Warszawa, 13.10.2004 (11)

Inversion Back projection Wydział Fizyki UW Warszawa, 13.10.2004 (12)

Wydział Fizyki UW Warszawa, 13.10.2004 (13) Inversion optimization S(ρ) = V obs V (ρ) = min

Inversion as Joining Information (Inference) Wydział Fizyki UW Warszawa, 13.10.2004 (14)

Description of information (a) (data) Wydział Fizyki UW Warszawa, 13.10.2004 (15)

Description of information (a) (probability) Wydział Fizyki UW Warszawa, 13.10.2004 (16)

Description of information (b) (data) Wydział Fizyki UW Warszawa, 13.10.2004 (17)

Description of information (b) (probability) Wydział Fizyki UW Warszawa, 13.10.2004 (18)

Description of information (b) (data) Wydział Fizyki UW Warszawa, 13.10.2004 (19)

Description of information (b) (probability) Wydział Fizyki UW Warszawa, 13.10.2004 (20)

Frequentists interpretation of probability Wydział Fizyki UW Warszawa, 13.10.2004 (21)

Bayesian interpretation of probability Wydział Fizyki UW Warszawa, 13.10.2004 (22)

Joining Information (Inference) Wydział Fizyki UW Warszawa, 13.10.2004 (23)

Wydział Fizyki UW Warszawa, 13.10.2004 (24) Experimental information Experimental uncertainties: ɛ: random = p(ɛ) d obs = d true + ɛ P ([ɛ δ/2, ɛ + δ/2]) P(d = d true ) = p ɛ (d d obs ) But how to find p(ɛ)???

Wydział Fizyki UW Warszawa, 13.10.2004 (25) Experimental information Experimental uncertainties statistic: postulate: p(ɛ) = k e ɛ2 2σ 2 estimated by repeating measurement P ([x δ/2, x + δ/2]) = N i N

A priori information Wydział Fizyki UW Warszawa, 13.10.2004 (26)

Wydział Fizyki UW Warszawa, 13.10.2004 (27) Theoretical information Theoretical information: correlation d = G(m) = p(d = G(m) m) G may be known approximatelly: G(m) = G o m + G 1 m 2 +... Exact theory: p(d m) = δ(d G(m))

Theoretical information Wydział Fizyki UW Warszawa, 13.10.2004 (28)

Theoretical information Wydział Fizyki UW Warszawa, 13.10.2004 (29)

Theoretical information Wydział Fizyki UW Warszawa, 13.10.2004 (30)

Wydział Fizyki UW Warszawa, 13.10.2004 (31) Multi-dimensional pdf p(x, y) marginal pdf p x (x) = Y marginal pdf p y (y) = X p(x, y)dy p(x, y)dx conditional pdf: p x y (x y) = p(x, y)/p y (y) conditional pdf: p y x (y x) = p(x, y)/p x (x)

Wydział Fizyki UW Warszawa, 13.10.2004 (32) Multi-dimensional pdf p(x, y) = p x y (x y)p y (y) p(x, y) = p y x (y x)p x (x) p x y (x y)p y (y) = p y x (y x)p x (x)

Wydział Fizyki UW Warszawa, 13.10.2004 (33) Multi-dimensional pdf p m (m d) = p d m(d m)p m (m) p d (d)

Wydział Fizyki UW Warszawa, 13.10.2004 (34) Joining information 1. observation: p(d) 2. theory: q(m, d) 3. a priori f(m, d) p q(x) = p(x) q(x) µ(x)

Conditional vs. joint pdf Wydział Fizyki UW Warszawa, 13.10.2004 (35)

Wydział Fizyki UW Warszawa, 13.10.2004 (36) A posteriori pdf A posteriori pdf: σ(m, d) p(d) q(m, d) f M (m)f D (m) describes all information on d, m. σ m (m) = σ(m, d)dd σ d (d) = D σ(m, d)dm M

Wydział Fizyki UW Warszawa, 13.10.2004 (37) A posteriori pdf σ m (m) = f M (m) L(m, d obs )

Wydział Fizyki UW Warszawa, 13.10.2004 (38) A posteriori pdf A posteriori pdf σ(m, d): always exists is unique describes all information is the solution of an inverse problem

Wydział Fizyki UW Warszawa, 13.10.2004 (39) Exact theory σ(m) = f M (m) D p(d)q(m, d)dd q(d, m) = δ(d G(m)) σ(m) = f M (m) p(d G(m)) σ(m) = f M (m) exp ( (d G(m)) T C 1 (d G(m)) )

Exact theory: linear case Wydział Fizyki UW Warszawa, 13.10.2004 (40)

Exact theory: non-linear case Wydział Fizyki UW Warszawa, 13.10.2004 (41)

Exact data: uncertain theory Wydział Fizyki UW Warszawa, 13.10.2004 (42)

Non-resolved parameters Wydział Fizyki UW Warszawa, 13.10.2004 (43)

Wydział Fizyki UW Warszawa, 13.10.2004 (44) Summary Parameter estimation Error analysis Resolution analysis Experimental planning Model discrimination Others (non-parametric) inference

Wydział Fizyki UW Warszawa, 13.10.2004 (45) Inversion Algorithms- Summary Method Advantages Limitations Algebraic (LSQR) - Simplicity - Only linear problems m ml = (G T G + γi) 1 G T d obs - Large scale problems - Lack of robustness Optimization - Simplicity - Difficult error estimation G(m) d obs + λ m) m a = min - Fully nonlinear Bayesian - Fully nonlinear - More complex theory σ(m) = f(m)l(m, d obs ) - Full error handling - Requires efficient sampler