• Treffer 1 von 1
Zurück zur Trefferliste

Solving high-dimensional PDEs, approximation of path space measures and importance sampling of diffusions

Lösen hochdimensionaler PDEs, Approximation von Pfadmaßen und Importance Sampling von Diffusionsprozessen

  • Motivated by computing functionals of high-dimensional, potentially metastable diffusion processes, this thesis studies robustness issues appearing in the numerical approximation of expectation values and their gradients. A major challenge being high variances of corresponding estimators, we investigate importance sampling of stochastic processes for improving statistical properties and provide novel nonasymptotic bounds on the relative error of corresponding estimators depending on deviations from optimality. Numerical strategies that aim to come close to those optimal sampling strategies can be encompassed in the framework of path space measures, and minimizing suitable divergences between those measures suggests a variational formulation that can be addressed in the spirit of machine learning. A key observation is that while several natural choices of divergences have the same unique minimizer, their finite sample properties differ vastly. We provide the novel log-variance divergence, which turns out to have favorable robustnessMotivated by computing functionals of high-dimensional, potentially metastable diffusion processes, this thesis studies robustness issues appearing in the numerical approximation of expectation values and their gradients. A major challenge being high variances of corresponding estimators, we investigate importance sampling of stochastic processes for improving statistical properties and provide novel nonasymptotic bounds on the relative error of corresponding estimators depending on deviations from optimality. Numerical strategies that aim to come close to those optimal sampling strategies can be encompassed in the framework of path space measures, and minimizing suitable divergences between those measures suggests a variational formulation that can be addressed in the spirit of machine learning. A key observation is that while several natural choices of divergences have the same unique minimizer, their finite sample properties differ vastly. We provide the novel log-variance divergence, which turns out to have favorable robustness properties that we investigate theoretically and apply in the context of path space measures as well as in the context of densities, for instance offering promising applications in Bayesian variational inference. Aiming for optimal importance sampling of diffusions is (more or less) equivalent to solving Hamilton-Jacobi- Bellman PDEs and it turns out that our numerical methods can be equally applied for the approximation of rather general high-dimensional semi-linear PDEs. Motivated by stochastic representations of elliptic and parabolic boundary value problems we refine variational methods based on backward SDEs and provide the novel diffusion loss, which can be related to other state-of-the-art attempts, while offering certain numerical advantages.zeige mehrzeige weniger
  • Motiviert durch das Berechnen von Funktionalen hochdimensionaler stochastischer Prozesse, untersucht diese Dissertation Robustheitseigenschaften, die in der numerischen Approximation von Erwartungswerten sowie deren Gradienten mittels der Monte-Carlo-Methode auftreten. Hierbei fokussieren wir unsere Analyse auf das Importance Sampling als eine populäre Methode der Varianzreduktion. Wir entwickeln neuartige nicht-asymptotische Schranken für den relativen Fehler von Importance-Sampling-Schätzern in Abhängigkeit von Abweichungen von der optimalen Lösung – zunächst in einem abstrakten Sinne. Schließlich betrachten wir insbesondere hochdimensionale, möglicherweise metastabile stochastische Prozesse – dies korrespondiert zu Importance Sampling im so genannten Pfadraum, wofür wir zusätzliche Formeln für den relativen Fehler der Schätzer entwickeln. Strategien für ein möglichst optimales Importance Sampling von Diffusionsprozessen korrespondieren zu stochastischen Optimalsteuerungsproblemen. Inspiriert von diesem ZusammenhangMotiviert durch das Berechnen von Funktionalen hochdimensionaler stochastischer Prozesse, untersucht diese Dissertation Robustheitseigenschaften, die in der numerischen Approximation von Erwartungswerten sowie deren Gradienten mittels der Monte-Carlo-Methode auftreten. Hierbei fokussieren wir unsere Analyse auf das Importance Sampling als eine populäre Methode der Varianzreduktion. Wir entwickeln neuartige nicht-asymptotische Schranken für den relativen Fehler von Importance-Sampling-Schätzern in Abhängigkeit von Abweichungen von der optimalen Lösung – zunächst in einem abstrakten Sinne. Schließlich betrachten wir insbesondere hochdimensionale, möglicherweise metastabile stochastische Prozesse – dies korrespondiert zu Importance Sampling im so genannten Pfadraum, wofür wir zusätzliche Formeln für den relativen Fehler der Schätzer entwickeln. Strategien für ein möglichst optimales Importance Sampling von Diffusionsprozessen korrespondieren zu stochastischen Optimalsteuerungsproblemen. Inspiriert von diesem Zusammenhang entwickeln wir einen einheitlichen Rahmen aus der Perspektive von Pfadmaßen, welcher neue numerische Verfahren motiviert. Insbesondere legt er die Minimierung geeigneter Divergenzen zwischen diesen Maßen in Form einer Variationsformulierung nahe, welche im Sinne des Machine Learnings gelöst werden kann. Hierbei ist es eine zentrale Erkenntnis, dass verschiedene Divergenzen zwar denselben eindeutigen Minimierer haben, sich aber hinsichtlich ihrer statistischen Eigenschaften stark unterscheiden können, etwa in Abhängigkeit der Dimension oder bezüglich möglicher Fluktuationen in der Nähe der optimalen Lösung. Im Zuge dessen schlagen wir die neuartige Log-Varianz-Divergenz vor, welche vorteilhafte Robustheitseigenschaften mit sich bringt, die wir durch theoretische Analyse und zahlreiche numerische Beispiele belegen können. Als eine zusätzliche Anwendung dieser Divergenz für Dichten betrachten wir die Bayes’sche variationelle Inferenz. Dies führt zu einem verbesserten Gradientenschätzer, welcher sowohl theoretisch als auch in numerischen Experimenten seinem naiven Gegenpart deutlich überlegen ist. Das Streben nach optimalem Importance Sampling von Diffusionsprozessen ist (mehr oder weniger) äquivalent zum Lösen von Hamilton-Jacobi-Bellman-PDEs, und es stellt sich heraus, dass unsere entwickelten numerischen Methoden gleichermaßen für die Approximation bestimmter allgemeinerer hochdimensionaler semi-linearer PDEs angewendet werden können. Motiviert durch stochastische Darstellungen von elliptischen und parabolischen Randwertproblemen entwickeln wir darauf aufbauend bestimmte variationelle Methoden weiter, die auf rückwärts-SDEs basieren, und schlagen den neuartigen diffusion loss vor, welcher gegenüber den alternativen Methoden einige numerische Vorteile mit sich bringt.zeige mehrzeige weniger

Volltext Dateien herunterladen

Metadaten exportieren

Weitere Dienste

Suche bei Google Scholar Anzahl der Zugriffe auf dieses Dokument
Metadaten
Verfasserangaben: Lorenz RichterORCiD
URN:urn:nbn:de:kobv:co1-opus4-58647
DOI:https://doi.org/10.26127/BTUOpen-5864
Gutachter / Betreuer:Prof. Dr. Carsten HartmannORCiD, Prof. Dr. Gabriel StoltzORCiD, Prof. Dr. Eric Vanden-EijndenORCiD
Dokumentart:Dissertation
Sprache:Englisch
Erstellungsjahr:2021
Datum der Abschlussprüfung:08.12.2021
Datum der Freischaltung:25.04.2022
Freies Schlagwort / Tag:Approximation hochdimensionaler PDEs; Importance Sampling; Machine Learning; Robustheit; Stochastische optimale Steuerung
Approximation of high dimensional PDEs; Importance sampling; Machine learning; Robustness; Stochastic optimal control
GND-Schlagwort:Sequenzielle Monte-Carlo-Methode; Stochastisches Modell; Maschinelles Lernen; Stochastische optimale Kontrolle
Fakultät / Fachgebiet:Fakultät 1 MINT - Mathematik, Informatik, Physik, Elektro- und Informationstechnik / FG Wirtschaftsmathematik
Lizenz (Deutsch):Creative Commons - CC BY - Namensnennung 4.0 International
Einverstanden ✔
Diese Webseite verwendet technisch erforderliche Session-Cookies. Durch die weitere Nutzung der Webseite stimmen Sie diesem zu. Unsere Datenschutzerklärung finden Sie hier.