Importance sampling for metastable dynamical systems in molecular dynamics

Abstract

The behaviour of molecules is determined by rare events and these rare events matter. For example, a large conformational change in a molecule can lead to complete different behaviour of this molecule. But these rare events also affect the numerical simulation of molecules. They can cause a high variance of certain estimators. This is why it is important to develop effective and reliable numerical tools for the sampling of these rare events. The problems caused by rare events in the effective sampling of the different quantities are caused by the stochastic behaviour of the dynamical system and a phenomenon called metastability. Metastability means that a dynamical system remains in a certain area for a comparatively long time before hopping rapidly into another metastable area. Therefore, metastability is one of the most challenging problems for effective sampling. This thesis is about importance sampling strategies for metastable dynamical systems. The main idea of this thesis is to decrease the metastability to get estimators with a lower variance and reduce the sampling effort. After an introduction and a presentation of the relevant theory we explore in Chapter 3 an idea of global optimization to decrease the metastability in the dynamical system. We show how the approach can be used for sampling thermodynamic and dynamic quantities and support the results with numerical experiments. In Chapter 4 we use a local approach to decrease the metastability and thus build an importance sampling scheme for dynamic quantities. We use the experience of well-known MD algorithms to build good local perturbations. For the importance sampling scheme the algorithms have to be assimilated and combined with a result from stochastic analysis. The resulting algorithm is tested in different numerical settings. In Chapter 5 we consider two different methods (Gradient descent and Cross-Entropy method) which have been proposed for finding the optimal perturbation in terms of variance reduction. For the gradient descent we develop different gradient estimators and for the Cross-Entropy method we develop a non-parametric representation of the optimal perturbation. The results are supported by numerical examples. The thesis finishes with a summary of our findings and an outlook on future research.

Das Verhalten von Molekülen wird bestimmt von seltenen Ereignissen. So kann zum Beispiel eine Konformationsänderung dazu führen, dass sich die Funktionalität eines Moleküls komplett ändert. Darüberhinaus haben diese seltenen Ereignisse auch einen großen Einfluss auf numerische Simulationen von Molekülen. Darum ist es wichtig effektive und zuverlässige numerische Methoden zu haben, um diese seltenen Ereignisse vorherzusagen. Die Probleme, die durch seltene Ereignisse hervorgerufen werden, werden hauptsächlich durch das stochastische Verhalten des dynamischen Systems und einem daraus resultierenden Phänomen, welches Metastabilität genannt wird, verursacht. Metastabilität heißt, dass das dynamische System für lange Zeit in einem bestimmten metastabilen Zustand verweilt, bevor es sehr schnell in einen anderen metastabilen Zustand übergeht. Deshalb ist Metastabilität eines der größten Probleme für die effektive Schätzung der unterschiedlichen Größen. In der Molekulardynamik gibt es zwei unterschiedliche Größen und die Schätzung von beiden wird durch seltene Ereignisse beeinflusst. Für thermodynamsche Größen sind viele unterschiedliche Methoden entwickelt worden, die sich nicht ohne Weiteres auf die Schätzung von dynamischen Größen übertragen lassen. Diese Arbeit beschäftigt sich mit der Verbesserung von Schätzmethoden dieser Größen. Die zugrundeliegende Idee ist, die Metastabilität des Systems zu beeinflussen, um den Simulationsaufwand zu verringern und eine Varianzreduktion des Schätzers zu bekommen. Nach einer Einführung und einer Zusammenfassung der relevanten Theorie beschäftigt sich das 3. Kapitel mit einer Idee aus der globalen Optimierung, um die Metastabilität zu reduzieren. Wir zeigen, dass der Ansatz sowohl für thermodynamische Größen als auch für dynamische Größen genutzt werden kann. Im 4. Kapitel werden lokale Ansätze genutzt, um ein Importance-Sampling-Schema für dynamische Größen zu entwickeln. Wir nutzen die Expertise gut etablierter MD-Methoden, um eine gute lokale Perturbation zu erstellen. Für das Importance-Sampling-Schema müssen diese Algorithmen angepasst und mit Ergebnissen aus der stochastischen Analysis verbunden werden. Die Methode wird an unterschiedlichen Beispielen getestet. Das letzte Kapitel beschäftigt sich mit zwei Methoden, die eine optimale Perturbation im Sinne der Varianz finden können (Gradientenabstieg und Cross-Entropy-Methode). Für den Gradientenabstieg werden unterschiedliche Schätzer des Gradienten entwickelt und mithilfe der Cross-Entropy-Methode wird eine nicht parametrische Approximation der optimalen Pertubration hergeleitet. Am Ende der Arbeit werden die Ergebnisse zusammengefasst, diskutiert und weiterführende Ideen präsentiert.