Adaptive Hilbert Space Approximations for Mixtures of Gaussian Processes

Die Bayessche nichtparametrische (BNP) Regression ist eine Bayessche Methode zur Vorhersage einer unbekannten Zufallsfunktion, d. h. eines stochastischen Prozesses, unter Berücksichtigung einer endlichen Anzahl von Messwerten. Das bekannteste Beispiel für die BNP-Regression ist jene, bei der der stochastische Prozess als Gaußscher Process (GP) angenommen wird. Aufgrund begrenzter Rechenleistung erfordert die praktische Umsetzung der BNP-Regression eine näherungsweise Beschreibung des zugrunde liegenden stochastischen Prozesses. Im Fall niedrigdimensionaler Definitionsmengen ist eine sehr effiziente näherungsweise Beschreibung durch Hilbertraum-Approximationen mittels endlicher Basisentwicklungen des stochastischen Prozesses gegeben. Derartige Näherungen erfordern jedoch in der Regel, dass der stochastische Prozess schwach stationär ist. Die Annahme schwacher Stationarität ist aber in viele realen Szenarien ungerechtfertigt.In dieser Arbeit wird ein BNP-Experten-Mischmodell präsentiert, das nichtstationäre stochastische Prozesse unter Verwendung von endlich vielen schwach stationären Prozessen als Experten approximiert. Ein generatives Gating-Netzwerk, das die Eingangswerte den Experten probabilistisch zuordnet, ermöglicht eine Verallgemeinerung der Hilbertraum-Approximationen einzelner stochastischer Prozesse auf das BNP-Experten-Mischmodell. In diesem Zusammenhang konzentrieren wir uns auf zwei adaptive Basisentwicklungen, die auf den Eigenfunktionen des Kovarianzoperators oder eines geeignet definierten Differentialoperators beruhen. Des weiteren entwickeln wir Vorhersagealgorithmen unter der Verwendung von Gibbs-Samplern und diskutieren deren rechnerische Komplexität. Als praktisch besonders relevanten Spezialfall der Hilbertraum-Approximation des allgemeinen BNP-Experten-Mischmodells präsentieren wird eine adaptive Hilbertraum-Approximation für ein BNP-Experten-Mischmodell, welches eine Mischung von Gaußschen Prozessen mit einem als Gaußschen Mischmodell realisierten Gating-Netzwerk kombiniert. Mittels Simulationen vergleichen wir die Vorhersageleistung dieses approximativen GP-basierten Experten-Mischmodells mit jener, die sich bei Verwendung eines einzelnen Gaußschen Prozesses ergibt. Diese Simulationsergebnisse werden ergänzt durch numerische Ergebnisse einer Anwendung des vorgeschlagenen Experten-Mischmodells auf die Vorhersage der empfangenen Referenzsignalempfangsleistung in Mobilfunknetzwerken.