Schrumpfen und Regularisieren von Finiten Mischmodellen

Es wird oft vermutet, dass Gruppen von Beobachtungen mit unterschiedlichen Charakteristika in Daten vorhanden sind. Jedoch sind die Gruppenzugehörigkeiten entweder nicht verfügbar oder nicht beobachtbar. In dieser Situation muss eine statistische Methode in der Datenanalyse verwendet werden, die explizit erlaubt, das Auftreten von latenten Gruppen zu berücksichtigen, und die versucht, sowohl die Gruppengrößen als auch Gruppencharakteristika zu bestimmen. Das Standardwerkzeug für dieses Problem bei der statistischen Analyse basierend auf einem statistischen Modell ist das finite Mischmodell. Finite Mischmodelle werden seit mehr als 100 Jahren verwendet und stellen ein flexibles und generell anwendbares statistisches Werkzeug dar, für das bereits viele Erweiterungen und Varianten vorgeschlagen wurden. Jedoch sind manche Probleme immer noch ungelöst, wie die korrekte Selektion der Variablen für die Analyse, die die Gruppenstruktur festlegen, und die Auswahl eines geeigneten Modells, das eine Überanpassung an die Heterogenität vermeidet, um eine leichte Interpretierbarkeit und ein konzises Schätzen der Parameter zu ermöglichen. In dem vorliegenden Forschungsprojekt werden wir versuchen, die Anwendung von finiten Mischmodellen zu verbessern, indem wir Werkzeuge basierend auf Schrumpfen (Shrinkage) und Regularisierung entwickeln, die die Auswahl eines geeigneten Modells ermöglichen, wobei zwischen relevanten und irrelevanten Variablen automatisch unterschieden wird, und die Parameter auf eine Art und Weise festgelegt werden, sodass Überanpassung vermieden wird. Die theoretischen Resultate werden durch Anwendungen und eine Implementierung in Software komplementiert, die in Form von Erweiterungspaketen für die quelloffene Software R, einer Umgebung für statistisches Rechnen und Graphik (http://www.R-project.org), erfolgen wird. The Verfügbarkeit von verbesserten statistischen Methoden in Kombination mit Softwareimplementierungen erlaubt die bessere Analyse und ein erweitertes Verständnis für die Daten in empirischen, quantitativen Analysen. Aufgrund der weiten Anwendungsmöglichkeiten von finiten Mischmodellen, z.B. in der Astronomie, Biologie, Ökonomie, Marketing, Medizin und Psychologie, kann angenommen werden, dass die Resultate dieses Forschungsprojekts auch eine Auswirkung auf andere Forschungsbereiche haben, indem ein verbesserter Einblick in die latente Gruppenstruktur, die in den Daten vorhanden ist, gewonnen wird.

Clusteranalyse ist eine statistische Methode, die erlaubt, Struktur in Daten mithilfe des Gruppierens von Beobachtungen zu erkennen.Clusteranalyse wird in vielen verschiedenen Bereichen eingesetzt, in denen Daten analysiert werden. Der modellbasierte Ansatz zur Clusteranalyse bettet das Cluster-Problem in die Methodik der statistischen Inferenz ein und verwendet dabei Mischmodelle als zugrundeliegendes datengenerierendes Modell. Der modellbasierte Ansatz ist reizvoll, da statistische Inferenzverfahren zum Beantworten von relevanten Fragestellungen bei der Clusteranalyse herangezogen werden können. Weiters sind Erweiterungen direkt verfügbar, indem man andere statistische Modelle für die Komponenten des Mischmodells verwendet. Das Verfolgen eines Bayesianischen Ansatzes erleichtert das Einbeziehen von Vorinformation in die Modellierung, wie das Wissen im Bezug auf die Clusterformen oder deren Anzahl. Dadurch wird die Ambiguität des Cluster-Problems reduziert, und man findet leichter geeignete Clusterlösungen. In diesem Projekt entwickelten wir die Bayesianische Modellierung von Mischmodellen mit Fokus auf die Anwendung beim modellbasierten Clustern weiter. Wir verfolgten einen ganzheitlichen Ansatz, wobei wir generelle Aspekte wie die Spezifikation der A-priori-Verteilungen sowie des Modells selbst als auch deren Schätzung und allgemeine Überlegungen im Bezug auf die erfolgreiche Anwendung abdeckten. Wir versuchten eine Brücke zwischen endlichen und unendlichen Mischmodellen zu schlagen, indem wir Gemeinsamkeiten, aber auch wesentliche Unterschiede zwischen den beiden Modellklassen herausarbeiteten. Wir untersuchten die Annahme einer A-priori-Verteilung für die Zahl der Komponenten, um die Modellunsicherheit zu berücksichtigen, und erhielten damit eine vollständige Bayesianische Modellspezifikation, die im generalisierten Mischung-endlicher-Mischungen (MFM) Modell resultierte. Wir beleuchteten, wie sich explizite A-priori-Spezifikationen auf implizit induzierte A-priori-Verteilungen auswirken, die bei Cluster-Anwendungen oft von größerem Interesse sind. Wir schlugen den Teleskop-Sampler für die Schätzung des generalisierten MFM-Modells sowie einen effizienten Markov-Ketten-Monte-Carlo-Algorithmus für das Mixture-of-Experts Modell vor. Insgesamt helfen die Projektergebnisse dabei, Bayesianische Mischmodelle generell als auch beim modellbasierten Clustern erfolgreich anzuwenden und somit das statistische Instrumentarium zu erweitern, das zur Analyse komplexer Daten zur Verfügung steht. Um die Projektergebnisse entsprechend zu disseminieren,veröffentlichten wir diese nicht nur in mehreren Forschungsartikeln in Zeitschriften mit Peer-Review, die sich an Experten auf diesem Gebiet richten, sondern auch in leichter zugänglicheren Beiträgen, die als Kapitel im ``CRC Handbook of Mixture Analysis'' und als Beitrag in ``Wiley StatsRef: Statistics Reference Online'' erschienen. Software-Implementierungen einiger während dieses Projekts entwickelten rechenintensiver Methoden wurden als quelloffene R Pakete frei über das Comprehensive R Archive Network unter zur Verfügung gestellt.