Pachinko-Zuweisung

Latent Dirichlet Allocation (LDA) und andere verwandte Topic-Modelle sind zunehmend beliebte Werkzeuge zur Zusammenfassung und Entdeckung von Mannigfaltigkeiten in diskreten Daten. LDA erfasst jedoch keine Korrelationen zwischen Themen. In diesem Papier stellen wir das Pachinko Allocation Model (PAM) vor, das beliebige, verschachtelte und möglicherweise sparsame Korrelationen zwischen Themen mittels eines gerichteten azyklischen Graphen (DAG) erfasst. Die Blätter des DAG repräsentieren einzelne Wörter im Vokabular, während jeder innere Knoten eine Korrelation unter seinen Kindern beschreibt, die Wörter oder andere innere Knoten (Themen) sein können. PAM bietet eine flexible Alternative zur aktuellen Arbeit von Blei und Lafferty (2006), die nur Korrelationen zwischen Themenpaaren erfasst. Anhand von Textdaten aus Newsgroups, historischen NIPS-Proceedings und anderen Forschungspapier-Korpora zeigen wir eine verbesserte Leistung von PAM bei der Dokumentklassifikation, der Wahrscheinlichkeit von Testdaten, der Fähigkeit, feinere Themen zu unterstützen, und der Kohärenz thematischer Schlüsselwörter.