Exponential Families with Incompatible Statistics and Their Entropy Distance

Exponentialfamilien mit inkompatibler Statistik und ihr Entropieabstand

  • This work generalizes the interaction measure of multi-information known in probability theory to finite-level quantum systems. This is done in the more general context of the entropy distance from an exponential family. One of the most well-known measures of stochastic dependence is multi-information, applied in various fields including Neuroscience and Statistical Mechanics. Multi-information is the entropy distance from an exponential family. In statistics, an exponential family is a very familiar parametric model, it admits a simple geometric description of entropy distance and maximum likelihood estimation by mean values. But a complete description of these concepts requires to study exThis work generalizes the interaction measure of multi-information known in probability theory to finite-level quantum systems. This is done in the more general context of the entropy distance from an exponential family. One of the most well-known measures of stochastic dependence is multi-information, applied in various fields including Neuroscience and Statistical Mechanics. Multi-information is the entropy distance from an exponential family. In statistics, an exponential family is a very familiar parametric model, it admits a simple geometric description of entropy distance and maximum likelihood estimation by mean values. But a complete description of these concepts requires to study extensions of a family, an investigation that was started by N. N. Cencov and O. Barndorff-Nielsen and continued principally by I. Csiszár and F. Matúš. Very little is known about extensions of an exponential family for a finite-level quantum system. In this thesis we consider mean value parameters of the statistic of such a family and a suitable extension thereof. Generalizing probability theory, we prove that the parameters describe the entropy distance from the family and they parametrize its rIclosure consisting of the points approximated in relative entropy. The dimension function of a local maximizer of entropy distance is bounded by the dimension of the family. We show that the rI-closure of a Gibbs family consists of the maximum entropy ensembles. A new and generic phenomenon of a non-abelian exponential family is the appearance of non-exposed faces of the convex mean value set. We prove that mean values of the closure of an e-geodesic included in the family meet only the relative interior of exposed faces. Unlike in finite probability spaces there are examples with a discontinuous entropy distance, the continuity being equivalent to equality of rI-closure and topological closure of the family. Examples suggest that the topology of an exponential family is related to the topology of associated projector lattices and to open projections and symmetrizations of state spaces. We conclude that multi-information for a quantum system is a continuous function equal to the entropy distance from a factorizable family. For analysis of a factorizable family we supply a partial classification of convex exponential families. As a perspective to a dynamical situation we examine a measure of temporal interaction for abelian systems, which is related to multi information.show moreshow less
  • Diese Arbeit verallgemeinert das aus der Wahrscheinlichkeitstheorie bekannte Interaktionsmaß der Multi-Information auf endlichdimensionale Quantensysteme. Dies geschieht im allgemeineren Rahmen des Entropieabstandes zu einer Exponentialfamilie. Eines der bekanntesten Maße für stochastische Abhängigkeit ist die Multi-Information mit Anwendungen in Gebieten wie den Neurowissenschaften oder der Statistischen Mechanik. Multi-Information ist der Entropieabstand zu einer Exponentialfamilie. In der Statistik ist eine Exponentialfamilie ein vertrautes parametrisches Modell mit einfacher geometrischer Beschreibung von Entropieabstand und Maximum-Likelihood Schätzung durch Mittelwerte. Aber eine vollsDiese Arbeit verallgemeinert das aus der Wahrscheinlichkeitstheorie bekannte Interaktionsmaß der Multi-Information auf endlichdimensionale Quantensysteme. Dies geschieht im allgemeineren Rahmen des Entropieabstandes zu einer Exponentialfamilie. Eines der bekanntesten Maße für stochastische Abhängigkeit ist die Multi-Information mit Anwendungen in Gebieten wie den Neurowissenschaften oder der Statistischen Mechanik. Multi-Information ist der Entropieabstand zu einer Exponentialfamilie. In der Statistik ist eine Exponentialfamilie ein vertrautes parametrisches Modell mit einfacher geometrischer Beschreibung von Entropieabstand und Maximum-Likelihood Schätzung durch Mittelwerte. Aber eine vollständige Beschreibung dieser Begriffe verlangt die Betrachtung von Erweiterungen einer Familie. Deren Erforschung wurde begonnen von N. N. Cencov und O. Barndorff-Nielsen und fortgeführt hauptsächlich von I. Csiszár and F. Matúš. Nur sehr wenig ist bekannt über Erweiterungen einer Exponentialfamilie bei endlichdimensionalen Quantensystemen. In dieser Arbeit betrachten wir Mittelwertparameter der Statistik einer solchen Familie und geeignete Erweiterungen davon. In Verallgemeinerung der Wahrscheinlichkeitstheorie beweisen wir, dass die Parameter den Entropieabstand zur Familie beschreiben und sie ihren rI-Abschluss, bestehend aus den Punkten approximiert in relativer Entropie, parametrisieren. Die Dimensionsfunktion eines lokalen Maximierers des Entropieabstandes ist durch die Dimension der Exponentialfamilie beschränkt. Wir zeigen, dass der rI-Abschluss einer Gibbsfamilie aus den Maximum-Entropie Ensembles besteht. Ein neues und generisches Phänomen bei einer nicht-abelschen Exponentialfamilie ist das Auftreten von nicht-exponierten Seiten der konvexen Menge der Mittelwerte. Wir zeigen, dass Mittelwerte des Abschlusses einer e-Geodäten in der Familie nur im relativ Inneren von exponierten Seiten liegen. Anders als bei endlichenWahrscheinlichkeitsräumen gibt es Beispiele mit unstetigem Entropieabstand, die Stetigkeit ist äquivalent zur Gleichheit von rI-Abschluss und topologischem Abschluss der Familie. Beispiele deuten Verbindungen an von der Topologie einer Exponentialfamilie zur Topologie zugehöriger Projektorenverbände und zu offenen Projektionen und Symmetrisierungen von Zustandsräumen. Wir folgern, dass Multi-Information für Quantensysteme eine stetige Funktion ist und dem Entropieabstand zu einer Produktfamilie gleicht. Zur Untersuchung einer Produktfamilie stellen wir eine teilweise algebraische Klassifikation von konvexen Exponentialfamilien bereit. Als Ausblick auf eine dynamische Situation betrachten wir ein Maß für die zeitliche Interaktion in abelschen Systemen, das verwandt ist mit Multi-Information.show moreshow less

Download full text files

Export metadata

  • Export Bibtex
  • Export RIS

Additional Services

Share in Twitter Search Google Scholar
Metadaten
Author:Stephan Weis
URN:urn:nbn:de:bvb:29-opus-15808
Advisor:Andreas Knauf
Document Type:Doctoral Thesis
Language:English
Year of Completion:2010
Publishing Institution:Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU)
Granting Institution:Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU), Naturwissenschaftliche Fakultät
Date of final exam:2009/12/21
Release Date:2010/01/20
Tag:convex geometry; exponential family; information geometry; interaction; quantum mechanics
SWD-Keyword:Exponentialfamilie; Informationstheorie; Interaktion; Konvexe Geometrie; Quantenmechanik
Institutes:Naturwissenschaftliche Fakultät / Naturwissenschaftliche Fakultät -ohne weitere Spezifikation-
Dewey Decimal Classification:Naturwissenschaften und Mathematik / Mathematik / Mathematik
open_access (DINI-Set):open_access

$Rev: 13581 $