Artificial Intelligence for Medical Image Understanding

Künstliche Intelligenz für das Medizinische Bildverstehen

Please always quote using this URN: urn:nbn:de:bvb:29-opus4-106316
  • Robust and fast detection and segmentation of anatomical structures in medical image data represents an important component of medical image analysis technologies. Current solutions for this problem are nowadays based on machine learning techniques that exploit large annotated image databases in order to learn the appearance of the captured anatomy. These solutions are subject to several limitations. This includes the use of suboptimal image feature engineering methods and most importantly the use of computationally suboptimal search-schemes for anatomy parsing, e.g., exhaustive hypotheses scanning. In particular, these techniques do not effectively address cases of incomplete data, i.e.,Robust and fast detection and segmentation of anatomical structures in medical image data represents an important component of medical image analysis technologies. Current solutions for this problem are nowadays based on machine learning techniques that exploit large annotated image databases in order to learn the appearance of the captured anatomy. These solutions are subject to several limitations. This includes the use of suboptimal image feature engineering methods and most importantly the use of computationally suboptimal search-schemes for anatomy parsing, e.g., exhaustive hypotheses scanning. In particular, these techniques do not effectively address cases of incomplete data, i.e., scans acquired with a partial field-of-view. To address these challenges, we introduce in this thesis marginal space deep learning, a framework for medical image parsing which exploits the automated feature design of deep learning models and an efficient object parametrization scheme in hierarchical marginal spaces. To support the efficient evaluation of solution hypotheses under complex transformations, such as rotation and anisotropic scaling, we propose a novel cascaded network architecture, called sparse adaptive neural network. Experiments on detecting and segmenting the aortic root in 2891 3D ultrasound volumes from 869 patients, demonstrate a high level of robustness with an accuracy increase of 30-50% against the state-of-the-art. Despite these facts, using a scanning routine to explore large parameter subspaces results in a high computational complexity, with false-positive predictions and limited scalability to high resolution volumetric data. To deal with these limitations, we propose a novel paradigm for medical image parsing, based on principles of cognitive modeling and behavior learning. The anatomy detection problem is reformulated as a behavior learning task for an intelligent artificial agent. Using deep reinforcement learning, agents are taught how to search for an anatomical structure. This resumes to learning to navigate optimal search trajectories through the image space that converge to the locations of the sought anatomical structures. To support the effective parsing of high resolution volumetric data, we apply elements from scale-space theory and enhance our framework to support the learning of multi-scale search strategies through the scale-space representation of medical images. Finally, to enable the accurate recognition whether certain anatomical landmarks are missing from the field-of-view, we exploit prior knowledge about the anatomy and ensure the spatial coherence of the agents by using statistical shape modeling and robust estimation theory. Comprehensive experiments demonstrate a high level of accuracy, compared to state-of-the-art solutions, without failures of clinical significance. In particular, our method achieves 0% false positive and 0% false negative rates at detecting whether anatomical structures are captured in the field-of-view (excluding border cases). The dataset contains 5043 3D computed tomography volumes from over 2000 patients, totaling over 2,500,000 image slices. A significant increase in accuracy compared to reference solutions is achieved on additional 2D ultrasound and 2D/3D magnetic resonance datasets, containing up to 1000 images. Most importantly, this paradigm improves the detection-speed of the previous solutions by 2-3 orders of magnitude, achieving unmatched real-time performance on high resolution volumetric scans.show moreshow less
  • Die robuste und schnelle Detektion und Segmentierung von anatomischen Strukturen in medizinischen Bilddaten ist ein wichtiger Bestandteil der medizinischen Bildanalyse. Aktuelle Lösungen für dieses Problem basieren auf maschinellem Lernen und benutzen große Mengen von annotierten Bilddaten, um anatomische Modelle zu lernen. Diese Methoden unterliegen jedoch einigen Einschränkungen. Dazu zählen die manuelle Modellierung der benötigten Bildmerkmale und vor allem der Einsatz ineffizienter Suchschemata, wie zum Beispiel die iterative Evaluierung von Hypothesen. Insbesondere sind diese Methoden nicht für unvollständige Bilddaten mit variablem Sichtfeld geeignet. Mit diesem HintergrundDie robuste und schnelle Detektion und Segmentierung von anatomischen Strukturen in medizinischen Bilddaten ist ein wichtiger Bestandteil der medizinischen Bildanalyse. Aktuelle Lösungen für dieses Problem basieren auf maschinellem Lernen und benutzen große Mengen von annotierten Bilddaten, um anatomische Modelle zu lernen. Diese Methoden unterliegen jedoch einigen Einschränkungen. Dazu zählen die manuelle Modellierung der benötigten Bildmerkmale und vor allem der Einsatz ineffizienter Suchschemata, wie zum Beispiel die iterative Evaluierung von Hypothesen. Insbesondere sind diese Methoden nicht für unvollständige Bilddaten mit variablem Sichtfeld geeignet. Mit diesem Hintergrund führen wir in dieser Arbeit das Konzept des “Marginal Space Deep Learning” ein. Dieses Konzept stellt eine Architektur dar, die das effiziente Parsen medizinischer Bilddaten mit einer optimalen Strategie zur Evaluierung von Hypothesen in marginalen parametrischen Räumen unterstützt. Diese Architektur ersetzt manuell bestimmte Bildmerkmale mit Merkmalen, die automatisch von “Deep Learning”-Netzwerken bestimmt wurden. Um das effiziente Abtasten unter unterschiedlichen Transformationen, wie Rotationen oder Skalierungen, zu unterstützen, führen wir eine neue Netzwerkarchitektur ein, die “Sparse Adaptive Neural Networks”. Bei der Detektion und Segmentierung der Aortenklappe, basierend auf 2891 3D Ultraschall-Aufnahmen von 869 Patienten, erreichte unsere Methode eine hohe Genauigkeit, die um 30-50% über dem heutigen Stand der Technik liegt. Dennoch bleibt das iterative Evaluieren von allen Hypothesen ein limitierender Faktor, vor allem für das Parsen von hochaufgelösten volumetrischen Bildern. Um das zu überwinden, führen wir eine neue Methode für das effiziente Parsen von medizinischen Bildern ein, basierend auf Prinzipien der kognitiven Modellierung und des Lernens von Verhalten. Die Detektion von anatomischen Strukturen wird neu als ein Verhaltensproblem für einen intelligenten künstlichen Agenten formuliert. Mittels “Deep Reinforcement Learning” lernen solche Agenten Strategien, wie man nach anatomischen Strukturen suchen kann. Das ist äquivalent zum Lernen von optimalen Navigationstrajektoren durch den Bildraum, die zu den relevanten anatomischen Strukturen konvergieren. Um das effiziente Parsen von hochaufgelösten Bildern zu unterstützen, erweitern wir das Navigationsprinzip auf den Skalenraum des Bildes. Letztlich modellieren wir die Verteilung aller anatomischen Landmarken durch ein robustes statistisches Formmodell, um automatisch erkennen zu können, ob bestimmte anatomische Landmarken im Sichtfeld des Bildes fehlen. Dieses Vorwissen wird benutzt, um sicherzustellen, dass alle Agenten anatomisch konsistent zueinander navigieren. Diese Methode erhöht signifikant die Genauigkeit vergleichbarer Methoden und kann ohne Fehler erkennen, ob relevante anatomische Landmarken im Sichtfeld eines Bildes fehlen (bis auf besondere Randfälle). Der Datensatz, der für die Evaluierung benutzt wurde, besteht aus 5043 3D Computertomographie-Bildern von über 2000 Patienten. Eine ähnliche Verbesserung wurde für verschiedene Detektionsprobleme auf 2D Ultraschall- und 2D/3D Magnetresonanz Bilddatensätzen mit bis zu 1000 Bildern erreicht. Insbesondere ist die Detektionslaufzeit unserer Methode um 2-3 Größenordnungen kleiner als der Stand der Technik. Auf hochaufgelösten volumetrischen Bildern läuft unsere Detektionsmethode in Echtzeit.show moreshow less

Download full text files

Export metadata

Additional Services

Share in Twitter Search Google Scholar Statistics
Metadaten
Author:Florin-Cristian Ghesu
URN:urn:nbn:de:bvb:29-opus4-106316
Referee:Joachim Hornegger
Advisor:Joachim Hornegger
Document Type:Doctoral Thesis
Language:English
Year of Completion:2019
Embargo Date:2019/03/04
Publishing Institution:Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU)
Granting Institution:Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU), Technische Fakultät
Date of final exam:2019/02/15
Release Date:2019/03/11
Tag:Artificial Intelligence; Deep Learning; Medical Image Analysis; Medical Image Parsing; Reinforcement Learning
Pagenumber:138
Institutes:Technische Fakultät
Dewey Decimal Classification:0 Informatik, Informationswissenschaft, allgemeine Werke / 00 Informatik, Wissen, Systeme / 000 Informatik, Informationswissenschaft, allgemeine Werke
open_access (DINI-Set):open_access
Licence (German):Keine Creative Commons Lizenz - es gilt der Veröffentlichungsvertrag und das deutsche Urheberrecht