@misc{ScheppachWeberNunesArizietal., author = {Scheppach, Markus W. and Weber Nunes, Danilo and Arizi, X. and Rauber, David and Probst, Andreas and Nagl, Sandra and R{\"o}mmele, Christoph and Palm, Christoph and Messmann, Helmut and Ebigbo, Alanna}, title = {Single frame workflow recognition during endoscopic submucosal dissection (ESD) using artificial intelligence (AI)}, series = {Endoscopy}, volume = {57}, journal = {Endoscopy}, number = {S 02}, publisher = {Thieme}, address = {Stuttgart}, doi = {10.1055/s-0045-1806324}, pages = {S511}, abstract = {Aims Precise surgical phase recognition and evaluation may improve our understanding of complex endoscopic procedures. Furthermore, quality control measurements and endoscopy training could benefit from objective descriptions of surgical phase distributions. Therefore, we aimed to develop an artificial intelligence algorithm for frame-by-frame operational phase recognition during endoscopic submucosal dissection (ESD). Methods Full length ESD-videos from 31 patients comprising 6.297.782 single images were collected retrospectively. Videos were annotated on a frame-by-frame basis for the operational macro-phases diagnostics, marking, injection, dissection and bleeding. Further subphases were the application of electrical current, visible injection of fluid into the submucosal space and scope manipulation, leading to 11 phases in total. 4.975.699 frames (21 patients) were used for training of a video swin transformer using uniform frame sampling for temporal information. Hyperparameter tuning was performed with 897.325 further frames (6 patients), while 424.758 frames (4 patients) were used for validation. Results The overall F1 scores on the test dataset for the macro-phases and all 11 phases were 0.96 and 0.90, respectively. The recall values for diagnostics, marking, injection, dissection and bleeding were 1.00, 1.00, 0.95, 0.96 and 0.93, respectively. Conclusions The algorithm classified operational phases during ESD with high accuracy. A precise evaluation of phase distribution may allow for the development of objective quality metrics for quality control and training.}, language = {en} } @article{RoserMeinikheimMuzalyovaetal., author = {Roser, David and Meinikheim, Michael and Muzalyova, Anna and Mendel, Robert and Palm, Christoph and Probst, Andreas and Nagl, Sandra and Scheppach, Markus W. and R{\"o}mmele, Christoph and Schnoy, Elisabeth and Parsa, Nasim and Byrne, Michael F. and Messmann, Helmut and Ebigbo, Alanna}, title = {Artificial intelligence-assisted endoscopy and examiner confidence : a study on human-artificial intelligence interaction in Barrett's Esophagus (With Video)}, series = {DEN Open}, volume = {6}, journal = {DEN Open}, number = {1}, publisher = {Wiley}, doi = {10.1002/deo2.70150}, pages = {8}, abstract = {Objective Despite high stand-alone performance, studies demonstrate that artificial intelligence (AI)-supported endoscopic diagnostics often fall short in clinical applications due to human-AI interaction factors. This video-based trial on Barrett's esophagus aimed to investigate how examiner behavior, their levels of confidence, and system usability influence the diagnostic outcomes of AI-assisted endoscopy. Methods The present analysis employed data from a multicenter randomized controlled tandem video trial involving 22 endoscopists with varying degrees of expertise. Participants were tasked with evaluating a set of 96 endoscopic videos of Barrett's esophagus in two distinct rounds, with and without AI assistance. Diagnostic confidence levels were recorded, and decision changes were categorized according to the AI prediction. Additional surveys assessed user experience and system usability ratings. Results AI assistance significantly increased examiner confidence levels (p < 0.001) and accuracy. Withdrawing AI assistance decreased confidence (p < 0.001), but not accuracy. Experts consistently reported higher confidence than non-experts (p < 0.001), regardless of performance. Despite improved confidence, correct AI guidance was disregarded in 16\% of all cases, and 9\% of initially correct diagnoses were changed to incorrect ones. Overreliance on AI, algorithm aversion, and uncertainty in AI predictions were identified as key factors influencing outcomes. The System Usability Scale questionnaire scores indicated good to excellent usability, with non-experts scoring 73.5 and experts 85.6. Conclusions Our findings highlight the pivotal function of examiner behavior in AI-assisted endoscopy. To fully realize the benefits of AI, implementing explainable AI, improving user interfaces, and providing targeted training are essential. Addressing these factors could enhance diagnostic accuracy and confidence in clinical practice.}, language = {en} } @article{ScheppachMendelMuzalyovaetal., author = {Scheppach, Markus W. and Mendel, Robert and Muzalyova, Anna and Rauber, David and Probst, Andreas and Nagl, Sandra and R{\"o}mmele, Christoph and Yip, Hon Chi and Lau, Louis Ho Shing and G{\"o}lder, Stefan Karl and Schmidt, Arthur and Kouladouros, Konstantinos and Abdelhafez, Mohamed and Walter, Benjamin M. and Meinikheim, Michael and Chiu, Philip Wai Yan and Palm, Christoph and Messmann, Helmut and Ebigbo, Alanna}, title = {Artificial intelligence improves submucosal vessel detection during third space endoscopy}, series = {Endoscopy}, journal = {Endoscopy}, publisher = {Thieme}, address = {Stuttgart}, doi = {10.1055/a-2534-1164}, abstract = {Background and study aims: While artificial intelligence (AI) shows high potential in decision support for diagnostic gastrointestinal endoscopy, its role in therapeutic endoscopy remains unclear. Third space endoscopic procedures pose the risk of intraprocedural bleeding. Therefore, we aimed to develop an AI algorithm for intraprocedural blood vessel detection. Patients and Methods: Using a test dataset with 101 standardized video clips containing 200 predefined submucosal blood vessels, 19 endoscopists were evaluated for the vessel detection rate (VDR) and time (VDT) with and without support of an AI algorithm. Test subjects were grouped according to experience in ESD. Results: With AI support, endoscopists VDR increased from 56.4\% [CI 54.1-58.6] to 72.4\% [CI 70.3-74.4]. Endoscopists' VDT dropped from 6.7sec [CI 6.2-7.1] to 5.2sec [CI 4.8-5.7]. False positive (FP) readings appeared in 4.5\% of frames and were marked significantly shorter than true positives (6.0sec [CI 5.28-6.70] vs. 0.7sec [CI 0.55-0.87]). Conclusions: AI improved the vessel detection rate and time of endoscopists during third space endoscopy. While these data need to be corroborated by clinical trials, AI may prove to be an invaluable tool for the improvement of endoscopic interventions.}, language = {en} } @misc{ScheppachWeberNunesRauberetal., author = {Scheppach, Markus W. and Weber Nunes, Danilo and Rauber, David and Arizi, X. and Probst, Andreas and Nagl, Sandra and R{\"o}mmele, Christoph and Ebigbo, Alanna and Palm, Christoph and Messmann, Helmut}, title = {K{\"u}nstliche Intelligenz-basierte Erkennung von interventionellen Phasen bei der endoskopischen Submukosadissektion}, series = {Zeitschrift f{\"u}r Gastroenterologie}, volume = {63}, journal = {Zeitschrift f{\"u}r Gastroenterologie}, number = {08}, publisher = {Thieme}, address = {Stuttgart}, doi = {10.1055/s-0045-1811093}, pages = {e612 -- e613}, abstract = {Einleitung: Die endoskopische Submukosadissektion (ESD) ist ein komplexes endoskopisches Verfahren, das technische Expertise erfordert. Objektive Methoden zur Analyse von interventionellen Abl{\"a}ufen bei ESD k{\"o}nnten f{\"u}r Qualit{\"a}tssicherung und Ausbildung, wie auch eine automatische Befunderstellung von Nutzen sein. Ziele: In dieser Studie wurde ein KI-Algorithmus f{\"u}r die Erkennung und Klassifizierung der interventionellen Phasen der ESD entwickelt, um die technische Basis f{\"u}r eine standardisierte Leistungsbewertung und automatische Befunderstellung zu schaffen. Methodik: Vollst{\"a}ndige ESD-Videoaufnahmen von 49 Patienten wurden retrospektiv zusammengestellt. Der Datensatz umfasste 6.390.151 Einzelbilder, die alle f{\"u}r die folgenden interventionellen Phasen annotiert wurden: Diagnostik, Markierung, Injektion, Dissektion und H{\"a}mostase. 3.973.712 Bilder (28 Patienten) wurden f{\"u}r das Training eines Video-Swin-Transformers genutzt. Dabei wurde temporale Information durch standardisierte BIldextraktion in festgelegten zeitlichen Abst{\"a}nden zum analysierten Bild inkorporiert. 2.416.439 separate Bilder (21 Patienten) wurden f{\"u}r eine interne Validierung genutzt. Ergebnis: Bei der internen Evaluation erreichte das System insgesamt einen F1-Wert von 0,88. Es wurden F1-Werte von 0,99, 0,89, 0,89, 0,91 und 0,52 f{\"u}r Diagnostik, Markierung, Injektion, Dissektion bzw. Blutungsmanagement gemessen. Die Sensitivit{\"a}ten f{\"u}r dieselben Parameter betrugen 1,00, 0,80, 0,94, 0,89 und 0,67, die Spezifit{\"a}ten lagen bei 1,00, 1,00, 0,98, 0,88 und 0,93. Positive pr{\"a}diktive Werte wurden mit 0,98, 1,00, 0,85, 0,94 und 0,43 gemessen. Schlussfolgerung: In dieser vorl{\"a}ufigen Studie zeigte ein KI-Algorithmus eine hohe Leistungsf{\"a}higkeit f{\"u}r die Einzelbild-Erkennung von Verfahrensphasen w{\"a}hrend der ESD. Die vergleichsweise niedrige Leistung f{\"u}r die Blutungsphase wurde auf das seltene Auftreten von Blutungsepisoden im Trainingsdatensatz zur{\"u}ckgef{\"u}hrt, der zu diesem Zeitpunkt nur Videos in voller L{\"a}nge umfasste. Die zuk{\"u}nftige Entwicklung des Algorithmus wird sich auf die Reduzierung von Klassenungleichgewichten durch selektive Annotationsprotokolle konzentrieren.}, language = {de} } @misc{ScheppachRauberZingleretal., author = {Scheppach, Markus W. and Rauber, David and Zingler, C. and Weber Nunes, Danilo and Probst, Andreas and R{\"o}mmele, Christoph and Nagl, Sandra and Ebigbo, Alanna and Palm, Christoph and Messmann, Helmut}, title = {Instrumentenerkennung w{\"a}hrend der endoskopischen Submukosadissektion mittels k{\"u}nstlicher Intelligenz}, series = {Zeitschrift f{\"u}r Gastroenterologie}, volume = {63}, journal = {Zeitschrift f{\"u}r Gastroenterologie}, number = {8}, publisher = {Thieme}, doi = {10.1055/s-0045-1811092}, abstract = {Einleitung: Die endoskopische Submukosadissektion (ESD) ist eine komplexe Technik zur Resektion gastrointestinaler Fr{\"u}hneoplasien. Dabei werden f{\"u}r die verschiedenen Schritte der Intervention spezifische endoskopische Instrumente verwendet. Die pr{\"a}zise und automatische Erkennung und Abgrenzung der verwendeten Instrumente (Injektionsnadeln, elektrochirurgische Messer mit unterschiedlichen Konfigurationen, h{\"a}mostatische Zangen) k{\"o}nnte wertvolle Informationen {\"u}ber den Fortschritt und die Verfahrensmerkmale der ESD liefern und eine automatische standardisierte Berichterstattung erm{\"o}glichen. Ziele: Ziel dieser Studie war die Entwicklung eines KI-Algorithmus zur Erkennung und Delineation von endoskopischen Instrumenten bei der ESD. Methodik: 17 ESD-Videos (9×rektal, 5×{\"o}sophageal, 3×gastrisch) wurden retrospektiv zusammengestellt. Auf 8530 Einzelbilder dieser Videos wurden durch 2 Studienmitarbeiter die folgenden Klassen eingezeichnet: Hakenmesser - Spitze, Hakenmesser - Katheter, Nadelmesser - Spitze und - Katheter, Injektionsnadel -Spitze und - Katheter sowie h{\"a}mostatische Zange - Spitze und - Katheter. Der annotierte Datensatz wurde zum Training eines DeepLabV3+-Deep-Learning-Algorithmus mit ConvNeXt-Backbone zur Erkennung und Abgrenzung der genannten Klassen verwendet. Die Evaluation erfolgte durch 5-fache interne Kreuzvalidierung. Ergebnis: Die Validierung auf Einzelpixelbasis ergab insgesamt einen F1-Score von 0,80, eine Sensitivit{\"a}t von 0,81 und eine Spezifit{\"a}t von 1,00. Es wurden F1-Scores von 1,00, 0,97, 0,80, 0,98, 0,85, 0,97, 0,80, 0,51 bzw. 0,85 f{\"u}r die Klassen Hakenmesser - Katheter und - Spitze, Nadelmesser - Katheter und - Spitze, Injektionsnadel - Katheter und - Spitze, h{\"a}mostatische Zange - Katheter und - Spitze gemessen. Schlussfolgerung: In dieser Studie wurden die wichtigsten endoskopischen Instrumente, die w{\"a}hrend der ESD verwendet werden, mit hoher Genauigkeit erkannt. Die geringere Leistung bei der h{\"a}mostatische Zange - Katheter kann auf die Unterrepr{\"a}sentation dieser Klassen in den Trainingsdaten zur{\"u}ckgef{\"u}hrt werden. Zuk{\"u}nftige Studien werden sich auf die Erweiterung der Instrumentenklassen sowie auf die Ausbalancierung der Trainingsdaten konzentrieren.}, language = {de} }