safe.trAIn - sichere Ki am Beispiel fahrerloser Regionalzug: Abschlussbericht des Projektes safe.trAIn - sichere Ki am Beispiel fahrerloser Regionalzug. Partner: Hochschule Düsseldorf

  • Mit dem EU AI Act wurden KI-Systeme mit sicherheitskritischen Funktionen als Hochrisiko-Anwendungen eingestuft. Sie müssen hohen Anforderungen an Datenqualität, Robustheit, Transparenz und Konformitätsbewertung genügen. Forschungsarbeiten zur Erklärbarkeit neuronaler Netze (z. B. LRP, CAM) und zur Auswirkung optischer Eigenschaften auf KI-Systeme bilden die Basis. Zudem wurde erkannt, dass fehlerhafte Daten und optische Abbildungsfehler die Sicherheit stark beeinträchtigen können. Ziel des Projekts safe.trAIn war es, die Voraussetzungen für einen sicheren vollautomatisierten Zugbetrieb zu schaffen. Im Fokus stand die Absicherung KI-basierter Verfahren zur Hinderniserkennung und deren Integration in Sicherheitsnachweise. Die Hochschule Düsseldorf (HSD) übernahm zentrale Aufgaben bei der Entwicklung und Weiterentwicklung von Methoden zur Daten- und KI-Absicherung, insbesondere den Queens-Methoden (QI² und ECS). Methoden: - Entwicklung und Anwendung der Queens-Methoden zur Bewertung vonMit dem EU AI Act wurden KI-Systeme mit sicherheitskritischen Funktionen als Hochrisiko-Anwendungen eingestuft. Sie müssen hohen Anforderungen an Datenqualität, Robustheit, Transparenz und Konformitätsbewertung genügen. Forschungsarbeiten zur Erklärbarkeit neuronaler Netze (z. B. LRP, CAM) und zur Auswirkung optischer Eigenschaften auf KI-Systeme bilden die Basis. Zudem wurde erkannt, dass fehlerhafte Daten und optische Abbildungsfehler die Sicherheit stark beeinträchtigen können. Ziel des Projekts safe.trAIn war es, die Voraussetzungen für einen sicheren vollautomatisierten Zugbetrieb zu schaffen. Im Fokus stand die Absicherung KI-basierter Verfahren zur Hinderniserkennung und deren Integration in Sicherheitsnachweise. Die Hochschule Düsseldorf (HSD) übernahm zentrale Aufgaben bei der Entwicklung und Weiterentwicklung von Methoden zur Daten- und KI-Absicherung, insbesondere den Queens-Methoden (QI² und ECS). Methoden: - Entwicklung und Anwendung der Queens-Methoden zur Bewertung von Datenqualität und Modellrobustheit - Analyse von Unsicherheiten in KI-gestützter Objekterkennung und deren Propagation - Entwicklung physikalisch realistischer Optikmodelle zur Untersuchung sensorischer Einflüsse - Validierung im virtuellen Testfeld (GoA4-System, driverless operation) - Integration in Sicherheitsarchitekturen (RAMS- und GSN-Methodik) sowie Begutachtung durch TÜV. Ergebnisse: - Erfolgreiche Weiterentwicklung der Queens-Methoden (QI², ECS) für Daten- und Modellbewertung - Entwicklung von Verfahren zur Erklärbarkeit (Kombination QI² mit LRP) - Neue Ansätze zur datenqualitätsbasierten Fehlererkennung ohne Training - Optische Modellierungen und verbesserte Kamerakalibrierung - Beitrag zur Standardisierung (DIN DKE SPEC 99002) - Mehrere wissenschaftliche Publikationen und Betreuung von Promotionen und Abschlussarbeiten. Die entwickelten Methoden ermöglichen eine systematische Absicherung von KI-Systemen im Bahnumfeld. Anwendungsmöglichkeiten bestehen in der Integration in Zulassungsprozesse, bei der Datenkuratierung, in der Sensorikgestaltung sowie in weiteren sicherheitskritischen Bereichen. Darüber hinaus sind die Methoden anschlussfähig für andere Forschungsfelder (z. B. Transformer-Netzwerke, chaostheoretische Analysen). Damit wurde eine technologische Grundlage für den sicheren Betrieb fahrerloser Regionalzüge geschaffen.show moreshow less

Download full text files

Export metadata

Metadaten
Author:Simon Geerkens, Christian Sieberichs
open access:Diamant - ohne Publikationskosten mit Lizenzhinweis
Research fields:Informationstechnologie / Künstliche Intelligenz und Big Data
Fachbereich/Einrichtung:Hochschule Düsseldorf / Fachbereich - Elektro- & Informationstechnik
Document Type:Workingpaper / Report
Year of Completion:2026
Language of Publication:German
Publisher:Technische Informationsbibliothek
Place of publication:Hannover
Page Number:17
URN:urn:nbn:de:hbz:due62-opus-60980
DOI:https://doi.org/10.34657/29998
Tag:Bahnbetrieb; Sicherheit
GND Keyword:Künstliche IntelligenzGND
Funding institution:BMWE
Funding number:01243726
Corresponding Author:Christian Sieberichs
Dewey Decimal Classification:0 Informatik, Informationswissenschaft, allgemeine Werke / 00 Informatik, Wissen, Systeme / 006 Spezielle Computerverfahren
Licence (German):Creative Commons - CC BY-ND - Namensnennung - Keine Bearbeitungen 3.0
Release Date:2026/02/24
Diese Webseite verwendet technisch erforderliche Session-Cookies. Durch die weitere Nutzung der Webseite stimmen Sie diesem zu. Unsere Datenschutzerklärung finden Sie hier.