Refine
Document Type
- Article (2)
- Conference Proceeding (2)
- Preprint (2)
- Workingpaper / Report (1)
Is part of the Bibliography
- yes (7)
Keywords
- Artificial Intelligence (2)
- DEAL (2)
- DFG Publikationskosten (2)
- HSD Publikationsfonds (2)
- Machine Learning (2)
- Sicherheit (2)
- Autonomes Fahrzeug (1)
- Bahnbetrieb (1)
- Computers and Society (1)
- Data Structures and Algorithms (1)
Department/institution
With the increasing capabilities of machine learning systems and their potential use in safety-critical systems, ensuring high-quality data is becoming increasingly important. In this paper, we present a novel approach for the assurance of data quality. For this purpose, the mathematical basics are first discussed and the approach is presented using multiple examples. This results in the detection of data points with potentially harmful properties for the use in safety-critical systems.
The importance of high data quality is increasing with the growing impact and distribution of ML systems and big data. Also, the planned AI Act from the European commission defines challenging legal requirements for data quality especially for the market introduction of safety relevant ML systems. In this paper, we introduce a novel approach that supports the data quality assurance process of multiple data quality aspects. This approach enables the verification of quantitative data quality requirements. The concept and benefits are introduced and explained on small example data sets. How the method is applied is demonstrated on the well-known MNIST data set based an handwritten digits.
With the increasing capabilities of machine learning systems and their potential use in safety-critical systems, ensuring high-quality data is becoming increasingly important. In this paper we present a novel approach for the assurance of data quality. For this purpose, the mathematical basics are first discussed and the approach is presented using multiple examples. This results in the detection of data points with potentially harmful properties for the use in safety-critical systems.
The importance of high data quality is increasing with the growing impact and distribution of ML systems and big data. Also the planned AI Act from the European commission defines challenging legal requirements for data quality especially for the market introduction of safety relevant ML systems. In this paper we introduce a novel approach that supports the data quality assurance process of multiple data quality aspects. This approach enables the verification of quantitative data quality requirements. The concept and benefits are introduced and explained on small example data sets. How the method is applied is demonstrated on the well known MNIST data set based an handwritten digits.
Continuous Development and Safety Assurance Pipeline for ML-Based Systems in the Railway Domain
(2024)
Mit dem EU AI Act wurden KI-Systeme mit sicherheitskritischen Funktionen als Hochrisiko-Anwendungen eingestuft. Sie müssen hohen Anforderungen an Datenqualität, Robustheit, Transparenz und Konformitätsbewertung genügen. Forschungsarbeiten zur Erklärbarkeit neuronaler Netze (z. B. LRP, CAM) und zur Auswirkung optischer Eigenschaften auf KI-Systeme bilden die Basis. Zudem wurde erkannt, dass fehlerhafte Daten und optische Abbildungsfehler die Sicherheit stark beeinträchtigen können. Ziel des Projekts safe.trAIn war es, die Voraussetzungen für einen sicheren vollautomatisierten Zugbetrieb zu schaffen. Im Fokus stand die Absicherung KI-basierter Verfahren zur Hinderniserkennung und deren Integration in Sicherheitsnachweise. Die Hochschule Düsseldorf (HSD) übernahm zentrale Aufgaben bei der Entwicklung und Weiterentwicklung von Methoden zur Daten- und KI-Absicherung, insbesondere den Queens-Methoden (QI² und ECS). Methoden: - Entwicklung und Anwendung der Queens-Methoden zur Bewertung von Datenqualität und Modellrobustheit - Analyse von Unsicherheiten in KI-gestützter Objekterkennung und deren Propagation - Entwicklung physikalisch realistischer Optikmodelle zur Untersuchung sensorischer Einflüsse - Validierung im virtuellen Testfeld (GoA4-System, driverless operation) - Integration in Sicherheitsarchitekturen (RAMS- und GSN-Methodik) sowie Begutachtung durch TÜV. Ergebnisse: - Erfolgreiche Weiterentwicklung der Queens-Methoden (QI², ECS) für Daten- und Modellbewertung - Entwicklung von Verfahren zur Erklärbarkeit (Kombination QI² mit LRP) - Neue Ansätze zur datenqualitätsbasierten Fehlererkennung ohne Training - Optische Modellierungen und verbesserte Kamerakalibrierung - Beitrag zur Standardisierung (DIN DKE SPEC 99002) - Mehrere wissenschaftliche Publikationen und Betreuung von Promotionen und Abschlussarbeiten. Die entwickelten Methoden ermöglichen eine systematische Absicherung von KI-Systemen im Bahnumfeld. Anwendungsmöglichkeiten bestehen in der Integration in Zulassungsprozesse, bei der Datenkuratierung, in der Sensorikgestaltung sowie in weiteren sicherheitskritischen Bereichen. Darüber hinaus sind die Methoden anschlussfähig für andere Forschungsfelder (z. B. Transformer-Netzwerke, chaostheoretische Analysen). Damit wurde eine technologische Grundlage für den sicheren Betrieb fahrerloser Regionalzüge geschaffen.
