Diskriminierung im Machine Learning und Erklärbarkeit von Algorithmen
Discrimination in machine learning and explainability of algorithms
- Künstliche Intelligenz und Machine Learning sind hochaktuelle Themen in der Informatik. Fortschrittliche Technologien und Vorgehensweisen schaffen neue Einsatzfelder für Anwendungen, die Verhaltensweisen des Menschen erlernen und nachahmen. Dieses innovative Vorgehen birgt jedoch einige Gefahren. Das menschliche Verhalten ist nicht immer objektiv und korrekt. Oft beherrschen Vorurteile das Treffen menschlicher Entscheidungen, sodass Personen diskriminiert werden. Es besteht das Risiko, dass Maschinen diese Verhaltensweise übernehmen. Hinzu kommt die fehlende Erklärbarkeit der Algorithmen. Je nach Modell ist nicht eindeutig, nach welchen Prinzipien eine Entscheidung getroffen wird. Das erschwert das Aufdecken von Diskriminierung und senkt die Vertrauenswürdigkeit des Systems. In dieser Arbeit werden Ursachen für Diskriminierung und fehlende Transparenz, sowie Lösungsmethoden erarbeitet. Dabei wird erörtert, inwieweit die beiden Themen aufeinander einspielen und gemeinsam zur QualitätKünstliche Intelligenz und Machine Learning sind hochaktuelle Themen in der Informatik. Fortschrittliche Technologien und Vorgehensweisen schaffen neue Einsatzfelder für Anwendungen, die Verhaltensweisen des Menschen erlernen und nachahmen. Dieses innovative Vorgehen birgt jedoch einige Gefahren. Das menschliche Verhalten ist nicht immer objektiv und korrekt. Oft beherrschen Vorurteile das Treffen menschlicher Entscheidungen, sodass Personen diskriminiert werden. Es besteht das Risiko, dass Maschinen diese Verhaltensweise übernehmen. Hinzu kommt die fehlende Erklärbarkeit der Algorithmen. Je nach Modell ist nicht eindeutig, nach welchen Prinzipien eine Entscheidung getroffen wird. Das erschwert das Aufdecken von Diskriminierung und senkt die Vertrauenswürdigkeit des Systems. In dieser Arbeit werden Ursachen für Diskriminierung und fehlende Transparenz, sowie Lösungsmethoden erarbeitet. Dabei wird erörtert, inwieweit die beiden Themen aufeinander einspielen und gemeinsam zur Qualität der Software beitragen.…
- Artificial Intelligence and Machine Learning are matters of high interest in Information Technology. Advanced technologies and approaches are creating new areas of use for applications that study and imitate human behavior. At the same time, this innovative approach poses new dangers. Human behavior is not always objective and correct. Prejudice often dominates human decisions and therefore leads to discrimination. There is a risk that machines adopt this behavior. On top of this, algorithms are often not explainable. Depending on the model, the principles that are relevant for the decision are not clear. This makes it harder to detect discrimination and reduces the trustworthiness of a system. In this paper, causes of bias in Machine Learning and the lack of transparency, as well as methods to eliminate these problems, are elaborated. It works out the interaction between the two issues and how they contribute to the quality of the software.
Author: | Arabella Jackszis |
---|---|
open access (DINI-Set): | open_access |
open access : | Bronze - frei zugänglich aber ohne Lizenzhinweis, d.h. keine Weitergabe |
Fachbereich/Einrichtung: | Hochschule Düsseldorf / Fachbereich - Medien |
Document Type: | Workingpaper / Report |
Year of Completion: | 2021 |
Advisor: | Thomas C. Rakow |
Language of Publication: | German |
Place of publication: | Düsseldorf |
Creating Corporation: | Hochschule Düsseldorf |
Volume: | Arbeitspapier des Lehrgebiets Datenbanken und E-Business, Nr. 2/2021 |
Page Number: | 72 |
URN: | urn:nbn:de:hbz:due62-opus-25075 |
DOI: | https://doi.org/10.20385/93at-4795 |
Tag: | Diskriminierung; Erklärbarkeit; Fairness; Hg_TCR; Machine Learning; Nachvollziehbarkeit; Transparenz Discrimination; artificial intelligence; explainability; machine learning; traceability; transparency |
GND Keyword: | Künstliche Intelligenz |
Dewey Decimal Classification: | 0 Informatik, Informationswissenschaft, allgemeine Werke / 00 Informatik, Wissen, Systeme / 004 Datenverarbeitung; Informatik |
Licence (German): | Es gilt das deutsche Urheberrecht |
Release Date: | 2021/05/10 |