• search hit 1 of 2
Back to Result List

Diskriminierung im Machine Learning und Erklärbarkeit von Algorithmen

Discrimination in machine learning and explainability of algorithms

  • Künstliche Intelligenz und Machine Learning sind hochaktuelle Themen in der Informatik. Fortschrittliche Technologien und Vorgehensweisen schaffen neue Einsatzfelder für Anwendungen, die Verhaltensweisen des Menschen erlernen und nachahmen. Dieses innovative Vorgehen birgt jedoch einige Gefahren. Das menschliche Verhalten ist nicht immer objektiv und korrekt. Oft beherrschen Vorurteile das Treffen menschlicher Entscheidungen, sodass Personen diskriminiert werden. Es besteht das Risiko, dass Maschinen diese Verhaltensweise übernehmen. Hinzu kommt die fehlende Erklärbarkeit der Algorithmen. Je nach Modell ist nicht eindeutig, nach welchen Prinzipien eine Entscheidung getroffen wird. Das erschwert das Aufdecken von Diskriminierung und senkt die Vertrauenswürdigkeit des Systems. In dieser Arbeit werden Ursachen für Diskriminierung und fehlende Transparenz, sowie Lösungsmethoden erarbeitet. Dabei wird erörtert, inwieweit die beiden Themen aufeinander einspielen und gemeinsam zur QualitätKünstliche Intelligenz und Machine Learning sind hochaktuelle Themen in der Informatik. Fortschrittliche Technologien und Vorgehensweisen schaffen neue Einsatzfelder für Anwendungen, die Verhaltensweisen des Menschen erlernen und nachahmen. Dieses innovative Vorgehen birgt jedoch einige Gefahren. Das menschliche Verhalten ist nicht immer objektiv und korrekt. Oft beherrschen Vorurteile das Treffen menschlicher Entscheidungen, sodass Personen diskriminiert werden. Es besteht das Risiko, dass Maschinen diese Verhaltensweise übernehmen. Hinzu kommt die fehlende Erklärbarkeit der Algorithmen. Je nach Modell ist nicht eindeutig, nach welchen Prinzipien eine Entscheidung getroffen wird. Das erschwert das Aufdecken von Diskriminierung und senkt die Vertrauenswürdigkeit des Systems. In dieser Arbeit werden Ursachen für Diskriminierung und fehlende Transparenz, sowie Lösungsmethoden erarbeitet. Dabei wird erörtert, inwieweit die beiden Themen aufeinander einspielen und gemeinsam zur Qualität der Software beitragen.show moreshow less
  • Artificial Intelligence and Machine Learning are matters of high interest in Information Technology. Advanced technologies and approaches are creating new areas of use for applications that study and imitate human behavior. At the same time, this innovative approach poses new dangers. Human behavior is not always objective and correct. Prejudice often dominates human decisions and therefore leads to discrimination. There is a risk that machines adopt this behavior. On top of this, algorithms are often not explainable. Depending on the model, the principles that are relevant for the decision are not clear. This makes it harder to detect discrimination and reduces the trustworthiness of a system. In this paper, causes of bias in Machine Learning and the lack of transparency, as well as methods to eliminate these problems, are elaborated. It works out the interaction between the two issues and how they contribute to the quality of the software.

Download full text files

Export metadata

Additional Services

Share in Twitter Search Google Scholar
Metadaten
Author:Arabella Jackszis
open access (DINI-Set):open_access
open access :Bronze - frei zugänglich aber ohne Lizenzhinweis, d.h. keine Weitergabe
Fachbereich/Einrichtung:Hochschule Düsseldorf / Fachbereich - Medien
Document Type:Workingpaper / Report
Year of Completion:2021
Advisor:Thomas C. Rakow
Language of Publication:German
Place of publication:Düsseldorf
Creating Corporation:Hochschule Düsseldorf
Volume:Arbeitspapier des Lehrgebiets Datenbanken und E-Business, Nr. 2/2021
Page Number:72
URN:urn:nbn:de:hbz:due62-opus-25075
DOI:https://doi.org/10.20385/93at-4795
Tag:Diskriminierung; Erklärbarkeit; Fairness; Hg_TCR; Machine Learning; Nachvollziehbarkeit; Transparenz
Discrimination; artificial intelligence; explainability; machine learning; traceability; transparency
GND Keyword:Künstliche Intelligenz
Dewey Decimal Classification:0 Informatik, Informationswissenschaft, allgemeine Werke / 00 Informatik, Wissen, Systeme / 004 Datenverarbeitung; Informatik
Licence (German):Es gilt das deutsche Urheberrecht
Release Date:2021/05/10
Accept ✔
Diese Webseite verwendet technisch erforderliche Session-Cookies. Durch die weitere Nutzung der Webseite stimmen Sie diesem zu. Unsere Datenschutzerklärung finden Sie hier.