TY - RPRT A1 - Jackszis, Arabella T1 - Diskriminierung im Machine Learning und Erklärbarkeit von Algorithmen T1 - Discrimination in machine learning and explainability of algorithms N2 - Künstliche Intelligenz und Machine Learning sind hochaktuelle Themen in der Informatik. Fortschrittliche Technologien und Vorgehensweisen schaffen neue Einsatzfelder für Anwendungen, die Verhaltensweisen des Menschen erlernen und nachahmen. Dieses innovative Vorgehen birgt jedoch einige Gefahren. Das menschliche Verhalten ist nicht immer objektiv und korrekt. Oft beherrschen Vorurteile das Treffen menschlicher Entscheidungen, sodass Personen diskriminiert werden. Es besteht das Risiko, dass Maschinen diese Verhaltensweise übernehmen. Hinzu kommt die fehlende Erklärbarkeit der Algorithmen. Je nach Modell ist nicht eindeutig, nach welchen Prinzipien eine Entscheidung getroffen wird. Das erschwert das Aufdecken von Diskriminierung und senkt die Vertrauenswürdigkeit des Systems. In dieser Arbeit werden Ursachen für Diskriminierung und fehlende Transparenz, sowie Lösungsmethoden erarbeitet. Dabei wird erörtert, inwieweit die beiden Themen aufeinander einspielen und gemeinsam zur Qualität der Software beitragen. N2 - Artificial Intelligence and Machine Learning are matters of high interest in Information Technology. Advanced technologies and approaches are creating new areas of use for applications that study and imitate human behavior. At the same time, this innovative approach poses new dangers. Human behavior is not always objective and correct. Prejudice often dominates human decisions and therefore leads to discrimination. There is a risk that machines adopt this behavior. On top of this, algorithms are often not explainable. Depending on the model, the principles that are relevant for the decision are not clear. This makes it harder to detect discrimination and reduces the trustworthiness of a system. In this paper, causes of bias in Machine Learning and the lack of transparency, as well as methods to eliminate these problems, are elaborated. It works out the interaction between the two issues and how they contribute to the quality of the software. KW - Diskriminierung KW - Discrimination KW - Fairness KW - Erklärbarkeit KW - Nachvollziehbarkeit KW - Transparenz KW - Machine Learning KW - explainability KW - transparency KW - artificial intelligence KW - machine learning KW - traceability KW - Künstliche Intelligenz KW - Hg_TCR Y1 - 2021 UR - https://opus4.kobv.de/opus4-hs-duesseldorf/frontdoor/index/index/docId/2507 UR - https://nbn-resolving.org/urn:nbn:de:hbz:due62-opus-25075 VL - Arbeitspapier des Lehrgebiets Datenbanken und E-Business, Nr. 2/2021 CY - Düsseldorf ER -