@techreport{SimbeckWehnerFernseletal., author = {Simbeck, Katharina and Wehner, Marius and Fernsel, Linda and Schmodde, Lynn and Kalff, Yannick and Georgy, Jasmin and Resner, Monika}, title = {Leitfaden zur {\"U}berpr{\"u}fung von KI im Bildungsbereich auf Fairness}, organization = {HTW Berlin, Heinrich Heine Universit{\"a}t D{\"u}sseldorf}, url = {http://nbn-resolving.de/urn:nbn:de:kobv:523-18115}, pages = {16}, abstract = {Der Auditierungsprozess von KI-Systemen im Bildungsbereich umfasst die Abgrenzung der Systembestandteile, die Identifizierung m{\"o}glicher Risiken, die Definition von Auditierungskriterien, die Vorbereitung der {\"U}berpr{\"u}fung sowie die {\"U}berpr{\"u}fung der Auditierungskriterien und ein kontinuierliches Monitoring. Die Auditierungskriterien sind dom{\"a}nenspezifisch und angelehnt an die sechs Prinzipien f{\"u}r ethische Learning Analytics Anwendungen nach Slade und Prinsloo (2013). Zur {\"U}berpr{\"u}fung der Kriterien k{\"o}nnen unter anderem die Dokumentation des KI-Systems gesichtet, der Quellcode analysiert, die dem Algorithmus zugrundeliegenden Daten untersucht und datenbasierte Tests durchgef{\"u}hrt werden. Die Ziele des Audits und der erw{\"u}nschte Nutzen sollten an die Lernenden kommuniziert werden. Nicht alle Lernenden haben den gleichen Wissensstand in Bezug auf KI-Systeme und k{\"o}nnen Bedenken gegen{\"u}ber dem Einsatz von diesen haben (Ifenthaler \& Schumacher, 2019). Die Pr{\"u}fung des Systems durch eine externe Institution kann einen positiven Einfluss auf die Wahrnehmung der Lernenden haben. Lernende empfinden ein System als fairer, wenn sie nachvollziehen k{\"o}nnen, dass das KI-System gepr{\"u}ft wurde. Lernende nehmen KI-Systeme umso positiver wahr, je mehr Informationen sie erhalten - auch wenn sie auf m{\"o}gliche Nachteile hingewiesen werden. Die transparente Offenlegung m{\"o}glicher Nachteile (z. B. technische Grenzen) beim Einsatz eines KI-Systems in der Bildung ist aus ethischer Sicht unabdingbar. Durch regelm{\"a}ßige Audits wird sichergestellt, dass die KI-Systeme in technischer Hinsicht funktionieren und gleichzeitig fair sind. Zugleich wird die Akzeptanz durch die Studierenden verbessert. Universit{\"a}ten profitieren daher von Audits ihrer KI-Systeme.}, subject = {Einf{\"u}hrung}, language = {de} }