@unpublished{BaevaBrunnerElmasetal.2023, author = {Baeva, Gergana and Brunner, Robert and Elmas, Filiz and Fresz, Benjamin and Fuß, Christine and Heß, Claudia and Kellmeyer, Philipp and Mahner, Malin and Paulheim, Heiko and Poretschkin, Maximilian and Puntschuh, Michael and Seyerlein-Klug, Annegrit}, title = {Welche Zertifizierung ist hilfreich f{\"u}r Verbraucher*innen?}, doi = {10.24406/publica-2132}, year = {2023}, abstract = {In diesem Whitepaper fokussieren wir uns auf die KI-Verordnung nicht erfasste freiwillige Zertifizierung. Dabei stehen die Interessen und Sichtweisen der Verbraucher*innen im Vordergrund. Als Verbraucher*innen betrachten wir nicht nur die unmittelbaren Nutzer*innen von KI-Systemen, sondern auch Privatpersonen, die indirekt von KI-Ergebnissen betroffen sein k{\"o}nnen. Zudem ber{\"u}cksichtigen wir Menschen in der Rolle als souver{\"a}ne Datensubjekte, deren personenbezogene Daten in die Entwicklung von KI-Systemen einfließen. Dieses breite Verst{\"a}ndnis des Verbraucher*innenbegriffs entspricht dem Selbstverst{\"a}ndnis des Zentrums f{\"u}r vertrauensw{\"u}rdige K{\"u}nstliche Intelligenz (ZVKI). Wir stellen Thesen auf, wie freiwillige Zertifizierungen von KI-Systemen f{\"u}r Verbraucher*innen n{\"u}tzlich sein k{\"o}nnen. Die im Verlauf vorgestellten und begr{\"u}ndeten acht Thesen wurden in einer Reihe von interdisziplin{\"a}ren Workshops erarbeitet. Dabei identifizierten wir Herausforderungen einer KI-Zertifizierung aus Verbraucher*innensicht und pr{\"a}zisierten diese iterativ. Die Gruppendiskussionen dienten als Grundlage dieses Whitepapers und bauten auf Erkenntnissen der Fach-Arbeitsgruppe „KI Zertifizierung" des ZVKI auf. Alle Co-Autor*innen waren an der Erstellung des finalen Texts beteiligt. Die aufgestellten Thesen thematisieren grundlegende Anforderungen an eine KI-Zertifizierung aus einer {\"u}bergeordneten Perspektive, unabh{\"a}ngig von den spezifischen Details einer KI-Anwendung. Somit liefern sie keine Aussagen zu konkreten Inhalten der Zertifizierung. Detaillierte Empfehlungen setzen eine umfassende Analyse von Einsatzf{\"a}llen voraus, die in diesem Rahmen nicht geleistet werden kann.}, language = {de} } @techreport{OlschewskiBluhmFirnkornetal.2023, author = {Olschewski, Detlef and Bluhm, Andr{\´e} and Firnkorn, Joerg and Lucieri, Adriano and Palacio, Sebastian and Streppel, Yeji and Zednik, Carlos and G{\"o}rge, Rebekka and Poretschkin, Maximilian and Becker, Nikolas and Zielke, Thomas and Kruschel, Christian and Neumann-Brosig, Matthias and B{\"a}uerle, Stephen and Eifert, Marton and L{\´o}pez, Erik Martori and Assion, Felix and Seyerlein-Klug, Annegrit and Schmid, Ute and Haufe, Stefan and Gautier, Antoine and Bieringer, Lukas and Besold, Tarek R. and Cremers, Armin B.}, title = {DIN SPEC 92001-3 Artificial Intelligence - Life Cycle Processes and Quality Requirements - Part 3: Explainability}, publisher = {Beuth Verlag}, pages = {24}, year = {2023}, abstract = {DIN SPEC 92001-3 Artificial Intelligence - Life Cycle Processes and Quality Requirements. Artificial Intelligence has become a game-changer, but its impact must be approached responsibly. This is the third document in a series, and it aims to ensure that AI systems are developed, deployed, and used efficiently, responsibly, and in a trustworthy way. It focuses on "Explainability" - the ability to understand how AI makes decisions. This DIN SPEC 92001-3 provides a domain-independent guide on promoting explainability throughout the AI system's life cycle. It tackles "opacity", describing sources and effects of opacity in AI and how explanations can mitigate them. The goal is to foster a better understanding and effective use of Explainable AI across various applications, fostering principles of trust and transparency in AI-based systems. This DIN SPEC is the result of „Zertifizierung von Standard-KI-Anwendungen (Zertifizierte KI project)" https://www.zertifizierte-ki.de/. The publication is available for free at Beuth Verlag GmbH www.beuth.de - plus the search for "DIN SPEC 92001-3"}, language = {en} }