TY - CHAP A1 - Mucha, Henrik A1 - Jacobi, Ricarda A1 - Robert, Sebastian T1 - Partizipation und Künstliche Intelligenz T2 - Mensch und Computer 2019 - Workshopband N2 - Der Einsatz künstlicher Intelligenz (KI) wird unsere Lebenswirklichkeit nachhaltig beeinflussen. Mittels technischer Verfahren maschinellen Lernens oder tiefer neuronaler Netze können Modelle aus existierenden Datenbeständen gelernt und Vorhersagen abgeleitet werden. Wir stellen skizzenartig zwei aktuelle Projekte vor, die sich u.a. mit den Potentialen und der menschzentrierten Gestaltung von Systemen künstlicher Intelligenz beschäftigen. Wir betten dies schlaglichtartig in den Kontext der aktuellen Debatte über die Entwicklung und Gestaltung von KI Systemen ein. Im Zuge dessen umreißen wir Herausforderungen und Chancen für die partizipative und sozialverantwortliche Technologieentwicklung von komplexen und auf Verfahren der künstlichen Intelligenz basierenden Systemen. Schließlich fokussieren wir dabei auf die Arbeitsebene und beschreiben kurz, welche konkreten Aktivitäten wir planen und stellen diese zur Diskussion. KW - Partizipation KW - Künstliche Intelligenz KW - Design Y1 - 2021 UR - https://doi.org/10.18420/muc2019-ws-413 SP - 19 EP - 21 ER - TY - CHAP A1 - Mucha, Henrik A1 - Robert, Sebastian A1 - Breitschwerdt, Ruediger A1 - Fellmann, Michael T1 - Interfaces for Explanations in Human-AI Interaction: Proposing a Design Evaluation Approach T2 - Extended Abstracts of the 2021 CHI Conference on Human Factors in Computing Systems. Association for Computing Machinery, New York, NY, USA N2 - Explanations in Human-AI Interaction are communicated to human decision makers through interfaces. Yet, it is not clear what consequences the exact representation of such explanations as part of decision support systems (DSS) and working on machine learning (ML) models has on human decision making. We observe a need for research methods that allow for measuring the effect different eXplainable AI (XAI) interface designs have on people’s decision making. In this paper, we argue for adopting research approaches from decision theory for HCI research on XAI interface design. We outline how we used estimation tasks in human-grounded design research in order to introduce a method and measurement for collecting evidence on XAI interface effects. To this end, we investigated representations of LIME explanations in an estimation task online study as proof-of-concept for our proposal. KW - Human-AI Interaction Y1 - 2021 UR - https://doi.org/10.1145/3411763.3451759 SP - 327 ER - TY - CHAP A1 - Mucha, Henrik A1 - Mevißen, Dennis A1 - Robert, Sebastian A1 - Jacobi, Ricarda A1 - Meyer, Kirsten A1 - Heusler, Winfried A1 - Arztmann, Daniel T1 - Co-Design Futures for AI and Space: A Workbook Sprint T2 - Extended Abstracts of the 2020 CHI Conference on Human Factors in Computing Systems (CHI EA '20). Association for Computing Machinery, New York, NY, USA N2 - Artificial Intelligence (AI) is continuously moving into our surroundings. In its various forms, it has the potential to disrupt most aspects of human life. Yet, the discourse around AI has long been by experts and for experts. In this paper, we argue for a participatory approach towards designing human-AI interactions. We outline how we used design methodology to organise an interdisciplinary workshop with a diverse group of students – a workbook sprint with 45 participants from four different programs and 13 countries – to develop speculative design futures in five focus areas. We then provide insights into our findings and share our lessons learned regarding our workshop topic – AI and Space – our process, and our research. We learned that involving non-experts in complex technical discourses – such as AI – through the structural rigour of design methodology is a viable approach. We then conclude by laying out how others might use our findings and initiate their own workbook sprint to explore complex technologies in a human-centred way. KW - Artificial Intelligence Y1 - 2021 UR - https://doi.org/10.1145/3334480.3375203 SP - 1 EP - 8 ER - TY - CHAP A1 - Mucha, Henrik A1 - Robert, Sebastian A1 - Breitschwerdt, Rüdiger A1 - Fellmann, Michael T1 - Towards Participatory Design Spaces for Explainable AI Interfaces in Expert Domains T2 - CEUR Workshop Proceedings XI-ML 2020 N2 - In this position paper, we lay out an approach to use participatory and co-design methodology to explore how users perceive and interact with explanations of artificially intelligent decision support systems. We describe how we intend to construct bottom-up participatory design spaces to systematically inform the design of interactive explanations in Human-AI interaction. KW - Explainable AI (XAI) KW - Participatory Design KW - Design Spaces Y1 - 2021 ER - TY - CHAP A1 - Mucha, Henrik A1 - Robert, Sebastian T1 - Emerging Perspectives on Medical Decision Support: Co-Designing XAI T2 - Fair & Responsible AI Workshop, Conference on Human Factors in Computing Systems (CHI), 2020, Honolulu, Hawaii N2 - Artificial Intelligence (AI) and Machine Learning (ML) promise to significantly enhance the capabilities of decision support systems in medicine. Yet, if these systems fail to providean understandable rationale of the decision making process the adoption of this powerful technology will be difficult. Hence, there is growing interest in Explainable Artificial Intelligence (XAI). Explanations that speak the language of the user are a cornerstone for Fair AI. In this position paper, we reflect on research about XAI and designing decision support in medicine. From there, we lay out an approach to use co-design methodology to explore how users perceive and interact with explanations of decision support systems. KW - XAI KW - Medical Decision Support KW - Co-Design Y1 - 2021 ER - TY - JOUR A1 - Mucha, Henrik A1 - Robert, Sebastian A1 - Breitschwerdt, Rüdiger A1 - Fellmann, Michael T1 - Usability of clinical decision support systems JF - Zeitschrift für Arbeitswissenschaft N2 - Usability is considered a major success factor for current and future decision support systems. Such systems are increasingly used to assist human decision-makers in high-stakes tasks in complex domains such as health care, jurisdiction or finance. Yet, many if not most expert systems—especially in health care—fail to deliver the degree of quality in terms of usability that its expert users are used to from their personal digital consumer products. In this article, we focus on clinical decision support systems (CDSS) as an example for how important a human-centered design approach is when designing complex software in complex contexts. We provide an overview of CDSS classes, discuss the importance of systematically exploring mental models of users, and formulate challenges and opportunities of future design work on CDSS. We further provide a case study from a current research project to illustrate how we used codesign as a practical approach to produce usable software in a real-world context. Practical Relevance: We make a point for usability to be considered a major success factor and non-negotiable characteristic of expert software. With software evolving into virtual coworkers in terms of supporting human decision-making in complex, high-risk domains, the necessity of and demand for systems that are unambiguously understandable and interpretable for their expert users have never been higher. We show that this is a real-world problem with high practical relevance by describing our work in the domain of clinical decision support systems (CDSS) as an example. We introduce the topic and a classification of CDSS. Thus, we highlight a conceptual framework of how to approach complex domains from a technology designer’s point of view. We continue by explaining why usability must be regarded as a major goal in software development. We derive challenges and opportunities that may well be transferred to other domains. Finally, be including a real-world example from our own professional work we propose a practical approach towards taking the challenges and exploiting the associated opportunities. N2 - Die Benutzerfreundlichkeit gilt als ein wichtiger Erfolgsfaktor für aktuelle und zukünftige Entscheidungsunterstützungssysteme. Solche Systeme werden zunehmend eingesetzt, um menschliche Entscheidungsträger bei anspruchsvollen Aufgaben in komplexen Bereichen wie dem Gesundheitswesen, der Rechtsprechung oder dem Finanzwesen zu unterstützen. Viele, wenn nicht sogar die meisten Expertensysteme – insbesondere im Gesundheitswesen – bieten jedoch nicht die Qualität in Bezug auf die Benutzerfreundlichkeit, die die Experten von ihren persönlichen digitalen Konsumgütern gewohnt sind. In diesem Artikel konzentrieren wir uns auf klinische Entscheidungsunterstützungssysteme (CDSS) als Beispiel dafür, wie wichtig ein menschenzentrierter Designansatz bei der Entwicklung komplexer Software in komplexen Kontexten ist. Wir geben einen Überblick über CDSS-Klassen, erörtern die Bedeutung der systematischen Erforschung mentaler Modelle von Nutzern und formulieren Herausforderungen und Chancen für die zukünftige Designarbeit an CDSS. Darüber hinaus stellen wir eine Fallstudie aus einem aktuellen Forschungsprojekt vor, um zu veranschaulichen, wie wir Codesign als praktischen Ansatz eingesetzt haben, um brauchbare Software in einem realen Kontext zu entwickeln. Praktische Relevanz: Wir setzen uns dafür ein, dass die Benutzerfreundlichkeit als ein wichtiger Erfolgsfaktor und nicht verhandelbares Merkmal von Expertensoftware angesehen wird. Mit der Entwicklung von Software zu virtuellen Mitarbeitern, die den Menschen bei der Entscheidungsfindung in komplexen, risikoreichen Bereichen unterstützen, sind die Notwendigkeit und die Nachfrage nach Systemen, die für ihre Expertenanwender eindeutig verständlich und interpretierbar sind, so hoch wie nie zuvor. Wir zeigen, dass dies ein reales Problem mit hoher praktischer Relevanz ist, indem wir unsere Arbeit im Bereich der klinischen Entscheidungsunterstützungssysteme (CDSS) als Beispiel beschreiben. Wir stellen das Thema und eine Klassifizierung von CDSS vor. So zeigen wir einen konzeptionellen Rahmen auf, wie man sich komplexen Domänen aus der Sicht eines Technologieentwicklers nähert. Wir fahren fort, indem wir erklären, warum die Benutzerfreundlichkeit als ein Hauptziel bei der Softwareentwicklung angesehen werden muss. Daraus leiten wir Herausforderungen und Möglichkeiten ab, die sich durchaus auf andere Bereiche übertragen lassen. Schließlich schlagen wir anhand eines praktischen Beispiels aus unserer eigenen beruflichen Tätigkeit einen praktischen Ansatz vor, um die Herausforderungen anzunehmen und die damit verbundenen Chancen zu nutzen. KW - Usability KW - Human-centered Design KW - Participatory Design KW - Software Engineering in Expert Domains KW - (Clinical) Decision Support Systems Y1 - 2022 U6 - https://doi.org/10.1007/s41449-022-00324-8 ER -