@article{SchneiderWeber, author = {Schneider, Diana and Weber, Karsten}, title = {AI for decision support: What are possible futures, social impacts, regulatory options, ethical conundrums and agency constellations?}, series = {TATuP - Zeitschrift f{\"u}r Technikfolgenabsch{\"a}tzung in Theorie und Praxis}, volume = {33}, journal = {TATuP - Zeitschrift f{\"u}r Technikfolgenabsch{\"a}tzung in Theorie und Praxis}, number = {1}, publisher = {oekom verlag}, address = {M{\"u}nchen}, issn = {2567-8833}, doi = {10.14512/tatup.33.1.08}, pages = {8 -- 13}, abstract = {Although artificial intelligence (AI) and automated decision-making systems have been around for some time, they have only recently gained in importance as they are now actually being used and are no longer just the subject of research. AI to support decision-making is thus affecting ever larger parts of society, creating technical, but above all ethical, legal, and societal challenges, as decisions can now be made by machines that were previously the responsibility of humans. This introduction provides an overview of attempts to regulate AI and addresses key challenges that arise when integrating AI systems into human decision-making. The Special topic brings together research articles that present societal challenges, ethical issues, stakeholders, and possible futures of AI use for decision support in healthcare, the legal system, and border control.}, language = {en} } @article{SchneiderWeber, author = {Schneider, Diana and Weber, Karsten}, title = {AI‑based decision support systems and society: An opening statement}, series = {TATuP - Zeitschrift f{\"u}r Technikfolgenabsch{\"a}tzung in Theorie und Praxis}, volume = {33}, journal = {TATuP - Zeitschrift f{\"u}r Technikfolgenabsch{\"a}tzung in Theorie und Praxis}, number = {1}, publisher = {Oekom}, doi = {10.14512/tatup.33.1.9}, pages = {9 -- 13}, abstract = {Although artificial intelligence (AI) and automated decision-making systems have been around for some time, they have only recently gained in importance as they are now actually being used and are no longer just the subject of research. AI to support decision-making is thus affecting ever larger parts of society, creating technical, but above all ethical, legal, and societal challenges, as decisions can now be made by machines that were previously the responsibility of humans. This introduction provides an overview of attempts to regulate AI and addresses key challenges that arise when integrating AI systems into human decision-making. The Special topic brings together research articles that present societal challenges, ethical issues, stakeholders, and possible futures of AI use for decision support in healthcare, the legal system, and border control.}, language = {en} } @incollection{SchneiderSonarWeber, author = {Schneider, Diana and Sonar, Arne and Weber, Karsten}, title = {Zwischen Automatisierung und ethischem Anspruch - Disruptive Effekte des KI-Einsatzes in und auf Professionen der Gesundheitsversorgung}, series = {K{\"u}nstliche Intelligenz im Gesundheitswesen}, booktitle = {K{\"u}nstliche Intelligenz im Gesundheitswesen}, publisher = {Springer}, address = {Wiesbaden}, doi = {10.1007/978-3-658-33597-7_14}, pages = {325 -- 348}, abstract = {K{\"u}nstliche Intelligenz (KI) und algorithmische Systeme der Entscheidungsfindung entwickeln sich rapide zu wichtigen neuen Technologien in unserem t{\"a}glichen Leben und es kann kaum Zweifel geben, dass sie einen großen Einfluss auf die Gesellschaft haben - auch in Professionen der Gesundheitsversorgung. Aufgrund ihrer Wirkkraft auf vorhandene {\"o}konomische und organisatorische Strukturen werden diesen Technologien gleichzeitig disruptive Effekte auf ihre jeweiligen Anwendungsdom{\"a}nen zugesprochen. Im vorliegenden Beitrag wird an den Beispielen der klinischen Medizin sowie der Einzelfallhilfe der Sozialen Arbeit dargelegt, in welcher Weise KI professionelle Praxen in der Gesundheitsversorgung ver{\"a}ndert, welche Konsequenzen daraus f{\"u}r die Professionen erwachsen und welche Handlungsaufforderungen sich f{\"u}r die jeweiligen Professionen ergeben.}, language = {de} } @misc{WeberSonarGerhardsetal., author = {Weber, Karsten and Sonar, Arne and Gerhards, Helene and Bittner, Uta and Krug, Henriette and Reuter-Oppermann, Melanie and Pumplun, Luisa and M{\"u}ller, Helene and Buxmann, Peter and Schneider, Diana and Zoglauer, Thomas}, title = {K{\"u}nstliche Intelligenz und Gesundheit}, editor = {Sonar, Arne and Weber, Karsten}, publisher = {Franz Steiner}, address = {Stuttgart}, isbn = {978-3-515-12977-0}, doi = {10.25162/9783515129770}, abstract = {Der Einsatz von k{\"u}nstlicher Intelligenz im Gesundheitsbereich verspricht besonders großen Nutzen durch eine bessere Versorgung sowie effizientere Abl{\"a}ufe und bietet damit letztlich auch {\"o}konomische Vorteile. Dem stehen unter anderem Bef{\"u}rchtungen entgegen, dass sich durch den Einsatz von k{\"u}nstlicher Intelligenz das Arzt-Patienten-Verh{\"a}ltnis ver{\"a}ndern k{\"o}nnte, Arbeitspl{\"a}tze gef{\"a}hrdet seien oder die {\"O}konomisierung des Gesundheitswesens einen weiteren Schub erfahren k{\"o}nnte. Zuweilen wird die Debatte um diese Technologie, zumal in der {\"O}ffentlichkeit, emotional und fern sachlicher Argumente gef{\"u}hrt. Die Autorinnen und Autoren untersuchen die Geschichte des KI-Einsatzes in der Medizin, deren {\"o}ffentliche Wahrnehmung, Governance der KI, die M{\"o}glichkeiten und Grenzen der Technik sowie Einsatzgebiete, die bisher noch nicht oder nur wenig im Fokus der Aufmerksamkeit waren. Dabei erweist sich die KI als leistungsf{\"a}higes Werkzeug, das zahlreiche ethische und soziale Fragen aufwirft, die bei der Einf{\"u}hrung anderer Technologien bereits gestellt wurden; allerdings gibt es auch neue Herausforderungen, denen sich Professionen, Politik und Gesellschaft stellen m{\"u}ssen.}, language = {de} }