@incollection{SchneiderSonarWeber, author = {Schneider, Diana and Sonar, Arne and Weber, Karsten}, title = {Zwischen Automatisierung und ethischem Anspruch - Disruptive Effekte des KI-Einsatzes in und auf Professionen der Gesundheitsversorgung}, series = {K{\"u}nstliche Intelligenz im Gesundheitswesen}, booktitle = {K{\"u}nstliche Intelligenz im Gesundheitswesen}, publisher = {Springer}, address = {Wiesbaden}, doi = {10.1007/978-3-658-33597-7_14}, pages = {325 -- 348}, abstract = {K{\"u}nstliche Intelligenz (KI) und algorithmische Systeme der Entscheidungsfindung entwickeln sich rapide zu wichtigen neuen Technologien in unserem t{\"a}glichen Leben und es kann kaum Zweifel geben, dass sie einen großen Einfluss auf die Gesellschaft haben - auch in Professionen der Gesundheitsversorgung. Aufgrund ihrer Wirkkraft auf vorhandene {\"o}konomische und organisatorische Strukturen werden diesen Technologien gleichzeitig disruptive Effekte auf ihre jeweiligen Anwendungsdom{\"a}nen zugesprochen. Im vorliegenden Beitrag wird an den Beispielen der klinischen Medizin sowie der Einzelfallhilfe der Sozialen Arbeit dargelegt, in welcher Weise KI professionelle Praxen in der Gesundheitsversorgung ver{\"a}ndert, welche Konsequenzen daraus f{\"u}r die Professionen erwachsen und welche Handlungsaufforderungen sich f{\"u}r die jeweiligen Professionen ergeben.}, language = {de} } @misc{WeberSonarGerhardsetal., author = {Weber, Karsten and Sonar, Arne and Gerhards, Helene and Bittner, Uta and Krug, Henriette and Reuter-Oppermann, Melanie and Pumplun, Luisa and M{\"u}ller, Helene and Buxmann, Peter and Schneider, Diana and Zoglauer, Thomas}, title = {K{\"u}nstliche Intelligenz und Gesundheit}, editor = {Sonar, Arne and Weber, Karsten}, publisher = {Franz Steiner}, address = {Stuttgart}, isbn = {978-3-515-12977-0}, doi = {10.25162/9783515129770}, abstract = {Der Einsatz von k{\"u}nstlicher Intelligenz im Gesundheitsbereich verspricht besonders großen Nutzen durch eine bessere Versorgung sowie effizientere Abl{\"a}ufe und bietet damit letztlich auch {\"o}konomische Vorteile. Dem stehen unter anderem Bef{\"u}rchtungen entgegen, dass sich durch den Einsatz von k{\"u}nstlicher Intelligenz das Arzt-Patienten-Verh{\"a}ltnis ver{\"a}ndern k{\"o}nnte, Arbeitspl{\"a}tze gef{\"a}hrdet seien oder die {\"O}konomisierung des Gesundheitswesens einen weiteren Schub erfahren k{\"o}nnte. Zuweilen wird die Debatte um diese Technologie, zumal in der {\"O}ffentlichkeit, emotional und fern sachlicher Argumente gef{\"u}hrt. Die Autorinnen und Autoren untersuchen die Geschichte des KI-Einsatzes in der Medizin, deren {\"o}ffentliche Wahrnehmung, Governance der KI, die M{\"o}glichkeiten und Grenzen der Technik sowie Einsatzgebiete, die bisher noch nicht oder nur wenig im Fokus der Aufmerksamkeit waren. Dabei erweist sich die KI als leistungsf{\"a}higes Werkzeug, das zahlreiche ethische und soziale Fragen aufwirft, die bei der Einf{\"u}hrung anderer Technologien bereits gestellt wurden; allerdings gibt es auch neue Herausforderungen, denen sich Professionen, Politik und Gesellschaft stellen m{\"u}ssen.}, language = {de} } @techreport{SchultzScharfHaueretal., type = {Working Paper}, author = {Schultz, Maximilian and Scharf, Anna and Hauer, Franziska and Haug, Sonja and Weber, Karsten}, title = {KINiro, K{\"u}nstliche Intelligenz f{\"u}r Nichtregierungsorganisationen - Bedarf, Akzeptanz und Umsetzungsm{\"o}glichkeiten. 2. Arbeitspapier: K{\"u}nstliche Intelligenz in Nichtregierungsorganisationen: Explorative Studie in einem neuen Forschungsfeld}, publisher = {OTH Regensburg}, address = {Regensburg}, doi = {10.13140/RG.2.2.10671.75685/1}, url = {http://nbn-resolving.de/urn:nbn:de:bvb:898-opus4-73118}, pages = {35}, abstract = {Hintergrund und Fragestellung Nichtregierungsorganisationen (NRO) sind ein wichtiger Bestandteil der Zivilgesellschaft und interagieren auch mit Regierungen, Unternehmen und anderen gesellschaftlichen Akteuren. Aufgrund der komplexer werdenden Arbeit von NROs scheint K{\"u}nstliche Intelligenz (KI) M{\"o}glichkeiten zur Bew{\"a}ltigung aktueller und zuk{\"u}nftiger Herausforderungen zu bieten. Jedoch ist wenig {\"u}ber die Arbeit von NROs mit KI bekannt. Methodik Es wurden f{\"u}nf explorative Interviews mit Vertreter*innen von Nichtregierungsorganisationen (NROs) zum Thema Wissen, Akzeptanz, Bedarfe und Risikoeinsch{\"a}tzungen gef{\"u}hrt und ausgewertet. Dabei sind NROs aus verschiedenen Handlungsfeldern und Gr{\"o}ße interviewt. Es wurden informelle Vorgespr{\"a}che gef{\"u}hrt, um eine erste Orientierung im Forschungsfeld zu generieren. Aus den Erkenntnissen der Vorgespr{\"a}che und den Ergebnissen des Scoping Reviews ist ein Leitfaden erstellt worden, der zur Orientierung f{\"u}r die Expert*inneninterviews dient. Im Anschluss wurden dann f{\"u}nf explorative leitfadengest{\"u}tzte Expert*inneninterviews durchgef{\"u}hrt und qualitativ ausgewertet. Ergebnisse Ein zentraler Befund ist, dass das Thema KI gerade in den NROs ankommt und es noch keine gefestigten Strukturen und Vorstellungen zum Einsatz von KI gibt. KI wird in einzelnen spezifischen Projekten eingesetzt, ohne dass diese umfassend in Arbeitsabl{\"a}ufe integriert ist. Die Akzeptanz von KI ist generell positiv; die Technologie wird als potenzielle L{\"o}sung f{\"u}r strukturelle Herausforderungen und Unterst{\"u}tzung im Alltag gesehen. Die Nutzung von KI-Anwendungen beschr{\"a}nkt sich jedoch mit Ausnahme von Large Language Models auf Pilotprojekte. Mit j{\"u}ngerem Alter und Techni� kaffinit{\"a}t ist eine h{\"o}here Akzeptanz verbunden. Besonders kritisch werden Anwendungen von KI im Sozial- oder Gesundheitsbereich als Ersatz f{\"u}r menschliche Interaktionen gesehen. Betont werden auch ethische Bedenken und eine hohe Bedeutsamkeit von Datenschutz. Schlussfolgerung K{\"u}nstliche Intelligenz in Nichtregierungsorganisationen ist ein aufkommendes und sich entwickelndes Forschungsthema. Die Interviews unterstreichen den Bedarf an mehr Wissen, ethischen Richtlinien und finanziellen Ressourcen f{\"u}r eine effektive Nutzung von KI in NROs. Ein umfassendes Verst{\"a}ndnis von KI und eine tiefergehende, systematische Integration in Arbeitsabl{\"a}ufe in diesen Organisationen m{\"u}ssen noch entwickelt werden.}, language = {de} } @techreport{ScharfHauerSchultzetal., type = {Working Paper}, author = {Scharf, Anna and Hauer, Franziska and Schultz, Maximilian and Haug, Sonja and Weber, Karsten}, title = {KINiro, K{\"u}nstliche Intelligenz f{\"u}r Nichtregierungsorganisationen - Bedarf, Akzeptanz und Umsetzungsm{\"o}glichkeiten. 1. Arbeitspapier: K{\"u}nstliche Intelligenz in Nichtregierungsorganisationen: Ein Scoping Review {\"u}ber ein junges Forschungsfeld}, publisher = {OTH Regensburg}, address = {Regensburg}, doi = {10.13140/RG.2.2.21668.69765}, url = {http://nbn-resolving.de/urn:nbn:de:bvb:898-opus4-73090}, pages = {24}, abstract = {Hintergrund und Fragestellung Nichtregierungsorganisationen (NRO) sind ein wichtiger Bestandteil der Zivilgesellschaft und interagieren auch mit Regierungen, Unternehmen und anderen gesellschaftlichen Akteuren. Aufgrund der komplexer werdenden Arbeit von NROs scheint K{\"u}nstliche Intelligenz (KI) M{\"o}glichkeiten zur Bew{\"a}ltigung aktueller und zuk{\"u}nftiger Herausforderungen zu bieten. Jedoch ist wenig {\"u}ber die Arbeit von NROs mit KI bekannt. Daher besch{\"a}ftigt sich das Projekt KINiro in diesem ersten Working Paper mit der Frage, welche (nicht-)wissenschaftlichen Erkenntnisse zum Themenkomplex NROs und KI bereits vorliegen. Methodik Es wurde ein Scoping Review zur Erfassung (nicht-)wissenschaftlicher Texte zu NROs und KI durchgef{\"u}hrt. Die systematische Literaturrecherche wurde in den Datenbanken Web of Science, Science Gate und WISO durchgef{\"u}hrt. In den Review wurden schließlich 14 Titel eingeschlossen und qualitativ analysiert. Ergebnisse Die Mehrheit der gefundenen Treffer sind Pressemitteilungen. Unter den Treffern befinden sich lediglich zwei (wissenschaftliche) Studien. Die NROs setzen sich auf verschiedenen Ebenen mit der Thematik von KI auseinander, wobei sich zwei Herangehensweisen unterscheiden lassen. Einige NROs nehmen am gesellschaftlichen Diskurs {\"u}ber den Einsatz von KI teil und treiben diesen in theoretischer Hinsicht voran, ohne die Technik dabei selbst zu nutzen. Andere NROs integrieren die KI-Systeme praktisch in ihre Arbeitsabl{\"a}ufe oder f{\"u}hren Projekte zum Zweck der NRO mit KI-Unterst{\"u}tzung durch. F{\"u}r die Entwicklung von KI-Anwendungen wird mit For-Profit-Unternehmen kooperiert und die Expertise der Unternehmen mit Daten der NROs kombiniert. Durch den Einsatz von KI erhoffen sich NROs einen gezielteren Einsatz von Ressourcen. Hierbei zeigt sich, dass f{\"u}r die Nutzung in KI-Systemen ein interdisziplin{\"a}rer Konsens {\"u}ber Standards in Datenerhebung und Speicherung als notwendig angesehen wird. Schlussfolgerung Aus der geringen Anzahl an gefundenen Texten, insbesondere (wissenschaftlichen) Studien, und dem Ver{\"o}ffentlichungszeitraum, der in den vergangenen sieben Jahren liegt, l{\"a}sst sich schließen, dass es sich um einen jungen Forschungsbereich handelt. Die ausgeschlossenen Titel zeigen auf, dass NROs aktuell noch h{\"a}ufiger mit der Digitalisierunge allgemein besch{\"a}ftigt sind und die Auseinandersetzung mit KI erst noch am Anfang steht.}, language = {de} } @inproceedings{HauerSchultzHaugetal., author = {Hauer, Franziska and Schultz, Maximilian and Haug, Sonja and Weber, Karsten}, title = {Acceptance and Usage of AI Applications in Health-Focused NGOs}, series = {dHealth 2025, Proceedings of the 19th Health Informatics Meets Digital Health Conference}, booktitle = {dHealth 2025, Proceedings of the 19th Health Informatics Meets Digital Health Conference}, editor = {Baumgartner, Martin and Hayn, Dieter and Pfeifer, Bernhard and Schreier, G{\"u}nter}, publisher = {IOS Press}, address = {Wien}, isbn = {978-1-64368-592-2}, doi = {10.3233/SHTI250172}, url = {http://nbn-resolving.de/urn:nbn:de:bvb:898-opus4-80613}, pages = {123 -- 128}, abstract = {Background: AI applications promise to be a valuable tool for healthfocused NGOs. While often operating with limited resources, these organizations recognize the potential of AI to streamline processes and support workflows through automation. However, challenges such as data privacy concerns—especially regarding personal medical data—and the low prioritization of implementation hinder progress. Objectives: This study examines the extent to which German health-focused NGOs can currently benefit from the application of AI. It evaluates demands, available resources, and use cases. Methods: A health-focused subset of data from project KINiro was analyzed. This research utilized a mixed-methods approach, combining two rounds of qualitative interviews with a quantitative survey. Results: The study revealed that while health-focused NGOs are in the early stages of AI implementation, there are hurdles such as ethical concerns and a lack of resources. Conclusion: AI has the potential to support health-focused NGOs in their work, if the challenges like resources, ethics, and data privacy are effectively addressed.}, language = {en} } @inproceedings{AltenbuchnerHaugWeber, author = {Altenbuchner, Amelie and Haug, Sonja and Weber, Karsten}, title = {Exploratory Analysis of Motion Tracking Data in the Rehabilitation Process of Geriatric Trauma Patients}, series = {Studies in Health Technology and Informatic. Volume 260: dHealth 2019 - From eHealth to dHealth}, booktitle = {Studies in Health Technology and Informatic. Volume 260: dHealth 2019 - From eHealth to dHealth}, editor = {Hayn, Dieter and Eggerth, A. and Schreier, G{\"u}nter}, publisher = {IOS Press}, doi = {10.3233/978-1-61499-971-3-138}, pages = {138 -- 145}, abstract = {Background: This article is based on an ongoing long-term study, in which customary motion trackers measure steps during rehabilitation of geriatric trauma patients (Med=86 years). Objectives: Exploring steps after 28 days of measurement. Finding similarities in the data by running cluster analysis and formulating linear regressions models to predict steps through time. Methods: Two types of motion trackers (FitBitAlta HR and Garmin v{\´i}vofit 3) have been used to measure patients' (N=24) steps after hip fracture in two study groups. Cluster analysis detected three clusters for progress in number of steps that were tested for group differences with ANOVA. Regression analysis tested models for individual patients. Results: Three-cluster solutions showed significant differences for the average amount of steps after 5, 14, 21 and 28 days. Regression models could predict 71 \% of the individual patients' progress in study group 2. Conclusion: The long-term study will provide more data in the future to examine the three-cluster solution and to find out in what stage of rehabilitation the measurement of the steps could be used to predict individual rehabilitation.}, language = {en} } @inproceedings{Weber, author = {Weber, Karsten}, title = {Die andere Seite der Verteilungsgerechtigkeit}, series = {Philosophische Perspektiven. Beitr{\"a}ge zum VII. {\"O}sterreichischen Kongress f{\"u}r Philosophie}, booktitle = {Philosophische Perspektiven. Beitr{\"a}ge zum VII. {\"O}sterreichischen Kongress f{\"u}r Philosophie}, editor = {Neumaier, O. and Sedmak, Clemens and Zichy, M.}, publisher = {Ontos}, address = {Lancaster}, pages = {5}, language = {de} } @incollection{WeberCurrleFrommeldetal., author = {Weber, Karsten and Currle, Edda and Frommeld, Debora and Haug, Sonja}, title = {Medizin}, series = {Handbuch Materialit{\"a}t und Digitalit{\"a}t}, booktitle = {Handbuch Materialit{\"a}t und Digitalit{\"a}t}, editor = {Samida, Stefanie and Glaser, Manuela and Franken, Lina}, publisher = {Springer}, address = {Berlin, Heidelberg}, isbn = {9783662699874}, doi = {10.1007/978-3-662-69987-4_62-1}, pages = {1 -- 7}, abstract = {Medizinisches Handeln wird durch Digitalisierung ver{\"a}ndert, weil sich der Fokus von Patient*innen hin zu Daten {\"u}ber Patient*innen verlagert. Dieser Prozess ist als Entmaterialisierung des Gegenstands der Medizin zu verstehen, da nicht mehr die K{\"o}rper von Patient*innen selbst, sondern deren digitaler Zwilling im Zentrum des medizinischen Handelns stehen. Anhand von Beispielen aus dem Dreischritt von Anamnese und Diagnose, Behandlung und Therapie sowie Nachsorge und Pflege soll der Prozess von Digitalisierung und Entmaterialisierung der Medizin aufgezeigt werden.}, language = {de} } @article{Weber, author = {Weber, Karsten}, title = {Die Geschichte der K{\"u}nstlichen Intelligenz - eine Geschichte der Entt{\"a}uschungen}, series = {Evangelium und Wissenschaft : Beitr{\"a}ge zum interdisziplin{\"a}ren Gespr{\"a}ch}, volume = {45}, journal = {Evangelium und Wissenschaft : Beitr{\"a}ge zum interdisziplin{\"a}ren Gespr{\"a}ch}, number = {1}, publisher = {Karl-Heim-Gesellschaft}, pages = {2 -- 16}, language = {de} } @article{Weber, author = {Weber, Karsten}, title = {The Right to make fatal decisions}, series = {The American Journal of Bioethics}, volume = {24}, journal = {The American Journal of Bioethics}, number = {8}, publisher = {Taylor \& Francis}, issn = {1526-5161}, doi = {10.1080/15265161.2024.2361903}, pages = {127 -- 128}, language = {en} } @incollection{StadlbauerFrommeldChowetal., author = {Stadlbauer, Jana and Frommeld, Debora and Chow, Rosan and Weber, Karsten}, title = {Partizipative Designpraktiken f{\"u}r verk{\"o}rperte K{\"u}nstliche Intelligenz}, series = {Designforschung und KI}, booktitle = {Designforschung und KI}, editor = {Grabbe, Lars C.}, publisher = {Springer}, address = {Wiesbaden}, isbn = {9783658497972}, issn = {2731-9458}, doi = {10.1007/978-3-658-49798-9_8}, pages = {123 -- 137}, abstract = {Der Beitrag thematisiert partizipative Designpraktiken f{\"u}r verk{\"o}rperte K{\"u}nstliche Intelligenz und untersucht, wie Nutzende st{\"a}rker in den Gestaltungsprozess eingebunden werden k{\"o}nnen. Ausgehend von Design-Thinking-Modellen, die Nutzendengruppen aktiv an der Technikgestaltung beteiligen, geht der Gedanke des Beitrags noch weiter und stellt das Konzept des participatory theatre vor - eine explorative Methode, die im Rahmen der Ausstellung ‚Leben mit Robotern' an der OTH Regensburg eingesetzt wurde. Besuchende konnten sich als Roboter verkleiden und in Rollenspielen Interaktionen mit Technik simulieren. Diese performative Herangehensweise er{\"o}ffnete neue Perspektiven auf das Design von Robotern und auf die Wahrnehmung verk{\"o}rperter KI. Mit einer qualitativen, inhaltsanalytischen Auswertung von knapp 90 Aussagen von Besuchenden wird untersucht, wie Menschen auf das Design von Robotik und KI reagiert haben und inwieweit alltagsrelevante Designprinzipien zur Sprache kommen. Die Ergebnisse zeigen eine mehrheitlich offene bis begeisterte Haltung gegen{\"u}ber Robotern. Kritik und Zur{\"u}ckhaltung wurde seltener ge{\"a}ußert. Es wird diskutiert, inwieweit zentrale Aspekte wie Design einen Einfluss auf die Wahrnehmung von Robotern haben k{\"o}nnen. Der Beitrag betont die gesellschaftliche Relevanz {\"a}sthetischer Gestaltung und pl{\"a}diert f{\"u}r interdisziplin{\"a}re, explorative Forschungsans{\"a}tze, um KI-Systeme nutzungsnah und kulturell sensibel zu entwickeln.}, language = {de} } @incollection{Weber, author = {Weber, Karsten}, title = {Akzeptanz, Regulierung und soziotechnische Anforderungen an KI-Systeme f{\"u}r die automatisierte Strafverfolgung}, series = {Auswirkungen von K{\"u}nstlicher Intelligenz auf die zuk{\"u}nftige Polizeiarbeit}, booktitle = {Auswirkungen von K{\"u}nstlicher Intelligenz auf die zuk{\"u}nftige Polizeiarbeit}, editor = {Honekamp, Wilfried and Kemme, Stefanie and Struck, Jens}, publisher = {Springer}, address = {Wiesbaden}, isbn = {9783658484248}, doi = {10.1007/978-3-658-48425-5_18}, pages = {319 -- 334}, abstract = {Mit Systemen der K{\"u}nstlichen Intelligenz (KI) stehen leistungsf{\"a}hige Werkzeuge zur Verf{\"u}gung, die viele Handlungsbereiche und insbesondere professionelle T{\"a}tigkeiten tiefgreifend ver{\"a}ndern k{\"o}nnten. Denn nun deutet sich an, dass nicht nur repetitive Aufgaben bei der Herstellung von G{\"u}tern oder in Verwaltungsprozessen mithilfe von Computern automatisiert werden k{\"o}nnen, sondern auch T{\"a}tigkeiten, die erhebliche intellektuelle F{\"a}higkeiten voraussetzen, da sie im Kontext schlecht oder schwierig zu definierender Rahmenbedingungen zu verrichten sind. Dazu geh{\"o}ren ohne Zweifel Aufgaben, die mit der Aufkl{\"a}rung von Verbrechen und der Strafverfolgung verbunden sind. Ob hier KI-Systeme erfolgreich eingesetzt werden k{\"o}nnen, h{\"a}ngt nicht nur von den technischen M{\"o}glichkeiten ab, sondern auch davon, ob die Menschen, die in der Strafverfolgung t{\"a}tig sind, die Technik akzeptieren und ob die organisatorischen Rahmenbedingungen so gestaltet werden k{\"o}nnen, dass sie mit dem Einsatz von KI kompatibel sind.}, language = {de} } @book{Weber, author = {Weber, Karsten}, title = {K{\"u}nstliche Intelligenz und Kr{\"a}nkung}, editor = {Weber, Karsten}, publisher = {Psychosozial-Verlag}, address = {Gießen}, isbn = {978-3-8379-3393-2}, doi = {10.30820/9783837963465}, pages = {148}, abstract = {K{\"u}nstliche Intelligenz bringt psychosoziale Herausforderungen mit sich, insbesondere den Verlust der vermeintlichen menschlichen Einzigartigkeit, was unser Selbstbild als autonome Wesen infrage stellt. Karsten Weber beschreibt die Kr{\"a}nkung, die durch die Entwicklung und den Einsatz von KI verursacht wird. Das Denken {\"u}ber und Arbeiten mit KI ist eingebettet in Prozesse des Verf{\"u}gbarmachens immer gr{\"o}ßerer Teile der Welt durch Technik, aber auch der gleichzeitigen und wiederholten Erfahrung einer Nicht-Besonderheit des Menschen. Exemplarisch er{\"o}rtert der Autor {\"U}berg{\"a}nge und Verluste - und setzt sie in den Kontext anderer globaler Herausforderungen, denen die Menschheit aktuell und in absehbarer Zukunft gegen{\"u}bersteht. Er zeigt auf, wie Entwicklung und Einsatz von KI dazu beitragen, dass das insbesondere ›westliche‹ Selbstverst{\"a}ndnis des Menschen auf individueller wie gesellschaftlicher Ebene unter Druck ger{\"a}t. Wie kann ein konstruktiver Umgang mit KI aussehen? Wie k{\"o}nnen wir mit den Herausforderungen, die KI an uns stellt, gut umgehen?}, language = {de} }