Responsibility Gaps in Human-Machine Interactions: The Ambivalence of Trust in AI
Projektleitung:
- Prof. Dr. theol. Alexis Fritz (Katholische Universität Eichstätt-Ingolstadt)
- Prof. Dr.-Ing. Marc Aubreville (Technische Hochschule Ingolstadt)
- Prof. Dr. rer. pol. Matthias Uhl (Technische Hochschule Ingolstadt)
Wissenschaftliche Mitarbeiterin:
Angelika Kießig (Katholische Universität Eichstätt-Ingolstadt)
Förderprogramm:
bidt – Bayerisches Forschungsinstitut für Digitale Transformation
Laufzeit:
3 Jahre, Beginn 01.03.2022
Ab dem 01.03.2022 forscht der Lehrstuhl für Moraltheologie an einem neuen vom bidt geförderten, interdisziplinären Projekt namens „Responsibility Gaps in Human-Machine Interactions: The Ambiva-lence of Trust in AI“. Untersucht werden dabei insbesondere Herausforderungen der Mensch-Maschine-Interaktion im medizinischen Bereich der digitalen Pathologie und Radiologie.
Forschungsanliegen: Konkret liefert das Forschungsprojekt einen Beitrag zur Behebung von Verantwortungs- bzw. Verantwortlichkeitslücken zwischen medizinischem Personal und KI-basierten, sogenannten recommender systems, welche innerhalb medizinischer Diagnoseverfahren durch ein über-großes Vertrauen der Mediziner*innen auf Empfehlungen von KI-Systemen entstehen. Anliegen und Ziel des Forschungsprojektes ist es einerseits, Empfehlungen und Lösungsvorschläge für die Herausfor-derungen der Mensch-Maschine-Interaktion sowie der organisatorisch-strukturellen Ebene des Gesundheitssektors zu formulieren. Andererseits sollen ethisch fundierte Kompetenzziele ausgearbeitet werden, mithilfe derer Mediziner*innen ihre Verantwortung in der medizinischen Bilddiagnostik klären und stärken können.
Forschungsschwerpunkt und Aufgabe der Moraltheologie:
- Untersuchung von KI-Systemen vor dem Hintergrund eines normativ-ethischen Zugangs
- Erforschung, Analyse und Definition von ethisch vertretbaren Konzepten zu Verantwortung, Verantwortlichkeit und Vertrauen wie auch Klärung derer Zusammenhänge
- Spezifizierung und Reflexion der erarbeiteten Konzepte durch deren praktische Anwendung in der Interaktion medizinischen Personals mit KI-basierten recommender systems zur medizini-schen Bilddiagnose
- Identifikation zentraler ethischer Herausforderungen von Mensch-Maschine-Interaktionen, von Chancen und Risiken im Einsatz von KI-basierten recommender systems in der medizinischen Bilddiagnostik, von möglichen Auswirkungen auf die Arzt-Patienten-Beziehung wie auch organisatorischer Probleme in der klinischen Praxis
- Beständige Reflexion und Überarbeitung der erarbeiteten ethischen Konzepte und Kriterien vor dem Hintergrund der Herausforderungen in medizinischen Diagnosefahren durch Zuhilfenahme von KI-basierten recommender systems durch die Einbindung empirischer und praktischer Methoden (Fragebogen, Umfrage, Workshop)
Kontakt