Neues Forschungsprojekt am Lehrstuhl Moraltheologie

Ärzte bei Untersuchung
© Quelle: colourbox.de

Ab dem 01.03.2022 forscht der Lehrstuhl für Moraltheologie an einem neuen  interdisziplinären Projekt namens „Responsibility Gaps in Human-Machine Interactions: The Ambivalence of Trust in AI“. Untersucht werden dabei insbesondere Herausforderungen der Mensch-Maschine-Interaktion im medizinischen Bereich der digitalen Pathologie und Radiologie.            

Konkret liefert das Forschungsprojekt einen Beitrag zur Behebung von Verantwortungs- bzw. Verantwortlichkeitslücken zwischen medizinischem Personal und KI-basierten, sogenannten recommender systems, welche innerhalb medizinischer Diagnoseverfahren durch ein übergroßes Vertrauen der Mediziner*innen auf Empfehlungen von KI-Systemen entstehen. Anliegen und Ziel des Forschungsprojektes ist es einerseits, Empfehlungen und Lösungsvorschläge für die Herausforderungen der Mensch-Maschine-Interaktion sowie der organisatorisch-strukturellen Ebene des Gesundheitssektors zu formulieren. Andererseits sollen ethisch fundierte Kompetenzziele ausgearbeitet werden, mithilfe derer Mediziner*innen ihre Verantwortung in der medizinischen Bilddiagnostik klären und stärken können.  

Die Forschungsschwerpunkte und Aufgabe der Moraltheologie liegen in folgenden Aspekten:         

  • Untersuchung von KI-Systemen vor dem Hintergrund eines normativ-ethischen Zugangs

  • Erforschung, Analyse und Definition von ethisch vertretbaren Konzepten zu Verantwortung, Verantwortlichkeit und Vertrauen wie auch Klärung derer Zusammenhänge

  • Spezifizierung und Reflexion der erarbeiteten Konzepte durch deren praktische Anwendung in der Interaktion medizinischen Personals mit KI-basierten recommender systems zur medizini-schen Bilddiagnose

  • Identifikation zentraler ethischer Herausforderungen von Mensch-Maschine-Interaktionen, von Chancen und Risiken im Einsatz von KI-basierten recommender systems in der medizini-schen Bilddiagnostik, von möglichen Auswirkungen auf die Arzt-Patienten-Beziehung wie auch organisatorischer Probleme in der klinischen Praxis

  • Beständige Reflexion und Überarbeitung der erarbeiteten ethischen Konzepte und Kriterien vor dem Hintergrund der Herausforderungen in medizinischen Diagnosefahren durch Zuhilfe-nahme von KI-basierten recommender systems durch die Einbindung empirischer und prakti-scher Methoden (Fragebogen, Umfrage, Workshop)

Das Forschungsprojekt startet im März 2022 und wird - zunächst für drei Jahre - vom Bayerischen Forschungsinstitut für Digitale Transformation (bfdt) finanziert. Das Projekt wird gemeinschaftlich geleitet von Prof. Dr.-Ing. Marc Aubreville, Prof. Dr. rer. pol. Matthias Uhl (beide Technische Hochschule Ingolstadt) und Prof. Dr. Alexis Fritz (KU).