Erklärbare KI in der medizinischen Diagnose - Erfolge und Herausforderungen

Adriano Lucieri, Muhammad Naseer Bajwa, Andreas Dengel, Sheraz Ahmed

Abstract: Der große Erfolg moderner, bildbasierter KI-Methoden und das damit einhergehende Interesse für die Anwendung von KI in kritischen Entscheidungsprozessen führte zu einem Anstieg der Bemühungen, intelligente Systeme transparent und erklärbar zu gestalten. Besonders im medizinischen Kontext, wo computergestützte Entscheidungen direkten Einfluss auf die Behandlung und das Wohlsein von Patienten haben können, ist Transparenz für den sicheren Übergang von Forschung in die Praxis von höchster Wichtigkeit. Dieser Beitrag beschäftigt sich mit dem aktuellen Stand moderner Methoden zur Erklärung und Interpretation von Deep-Learning-basierten KI-Algorithmen in Anwendungen der medizinischen Forschung und Diagnose von Krankheiten. Zunächst werden erste bemerkenswerte Erfolge im Einsatz erklärbarer KI zur Validierung bekannter und Exploration potenzieller Biomarker sowie Methoden zur nachträglichen Korrektur von KI-Modellen aufgezeigt. Im Anschluss werden einige verbleibende Herausforderungen, die der Anwendung von KI als klinische Entscheidungshilfe im Weg stehen, kritisch diskutiert und Empfehlungen für die Ausrichtung zukünftiger Forschung ausgesprochen.