Augmenting Medical Diagnosis Decisions: ISR akzeptiert Studie

Ekaterina Jussupow, Kai Spohrer, Armin Heinzl und Joshua Gawlitza konnten erfolgreich ihre Studie zur medizinischen Entscheidungs­findung mit Künstlicher Intelligenz (KI) beim Top-Journal Information Systems Research platz­ieren. Die Studie erforscht die Aus­wirkungen von KI-Systemen auf diagnostische Entscheidungen von Ärzten. Es werden die Entscheidungs­prozesse aufgezeigt, die medizinische Berufseinsteiger sowie erfahrene Ärzte durchlaufen, um zusammen mit einer KI diagnostische Entscheidungen zu treffen. Die Autoren führten hierzu Experimente mit insgesamt 68 medizinischen Berufseinsteigern und 12 erfahrenen Ärzten durch, die mit einem KI-System konfrontiert wurden, das sowohl korrekte als auch inkorrekte diagnostische Ratschläge gab. Medizinische Berufseinsteiger wie auch erfahrene Ärzte stellten mit inkorrekten KI-Ratschlägen mehr falsche Diagnosen als ganz ohne Ratschläge. Anhand von Think-Aloud-Protokollen, Interviews und Fragebögen wird aufgezeigt, dass unterschiedliche Metakognitionen eine Schlüsselrolle dabei spielen, ob Ärzte erfolgreich mit KI-Ratschlägen umgehen oder nicht. Die Studie zeigt mehrere Entscheidungs­muster auf und präsentiert ein Prozess­modell KI-unterstützter medizinischer Entscheidungen. Es zeigte sich, dass viele Fehlentscheidungen dadurch entstehen, dass die Entscheider unzureichend Metakognitionen zur Reflexion über den eigenen Entscheidungs­prozess (self-monitoring) oder über das KI-System (system-monitoring) einsetzen. Ärzte treffen dann Entscheidungen eher auf Basis von Überzeugungen anstelle von Daten oder evaluieren KI-Ratschläge nur oberflächlich. Die Studie zeigt auf, wie menschliche Entscheidungs­träger die Fehler einer KI kompensieren können und weshalb sie oftmals daran scheitern.