Organized session

KI@work – Nutzerorientiertes Anforderungsprofil an KI-basierte Clinical Decision Support Systems am Beispiel der Sepsisversorgung

Während Künstliche Intelligenz (KI) heute bereits in vielen Bereichen des Gesundheitswesens Einzug gehalten hat, bleibt ihre Implementierung in anderen Bereichen hinter den Erwartungen zurück. So etwa im Gebiet der klinischen Entscheidungsunterstützungssysteme (Clinical Decision Support Systems, CDSS). Auf der einen Seite sind die Möglichkeiten, die Patientenversorgung auf Grundlage KI-basierter Entscheidungsunterstützung zu verbessern, enorm und es werden entsprechend viele Systeme entwickelt, auf der anderen Seite findet der Schritt von der Entwicklung in die Versorgung nur selten statt. Im Rahmen des Projekts soll dieser inkongruente Sachverhalt genauer untersucht werden. Das Projekt zielt darauf ab, 1) Best-Practices hinsichtlich des Inputs, Outputs und Settings zu untersuchen, 2) spezifische Probleme mit besonderem Fokus sowohl auf die klinische Sepsisversorgung als auch auf das deutsche Gesundheitssystem zu detektieren sowie 3) Präferenzen hinsichtlich des Einsatzes und der Ausgestaltung von CDSS in der Prävention, Diagnostik und Therapie von Sepsispatienten aus Sicht der Leistungserbringenden zu erheben. Das Projekt verfolgt einen Mixed-Methods-Ansatz, in dessen Zentrum eine Befragung von Ärzt:innen mit Discrete Choice Experiment steht. Im Rahmen der organisierten Sitzung werden die dafür erhobenen Grundlagen präsentiert. Diese umfassen: 1) Einen Scoping Review zum patientenrelevanten Nutzen von auf Sepsis bezogenen KI-basierten CDSS sowie Probleme bei der Überführung dieser Systeme und mögliche Lösungsansätze, 2) Experteninterviews, die darauf abzielen, systemseitige sowie organisatorische, administrative, rechtliche und/oder institutionelle Probleme und Barrieren zu identifizieren und 3) Fokusgruppen mit Pflegenden und Ärzt:innen, um Präferenzen hinsichtlich des Inputs und Outputs sowie des Settings, in dem derartige Systeme zum Einsatz kommen, zu ermitteln.

Talks

KI@work – Nutzerorientiertes Anforderungsprofil an KI-basierte Clinical Decision Support Systems am Beispiel der Sepisversorgung – Ein Scoping Review
Pascal Raszke, Universität Duisburg-Essen / Lehrstuhl für Medizinmanagement
Introduction

Einleitung Auf Künstlicher Intelligenz (KI) basierende klinische Entscheidungsunterstützungssysteme (Clinical Decision Support Systems, CDSS) können einen positiven Effekt auf patientenrelevante Outcomes und die Versorgungsqualität haben. Trotz hoher Entwicklungsfrequenz gelangt die Mehrzahl derartiger Systeme bislang jedoch nicht in die Regelversorgung. Dies kann zum einen an organisatorischen, administrativen, rechtlichen und/oder institutionellen Hürden liegen, zum anderen an einer unzureichend nutzerorientierten Entwicklung sowie einem fehlenden patientenrelevanten Nutzen. Der vorgestellte Scoping Reviews (ScR) zielt darauf ab, eine Übersicht der derzeit verfügbaren Evidenz zum patientenrelevanten Nutzen von KI-basierten CDSS im Kontext der Sepsis zu erstellen. Weiterhin dient der ScR der Identifikation von hemmenden Faktoren bei der Überführung KI-basierter CDSS in die Versorgung sowie Ansätzen zu deren Überwindung. Methode Der ScR wurde gemäß dem Joanna Briggs Manual for Evidence Synthesis durchgeführt und auf Basis der PRISMA-Erweiterung für Scoping Reviews dokumentiert. In den ScR wurden die elektronischen Datenbanken Medline und Embase sowie die ACM Digital Library und IEEE Xplore einbezogen. Somit wurde sichergestellt, die interdisziplinäre Fragestellung sowohl aus medizinischer als auch aus informatischer Perspektive hinreichend zu untersuchen. Der Screening-Prozess wurde von zwei Reviewern unabhängig voneinander durchgeführt. Ergebnisse In den vier untersuchten Datenbanken wurden 3.368 Treffer identifiziert von denen 40 die Einschlusskriterien erfüllten. Es wurden zahlreiche Implementierungsprobleme identifiziert, z.B. der Umgang mit Fehlalarmen, die Generalisierbarkeit KI-basierter CDSS sowie der „Black-Box-Charakter“ einiger KI-Methoden. Darüber hinaus konnten Maßnahmen zur Überwindung der identifizierten Hürden herausgearbeitet werden. Nebst Problemen und Lösungsansätzen wurden auf Grundlage des ScR auch zahlreiche Kategorien ermittelt, die sich positiv auf den patientenrelevanten Nutzen KI-basierter CDSS auswirken. Als Folge der individualisierten Therapie sind beispielhaft eine frühere Einleitung der Behandlung, eine Verringerung der Wiederaufnahmerate und der Mortalität zu nennen. Zusammenfassung KI-basierte CDSS stellen eine vielversprechende Technologie und ein noch junges Anwendungsfeld in der Medizin dar. Basierend auf den Ergebnissen des ScR sollen relevante hemmende Faktoren und mögliche Ansätze zu deren Überwindung sowie der wahrgenommene patientenrelevante Nutzen derartiger Systeme identifiziert werden, um künftig den Transfer aus der Entwicklung in die Versorgung zu erleichtern, das Vertrauen in KI-basierte CDSS zu erhöhen und langfristig die Versorgungsqualität zu verbessern.

Probleme und Barrieren im Kontext von KI-basierten klinischen Entscheidungsunterstützungssystemen (CDSS) – Eine Interview Studie
Godwin Denk Giebel, Universität Duisburg-Essen / Lehrstuhl für Medizinmanagement
Introduction

Einleitung Die Digitalisierung revolutioniert aktuell das Gesundheitswesen. Eine besonders vielversprechende Technologie in diesem Kontext ist die Künstliche Intelligenz (KI). Durch ihre Anwendung können Leistungserbringende in ihrer täglichen Arbeit vielfältig unterstützt werden. Ein besonders gewinnbringendes Einsatzgebiet sind KI-basierte klinische Entscheidungsunterstützungssysteme (CDSS). Während die damit verbundenen Chancen vielfältig sind, sollten die Probleme nicht außer Acht gelassen werden. Vor diesem Hintergrund zielt die Untersuchung auf Probleme und Barrieren im Kontext KI-basierter klinischer Entscheidungsunterstützungssysteme (CDSS) ab, die aus der Sicht von Experten erhoben werden. Methode Es wurden leitfadengestützte Experteninterviews mit verschiedenen Stakeholdern durchgeführt. Die Gespräche fanden online statt, wurden aufgezeichnet, transkribiert und einer qualitativen Inhaltsanalyse in Anlehnung an Kuckartz unterzogen. Die Auswertung wurde mit Hilfe der Software MAXQDA vorgenommen. Die Probleme wurden zunächst in “Allgemeine Probleme”, “Probleme bei der Entwicklung” und “Probleme beim Einsatz” untergliedert. Ergebnisse Es wurden 15 Experteninterviews durchgeführt. Insgesamt wurden 308 Expertenaussagen zu Problemen identifiziert. Diese traten in sieben Problemkategorien auf: 1) Technik, 2) Studien, 3) Anwender, 4) Ethik, 5) Daten, 6) Rechtliche Rahmenbedingungen und 7) Allgemeine Rahmenbedingungen. Die Problemkategorien wurden wiederum in Problembereiche unterteilt, denen dann letztendlich die jeweiligen Problemausprägungen zugeteilt wurden. Zusammenfassung Es konnte eine Vielzahl an Problemen und Barrieren im Kontext KI-basierter CDSS identifiziert werden. Diese lassen sich einerseits anhand des Zeitpunkts, an dem sie auftreten (Allgemein, Entwicklung und Einsatz), andererseits anhand der Problemkategorie systematisieren. Die identifizierten Probleme können dazu dienen, aufbauend darauf Lösungsansätze abzuleiten, um dadurch den Einsatz KI-basierter CDSS zu optimieren.

Anforderungen an KI-basierte klinische Entscheidungsunterstützungssysteme – Eine qualitative Analyse anhand von Fokusgruppen
Pascal Raszke, Universität Duisburg-Essen / Lehrstuhl für Medizinmanagement
Introduction

Einleitung Künstliche Intelligenz (KI) gilt als vielversprechende Schlüsseltechnologie. Sie kann unter anderem in klinischen Entscheidungsunterstützungssystemen (Clinical Decision Support Systems, CDSS) zum Einsatz kommen und sich positiv auf die Versorgungsqualität auswirken. Dies setzt voraus, dass die Technologie von Leistungserbringenden akzeptiert und nachhaltig in den klinischen Alltag eingebunden wird. Um zu ermitteln, wie die nutzerorientierte Entwicklung von KI-basierten CDSS optimiert werden kann, wurden Fokusgruppen durchgeführt. Dabei wurden die Anforderungen von Ärzt:innen und Pflegenden an den Input, den Output sowie das Setting, in dem derartige Systeme zum Einsatz kommen, erhoben. Methoden Um die Anforderungen medizinischer Leistungserbringender an KI-basierte CDSS zu erheben, wurden 5 Fokusgruppen (3 mit Ärzt:innen und 2 mit Pflegenden) durchgeführt. Ein halbstrukturierter Leitfaden wurde entwickelt, welcher auf Aspekten basiert, die mittels eines im Vorfeld durchgeführten Scoping Review identifiziert wurden. Der Leitfaden diente dem Moderator:innenteam als Gesprächsgrundlage für die virtuell durchgeführten Diskussionsrunden. Die Fokusgruppen wurden aufgezeichnet, softwaregestützt transkribiert und einer Qualitätskontrolle unterzogen. Anschließend wurde eine qualitative Inhaltsanalyse in Anlehnung an Kuckartz unter Verwendung des Programms MAXQDA durchgeführt. Ergebnisse Leistungserbringende stellen über alle 3 Untersuchungsdimensionen (Input, Output, Setting) hinweg eine Vielzahl von Anforderungen an KI-basierte CDSS. So ist eine umfangreiche Datenbasis erforderlich, die zahlreiche Patientenparameter umfasst und nebst im Krankenhaus generierten Daten auch Informationen aus der elektronischen Patientenakte und Gesundheitskarte enthält. Mehrheitlich wird zur Optimierung des Inputs ein automatischer Import der Daten in das System gewünscht. Die Anforderungen und Präferenzen hinsichtlich des Outputs divergieren teilweise stark zwischen den Teilnehmenden. Einige präferieren eine klare und prägnante Darstellung der Entscheidungsunterstützung, während andere eine komplexe Darstellung mit integrierter Wissensbibliothek favorisieren. Im Allgemeinen zeigen die Teilnehmenden eine hohe Akzeptanz gegenüber der Technologie, wenngleich der überwiegende Teil im beruflichen Leben bislang nicht mit KI in Berührung gekommen ist. Zusammenfassung KI ist eine noch junge Technologie, deren optimale Ausgestaltung als CDSS bislang nicht vollumfänglich untersucht wurde. In diesem Zusammenhang bieten die Fokusgruppen wertvolle Hinweise für die Gestaltung derartiger Systeme, um die Nutzerakzeptanz zu erhöhen, somit den Transfer in die Regelversorgung zu fördern und langfristig die Versorgungsqualität zu verbessern.