KI im Gesundheitswesen: Risiken, die Patienten gefährden!
Die Integration von Künstlicher Intelligenz (KI) im Gesundheitswesen bietet sowohl aufregende Möglichkeiten als auch erhebliche Herausforderungen. Diese Thematik wird in einem aktuellen Beitrag von Dr. Annakarina Mundorf und Prof. Dr. Sebastian Ocklenburg intensiv beleuchtet. Die beiden Wissenschaftler nehmen in ihrem Kommentar zu den Risiken des KI-Einsatzes Stellung und stellen den Begriff „AI Never Events“ vor – damit sind schwerwiegende, durch KI verursachte oder begünstigte Ereignisse gemeint, die vermeidbar sein sollten. Diese Einsichten sind entscheidend, um die Patientensicherheit im digitalen Zeitalter zu gewährleisten, da die Autor:innen betonen, dass KI-Anwendungen potenziell zur Zunahme von Never Events beitragen können. Wie die beiden Experten erläutern, sind neben innovativen Technologien auch wissenschaftliche, regulatorische und praktische Maßnahmen erforderlich, um die Sicherheit der Patienten zu sichern. Der Artikel ist im renommierten Journal of Patient Safety veröffentlicht und lädt zur Diskussion ein, da es um essenzielle Fragen in der Gesundheitsversorgung geht. Diesen Gedanken unterstützt auch der Überblick über aktuelle Publikationen im Bundesgesundheitsblatt von BfArM, dessen Einzelartikel zahlreiche Perspektiven zu den Entwicklungen im KI-Bereich bieten.
Herausforderungen und Chancen der KI
Die Einführung von KI in das Gesundheitswesen hat das Potenzial, die Effizienz und Zugänglichkeit der Versorgung zu verbessern. So wird KI beispielsweise zur Optimierung der Ressourcenzuweisung eingesetzt, indem sie präzise Prognosen zu Patienteneinweisungen erstellt. Diese Automatisierung kann nicht nur Kosten senken, sondern auch Verwaltungsaufgaben wie Patientenplanung und Abrechnung optimieren. Zu den erfolgreichsten Anwendungen zählen Technologien, die es ermöglichen, Krankheiten früher zu erkennen und Diagnosen fehlerfreier zu gestalten. Ein spezifisches Beispiel hierfür ist die Sepsis-Früherkennung in Intensivstationen oder die KI-gestützte Brustkrebserkennung während der Mammografie-Screenings, wie health.ec.europa.eu hervorhebt.
Die Herausforderungen, die mit der Integration dieser Technologien verbunden sind, müssen jedoch nicht vernachlässigt werden. Der Zugang zu qualitativ hochwertigen Gesundheitsdaten ist oft schwierig, und ein vertrauenswürdiges Umfeld ist unerlässlich, um die Möglichkeiten von KI vollends ausschöpfen zu können. Zudem ist es wichtig, dass die rechtlichen Rahmenbedingungen wie die EU-Arzneimittelrechtsreform und die neue Produkthaftungsrichtlinie – beide mit Blick auf die Anforderungen an KI-Systeme aktualisiert – mit der rasanten Entwicklung der Technologie Schritt halten.
Regulatorische Maßnahmen und Entwicklungen
Ein zentraler Punkt der Diskussion betrifft die regulatorischen Maßnahmen, die in Verbindung mit KI stehen. Der EU AI Act, der am 1. August 2024 in Kraft tritt, wird als Schritt in die richtige Richtung angesehen, um die verantwortungsvolle Entwicklung und Nutzung von KI im Gesundheitswesen zu fördern. In diesem Kontext hat das Projekt AICare@EU das Ziel, den Einsatz von KI im Gesundheitswesen anzuregen und zu unterstützen. Es wird klar, dass neben technologischen Fortschritten auch die Erstellung von Qualitätskriterien und Prüfwerkzeugen von wesentlicher Bedeutung ist, um eine vertrauensvolle Anwendung von KI-Systemen zu ermöglichen.
Die Herausforderungen sind also vielschichtig, und die Wissenschaftler aus Hamburg regen dazu an, gemeinsam mit allen Beteiligten an Lösungen zu arbeiten, um die Vorteile von KI im Gesundheitsbereich optimal zu nutzen und gleichzeitig die Risiken zu minimieren. In der kommenden Zeit wird es darauf ankommen, ein gutes Händchen bei der Entwicklung und Implementierung zu zeigen, damit die KI nicht nur träumen lässt, sondern auch Sicherheit und Mehrwert für Patienten und das Gesundheitssystem bringt.