Präzise und evidenzbasierte Antworten, generiert von einer Künstlichen Intelligenz – das kann medizinisches Fachpersonal künftig ganz legal als Medizinprodukt nutzen. Dahinter stecken mehrere Partner, unter anderem das Land Hessen.

Die Integration von künstlicher Intelligenz (KI) im Gesundheitswesen eröffnet zahlreiche neue Möglichkeiten. Allerdings gelten für solche Anwendungen zurecht strenge Anforderungen – insbesondere in Europa. Innerhalb ihrer Partnerschaft haben VDE Health, AI Quality & Testing Hub (AIQ) und das Unternehmen Prof. Valmed auf diesem Gebiet jedoch große Fortschritte erzielt: Das laut Unternehmensangaben erste KI-gestützte Tool zur klinischen Entscheidungsunterstützung hat die Gruppe jetzt als Medizinprodukt der Risikoklasse IIb für die Europäische Union durch eine Benannte Stelle zertifiziert.

Das auf KI und dem Einsatz eines großen Sprachmodells (Large Language Model, kurz LLM) basierende System unterstützt medizinisches Fachpersonal, indem es vertrauenswürdige Empfehlungen für die Diagnose und Therapie von Erkrankungen bereitstellt. Dabei verarbeitet es natürliche Spracheingaben sowie Fragen in Form eines Prompts und generiert präzise und evidenzbasierte Antworten in natürlicher Sprache, welche – mit entsprechenden Quellenangaben versehen – benutzerfreundlich angezeigt werden.

Regulatorische und technische Anforderungen im Blick

Der VDE hat die Entwicklung und Zulassung von Beginn an begleitet. Ausgangspunkt war die Erarbeitung einer CE-Roadmap als strategische Grundlage für den gesamten Zulassungsprozess. Auf Basis des Compliance-by-Design-Prinzips, wonach alle zulassungsrelevanten Anforderungen bereits während der Entwicklung berücksichtigt werden, haben die Mitarbeitenden von VDE Health umfassend dabei unterstützt, ein Qualitätsmanagementsystem und eine technische Dokumentation zu erstellen.

Als Technologiepartner hat der AIQ – gegründet durch den VDE und das Land Hessen – entsprechende KI-Entwicklungs- und Testwerkzeuge bereitgestellt und die Software unter Einhaltung aller regulatorischen Anforderungen im Auftrag von Prof. Valmed entwickelt. Ein Schwerpunkt dieser Arbeiten war es, die Ergebnisqualität sicherzustellen, die die Experten über die Implementierung eines speziellen KI-Quality-Stacks realisiert haben.

Der AIQ entwickelt und testet KI-Anwendungen, die auf den Prinzipien der sogenannten Retrieval-Augmented Generation (RAG) basieren. Das bedeutet, dass das Large Language Model nicht einfach auf allgemeines oder frei verfügbares Wissen zurückgreift, sondern gezielt validierte medizinische Fachquellen innerhalb einer Datenbank durchsucht und relevante Informationen zuverlässig und aktuell bereitstellt.

Potenzial von KI-Lösungen im Gesundheitswesen voll ausschöpfen

„Mit unserem AI Quality & Testing Hub fördern wir die Qualität von KI-Systemen, damit Nutzerinnen und Nutzer Vertrauen in KI-Anwendungen gewinnen. ‚KI made in Hessen‘ soll ein Markenzeichen unseres Landes werden, das für Innovation, Verantwortung und Zukunft steht“, betonte Hessens Digitalministerin Prof. Dr. Kristina Sinemus.

‚KI Made in Hessen‘ soll ein Markenzeichen unseres Landes werden. 

„Die erfolgreiche Zertifizierung von Prof. Valmed als Medizinprodukt der Klasse IIb zeigt eindrucksvoll, dass innovative KI-basierte Lösungen die anspruchsvollen regulatorischen Anforderungen im Gesundheitswesen erfüllen können“, ergänzten Dr. Vera Rödel und Prof. Dr. Heinz Wiendl von Prof. Valmed.

Quelle: VDE Health/AIQ/Prof. Valmed/hnle