Krankenhäuser stehen vor einer doppelten Herausforderung: Einerseits sollen sie innovativ sein, Künstliche Intelligenz (KI) nutzen und Prozesse digitalisieren. Andererseits müssen sie strengste regulatorische und datenschutzrechtliche Anforderungen erfüllen.

KI-gestützte Bildanalyse zur Unterstützung der Diagnose, automatisiertes Patientenaufnahme- und -entlassungsmanagement, intelligente Patientenzimmer mit Sprachassistenten oder ferngesteuerte Robotik für chirurgische Eingriffe sind nur einige Beispiele für den Einsatz von KI-Systemen in einem „Smart Hospital“ der Zukunft. Die Vorteile liegen auf der Hand: präzisere Diagnosen, Entlastung des medizinischen Personals, nachvollziehbare Verwaltung, mehr Zeit für die Patienten, effizienteres Ressourcenmanagement und geringere Kosten, was konsequent zu einer besseren Patientenversorgung führt.

Doch mit der zunehmenden Digitalisierung steigen auch die regulatorischen Anforderungen – sei es in Bezug auf Datenschutz, IT-Sicherheit, Medizinprodukterecht oder die Einhaltung der neuen KI-Verordnung der EU (KI-VO). Die Balance zwischen Innovation und Compliance wird dabei zu einer spannenden Herausforderung für die Krankenhausleitungen.

Medizinprodukt oder „nur Software“?

Ein zentrales Thema bei der Digitalisierung im Krankenhaus ist die rechtliche Einordnung der eingesetzten digitalen Werkzeuge, insbesondere, ob es sich dabei um Medizinprodukte handelt. Maßgeblich ist hierbei die Zweckbestimmung durch den Hersteller. Verfolgt eine Software diagnostische oder therapeutische Zwecke, wird sie zur Medical Device Software und das Krankenhaus zum Betreiber.

Dies hat erhebliche Konsequenzen: Das Krankenhaus muss sicherstellen, dass die Software gemäß der Medizinprodukte-Verordnung (MDR) zertifiziert ist und alle Betreiberpflichten erfüllt werden. Dazu gehören die ordnungsgemäße Installation, Wartung und Überwachung, die Schulung des Personals, die Durchführung regelmäßiger Sicherheitsüberprüfungen sowie die Einhaltung von Meldepflichten bei Zwischenfällen.

Und was gilt für KI-Systeme?

Enthält die eingesetzte Software KI-Komponenten, greift zusätzlich die KI-VO, wobei entscheidend hierfür ist, ob das System Autonomie und Adaptivität bei der Entscheidungsfindung aufweist.

Medizinprodukte, die KI beinhalten, fallen regelmäßig in den Bereich der Hochrisikosysteme und erfordern eine Konformitätsbewertung und Zertifizierung durch eine Benannte Stelle. Zudem müssen die Kliniken müssen umfassende Betreiberpflichten beachten, wie ein verpflichtendes Monitoring im laufenden Betrieb, umfassende Dokumentations- und Aufbewahrungspflichten sowie die Durchführung einer Datenschutz-Folgenabschätzung und einer KI‑A­uswirkungsanalyse.

Für rein administrative KI-Systeme, die weder als Medizinprodukte noch als Sicherheitsbauteile im Rahmen der Verwaltung und des Betriebs kritischer digitaler Infrastrukturen eingestuft sind, gelten die erleichterten KI-Kompetenz- und Transparenzpflichten, die für sonstige KI-Systeme gelten.

Wichtig ist zu beachten, dass bereits geringfügige Änderungen an der Software oder ihrer Zweckbestimmung, beispielsweise die Weiterentwicklung mit hausinternen Patientendaten, dazu führen können, dass das Krankenhaus in die Rolle des Herstellers wechselt. Dies hat umfangreiche Konsequenzen, wie das Erfordernis einer Zertifizierung, den Aufbau von spezifischen Risiko- und Qualitätsmanagementsystemen sowie diversen behördlichen Meldepflichten.

Internationale Norm bringt Struktur in die KI-Regulatorik

Das Sicherstellen der Compliance mit der neuen KI-VO ist kein Unterfangen, das das Unternehmen nebenher laufen lassen kann, denn hat man die Anforderungen und Pflichten, gemäß der KI-VO einmal identifiziert, muss der Betreiber sicherstellen, dass diese eingehalten werden. Hierbei hilft die internationale Norm ISO 42001 „Artificial Intelligence Management System“ eine für alle integrierten Managementsysteme gängige und praxisbewährte Struktur zu schaffen. Sie besteht in der Regel aus vier Ebenen: (i) Governance: Steuerung/Lenkung und Regelungswerke; (ii) Aufbauorganisation: Rollen, Verantwortlichkeiten samt deren Pflichten und Befugnissen; (iii) Ablauforganisation: Prozesse, Verfahren, Aufgaben und standardisierte Abläufe; und (iv) Unterstützungsorganisation: Vorlagen und Werkzeuge, die erforderliche Nachweise nachvollziehbar verwalten. Dabei zehren die integrierten Managementsysteme synergetisch voneinander, so dass ein komplexes Zusammenspiel zwischen den Qualitäts-, Dokumenten-, Lieferanten-, Risiko-, Informationssicherheits-, etc. und dem KI-Managementsystem entsteht. Weitere integrierte Managementsysteme können dann schneller und einfacher eingeführt werden, weil diverse übergreifende Bestandteile dann bereits vorhanden sind.

Das Sicherstellen der Compliance mit der neuen KI-VO ist eine anspruchsvolle Aufgabe, die nicht nebenbei erledigt werden kann. Sobald die Anforderungen und Pflichten identifiziert sind, muss der Betreiber sicherstellen, dass diese eingehalten werden. Hierbei hilft die internationale Norm ISO 42001 „Artificial Intelligence Management System“. Diese schafft eine Struktur für integrierte Managementsysteme zu in vier Ebenen: ((i) Governance: Steuerung/Lenkung und Regelungswerke; (ii) Aufbauorganisation: Rollen, Verantwortlichkeiten samt deren Pflichten und Befugnissen; (iii) Ablauforganisation: Prozesse, Verfahren, Aufgaben und standardisierte Abläufe; und (iv) Unterstützungsorganisation: Vorlagen und Werkzeuge, die erforderliche Nachweise nachvollziehbar verwalten. Die integrierten Managementsysteme profitieren voneinander, indem sie ein komplexes Zusammenspiel zwischen verschiedenen Bereichen wie Qualitäts-, Dokumenten-, Lieferanten-, Risiko-, Informationssicherheits- und KI-Managementsystemen ermöglichen. Dadurch können weitere integrierte Managementsysteme schneller und einfacher eingeführt werden, da viele übergreifende Bestandteile bereits vorhanden sind.

Krankenhäusern ist es erlaubt, Medizinprodukte eigenständig zu entwickeln und intern zu nutzen, ohne ein vollständiges Konformitätsverfahren einschließlich CE-Kennzeichnung durchführen zu müssen. Diese Ausnahme bietet Kliniken wertvolle Flexibilität und verkürzt die Produktentwicklungszyklen erheblich, solange keine vergleichbare Lösung auf dem Markt verfügbar ist und die Nutzung auf den internen Bereich beschränkt bleibt.

Durch die Möglichkeit der Eigenherstellung ohne sofortige CE-Zertifizierung können Kliniken innovative Software zunächst intern entwickeln und im klinischen Alltag anhand realer Versorgungsdaten testen. Ziel ist es, bei erfolgreicher Validierung die Software in ein zertifiziertes und marktfähiges Medizinprodukt zu überführen.

Datenschutz und Informationssicherheit im Krankenhaus

Gesundheitsdaten unterliegen höchsten Datenschutzanforderungen und zudem ist in Deutschland das Datenschutzrecht stark föderal geprägt. Neben der EU-Datenschutz-Grundverordnung (DS-GVO) gelten je nach Trägerschaft zusätzlich kirchliche, landeskrankenhaus- oder hochschulrechtliche Regelungen. In der Praxis führt dies häufig zu Unsicherheiten, sodass viele Krankenhäuser aus Vorsicht übermäßig zurückhaltend agieren, wenn es um innovative Nutzungsmöglichkeiten geht. Mit dem Gesundheitsdatennutzungsgesetz (GDNG) wurden Erleichterungen für Forschungszwecke geschaffen. Danach können pseudonymisierte Daten auch von externen Dienstleistern als Auftragsverarbeiter weiterverarbeitet werden und landesrechtliche Regelungen werden insoweit verdrängt.

Ein entscheidender Ansatz zur Umsetzung der Datenschutzanforderungen ist das Prinzip „Privacy by Design“. Datenschutzmaßnahmen müssen bereits bei der Gestaltung digitaler Prozesse berücksichtigt werden und nicht erst im Nachhinein. Technische und organisatorische Maßnahmen (TOM) sollten von Anfang an Teil der IT-Architektur eines Krankenhauses sein.

Dadurch wird Datenschutz nicht als Hindernis, sondern als eingebauter Schutzmechanismus betrachtet – ähnlich wie ein Airbag in einem Auto. Für Krankenhäuser, die zum KRITIS-Sektor Gesundheit gehören, hat die Deutsche Krankenhausgesellschaft (DKG) den Branchenspezifischen Sicherheitsstandard (B3S) herausgegeben. Aufgrund der EU NIS2-Verordnung, die im Januar 2025 in Kraft tritt, beraten derzeit das Bundesamt für Sicherheit in der Informationstechnik (BSI) und die DKG über die Anpassungen des B3S. Bis zur Prüfung der Eignungsfeststellung für die neue Version kann die letzte Version weiterhin verwendet werden. Diese enthält die wesentlichen Anforderungen an die Informationssicherheit und bildet somit auch das Fundament für die TOM.

Cloud-Infrastruktur im Krankenhaus

Ein Brennpunkt der digitalen Transformation in Krankenhäusern ist der Einsatz von Cloud-Diensten bei der Verarbeitung von Gesundheits- und Sozialdaten. Bei Cloud-Computing handelt es sich um einen Dienst, der auf Abruf die Verwaltung und den umfassenden Fernzugang zu einem skalierbaren und elastischen Pool gemeinsam nutzbarer Rechenressourcen ermöglicht, auch wenn diese Ressourcen auf mehrere Standorte verteilt sind. Nach dem seit Juli 2024 geltenden § 393 SGB V müssen alle Leistungserbringer sicherstellen, dass die datenverarbeitende Stelle über ein aktuelles C5-Testat (Cloud Computing Compliance Criteria Catalogue) des BSI verfügt. Nach Sinn und Zweck der Regelung handelt es sich bei der datenverarbeitenden Stelle um den Anbieter, sodass keine ergänzende Prüfung der Krankenhäuser, die sich C5-testierter Cloud-Dienste bedienen, erforderlich ist. Anders sieht es aber aus, wenn die Krankrenhäuser eine eigene Cloud-Infrastruktur betreiben.

Krankenhäuser müssen weiterhin sorgfältig prüfen, unter welchen Bedingungen sie einen externen Cloud-Dienstleister beauftragen dürfen, basierend auf den jeweiligen nationalen Vorschriften. Die Nutzung von Anbietern mit Rechenzentren innerhalb der EU gilt als datenschutzrechtlicher Goldstandard. Bei Anbietern, die mit Konzernen in Drittstaaten wie den USA verbunden sind, ist die Datenverarbeitung nur erlaubt, wenn zusätzliche technische und organisatorische Maßnahmen getroffen und Standardvertragsklauseln abgeschlossen werden.

Egal ob KI oder klassische Software, ob Medizinprodukt oder nicht – die rechtssichere Einordnung ist der erste Schritt. Nur auf dieser Basis können Krankenhäuser ihre konkreten Pflichten ableiten und in entsprechende Informationssicherheits-, Datenschutz- und KI-Managementsysteme überführen. Diese Systeme können dann nach den Vorgaben der ISO 27001, 27701 und 42001 als integrierte Managementsysteme aufgebaut werden und sollten bestehende Systeme für Qualität, Risiken und Dokumentation nutzen. Wer frühzeitig auf strukturierte Compliance-Strategien setzt und regulatorische Entwicklungen aktiv verfolgt, legt den Grundstein für eine innovative und rechtssichere digitale Klinik.

Autoren: Sebastian Retter, Partner, Forvis Mazars Rechtsanwaltsgesellschaft mbH, Berlin, Dr. Roman Krepki, Senior Manager, Forvis Mazars Advisors GmbH & Co. KG, Stuttgart