Die rasante Entwicklung von Künstlicher Intelligenz (KI) hat das Potenzial, auch das Gesundheitswesen revolutionär zu verändern. Von der Präzisionsmedizin bis zur Optimierung von Verwaltungsprozessen eröffnet KI neue Wege zur Verbesserung der Patientenversorgung. Doch mit großen Möglichkeiten kommt auch eine große Verantwortung, insbesondere im Hinblick auf ethische und rechtliche Herausforderungen. Die KI-Verordnung der Europäischen Union, die nach intensiven Verhandlungen am 8. Dezember 2023 angenommen wurde, zielt darauf ab, einen sicheren und geregelten Rahmen für den Einsatz von KI zu schaffen. Diese Verordnung ist besonders relevant für medizinische Fachkräfte, die KI in ihre Arbeit integrieren möchten, da sie direkt die Art und Weise beeinflusst, wie technologische Lösungen im Gesundheitsbereich entwickelt und eingesetzt werden. Ärztinnen und Ärzte stehen nun vor der Herausforderung, die technischen Aspekte von KI ebenso wie die neuen rechtlichen Anforderungen zu verstehen. Die EU-KI-Verordnung etabliert klare Richtlinien, die sowohl den Schutz der Patientinnen und Patienten als auch die Förderung von Innovation sicherstellen sollen. Im Einzelnen beinhaltet die Verordnung folgende Aspekte:
1. Einheitliche Regeln: Die Verordnung schafft einen einheitlichen Rechtsrahmen für KI-Systeme in der EU. Dies soll die Sicherheit und Zuverlässigkeit von KI-Anwendungen verbessern und gleichzeitig Innovation fördern.
2. Risikobasierte Klassifikation: KI-Systeme werden nach ihrem Risikopotenzial klassifiziert. Im Gesundheitssektor, wo die Risiken besonders hoch sind, unterliegen KI-Systeme strengeren Vorschriften, insbesondere wenn sie in kritischen Bereichen wie der Diagnose oder Behandlung eingesetzt werden.
3. Datenschutz und Sicherheit: Die Verordnung betont den Schutz personenbezogener Daten. KI-Systeme, die Gesundheitsdaten verarbeiten, müssen hohe Datenschutzstandards erfüllen, um die Privatsphäre der Patienten zu wahren.
4. Transparenz und Informationspflichten: Ärzte müssen sicherstellen, dass KI-Systeme transparent arbeiten und Patienten über den Einsatz von KI in ihrer Behandlung informiert werden. Dies beinhaltet auch die Offenlegung, dass und wie Entscheidungen durch KI getroffen werden.
5. Haftung und Verantwortlichkeit: Die Verordnung klärt Haftungsfragen bei Schäden, die durch KI-Systeme verursacht werden. Medizinische Einrichtungen müssen sicherstellen, dass sie die Vorgaben der Verordnung einhalten, um nicht rechtlich belangt zu werden.
6. Förderung von Innovation: Trotz strenger Regulierung fördert die Verordnung auch die Weiterentwicklung von KI-Technologien. Sie schafft Anreize für Innovationen, insbesondere durch die Einrichtung von sogenannten Reallaboren – Experimentierräume, in denen Wissenschaft sowie Zivilgesellschaft zusammenarbeiten – und die Verringerung des Regelungsaufwands für kleine und mittelständische Unternehmen.
Was bedeutet das nun konkret für Ärztinnen und Ärzte? Beim Einsatz von KI-Technologien müssen sowohl die regulatorischen Anforderungen als auch das Potenzial zur Verbesserung der Patientenversorgung sorgfältig abgewogen werden. Die EU-KI-Verordnung regelt damit weltweit als erstes verbindliches Gesetz zur künstlichen Intelligenz, auf was bei der Nutzung von KI in den verschiedenen Bereichen des Lebens zu achten ist. Bei medizinischen Projekten, in denen Entscheidungen durch eine KI getroffen werden sollen, sind daher die Vorgaben der neuen KI-Verordnung zu berücksichtigen.
Fragen zu anderen Rechtsthemen? Nutzen Sie als BDI-Mitglied unsere kostenfreie Rechtsberatung!
