Der Einsatz künstlicher Intelligenz (KI) schreitet in zahlreichen Lebensbereichen voran. Sie birgt Chancen, aber auch Risiken. Vor diesem Hintergrund hat die Kommission der Europäischen Union in ihrer Mitteilung vom 8. April 2019 an das Europäische Parlament, den Europäischen Rat, den Europäischen Wirtschafts- und Sozialausschuss und den Ausschuss der Regionen allgemeine Kernanforderungen an eine vertrauenswürdige KI formuliert.
Davon ausgehend hat die GVG-Facharbeitsgruppe Digitalisierung und eHealth in den vergangenen Monaten sieben Anforderungen erarbeitet, die künstliche Intelligenz im Gesundheitswesen erfüllen sollte.
Die 7 Kernanforderungen in Kürze:
1) Vorrang menschlichen Handelns und menschlicher Aufsicht
- KI-Systeme dürfen die medizinischen Professionen nicht ersetzen. Innerhalb des gesamten Behandlungsprozesses haben sie lediglich eine unterstützende Funktion.
- Das Vertrauensverhältnis zwischen Arzt und Patient bleibt bestehen, wenn beide Seiten KI-Ergebnisse verstehen und auf die Richtigkeit dieser Informationen vertrauen können.
2) Technische Robustheit und Sicherheit
- Kriterien für eine vertrauenswürdige KI sind Verlässlichkeit, Risikotransparenz, Nachprüfbarkeit, Robustheit sowie Sicherheit vor Manipulation. KI muss stabil und sicher arbeiten, Schutzvorkehrungen gegen Fehlfunktionen enthalten und ein jederzeitiges Abschalten der KI durch den Menschen muss möglich sein.
- KI-Anwendungen, die diese Kriterien erfüllen, sollten nach Durchführung einer sachkundigen und neutralen Prüfung eine KI-Zertifizierung erhalten.
3) Privatsphäre und Datenqualitätsmanagement
- Die Rahmenbedingungen zur Nutzbarkeit von Daten müssen technische Qualitätskriterien wie Verlässlichkeit, Freiheit von Verzerrungen und Sicherheit sowie ethisch-moralische Kriterien – wie Transparenz und Fairness – berücksichtigen.
- Die Gewährleistung der Datenqualität muss auch die Einhaltung des Datenschutzes nach der DSGVO und die Datensouveränität der Bürger umfassen.
4) Transparenz
- Für die medizinischen und pflegerischen Professionen müssen die Grundprinzipien und Datengrundlagen der angewendeten KI verständlich sein. Es muss klar sein, wann die KI in den individuellen Versorgungsprozess Eingang findet.
- Informationen über die eingesetzte KI und ihren Nutzen sollten für Patienten leicht zugänglich und laienverständlich sein, um kompetent über deren Einsatz entscheiden zu können.
5) Vielfalt, Nichtdiskriminierung und Fairness
- Der Zugang zu KI Anwendungen muss allen Bürgern offenstehen.
- Jede Benachteiligung aufgrund von Verzerrungen in den Daten, sei es aufgrund von Datenunvollständigkeiten und -mängeln oder beabsichtigen Motiven, wie Vorurteilen oder unlauterem Wettbewerb, muss ausgeschlossen werden.
6) Gesellschaftliches und ökologisches Wohlergehen
- Die Entwicklung von KI-Systemen soll mit Blick auf die ökologische Verantwortung erfolgen. Die GVG schlägt vor, Rahmenbedingungen zu schaffen, die die Digital- und KI-Kompetenz sowohl bei den medizinischen Professionen als auch in der Bevölkerung fördern.
- Die grundlegenden Funktionsweisen der KI sowie der fachbezogene Einsatz von KI in der medizinischen Versorgung muss Eingang in die ärztliche und pflegerische Aus- und Weiterbildung finden.
7) Rechenschaftspflicht
- Wenn es zu Fehlern beim Einsatz der KI kommt, muss feststellbar sein, an welcher Stelle der Fehler entstanden ist. Nur so kann die Verantwortlichkeit dem Verursacher zugeschrieben werden. So kann der Arzt beispielsweise nicht für einen Programmierfehler verantwortlich gemacht werden, den der Hersteller bzw. Anbieter verursacht hat.
- Eventuell auftretende Verantwortungslücken müssten ggf. durch eine Anpassung des Haftungsrechts geschlossen
