Am besten ohne Nebenwirkungen – GVG veröffentlicht Kernanforderungen zum Einsatz von künstlicher Intelligenz im Gesundheitswesen

Pressemitteilung 08/2020

Ob in Diagnose- oder Therapieverfahren, in der Rehabilitation oder der Pflege –künstliche Intelligenz (KI) schafft neue Möglichkeiten, aber auch Risiken. Sollen KI-Anwendungen ihren Platz im Gesundheitswesen finden, müssen sie bestimmte Kernanforderungen erfüllen. Die Gesellschaft für Versicherungswissenschaft und -gestaltung (GVG) hat dazu jetzt ein Positionspapier vorgelegt.

Berlin, 26. Juni 2020 – Die Gesellschaft für Versicherungswissenschaft und -gestaltung (GVG) empfiehlt die Einführung eines Gütesiegels für KI-Anwendungen im Gesundheitswesen. Dazu müssten Qualitätskriterien wie Verlässlichkeit, Sicherheit, ethisch-moralische Kriterien sowie Transparenz und Fairness berücksichtigt werden.

So lautet eine der Kernanforderungen an den Einsatz künstlicher Intelligenz im Gesundheitswesen, die die GVG-Facharbeitsgruppe Digitalisierung und eHealth jetzt in Berlin vorgestellt hat. An dem Papier waren Vertreter der Sozialversicherungsträger, von Interessen- und Dachverbänden des Gesundheits- sowie des Versicherungswesens beteiligt.

Dr. Bodo Liecker, Vorsitzender der Facharbeitsgruppe Digitalisierung und eHealth, stellt klar: „KI, die der Diagnosestellung, Therapieempfehlung oder dem Ersatz etablierter Leistungen dient, muss den patientenrelevanten Nutzen nachweisen.“ Innerhalb des gesamten Behandlungsprozesses hätten KI-Systeme lediglich eine unterstützende Funktion. Die Entscheidungshoheit in Gesundheitsfragen müsse weiter bei den Patientinnen und Patienten sowie den Behandlern bleiben.

Voraussetzung für die Zertifizierung von KI-Anwendungen ist: Sie sind transparent, manipulationssicher, verlässlich und jederzeit durch den Menschen abzuschalten. Dies müsse durch eine sachkundige, neutrale Prüfung sichergestellt werden. Nur so und durch einen jederzeit gewährleisteten Datenschutz entstehe Vertrauen bei Ärzten und Patienten, heißt es in dem GVG-Papier. Zudem seien Haftungs- und Verantwortungsfragen zu klären. „Kommt es zu Fehlern beim Einsatz künstlicher Intelligenz, muss festzustellen sein, wo der Fehler entstanden ist“, so Liecker.

Entscheidend für den Nutzen einer KI, so eine weitere Feststellung, sei die Qualität der Daten, auf der sie beruhe. Forschung und Industrie benötigten Klarheit, wie sie die erforderlichen Daten erhalten und nutzen können. Eine Nutzung der Daten für andere Zwecke müsse ausgeschlossen werden.

Weiter spricht sich die GVG für den Ausbau von Studiengängen wie Medizininformatik oder Digital Health aus. Die grundlegenden Funktionsweisen sowie der Einsatz künstlicher Intelligenz in der medizinischen Versorgung müssten Eingang in die ärztliche und pflegerische Aus- und Weiterbildung finden.

Pressemitteilung 08/2020 PDF, 449 kB