Der Regierungsrat wird beauftragt, eine Strategie zur Nutzung algorithmischer Entscheidungssysteme (KI-Systeme) im Gesundheitswesen zu erarbeiten, die definiert, wie die Chancen von KI im Gesundheitswesen für die Verbesserung der Patientenversorgung und für Prozessoptimierungen genutzt werden kann und welche Restriktionen erforderlich sind, um die
Risiken zu minimieren.
Dabei sollen insbesondre grundrechtliche und ethische Aspekte, Datenschutz und Datensicherheit, Transparenz und Nachvollziehbarkeit der KI-Systeme sowie regulatorische Klarheit
und Koordination der verschiedenen Akteure berücksichtigen werden.
Begründung:
Eine der zentralen Problematiken im Gesundheitswesen ist die Fragmentierung von verschiedenen Akteuren und der von ihnen verwendeten Daten. Der Einsatz von KI-Systemen
hebt diesen Umstand auf ein neues Level. Während ein gezielter und koordinierter Einsatz
dieser Problematik entgegenwirken kann, besteht bei einer unkoordinierten Entwicklung die
Gefahr, dass sie diese verstärkt. Im Bericht zum «Einsatz Künstlicher Intelligenz in der Verwaltung: rechtliche und ethische Fragen» aus dem Jahr 2021 haben die Aspekte der Gesundheitsversorgung allerdings noch kaum Eingang gefunden.
Künstliche Intelligenz (KI) bietet in den verschieden Bereichen des Gesundheitswesens ein
enormes Potenzial, etwa in der Früherkennung und Diagnostik, der Weiterentwicklung von
personalisierter Medizin und mit Effizienzsteigerung in operativen und administrativen Prozessen.
Gleichzeitig birgt sie auch erhebliche Risiken. Klare rechtliche und ethische Rahmenbedingungen, der Schutz sensibler Gesundheitsdaten, Datensicherheit und Vermeidung von Abhängigkeit gegenüber grossen Technologiekonzernen stellen zentrale Anforderungen dar.
Darüber hinaus sind Transparenz und Nachvollziehbarkeit von KI-Systemen zentral, denn KI
kann Bias in der medizinischen Forschung, wie z.B. Gender-Data-Gap, verstärken und zu
algorithmischer Diskriminierung führen, wenn Datenbasis oder algorithmische Systeme nicht
transparent und nachvollziehbar sind.
Entsprechend ist die Förderung von Open-Source-KIs durch die öffentliche Hand von grosser Bedeutung. Ein Musterbeispiel hierfür ist das öffentlich entwickelte Large Language Model (LLM) der ETH, EPFL und CSCS, das auch durch die Swiss AI Initiative gefördert wurde.
Ferner stellen sich verschiedene ethische und regulatorische Fragen, etwa zu Aufsichts- und
Kontrollorganen, Folgenabschätzungen, medizinische Verantwortung und Haftung.
Der Regierungsrat ist für die Sicherstellung einer qualitativ hochstehenden, bedarfsgerechten und wirtschaftlich tragbaren Gesundheitsversorgung der Zürcher Bevölkerung verantwortlich. Eine Strategie zur Nutzung von KI im Gesundheitswesen ermöglicht es, das Potential dieser neuen Technologie optimal auszuschöpfen und gleichzeitig sicherzustellen, dass
regulatorische Vorgaben am Patientenwohl und einem nachhaltigen Ressourceneinsatz ausgerichtet sind. Zugleich gewährleistet sie die Einhaltung der Grundsätze wie Transparenz,
Robustheit und Schutz der Privatsphäre. Ohne eine Strategie drohen eine fragmentierte und
unkoordinierte Entwicklung, ineffiziente Prozesse sowie unzureichende Antworten auf
ethisch und rechtliche Fragen.
Marion Schmid
Michael Bänninger
Urs Dietschi
