Der Regierungsrat wird beauftragt, eine Governance für den Einsatz komplexer algorithmischer Entscheidsysteme («KI-Systeme») für den Kanton Zürich zu erarbeiten und dem Kantonsrat vorzulegen. Diese soll insbesondere folgende Elemente enthalten:
1. Leitlinien: Festlegung ethischer, grundrechtlicher, demokratiepolitischer und technischer
Standards für den Einsatz von KI, u.a. zur Sicherstellung der Nichtdiskriminierung,
Transparenz und Dokumentation.
2. Verantwortlichkeiten und Zuständigkeiten: Aufbau klarer Strukturen für die Umsetzung
von KI-Projekten.
3. Risikomanagement: Verfahren zur systematischen Erkennung, Bewertung und Minimierung von (Grundrechts-) Risiken und Klärung allfällig nötiger Genehmigungen.
4. Aufsicht: Demokratische Kontrolle, allenfalls durch eine Aufsichtskommission, und Information der Öffentlichkeit sicherstellen.
5. Strategie: Definition kantonaler Ziele im Bereich KI. Die Strategie soll insbesondere
Handlungsfelder und Anwendungsfälle, Massnahmen zur Erreichung der Ziele, und einen Zeitplan beinhalten. Ebenfalls stellt die Einrichtung eines Kompetenzzentrums für
Wissenstransfer, Beratung und Zusammenarbeit mit Forschung, Wirtschaft, Zivilgesellschaft und anderen öffentlichen Verwaltungen ein wichtiges Element der Strategie dar.
Begründung:
Künstliche Intelligenz (KI) entwickelt sich rasant zu einer Schlüsseltechnologie der digitalen
Transformation und bietet grosse Chancen, Verwaltungsprozesse effizienter, bürgernäher
und zukunftsfähiger zu gestalten. Um dieses Potenzial zu nutzen und sicherzustellen, dass
algorithmische Systeme von der Verwaltung verantwortungsvoll und für das Gemeinwohl
eingesetzt werden, braucht es im Kanton Zürich einen klaren Governance-Rahmen für den
Einsatz von KI, der Regeln, Verantwortlichkeiten und Strukturen definiert und transparent
macht. Als zentrales Element dieser Governance soll eine kantonale KI-Strategie die Ziele
und nötigen Massnahmen definieren. Governance und Strategie sollen dazu dienen, die
Grundrechte zu schützen und die Handlungsfähigkeit des Staates im Sinne einer nachhaltigen digitalen Verwaltung zu gewährleisten.
Die Erarbeitung einer solchen Governance, im Idealfall unter Beibezug von Fachexpertinnen
und -experten, schafft die nötige Grundlage, um das Vertrauen der Bevölkerung zu stärken
und bringt Klarheit für interne und externe Partnerinnen und Partner der Verwaltung. So kann
der Kanton Zürich nicht nur die Chancen der KI nutzen, sondern auch Risiken gezielt minimieren und seine Vorreiterrolle in der digitalen Verwaltung festigen.
Nicola Yuste
Gabriel Mäder
Benjamin Krähenmann
Marzena Kopp
Michael Bänninger
Manuel Sahli