Der Regierungsrat wird beauftragt, gesetzliche Grundlagen zu schaffen, die sicherstellen,
dass staatliche Entscheide, die ganz oder teilweise auf Basis komplexer algorithmischer Entscheidsysteme („KI-Systeme“) getroffen werden und die eine rechtliche oder tatsächliche
Wirkung auf Personen oder Unternehmen entfalten und sich auf deren Grundrechte auswirken können, entsprechend gekennzeichnet werden.
Begründung:
Der Einsatz von komplexen algorithmischen Entscheidsystemen basierend auf künstlicher
Intelligenz («KI-Systeme») in der Verwaltung des Kantons Zürich nimmt stetig zu und war
bereits 2021 beträchtlich.1 Solche Systeme können staatliche Entscheide, die weitreichende
Auswirkungen auf das Leben einzelner Bürgerinnen und Bürger sowie auf Unternehmen haben, vorbereiten oder beeinflussen. Wenn staatliche Entscheide ganz oder teilweise auf Basis von KI-Systemen getroffen werden, besteht die Gefahr, dass deren Entstehung für die
Betroffenen nicht mehr nachvollziehbar ist.
Für eine offene und demokratische Gesellschaft ist es zentral, dass Bürgerinnen und Bürger
staatliches Handeln verstehen und hinterfragen können. Dies setzt voraus, dass transparent
gemacht wird, wenn bei Entscheiden KI-Systeme mitgewirkt haben. Nur so lässt sich gewährleisten, dass Grundrechte wie das Recht auf Information, das Recht auf rechtliches Gehör und das Recht auf wirksamen Rechtsschutz tatsächlich ausgeübt werden können.
Eine klare Kennzeichnungspflicht stärkt das Vertrauen der Bevölkerung in staatliche Institutionen, weil sie nachvollziehbar macht, wann und in welchem Umfang technische Systeme an
Entscheidungen beteiligt sind. Gleichzeitig schafft sie Rechtssicherheit für die Behörden, da
sie einheitliche und überprüfbare Standards für den Umgang mit KI-basierten Verfahren
etabliert. Transparenz ist keine Innovationsbremse, im Gegenteil: Sie schafft Akzeptanz für
neue Technologien, weil sie deren Einsatz kontrollier- und hinterfragbar macht.
Nicola Yuste
Gabriel Mäder
Benjamin Krähenmann
Manuel Sahli
1 Siehe Antwort des Regierungsrates auf die Anfrage 248/2021