Auch die Schweiz sollte dem Überwachungsstaat Schranken setzen

Am Mittwoch 14. Juni 2023 beschloss das Europäische Parlament die Grundlagen zu einer KI-Verordnung über künstliche Intelligenz (KI). Die Abstimmung war eindeutig: 499 zu 28 Stimmen bei 93 Enthaltungen. Die EU-Strategie verfolgt einen risikobasierten Ansatz und will die Nutzung umso stärker regulieren und einschränken, je grösser das Risiko einer KI-Anwendung ist. 

Wo das Anwenden künstlicher Intelligenz Menschen zu unterdrücken droht, gilt ein totales Verbot solcher Anwendungen. Dazu gehören:

• «Social Scoring»-Systeme, die das individuelle Verhalten bewerten. Abschreckend wirkt die Überwachungspolitik in China, wo auf einer datengestütztes Basis Einzelpersonen, Staatsbedienstete, Unternehmen, Organisationen und Verbände eingestuft und bewertet werden können. Schlechtes Verhalten wird diszipliniert und bestraft – etwa mit gedrosselten Internetgeschwindigkeiten oder mit Flugverboten.
• Biometrische Erkennungssysteme, die öffentlich zugängliche Räume in Echtzeit überwachen – ausser, wenn Strafverfolgungsbehörden die richterliche Genehmigung erhalten, um schwere Straftaten zu verfolgen.
• Biometrische Kategorisierungssysteme, die sensible Merkmale wie Geschlecht, Rasse, ethnische Zugehörigkeit, Staatsangehörigkeit, Religion, politische Orientierung verwenden und dabei diskriminierende Auswirkungen haben können. 

Insgesamt will die EU-Verordnung verhindern, dass Menschenrechte und das Recht auf Privatsphäre verletzt werden. Anbieter von KI-Modellen sollen einen soliden Schutz der Grundrechte, der Gesundheit und Sicherheit sowie der Umwelt, der Demokratie und der Rechtsstaatlichkeit gewährleisten. Auch KI-Systeme wie «ChatGPT» müssen offenlegen, dass ihre Inhalte KI-generiert sind, um Transparenzanforderungen zu erfüllen.  

Einigkeit tönt anders

Die Ziele des europäischen Parlaments sind hochgesteckt. Aber der Chor der Stimmen, die sich in Europa nun einigen müssen, ist vielstimmig und dissonant. Vor dem Beschluss des EU-Parlaments hatte die europäische Volkspartei EVP – ein Zusammenschluss konservativer Parteien – versucht, den Terrorismus stärker zu berücksichtigen. Bayerns Digitalministerin Judith Gerlach kritisierte: «Der aktuelle Gesetzentwurf bremst Innovationen und schädigt insbesondere unsere bayerische Wirtschaft, für die KI eine Schlüsseltechnologie ist.» Die bisherigen  Vorschläge müssten dringend überarbeitet werden. Gerade kleinere Unternehmen könnten das Übermass an Regulierung und Bürokratie nicht stemmen. Ähnlich befürchtete der Handelsverband Deutschland (HDE) eine Überregulierung. Man brauche zwar Regeln, dürfe aber das Kind nicht mit dem Bade ausschütten.

In der Parlamentsdebatte nannte Axel Voss von der CDU das vorgesehene Verbot der Gesichtserkennung in Echtzeit im öffentlichen Raum bedauerlich und eine verpasste Chance: KI könne, richtig angewandt, zu deutlich mehr Sicherheit in der Bevölkerung führen. Die FDP-Digitalpolitikerin Svenja Hahn aus dem liberalen Lager hielt dem entgegen, dass Gesichtserkennung zur Überwachung in einer liberalen Demokratie nichts zu suchen habe.

Die trotz einem Kompromiss letztlich nicht ausgeräumten Gegensätze belegen, dass am 14. Juni höchstens ein Meilenstein in der Debatte erreicht wurde. Endgültig entscheiden werden die Ländervertreter im EU-Ministerrat. Der französische Premier Emmanuel Macron kündigte in einer Rede vor Wirtschaftsvertretern umgehend an, dass Frankreich zur Entwicklung der KI neue Mittel von sieben Milliarden Euro bereitstelle. Damit solle die Dominanz Chinas und der USA verhindert werden. Denn die Angst ist gross, dass die KI-Entwicklung dank strenger Regulierungen einen Bogen um die europäischen Länder machen könnte. So startet Google in diesen Tagen seinen Chatbot «Bard» in den meisten Ländern der Welt. Aufgrund von Datenschutzbedenken fehlte erst die EU. Im letzten Moment gelang es dann, einen reichlich vagen Kompromiss zu finden.

Umstritten bleibt der Einsatz von KI in der Migrationspolitik. NGOs machen darauf aufmerksam, dass KI von autonomen Drohnen bis hin zur Spracherkennungssoftware angewendet werde, um Grenzen gegen illegale Übertritte zu sichern oder falsche Aussagen im Asylprozess zu entdecken. European Digital Rights (EDRi), ein Zusammenschluss zahlreicher europäischer NGOs, kritisiert, dass die KI-Verordnung die Rechte der Menschen, insbesondere der Migranten nicht verbessere. Das Europäische Parlament habe es versäumt, Bestimmungen einzuführen, welche die Rechte von Migrantinnen und Migranten angesichts einer immer stärkeren diskriminierenden Überwachung schützen.

Die Schweiz als Beobachterin am Spielfeldrand

Während die EU mit Regulierungen weltweit vorprescht, geht die Schweiz wie häufig bei europapolitischen Fragen gemächlich voran und beobachtet die Situation vom Spielfeldrand. In einer Medienmitteilung befand der Bundesrat am 18. April 2023, dass die Schweiz in vielen Bereichen von der Regulierung der Europäischen Union (EU) betroffen sei. Aber einen unmittelbaren Handlungsdruck sehe er nicht. 

Man erwarte keine erheblichen Marktzugangshürden für die Schweiz im digitalen Bereich. Dies auch, weil die neuen verbindlichen Regelungen generell für alle Anbieter und nicht nur für Anbieter aus Drittstaaten wie der Schweiz gelten.

Das Fazit lautet: Die Schweiz werde sich den Einflüssen von aussen nicht entziehen können. Schweizerische digitale Produkte werden den EU-Konventionen entsprechen müssen, wenn sie in der EU verkauft werden. Aber man hoffe, bestehende Gesetze einfach anpassen zu können. 

Doch Laisser-Faire ist in der Politik keine gute Lösung. Die Schweiz wird nachvollziehen müssen, was ihr in Gesetzen wie der EU-Konvention vorgesetzt wird. Auch kann die Schweiz kaum Entwicklungen zulassen und fördern, die ausserhalb der Schweiz als brandgefährliche Risiken gelten. 

Nachdem sich in der EU die Konturen einer europäischen Digitalisierungspolitik abzeichnen, sollte sich die Schweizer Politik beeilen, eigene Anforderungen für diese Herausforderungen zu formulieren, welche die Menschenrechte schützen und eine flächendeckende Überwachung verhindern.