On 24 April 2019 Regina Surber of ICT4Peace and ZHET published an op-ed in the Neue Zürcher Zeitung (NZZ): “Auslagerung des Grundrechtsschutzes von der Politik auf Firmen” (Are governments outsourcing protection of fundamental rights to companies ?).
On 7 May 2019 Federal Chancellor Walter Thurnherr gave an excellent speech on “Künstliche Intelligenz oder Das Erfordernis einer klugen Regulierung” (“AI and the requirement for intelligent regulation”, addressing some of Regina’s questions. The Chancellor’s speech can be found here:
The article by Regina in the NZZ in German can be found here.
The translation into English can be found here.
“Wir spüren es zwar im Alltag nicht immer, aber wir wissen es: Künstliche Intelligenz (KI) dringt mehr und mehr stark in unsere Privatsphäre ein. Privatsphäre definieren wir dabei als die Möglichkeit für das einzelne Individuum, sich zurückzuziehen und private Informationen zurückzuhalten, wenn wir das so wollen. Sie galt einst als Vorbedingung für die Ausübung gewisser Menschenrechte, etwa des Rechts auf freie Meinungsäusserung oder der Wahl- oder Versammlungsfreiheit. Dieses Recht auf Privatsphäre verlangt auch im Informationszeitalter, dass wir selber kontrollieren können, wie unsere Daten gespeichert, verändert und ausgetauscht werden.
Neue Risiken
Mit dem Aufkommen von immer neuen Datendurchsuchungs- und Datenerhebungsmethoden (Data-Mining) wird dieses Recht zunehmend infrage gestellt: Regierungsbehörden und Unternehmen können heute den einzelnen Bürger leicht identifizieren und Profile über ihn erstellen. Die rasch wachsende Rechenkapazität beschleunigt, vergrössert und automatisiert diese Möglichkeiten, Informationen zu sammeln und zu verarbeiten. Dies stellt die liberale Gesellschaft vor eine grosse gesellschaftliche Herausforderung.
KI gefährdet den Schutz unserer Privatsphäre dabei auf unterschiedliche Weise: Smartphones und Computersoftware generieren konstant Daten, aufgrund deren wir identifiziert, verfolgt und überwacht werden können, egal, ob wir uns zu Hause oder am Arbeitsplatz befinden. Selbst an sich anonyme persönliche Daten können durch KI leicht deanonymisiert werden. KI wird künftig auch immer genauer Stimmen und Gesichter identifizieren können. Strafverfolgungsbehörden können solcherart Individuen auch aufspüren, ohne dass klare Verdachtsmomente vorliegen und ohne dass rechtsstaatliche Voraussetzungen einhalten werden müssen.
KI kann durch ausgetüftelte Algorithmen auch sensitive persönliche Informationen aus nichtsensitiven Daten ableiten: Gefühlszustände, politische Einstellungen, Gesundheit oder sexuelle Orientierung. An sich harmlose Ortungs- und Log-in-Daten ermöglichen dabei erstaunliche Rückschlüsse auf das einzelne Individuum. Und so kann KI Personen auch klassifizieren und beurteilen, ohne dass dafür die Zustimmung des Einzelnen eingeholt werden muss. Chinas soziales Kreditsystem ist ein Beispiel, wie solche persönlichen Informationen verwendet werden können, um einzelne Individuen oder bestimmte soziale Gruppen vom Zugang zu Krediten, Anstellungen, Mietobjekten oder sozialen Dienstleistungen auszuschliessen.
Diese neuen Risiken für unser Grundrecht auf Privatsphäre verlangen eine öffentliche und politische Debatte. Längst sind grosse Technologiekonzerne eingesprungen und füllen hinsichtlich des Datenschutzes das rechtspolitische Vakuum durch Selbstregulierung: Microsoft, IBM, Google und Co. haben sich selber Regeln auferlegt, oft «ethische Standards» genannt, mittels deren sie garantieren wollen, dass ihre KI-unterstützten Technologien die Privatsphäre schätzen und schützen. Unternehmen beobachten, analysieren und bewerten also die Bedürfnisse der Bevölkerung nach Privatsphäre, dies jedoch stets vor einem wettbewerbsorientierten Hintergrund und unter hohem Zeitdruck, denn der technologische Fortschritt kennt keine Geduld.
Die Politik hinkt hinterher
Dieser Selbstregulierung fehlt allerdings die demokratische Legitimation und Kontrolle. Schranken für Grundrechtsüberschreitungen oder -verletzungen werden nicht mehr von der Politik, sondern von der Privatwirtschaft definiert. Dies betrifft derzeit primär noch die Technologie-Grosskonzerne, künftig werden aber fast alle Firmen weit stärker auf die KI zurückgreifen.
Die Politik hinkt beim Thema Grundrechtsschutz der Realität hinterher und überlässt bedeutsame Aufgaben weitgehend der Privatwirtschaft. Dies aus zwei Gründen: Erstens mahlen die Mühlen der Politik im Vergleich zum rasanten technologischen Fortschritt viel zu langsam, und zweitens fehlt es in der Politik klar an Know-how im Zusammenhang mit den neuen Technologien.
Deshalb braucht es ein Umdenken. Traditionell sucht man in der Schweizer Politik immer nach perfekten Lösungen. Dadurch setzt man sich oft allzu hohe Hürden: Man strebt abschliessende, fixfertige Politiklösungen an und verliert dabei vor lauter Bäumen den Blick für den Wald, den es eigentlich rasch zu bändigen gilt. Gefragt ist künftig ein fokussierter und konstanter Austausch mit Technologie-Experten: So kann man sich von Baum zu Baum hangeln und auf diese Weise versuchen, die politische Hoheit über den Grundrechtsschutz zurückzugewinnen. Dies setzt einen konstruktiven Dialog mit den privatwirtschaftlichen Vorreitern voraus.”
Regina Surber ist wissenschaftliche Beraterin von ICT4Peace und dem Zurich Hub for Ethics and Technology (ZHET).