Viele Nachrichtenmedien kommen heute um das Thema KI-Verordnung nicht herum. Denn am 1. August tritt das Gesetz in Kraft. Auch wenn die Regeln erst schrittweise bis August 2027 zur Anwendung kommen – die Medienlogik schreibt vor: Ein Bericht ist Pflicht. Vielleicht noch einmal zusammenfassen, was sich mit diesem auch als „AI Act“ bekannten Regelpaket bald für Verbraucher*innen ändert? Oder Angst vor einem Bürokratie-Monster heraufbeschwören?

Beiträge wie diese lösen bei mir Genervtheit aus, denn sie übersehen das Wesentliche. Sie schauen nicht dorthin, wo nach wie vor Grundrechte in Gefahr sind. Wohin Politik und Zivilgesellschaft genau jetzt den Blick richten müssen, weil wichtige Entscheidungen anstehen.

Der fertige Text der KI-Verordnung ist ein Anfang, aber kein Ende. Erstmals gibt es europaweit Schranken für den Einsatz problematischer KI-Systeme. Manche sind sogar ganz verboten, um Grundrechte von Menschen zu schützen, etwa KI-Systeme zur Bewertung des Sozialverhaltens. Doch in vielen Bereichen ist die KI-Verordnung durchlässig wie ein Perlenvorhang. Das heißt: Man kann einfach hindurchgehen. Und es ist nun an den Mitgliedstaaten, dagegen etwas zu tun.

Stoff für Talkshows zur besten Sendezeit

Das zeigt das Beispiel biometrische Gesichtserkennung. Unsere Gesichter sind einzigartig. Durch die Position von Merkmalen wie Augen, Nase und Mund können uns Maschinen mit hoher Wahrscheinlichkeit eindeutig von anderen unterscheiden. Und längst sind viele Knotenpunkte im öffentlichen Raum mit Kameras zugepflastert. Die Abschaffung der Anonymität außerhalb der eigenen vier Wände wäre ziemlich einfach umsetzbar.

Die EU hatte die Chance, den Einsatz biometrischer Gesichtserkennung gänzlich zu verbieten. Aber sie hat diese Chance verpasst. Stattdessen wurde nur der Einsatz von Echtzeit-Erkennung verboten. Die Erkennung im Nachhinein („retrograd“) bleibt Behörden erlaubt, wenn sie sich dabei an ein gewisses Procedere halten. Bloß, wie viel Zeit muss vergehen, bis eine Erkennung nicht mehr in Echtzeit erfolgt, sondern nur „retrograd“? Unklar! Dabei ist diese Frage absolut entscheidend für unsere Privatsphäre und Grundrechte wie die Bewegungs- und Versammlungsfreiheit.

Auf die Gefahren und Chancen pochen

EU-Mitgliedstaaten können nun diese und weitere Fragen rund um Gesichtserkennung zumindest innerhalb ihrer eigenen Grenzen beantworten. Ja, sie können sogar die retrograde Gesichtserkennung auf nationaler Ebene verbieten.

Medien und Zivilgesellschaft sollten also genau jetzt auf die Gefahren und die Chancen pochen, die mit der KI-Verordnung verbunden sind. Diskussionsbedarf in der Ampel zeichnet sich bereits ab: Digital-Politiker*innen wollen verschieden hohen Schutz vor Gesichtserkennung, die Stimmen gegen retrograde Überwachung sind dabei verstörend zaghaft, und mindestens ein SPD-Innenpolitiker will sogar keine strengeren Regeln.

Statt halbgarer Takes zum heutigen 1. August sollte dieses Thema Pflicht sein für Artikel und Dokus, für Talkshows zur besten Sendezeit. Es geht um die Gesichter und die Rechte von uns allen. Aber kaum jemand berichtet.

Unbequeme Wahrheit

Aus der KI-Verordnung geht auch ein Verbot von Gesichtersuchmaschinen hervor, die das Internet nach Fotos durchforsten, um Milliarden von Menschen identifizierbar zu machen. Das prominenteste Beispiel für eine solche Suchmaschine ist PimEyes, über die wir seit dem Jahr 2020 kritisch berichten.

Mit PimEyes können nicht etwa Behörden, sondern jeder dahergelaufene Stalker mit Internetzugang Menschen hinterherspionieren. Bereits mit Blick auf die Datenschutzgrundverordnung (DSGVO) ist die Rechtsgrundlage solcher Suchmaschinen höchst fragwürdig. Geändert hat sich trotzdem nichts, weil die Betreiber im Ausland sitzen. Ob die KI-Verordnung diese Suchmaschinen aus dem Internet fegen kann? Unklar!

Es gibt eine unbequeme Wahrheit bei den erhofften Auswirkungen der KI-Verordnung. Wie sehr die neuen Regeln uns wirklich vor KI-basierten Gefahren schützen können, das verrät nicht allein der Text im Gesetz. Meist zeigt sich die tatsächliche Schutzwirkung erst dann, wenn etwas Schlimmes passiert ist, und wenn sich Behörden und Gerichte mit konkreten Fällen befassen müssen. Das dauert oft Jahre, und es ist die Aufgabe der Öffentlichkeit, hier Druck zu machen. Auch PimEyes ist erst auf dem Schirm der Datenschutzaufsicht gelandet, nachdem wir darüber berichtet haben.

Welche Ressourcen künftig die entsprechenden Aufsichtsbehörden bekommen, ist daher auch keine bürokratische Detailfrage. Vielmehr entscheidet sie mit darüber, ob die Verordnung ein Erfolg oder ein Flop wird. Wie viele Menschen dürfen mit welchen Kompetenzen etwas unternehmen, wenn KI-Systeme in die Grundrechte von Menschen eingreifen? Werden völlig überforderte Beamt*innen vor allem mahnende Briefe schreiben, die bei den betroffenen Unternehmen im Papierkorb landen? Oder werden sie rasch saftige und wirksame Geldbußen verhängen und so viel Druck ausüben, bis sich ausbeuterische Geschäftsmodelle nicht mehr lohnen?

KI-Verordnung konsequent weiterdenken

Auch mit der klaffenden Lücke namens nationale Sicherheit dürfen wir uns nicht zufriedengeben. Die KI-Verordnung greift schlichtweg nicht, wenn es um die nationale Sicherheit geht. Wann das genau der Fall ist, bestimmen jedoch die Mitgliedstaaten selbst. Das kann vor allem in autokratisch regierten EU-Staaten Tür und Tor für missbräuchliche KI-Einsätze öffnen.

Auch für Menschen auf der Flucht ist der Schutz durch die KI-Verordnung lächerlich gering. Hier zeigt sich schmerzlich der Unterschied zwischen Grund- und Bürgerrechten. Wer nicht EU-Bürger*in ist und Schutz suchend in der EU strandet, bekommt von der KI-Verordnung nur ein Minimalpaket an Rechten zugestanden.

Das heutige Inkrafttreten der KI-Verordnung darf also keinesfalls den Eindruck erwecken, das Thema KI sei damit abgehakt. Im Gegenteil: Gerade weil die KI-Verordnung erstmals europaweit festschreibt, wie KI-Systeme Menschen schaden können, muss das Engagement weitergehen. Die Argumentation ist simpel: Die EU hat sehr viele Gefahren durch KI-Systeme in der Verordnung erstmals verbindlich und präzise beschrieben. Und wer das konsequent weiterdenkt, muss den Schutz auch über die aktuellen Grenzen der Verordnung hinaus ausweiten.