Verbotene Praktiken (Art. 5)

#Verboten seit dem 2. Februar 2025

Art. 5 Abs. 1 verbietet das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen für folgende Praktiken:

• (a) unterschwellige, manipulative oder täuschende Techniken, die das Verhalten verzerren und erheblichen Schaden verursachen oder wahrscheinlich verursachen;
• (b) das Ausnutzen der Schutzbedürftigkeit von Personen aufgrund von Alter, Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Lage, mit erheblichem Schaden;
• (c) soziale Bewertung, die zu einer Schlechterstellung oder Benachteiligung führt;
• (d) die Bewertung des Risikos, dass eine Person eine Straftat begeht, ausschließlich auf Grundlage von Profiling oder Persönlichkeitsmerkmalen;
• (e) der Aufbau von Gesichtserkennungsdatenbanken durch ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder aus Videoüberwachungsaufnahmen;
• (f) das Ableiten von Emotionen am Arbeitsplatz oder in Bildungseinrichtungen, außer aus medizinischen Gründen oder Sicherheitsgründen;
• (g) biometrische Kategorisierung, die auf sensible Merkmale wie Rasse, politische Meinungen, Gewerkschaftszugehörigkeit, religiöse Überzeugungen, Sexualleben oder sexuelle Orientierung schließt;
• (h) biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, außer in den engen Fällen, die der Artikel aufzählt.

#Neu ab dem 2. Dezember 2026

Die Verordnung (EU) 2026/1744 ergänzt Verbote in Art. 5 Abs. 1 Buchst. ba und bb sowie in Abs. 1a und 1b. Nach Beschreibung der Kommission erfassen sie KI-Systeme, die nicht einvernehmliche sexuelle Deepfakes und Darstellungen sexuellen Kindesmissbrauchs erzeugen.

#Was ein Betreiber prüft

• Tut eines der KI-Werkzeuge in Ihrer Bestandsliste etwas von dem oben Genannten?
• Leitet ein Werkzeug Emotionen von Beschäftigten oder Lernenden ab?
• Erzeugt ein Werkzeug Bilder oder Videos realer Personen, und kann es intime Inhalte ohne Einwilligung erzeugen?

Die Verbote fallen in die höchste Bußgeldstufe von Art. 99.