Verbotene KI-Praktiken vermeiden (Art. 5 AI Act)

Ab dem 02.02.2025 gilt in der EU ein hartes Verbot für bestimmte KI-Anwendungen: Wer sie trotzdem einsetzt, riskiert das höchste Bußgeld im gesamten AI Act. Betroffen sind nicht nur Tech-Konzerne, sondern jedes Unternehmen, das KI-Systeme nutzt oder beschafft.

Kurz erklärt: Art. 5 AI Act verbietet EU-weit bestimmte KI-Praktiken wie Social Scoring, manipulative oder die Schutzbedürftigkeit ausnutzende Systeme sowie unzulässige biometrische Auswertungen. Betroffen sind alle Unternehmen, die KI-Systeme einsetzen oder beschaffen – unabhängig von Branche oder Größe. Verstöße gegen dieses Verbot sind mit bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes bewehrt, dem höchsten Bußgeldrahmen des AI Act.

Wer ist von dem Verbot betroffen?

Das Verbot aus Art. 5 AI Act richtet sich an jedes Unternehmen, das KI-Systeme entwickelt, beschafft oder im Geschäftsbetrieb einsetzt – unabhängig davon, ob es sich um ein Großunternehmen oder einen Kleinbetrieb handelt. Das betrifft nicht nur eigens entwickelte Software, sondern auch zugekaufte KI-Tools, etwa für Recruiting, Kundenbewertung, Marketing-Personalisierung oder interne Überwachung. Auch die Nutzung fertiger KI-Tools von Drittanbietern befreit nicht von der Prüfpflicht, denn verantwortlich ist letztlich, wer das System im eigenen Betrieb tatsächlich einsetzt – nicht nur, wer es entwickelt hat.

Welche KI-Praktiken sind konkret verboten?

Art. 5 AI Act nennt mehrere Kategorien verbotener Praktiken. Dazu zählen Social-Scoring-Systeme, die Personen anhand ihres Verhaltens oder ihrer Eigenschaften bewerten und ihnen daraus in sachfremden Zusammenhängen Nachteile zuweisen. Ebenfalls verboten sind KI-Systeme, die Menschen gezielt manipulieren, täuschen oder unbewusst beeinflussen, sowie Anwendungen, die bewusst die Schutzbedürftigkeit bestimmter Gruppen – etwa aufgrund von Alter, Behinderung oder wirtschaftlicher Situation – ausnutzen, um deren Verhalten zu steuern. Hinzu kommen unzulässige biometrische Auswertungen, beispielsweise zur Emotionserkennung am Arbeitsplatz oder zur automatisierten Kategorisierung von Personen anhand sensibler Merkmale.

Was müssen Sie konkret tun?

Der Gesetzgeber verlangt keine neue Dokumentationspflicht im eigentlichen Sinne, sondern eine aktive und wiederkehrende Prüfung Ihrer eingesetzten und geplanten KI-Systeme. Konkret bedeutet das:

1. Eingesetzte und geplante KI-Systeme systematisch gegen den Katalog verbotener Praktiken aus Art. 5 AI Act prüfen.
2. Besonders sensible Anwendungen – etwa zur Bewertung von Personen oder zur Emotions- und Biometrieerkennung – kritisch und im Zweifel mit fachlicher Unterstützung bewerten.
3. Verbotene Funktionen konsequent abschalten oder solche Systeme gar nicht erst beschaffen.
4. Beschaffung und Nutzung neuer KI-Tools verbindlich an eine vorgeschaltete Freigabeprüfung koppeln, statt Tools ungeprüft in Fachabteilungen einzuführen.
5. Ergebnis jeder Prüfung dokumentieren, um im Zweifel gegenüber Aufsichtsbehörden den Nachweis erbringen zu können.

Welche dieser Pflichten für Ihr Unternehmen konkret gelten, zeigt ein Werkzeug wie Company Audit.

Bis wann müssen Sie handeln?

Das Verbot verbotener KI-Praktiken gilt bereits seit dem 02.02.2025 und ist damit die am längsten geltende Pflicht des gesamten AI Act. Anders als bei vielen anderen KI-Pflichten handelt es sich hier nicht um eine einmalige Umsetzungsfrist, sondern um eine laufende, dauerhafte Pflicht: Jedes neu eingeführte oder in seiner Funktion veränderte KI-System muss erneut gegen den Verbotskatalog geprüft werden, auch wenn es zuvor als unkritisch eingestuft wurde.

Was droht bei einem Verstoß?

Verstöße gegen Art. 5 AI Act sind mit dem höchsten Bußgeldrahmen des gesamten AI Act bewehrt: bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ausfällt. Damit liegt der Rahmen deutlich über den Bußgeldern für andere Pflichtverletzungen im AI Act, etwa für Verstöße gegen Transparenz- oder Kennzeichnungspflichten. Diese hohe Schwelle zeigt, wie ernst der Gesetzgeber den Schutz von Personen vor manipulativen und diskriminierenden KI-Praktiken nimmt.

Häufige Fragen

Sind normale Business-KI-Tools wie Chatbots oder Textgeneratoren betroffen?

Die meisten Standard-Tools für Texterstellung, Übersetzung oder interne Prozesse sind unkritisch. Riskant sind vor allem Systeme, die Menschen bewerten, überwachen oder gezielt in ihrem Verhalten beeinflussen sollen.

Reicht es, den KI-Anbieter zu fragen, ob sein Produkt konform ist?

Nein. Die Prüfpflicht liegt beim einsetzenden Unternehmen selbst; eine Auskunft des Anbieters ersetzt keine eigene Bewertung anhand des Verbotskatalogs, denn die konkrete Nutzung im eigenen Betrieb kann anders zu bewerten sein als die generelle Produktbeschreibung.

Was zählt als Social Scoring im Sinne des Art. 5 AI Act?

Gemeint sind Systeme, die Personen anhand ihres Verhaltens oder ihrer Eigenschaften bewerten und ihnen daraus Nachteile in einem Kontext zuweisen, der mit dem ursprünglichen Zweck der Datenerhebung nichts zu tun hat.

Muss ich jedes neue KI-Tool vorab prüfen lassen?

Ja. Eine Freigabeprüfung vor Beschaffung oder Einsatz eines neuen KI-Tools verhindert, dass verbotene Funktionen unbemerkt und ungeprüft in den Betrieb gelangen.

Was, wenn ich unsicher bin, ob ein System betroffen ist?

Da hier der höchste Bußgeldrahmen des gesamten AI Act greift, sollten Sie im Zweifel vor dem Einsatz eines fraglichen Systems Rechtsrat einholen, statt auf eine spätere Klärung zu vertrauen.

Quelle: Art. 5 AI Act. Dieser Beitrag ist eine allgemeine Information und ersetzt keine Rechtsberatung im Einzelfall. Stand: Juli 2026.