Am 1. Februar 2025 treten in der Europäischen Union neue Regeln für den Umgang mit Künstlicher Intelligenz (KI) in Kraft. Diese Verordnung, bekannt als AI Act, verfolgt das Ziel, Verbraucherrechte zu schützen und den verantwortungsvollen Einsatz von KI zu gewährleisten. Insbesondere untersagt das Gesetz jegliche Form von Sozialbewertung oder „Social Scoring“, sowie die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen. Gesichtserkennung im öffentlichen Bereich ist grundsätzlich verboten, mit Ausnahmen nur für Polizei und Sicherheitsbehörden zur Verfolgung spezifischer Straftaten wie Menschenhandel und Terrorismus, berichtet ZVW.

Die Unternehmen sind verpflichtet, bis zum Inkrafttreten der Verordnung ihre KI-Systeme nach Risikokategorien zu bewerten und gesetzliche Anforderungen zu erfüllen. Digitalminister Volker Wissing hebt hervor, dass KI nicht nur Herausforderungen, sondern auch große Chancen für Effizienz, Wachstum und Wohlstand birgt. Um Vertrauen in diese Technologie zu schaffen, ist seiner Meinung nach eine staatliche Aufsicht unerlässlich.

Risikokategorisierung und verbotene Anwendungen

Die Regulierung unterteilt KI-Systeme in verschiedene Risiko-Kategorien. Die Mehrheit der Systeme gehört zur niedrigsten Kategorie und unterliegt somit keinen neuen Regeln. Hochrisiko-KI, die bedeutende Risiken für Gesundheit, Sicherheit oder Grundrechte birgt, muss strengen Vorgaben genügen. Schließlich sind Anwendungen wie biometrische Kategorisierung und das ungezielte Auslesen von Gesichtsbildern verboten, obwohl Sicherheitsbehörden nach wie vor Ausnahmen geltend machen können, wie es Futurezone berichtet.

Ein Verhaltenskodex für Anbieter von KI-Modellen soll bis April vorgestellt werden, während einige Regelungen bereits zeitnah von den Mitgliedstaaten umgesetzt werden müssen. Bei Verstößen drohen Strafen bis zu 35 Millionen Euro oder bis zu 7% des weltweiten Jahresumsatzes. Für andere Verstöße können Geldbußen bis zu 15 Millionen Euro oder bis zu 3% des Jahresumsatzes fällig werden.

Hochrisiko-KI und Verbraucherrechte

Ein umfassendes System zur Überprüfung hochriskanter KI-Systeme wird erwartet, um sicherzustellen, dass diese Systeme vor dem Inverkehrbringen und während ihres gesamten Lebenszyklus bewertet werden. Besonders wichtig ist, dass diese Systeme in einer EU-Datenbank registriert werden müssen und in Bereichen wie kritische Infrastrukturen, Strafverfolgung oder Bildung eingesetzt werden dürfen, wie auf Europarl erklärt wird.

Ein weiterer Aspekt der neuen Regelung ist, dass Verbraucher das Recht haben, Beschwerden über KI-Systeme bei nationalen Behörden einzureichen. Diese umfangreichen Maßnahmen sind Teil eines schrittweisen Ansatzes zur Regulierung von KI, wobei einige Regelungen erst ab August 2026 in Kraft treten werden. Damit hofft die EU, ein Gleichgewicht zwischen Innovationsförderung und der Wahrung von Grundrechten und persönlichen Daten zu schaffen.