Ab sofort gelten in der Europäischen Union neue Regeln für den Umgang mit Künstlicher Intelligenz (KI). Mit dem Inkrafttreten des KI-Gesetzes (AI Act) am 2. Februar 2025 werden zahlreiche Maßnahmen umgesetzt, die den Einsatz von KI-Systemen regulieren. Das Gesetz verbietet insbesondere den Einsatz von KI-Programmen, die soziale Verhaltensbewertungen vornehmen, sodass Menschen nicht in Verhaltenskategorien eingeteilt oder entsprechend belohnt oder bestraft werden dürfen. Auch die Gesichtserkennung im öffentlichen Raum wird grundsätzlich untersagt, mit Ausnahme von Fällen, in denen Polizei und Sicherheitsbehörden sie zur Verfolgung schwerwiegender Straftaten wie Menschenhandel und Terrorismus nutzen dürfen.

Unternehmen sind dazu angehalten, die KI-Systeme, die sie verwenden, nach ihrem Risikograd zu bewerten und die entsprechenden gesetzlichen Anforderungen zu erfüllen. Ziel dieser Verordnung ist der Schutz der Verbraucherrechte und ein verantwortungsvoller Umgang mit KI-Technologien. Weser Kurier berichtet, dass Unternehmen bis zum Stichtag, dem 2. Februar 2025, entsprechende Maßnahmen ergreifen müssen.

Hochrisiko-KI-Systeme und deren Regulierung

Der AI Act führt eine strikte Kategorisierung von KI-Systemen ein. Hochrisiko-KI-Systeme, die ein erhöhtes Risiko für Gesundheit, Sicherheit oder Grundrechte darstellen, werden in zwei Hauptkategorien unterteilt. Diese beinhalten KI-Systeme, die in Produkten verwendet werden, die unter die EU-Produktsicherheitsvorschriften fallen, wie beispielsweise in der Luftfahrt, medizinischen Geräten oder Fahrzeugen. Die zweite Kategorie umfasst spezifische Bereiche, die in einer EU-Datenbank registriert sein müssen, darunter die Verwaltung kritischer Infrastrukturen, Berufsausbildung und Strafverfolgung. Alle hochriskanten KI-Systeme müssen vor ihrer Markteinführung und während des gesamten Lebenszyklus bewertet werden. Die Bürger haben zudem das Recht, bei nationalen Behörden Beschwerden über diese Systeme einzureichen, wie der Europarlament berichtet.

Die neuen Regelungen zielen darauf ab, Vertrauen und Akzeptanz in KI-Technologien zu schaffen und Innovationen in Europa zu fördern. Die Bundesregierung hebt hervor, dass KI als Fähigkeit von Maschinen definiert wird, Aufgaben autonom auszuführen und menschliche Entscheidungsfähigkeiten nachzuahmen. Ein zentraler Aspekt des AI Acts ist der risikobasierte Ansatz: Je höher das Risiko eines KI-Systems, desto strenger sind die Vorgaben.

Die Rolle der EU-Staaten und Innovation in der KI

Die EU-Mitgliedstaaten sind nun gefordert, den AI Act in nationales Recht umzusetzen. Dies geschieht, um sicherzustellen, dass KI-Anwendungen nicht missbraucht werden und die Grundrechte der Bürger geschützt bleiben. Der Bundesdigitalminister Volker Wissing hat betont, wie wichtig KI für die Zukunft der Gesellschaft und die Wettbewerbsfähigkeit der Wirtschaft ist. Er fordert, bei der Umsetzung des AI Acts Spielräume für Innovationen zu nutzen, um Deutschland zu einem führenden Standort für KI-Entwicklung zu machen.

Mit Unterstützung durch die Einrichtung von KI-Servicezentren für Wissenschaft und Unternehmen, besonders für kleine und mittlere Unternehmen, verfolgt die Bundesregierung das Ziel, eine Balance zwischen den Risiken und Chancen von KI zu schaffen. Der AI Act markiert somit einen bedeutenden Schritt in der Regulierung von KI und unterstreicht die Bemühungen, die Technologien verantwortungsvoll zu gestalten und gleichzeitig Raum für Innovationen zu bieten.