Ab dem 2. Februar 2025 müssen Unternehmen sicherstellen, dass ihre Mitarbeiter, die Künstliche Intelligenz (KI) einsetzen, mit den verwendeten Tools vertraut sind. Diese neue Regelung ist Teil einer umfassenden EU-Verordnung, die darauf abzielt, mehr Transparenz und Sicherheit im Umgang mit KI-Systemen zu schaffen. Laut Informationen von MDR soll dabei besonderes Augenmerk auf die Vermittlung von Kenntnissen im Umgang mit KI gelegt werden. Darüber hinaus werden Unternehmen verpflichtet, ihre Mitarbeiter über kritische Risiken im Zusammenhang mit KI-Technologien zu informieren.

Die Einführung dieser Vorschrift kommt im Rahmen einer umfassenden Initiative zur Regulierung von KI, die auch sicherstellen soll, dass rechtliche und ethische Normen gewahrt bleiben. Ab dem Stichtag dürfen keine KI-Systeme mehr verwendet werden, die gegen europäische Grundwerte verstoßen. Dies umfasst Technologien, die beispielsweise das soziale Verhalten oder den Status von Personen bewerten oder die Emotionen manipulativ hervorrufen.

Regulierung Hochrisiko-KI-Systeme

Ein zentrales Augenmerk liegt auf hochrisiko-KI-Systemen, die potenziell erhebliche Risiken für Gesundheit, Sicherheit oder Grundrechte darstellen können. Diese Systeme unterliegen strengen Auflagen, die in einer spezifischen EU-Datenbank registriert werden müssen. Laut Europarl erfüllen zwei Hauptkategorien diese Risikovorgaben:

• Künstliche Intelligenz in Produkten, die den EU-Produktsicherheitsvorschriften unterliegen, wie beispielsweise Spielzeug, Fahrzeuge und medizinische Geräte.
• KI-Anwendungen in spezifischen Bereichen, die für die Verwaltung kritischer Infrastrukturen, Bildung, Beschäftigung, Strafverfolgung und andere wesentliche Dienste relevant sind.

Um sicherzustellen, dass diese Systeme durchweg sicher sind, müssen hochriskante KI-Anwendungen vor ihrem Inverkehrbringen sowie während ihres gesamten Lebenszyklus evaluiert werden. Das Gesetz gibt Bürgern das Recht, Beschwerden über KI-Systeme bei den zuständigen nationalen Behörden einzureichen. Dies soll das Vertrauen in die Sicherheit und den ethischen Umgang mit Künstlicher Intelligenz erheblich stärken.

Verpflichtungen von Unternehmen

Die Unternehmen haben eine entscheidende Rolle in diesem neuen Regulierungsrahmen. Ab dem 2. Februar sind sie nicht nur verantwortlich für die Schulung ihrer Mitarbeiter im Umgang mit KI, sondern müssen auch sicherstellen, dass die verwendeten Technologien den festgelegten europäischen Standards entsprechen. Es wird erwartet, dass diese Maßnahmen dazu beitragen, potenzielle Risiken frühzeitig zu erkennen und zu minimieren.

Die Umsetzung dieser EU-Verordnung ist ein bedeutender Schritt in der Regulierung von Künstlicher Intelligenz. Sie stellt nicht nur sicher, dass Unternehmen ihre Verantwortung ernst nehmen, sondern befähigt auch die Konsumenten, informierte Entscheidungen im Umgang mit KI-gestützten Produkten und Dienstleistungen zu treffen. Weiterführende Informationen über die Details der neuen Regelungen finden sich auf EUR-Lex.