In einer zunehmend digitalisierten Welt stehen Technologien wie Künstliche Intelligenz (KI) im Fokus der Diskussion über Diskriminierung und Ungleichbehandlung. Insbesondere die Gesichtserkennung zeigt alarmierende Schwächen, wie Technische Universität München berichtet. Diese Technologie hat Schwierigkeiten, Gesichter von asiatisch-stämmigen Menschen korrekt zu erkennen, was im schlimmsten Fall dazu führt, dass unbefugte Personen Zugriff auf Smartphones erhalten können.
Ein weiteres Problem ist, dass KI soziale Asymmetrien der realen Welt replizieren kann. Dies ist besonders besorgniserregend, wenn Diskriminierungen nicht aktiv berücksichtigt werden. Frauen und dunkelhäutigere Menschen sind hierbei oft stärker betroffen, etwa durch Bildoptimierungen, die vorwiegend helle Hauttöne bevorzugen.
Diskriminierung in der Arbeitswelt
Die Auswirkungen von KI auf die Arbeitswelt sind ebenfalls kritisch. Eine Studie von Tanja Carstensen und Kathrin Ganz der Universität Hamburg, gefördert von der Hans-Böckler-Stiftung, untersucht, wie der Einsatz von KI die Gleichstellung der Geschlechter beeinflusst. Die Forschung zeigt, dass in frauendominierten Berufen wie der Pflege die Nachfrage nach menschlicher Arbeitskraft hoch bleibt, während in Bereichen mit hohem Frauenanteil, wie der Buchhaltung, Arbeitsplätze durch Automatisierung gefährdet sind. Diese Erkenntnisse verdeutlichen die ambivalenten Befunde zu neuen Technologien und ihrer möglichen Rolle bei der Schaffung von Arbeitsplätzen oder der Steigerung von Arbeitslosigkeit, wie Böckler Impuls beschreibt.
Ein zentrales Problem sind einseitige Trainingsdaten, die wenig Informationen über Minderheiten enthalten. Dies birgt die Gefahr, dass KI diskriminierende Stereotype und Sexismus verstärkt. Algorithmische Entscheidungssysteme könnten historische Vorurteile reproduzieren, was zu einem Ungleichgewicht in der Bezahlung von Frauen führt, insbesondere wenn KI-basierte Software zur Personalauswahl eingesetzt wird.
Regulierung und Verantwortung
Um diesen Herausforderungen zu begegnen, sind umfangreiche Forschungs- und Maßnahmenziele festgelegt worden. Die Technische Universität München nennt unter anderem, das Ziel, Diskriminierung, Hassrede und Fehlentscheidungen zu identifizieren und zu dokumentieren. Zudem soll aufgezeigt werden, wie Technologien reguliert werden können. Die Entwicklung inklusiver Datensammlungen und fairer Modelle ist entscheidend, um die Abhängigkeit von großen Tech-Unternehmen zu verringern.
Die Diskussion über die regulatorische Einhegung von Diskriminierungseffekten beim Einsatz von KI-Systemen ist aktuell und erfordert ein Zusammenspiel zwischen Antidiskriminierungsrecht, Datenschutzrecht und dem neu entstehenden Recht über Künstliche Intelligenz. Dies wird von Nomos untersucht, wobei die bestehende Rechtsordnung oft nur bedingt in der Lage ist, unerwünschte Ungleichbehandlungen zu verhindern.
Die Bemühungen um eine fairere digitale Zukunft müssen sowohl in der Ausbildung für Entwicklerinnen und Entwickler als auch in der betrieblichen Mitbestimmung verankert werden. Betriebsräte sollten über die Einführung neuer Technologien entscheiden und dabei unterstützt werden, um Datenschutz sowie Leistungs- und Verhaltenskontrolle zu gewährleisten.