In einem internationalen Forschungsprojekt mit dem Titel „AI FORA – Artificial Intelligence for Assessment“, das unter der Leitung der Johannes Gutenberg-Universität Mainz (JGU) stand, wurden neue Ansätze zur Nutzung von Künstlicher Intelligenz (KI) bei der Verteilung öffentlicher sozialer Leistungen untersucht. Dieses bedeutende Vorhaben wurde von der VolkswagenStiftung mit rund 1,5 Millionen Euro gefördert und erstreckt sich über dreieinhalb Jahre, wobei es im Dezember 2024 abgeschlossen wird. Die Ergebnisse sind in einem online frei verfügbaren Sammelband veröffentlicht worden, der interessante Einblicke in die Thematik bietet, wie uni-mainz.de berichtet.
Das Projekt legt besonderen Wert auf die Untersuchung von Fairnesskriterien, die je nach Land variieren. Beispielsweise spielt das Kastensystem in Indien eine zentrale Rolle, während in China staatsbürgerliches Verhalten relevant ist. In einer umfassenden Analyse wurden KI-gestützte soziale Bewertungen in neun Ländern auf vier Kontinenten untersucht, darunter Deutschland, Spanien, Estland, Ukraine, USA, Nigeria, Iran, Indien und China. Die Fallstudien haben gezeigt, dass die Gerechtigkeitskriterien kultur- und kontextabhängig sind, was die Notwendigkeit flexibler, dynamischer und adaptiver KI-Systeme für soziale Bewertungen unterstreicht.
Globale Standards und ethische Grundlagen
Im Kontext der internationalen Diskussion über KI hat die UNESCO eine wichtige Empfehlung zur ethischen Nutzung von Künstlicher Intelligenz erarbeitet. Diese Empfehlung stellt einen völkerrechtlichen Rahmen dar, der darauf abzielt, Menschenrechte und Grundfreiheiten zu wahren und zu fördern. Der Entwicklung dieser Empfehlung ging ein zweiseitiger Prozess voraus, der Experten und Stakeholder aus verschiedenen Regionen einbezog. Ziel ist es, die digitale Transformation so zu gestalten, dass sie die Menschenrechte fördert und den UN-Zielen für nachhaltige Entwicklung dient. Die Empfehlung definiert konkrete politische Gestaltungsaufgaben in elf Bereichen wie Umwelt, Bildung und Gesundheit, und fordert von den Staaten die Durchführung von Ethical Impact Assessments für KI-Systeme, um deren Vorteile und Risiken zu bewerten, wie unesco.de festhält.
Die Herausforderung, die ETHIK als Leitprinzip der KI-Entwicklung zu integrieren, wird durch die rasante Entwicklung der Technologie weiter verstärkt. Die Bürger fragen sich zunehmend nach der Verantwortung und Transparenz bei KI- Entscheidungen. In der Analyse this erfordert, dass KI-Systeme die Prinzipien wie Fairness, Transparenz und die Achtung der menschlichen Autonomie sowie den Datenschutz berücksichtigen. In diesem Zusammenhang haben neue Forschungsergebnisse zur ethischen Einbettung von KI in die Gesellschaft an Bedeutung gewonnen, da sie eine fundierte Basis für Diskussionen und Entscheidungen über den verantwortungsvollen Umgang mit KI-Technologien ermöglichen, wie das-wissen.de zeigt.
Notwendigkeit der partizipativen Entwicklung
Ein weiterer zentraler Punkt des Projekts AI FORA ist die Einbeziehung aller gesellschaftlichen Akteure, einschließlich vulnerabler Gruppen, in die Entwicklung fairer KI-Systeme. Um eine gerechte Verteilung öffentlicher sozialer Leistungen sicherzustellen, ist die Schaffung von ethischen Richtlinien unerlässlich, die durch die Beteiligung verschiedener Stakeholder aus Informatik, Rechtswissenschaften, Ethik und Zivilgesellschaft erfolgen muss. Die Entwicklung interdisziplinärer Ansätze ist entscheidend, um universelle ethische Standards zu schaffen und zukünftige Herausforderungen in der KI-Entwicklung zu bewältigen.
Zusammenfassend lässt sich sagen, dass die Chancen der KI zur Effizienzsteigerung und zur Bewältigung globaler Herausforderungen einhergehen mit den Bedenken hinsichtlich Datenschutz, Entscheidungsfindung und dem möglichen Missbrauch dieser Technologien. Angesichts dieser komplexen Fragestellungen ist die kontinuierliche Auseinandersetzung mit den ethischen Dimensionen der KI unerlässlich für eine gerechte und verantwortungsvolle Zukunft.