Bielefelds neue KI: Erklärbare Systeme für mehr Vertrauen und Sicherheit

Am 6. Februar 2025 hat die Universität Bielefeld eine unabhängige Forschungsgruppe zur erklärbaren Künstlichen Intelligenz (XAI) ins Leben gerufen. Diese Gruppe wird von Dr. David Johnson am CITEC geleitet und hat das Ziel, menschenzentrierte KI-Systeme zu entwickeln. Diese Systeme sollen den Nutzer*innen helfen, KI-gestützte Entscheidungen besser zu verstehen. Besondere Bedeutung kommt der Gestaltung nützlicher und vertrauenswürdiger Erklärungen zu, die eine übermäßige Abhängigkeit von KI vermeiden und ein starkes Vertrauen in die Technologien fördern sollen.

In einer Zeit, in der KI zunehmend in entscheidungskritischen Bereichen wie der psychischen Gesundheit und der Finanzwirtschaft eingesetzt wird, ist die Erklärbarkeit von KI-Systemen wichtiger denn je. Studien zeigen, dass KI-Entscheidungen oft von Verzerrungen betroffen sind. Deshalb ist es entscheidend, dass Erklärungen entwickelt werden, die es Nutzer*innen ermöglichen, fundierte Entscheidungen zu treffen. Hierbei spielt die interdisziplinäre Zusammenarbeit zwischen Informatik, Psychologie und Mensch-Maschine-Interaktion eine zentrale Rolle.

Interdisziplinäre Forschung zur Mensch-KI-Interaktion

Ein besonderes Augenmerk der neuen Forschungsgruppe liegt auf der Einbeziehung der Nutzer*innen in den Designprozess. Um die Verständlichkeit der Erklärungen zu optimieren, werden umfangreiche Evaluierungen durchgeführt. Zudem arbeiten die Wissenschaftler*innen eng mit der Gruppe von Professorin Dr. Hanna Drimalla zusammen, um die Interaktion zwischen Menschen und KI-Erklärungen zu untersuchen. Das langfristige Ziel ist die Entwicklung interaktiver Entscheidungssysteme für reale Problembereiche, die durch geeignete Gestaltung der Erklärungen die Entscheidungsfindung erheblich verbessern können.

In diesem Kontext befasst sich der Sonderforschungsbereich/Transregio 318 „Constructing Explainability“ auch mit der Frage, wie Nutzer*innen in die Erklärprozesse eingebunden werden können, um ein tieferes Verständnis zu entwickeln. Das geplante Bewertungsframework soll dabei helfen, verschiedene Entscheidungssituationen zu simulieren und die benötigten Informationsbedarfe zu ermitteln.

Ein Blick auf europäische Standards für KI

Außerdem hat die europäische KI-Strategie das Ziel, die EU zu einem globalen Drehkreuz für KI zu machen. Sie fokussiert sich stark auf die Schaffung von erklärbaren, verantwortungsvollen und vertrauenswürdigen KI-Systemen. Der Begriff „erklärbare KI“ bezieht sich hierbei auf Methoden, die den „Black-Box“-Charakter moderner Algorithmen aufbrechen. Gut verständliche Erklärungen sind nicht nur für die Entwickler von Bedeutung, sie fördern auch das Vertrauen der Nutzer in die Systeme.

Erklärbare KI bringt diverse Vorteile mit sich, unter anderem die Möglichkeit, regulatorische Standards zu erreichen, und die Klarheit über Verantwortung und Haftung bei möglichen Fehlern. Wichtige Ansätze zur Erklärung umfassen Methoden wie die Analyse und verständliche Darstellung des Verhaltens von KI-Modellen sowie Visualisierungen, die Entscheidungen transparent machen.

Zukunft und Herausforderungen der erklärbaren KI

Trotz der Fortschritte und der positiven Entwicklungschancen gibt es Herausforderungen. Die Komplexität moderner KI-Modelle, insbesondere tiefen neuronalen Netzen, erschwert die Erklärbarkeit. Zudem besteht oftmals ein Spannungsfeld zwischen der Erklärbarkeit und der Leistung der Modelle. Ein weiteres Hindernis sind Datenschutzbedenken, die bei sensiblen Daten aufkommen.

Dennoch ist klar, dass erklärbare KI entscheidend dafür ist, vertrauenswürdige, transparente und ethisch vertretbare Intelligenzsysteme zu schaffen, insbesondere in kritischen Anwendungsbereichen wie der Medizin, den Finanzen und dem Personalwesen. Um dies zu erreichen, wird eine kontinuierliche Forschung und Entwicklung notwendig sein, die den Bedarf an klaren Vorgaben und Standards im Bereich der KI verstärkt.

Die Bemühungen der Universität Bielefeld und der Forschungsgemeinschaft werden daher entscheidend zur Förderung eines verantwortungsvollen und vertrauenswürdigen Einsatzes von Künstlicher Intelligenz beitragen, was in einer zunehmend technologiegeprägten Welt unverzichtbar ist.

Für weiterführende Informationen, siehe die Berichte von Universität Bielefeld, Cyberforum und Kiberatung.