Die Bedrohung durch Desinformation ist in den letzten Jahren weltweit gestiegen, was den gesellschaftlichen Zusammenhalt gefährdet. Dr. Vera Schmitt leitet an der Technischen Universität Berlin die Forschungsgruppe XplaiNLP, die an der größten deutschsprachigen KI-Plattform zur Erkennung von Desinformation arbeitet. Ihr Team beschäftigt sich mit der Analyse und Bekämpfung von Desinformationskampagnen unter Verwendung moderner Technologien und Künstlicher Intelligenz (KI). Laut Berichten von TU Berlin wird angestrebt, die gesellschaftliche Widerstandsfähigkeit gegen diese Bedrohung zu stärken.
Dr. Schmitt hat über 4 Millionen Euro Drittmittel eingeworben, um ihre Forschungsgruppe aufzubauen. Die Projekte „VeraXtract“ und „news-polygraph“ stehen im Zentrum ihrer Forschung. Während „VeraXtract“ darauf abzielt, komplexe Desinformationsnarrative zu analysieren und ihre zugrundeliegenden Strukturen zu entschlüsseln, richtet sich „news-polygraph“ speziell an Journalist*innen und unterstützt sie bei der Analyse von Desinformation in unterschiedlichen Medienformaten, einschließlich Text, Bild und Video. Die erste Demoversion dieses Tools ist für April 2025 vorgesehen.
Ziele und Visionen der Forschungsgruppe
Ein wichtiger Aspekt von Dr. Schmitts Arbeit ist das KI-gestützte „Narrative Monitoring Tool“, das Journalist*innen und der Öffentlichkeit helfen soll, Desinformationsnarrative zu verstehen. Diese Tools sind darauf ausgelegt, die Erklärbarkeit der Entscheidungen zu gewährleisten, die von den KI-Modellen getroffen werden, was für die Vertrauensbildung in die Technologien unerlässlich ist. „Die Vision ist es, KI-Tools zu entwickeln, die Desinformation in Echtzeit erkennen und präventiv eingreifen können“, betont Dr. Schmitt.
Die Herausforderungen im Umgang mit Desinformation sind vielfältig. Insbesondere die zeitlichen Verzögerungen bei Faktenprüfungen führen dazu, dass Falschmeldungen oft bereits in das öffentliche Bewusstsein eingesickert sind. Dr. Schmitt und ihr Team beobachten auch, dass die Rolle von KI bei der Verbreitung und Bekämpfung von Desinformation zunehmend an Bedeutung gewinnt. Themen wie der Einfluss von Desinformation auf Wahlen und gesellschaftliche Konflikte erfordern innovative Ansätze und Techniken zur Auffindung und Analyse von falschen Informationen.
Berufung zur Zusammenarbeit
Die Forschungsgruppe XplaiNLP arbeitet mit verschiedenen Partnern zusammen. Zu diesen gehören das Deutsche Forschungszentrum für Künstliche Intelligenz und Medienorganisationen wie die Deutsche Welle. Dr. Schmitt sieht in der Zusammenarbeit mit anderen Institutionen einen wesentlichen Bestandteil der erfolgreichen Bekämpfung von Desinformation. Initiativen wie ai-berlin unterstreichen die Notwendigkeit gemeinsamer Anstrengungen.
Ein weiterer Schritt zur Verbreitung des Wissens über Faktenchecking wird eine Veranstaltung an der TU Berlin am 10. Dezember 2024 darstellen. Im Rahmen dieser Veranstaltung wird diskutiert, wie KI beim Faktenchecken unterstützt. Expert*innen erörtern, wie Desinformation in der Gesellschaft wirkt und welche Technologien zur Bekämpfung eingesetzt werden können. Diese Plattform wird Gelegenheit bieten, über die Herausforderungen der Desinformation und die Rolle von KI zu sprechen.
Die erhöhte Nutzung von KI für die Herstellung und Verbreitung von Desinformation erfordert auch gesetzliche Rahmenbedingungen, die im Digital Services Act (DSA) thematisiert werden. Die Schaffung von transparenten und verbesserten Modellen zur Erkennung von Falschmeldungen bleibt eine der größten Herausforderungen in der heutigen Medienlandschaft.
In der Forschungsgruppe wird auch die Gender-Diversität in der KI-Forschung thematisiert, um eine größere Chancengleichheit für weibliche Talente zu fördern. Dr. Schmitts Engagement für inklusive Praktiken unterstützt die langfristige Vision einer verantwortungsvollen und effektiven KI-Entwicklung.
Die Kombination aus aktueller Forschung und der Anwendung praktischer Lösungen zeigt, wie weit die TU Berlin mit der Bekämpfung von Desinformation durch KI ist. Während die Technologien schneller entwickelt werden, bleibt die Frage, wie die Gesellschaft sich anpassen kann, um diese Instrumente zum Nutzen aller einzusetzen. Zukünftig wird immer wichtiger, dass Vertrauen in Informationen besteht und Desinformation klar erkannt und kontextualisiert wird, um unseren demokratischen Diskurs zu schützen.
Für weitere Informationen zu den Projekten und Entwicklungen an der TU Berlin besuchen Sie die Seiten von TU Berlin, ai-berlin sowie dieser Veranstaltung.