Forschende der Universitäten Passau und Bamberg starten ein bedeutendes Projekt zur Untersuchung von generativer Künstlicher Intelligenz (KI) in autoritären Regimen. Dieses Vorhaben, bekannt als AI-PROP, wird vom Bayerischen Forschungsinstitut für Digitale Transformation (bidt) mit 930.000 Euro über drei Jahre gefördert. Es soll am 1. April 2025 beginnen und zielt darauf ab, die Auswirkungen autoritärer Daten auf KI-Systeme in demokratischen Gesellschaften zu analysieren. Projektleiter ist Prof. Dr. Florian Töpfl von der Universität Passau, der sich auf Politische Kommunikation und Osteuropa spezialisiert hat. Laut uni-passau.de ist es besonders relevant, da generative KI in der Lage ist, täuschend echte Inhalte zu produzieren, was die Informationszirkulation in modernen Gesellschaften grundlegend verändert.

Das Projekt wird zwei zentrale Fragen behandeln. Zum einen wird die Einbettung autoritärer KI-Systeme in die russische Gesellschaft untersucht, während zum anderen die Auswirkungen autoritärer Daten auf westliche KI-Systeme analysiert werden. Dies geschieht in vier Arbeitspaketen, die sich mit der Regulierung von Sprachmodellen sowohl in Russland als auch in westlichen Demokratien befassen. Ein Fokus liegt auf der Analyse der Unterschiede in den generierten Inhalten zwischen demokratischen und autoritären Staaten.

Einfluss autoritärer Systeme auf KI

Autoritäre Regime wie China und Russland entwickeln generative KI unter strenger staatlicher Kontrolle. Die Zensur und Regulierung sollen sicherstellen, dass die KI-Modelle mit den politischen Narrativen der herrschenden Eliten übereinstimmen. So haben sowohl China als auch Russland die Nutzung von ChatGPT untersagt, um ihre Informationskontrolle aufrechtzuerhalten. Diese Aspekte unterstreichen die Notwendigkeit, Demokratien resilienter gegen autoritäre Einflussnahme durch KI zu machen.

Ein wichtiger Bestandteil des Projekts ist auch die Öffentlichkeitsarbeit und der Wissenstransfer. Hierzu gehört die Entwicklung eines Leitfadens, um Strategien gegen Propaganda zu erarbeiten. Unterstützt wird das Forschungsteam von anderen Experten, darunter Prof. Dr. Florian Lemmerich und Prof. Dr. Andreas Jungherr, die sich beide mit spezifischen Schwerpunkten in der KI-Entwicklung und digitalen Transformation beschäftigen.

Aktuelle Entwicklungen in der KI-Forschung

Parallel zur Forschung an autoritärer KI thematisiert ein Artikel von Desta Haileselassie Hagos und Co-Autoren die jüngsten Fortschritte im Bereich der generativen KI und großen Sprachmodellen. Der Artikel, der am 20. Juli 2024 eingereicht und zuletzt am 23. August 2024 überarbeitet wurde, beleuchtet den aktuellen Stand dieser Technologien sowie die auftretenden Herausforderungen. Der Fokus liegt darauf, einen tiefen Einblick in die generativen Fähigkeiten von AI-Systemen zu geben, um Forscher und politische Entscheidungsträger im Umgang mit diesen Technologien besser zu unterstützen. Details sind in der Publikation auf arxiv.org nachzulesen.

In vielen Lebensbereichen, von Kommunikation über Mobilität bis hin zu Bildung, prägt die Digitalisierung nicht nur den Alltag, sondern stellt auch Fragen zur politischen Verantwortung und Privatsphäre. Die Akademie für Politische Bildung thematisiert diese Herausforderungen in einer Analyse über die gesellschaftlichen, politischen und rechtlichen Aspekte der Digitalisierung. Bei ihrem Ansatz wird deutlich, dass eine ganzheitliche Betrachtung der Digitalisierung erforderlich ist, um Deutschland als führenden Standort für KI zu positionieren. Die akademische Diskussion über die Digitalisierung aus verschiedenen Perspektiven wird in der Akademie für Politische Bildung fortgeführt.