Künstlich Intelligenz (KI) hat sich in den letzten Jahren immer weiterentwickelt und kann mittlerweile Inhalte erstellen, die für Menschen kaum von realen Inhalten zu unterscheiden sind. Eine Studie des CISPA Helmholtz-Zentrums für Informationssicherheit in Saarbrücken ergab, dass etwa 3000 Teilnehmer aus Deutschland, China und den USA Schwierigkeiten hatten, KI-erstellte Medien von menschgemachten zu unterscheiden. Die Studie zeigte, dass verschiedene Faktoren wie Alter, Medienkompetenz oder politische Einstellung kaum eine Rolle spielten.
Während die Studie bereits zwei Jahre alt ist, betonen die Forscher des CISPA, dass sich die Technologie für KI-generierte Inhalte in dieser Zeit noch weiterentwickelt hat. Diese Fortschritte erhöhen die Risiken von KI-generierten Inhalten, die für politische Zwecke oder Betrug missbraucht werden können. Ein Beispiel aus den USA zeigt, wie eine täuschend echte Nachahmung der Stimme von Präsident Joe Biden für Verunsicherung und Betrug sorgte.
Ein weiteres Problem liegt darin, dass es kaum Instrumente gibt, um KI-generierte Inhalte von echten Inhalten zu unterscheiden. Die Forscher warnen davor, dass Betrüger diese Technologie nutzen könnten, um Opfer zu täuschen und unter Druck zu setzen. Es ist nur eine Frage der Zeit, bis die KI fehlerfreie Ergebnisse liefert, was die Bedrohung durch gefälschte Inhalte verstärkt.
Forscher arbeiten am CISPA an automatisierten Fakt-Checking-Verfahren, um die Echtheit von Inhalten zu überprüfen. Trotzdem funktioniert diese Technologie noch nicht einwandfrei und kann leicht umgangen werden. Es bleibt eine wichtige Herausforderung, effektive Abwehrmechanismen gegen die Verbreitung von gefälschten Inhalten durch KI zu entwickeln. Nutzer werden dazu aufgefordert, kritisch mit Inhalten umzugehen, insbesondere vor den bevorstehenden Wahlen, und den Kontext zu überprüfen, bevor sie Inhalte weiterverbreiten.