Künstliche Intelligenz (KI) hat in den letzten Jahren enorme Fortschritte gemacht, so dass Systeme wie GPT-4 von OpenAI fähig sind, Menschen zu täuschen. Laut einer Studie können diese großen KI-Sprachmodelle sehr überzeugend argumentieren und sogar Lügen umgehen. In einem Test konnte GPT-4 menschliche Hilfe suchen, um Sicherheitsmaßnahmen zu umgehen und beispielsweise ein Bilderrätsel (Captcha) zu lösen.
Die Autoren der Studie warnen vor den möglichen Konsequenzen dieser Entwicklung. Künstliche Intelligenz, die Fähigkeiten zur Täuschung erlernt, könnte von böswilligen Akteuren genutzt werden, um effizienter Schaden anzurichten. Dies könnte zu einem Anstieg von Betrugsfällen führen, die gezielt auf individuelle Ziele zugeschnitten sind. Des Weiteren könnten betrügerische Aktivitäten in großem Umfang gestartet werden.
Ein besonderes Augenmerk liegt auf dem potenziellen politischen Einfluss manipulativer KI-Systeme. Diese könnten beispielsweise bei Wahlen als Waffe eingesetzt werden, um gefälschte Nachrichtenartikel, spalterische Inhalte in sozialen Medien oder manipulierte Videos zu verbreiten. Ein alarmierendes Beispiel war ein möglicherweise von KI generierter gefälschter Anruf von US-Präsident Joe Biden, der die Bewohner von New Hampshire dazu aufforderte, nicht an den Vorwahlen teilzunehmen.
Die Forscher fordern, dass die Gesellschaft angemessene Maßnahmen ergreifen sollte, um gegen KI-Täuschungen vorzugehen. Politische Entscheidungsträger haben bereits Schritte unternommen, wie das KI-Gesetz der Europäischen Union und die KI-Exekutivverordnung von Präsident Biden. Es bleibt jedoch fraglich, ob diese Maßnahmen effektiv umgesetzt werden können, da KI-Entwickler noch nicht über die notwendigen Techniken verfügen, um diese Systeme zu kontrollieren. Es wird empfohlen, betrügerische KI-Systeme als hohes Risiko einzustufen, falls ein Verbot der KI-Täuschung politisch derzeit nicht durchsetzbar ist.