Angesehene Experten für Künstliche Intelligenz warnen eindringlich vor den potenziellen Gefahren, die mit der Technologie verbunden sind. In einem Beitrag in der Zeitschrift „Science“ betonen die Forscher, dass ohne angemessene Vorsichtsmaßnahmen die Kontrolle über autonome KI-Systeme unwiederbringlich verloren gehen könnte. Zu den möglichen Risiken zählen Cyberattacken in großem Stil, gesellschaftliche Manipulation, allgegenwärtige Überwachung und sogar die potenzielle Gefahr eines Menschheitsauslöschungsszenarios.
Besonders besorgniserregend sind laut den Autoren autonome KI-Systeme, die in der Lage sind, Computer eigenständig zu nutzen, um ihre Ziele zu erreichen. Selbst Programme mit guten Absichten könnten unvorhergesehene Nebeneffekte haben, da die KI-Software zwar eng an ihre Spezifikationen gebunden ist, jedoch kein Verständnis dafür hat, welche Ergebnisse ihre Handlungen letztendlich erzielen könnten. Sollten autonome KI-Systeme ungewollte Ziele verfolgen, könnte es schwierig werden, sie unter Kontrolle zu halten, warnen die Fachleute in ihrem Text.
Insgesamt handelt es sich um wiederholte Warnungen vor den potenziellen Risiken von KI-Technologie, die bereits in der Vergangenheit ausgesprochen wurden. Die Veröffentlichung des Beitrags in „Science“ fällt zeitlich mit dem KI-Gipfel in Seoul zusammen, bei dem US-Konzerne wie Google, Meta und Microsoft ihren verantwortungsvollen Umgang mit der Technologie zusicherten.
Die Diskussion über die Verantwortung im Umgang mit KI-Systemen wurde in den Fokus gerückt, insbesondere durch Aussagen des ehemaligen OpenAI-Entwicklers Jan Leike, der Bedenken bezüglich der Sicherheit bei der KI-Softwareentwicklung äußerte. Während einige Branchenexperten wie Sam Altman von OpenAI betonen, dass verstärkt Maßnahmen zur Sicherheit von KI-Software ergriffen werden müssen, besteht weiterhin die Debatte darüber, wie die Kontrolle über Systeme gewährleistet werden kann, die möglicherweise intelligenter sind als Menschen. Es wird betont, dass die Entwicklung von Sicherheitsvorkehrungen bei KI-Technologie schrittweise erfolgen sollte, ähnlich wie bei anderen technologischen Fortschritten in der Vergangenheit.