KI-Forscher fordern mehr Transparenz in der Software-Entwicklung

Eine Gruppe von KI-Forschern, darunter der ChatGPT-Erfinder OpenAI, setzt sich dafür ein, dass Experten das Recht bekommen sollten, die Öffentlichkeit über potenzielle Gefahren von KI-Software zu informieren. Derzeit bestehende Schutzmaßnahmen für Whistleblower reichen nach Ansicht der Forscher nicht aus, da sie hauptsächlich auf illegale Aktivitäten von Unternehmen abzielen und nicht auf den Bereich der Künstlichen Intelligenz abgestimmt sind. In einem offenen Brief betonen die Experten, dass in vielen Fällen noch keine klaren rechtlichen Vorgaben für KI existieren, was zu berechtigten Sorgen vor möglichen Repressalien führt.

Ein konkretes Beispiel für die Schwierigkeiten, Bedenken bezüglich KI-Sicherheit zu äußern, wurde durch den ehemaligen OpenAI-Forscher Leopold Aschenbrenner bekannt, der angab, gefeuert worden zu sein, nachdem er seine Besorgnis gegenüber dem Verwaltungsrat geäußert hatte. Die Forscher fordern daher Unternehmen mit fortgeschrittenen KI-Modellen auf, bestimmte Grundsätze zu befolgen, darunter das Verbot von negativen Äußerungen über Arbeitgeber.

Zusätzlich zu verbesserten Schutzmechanismen für Whistleblower fordern die KI-Forscher in ihrem Brief, dass Mitarbeiter anonym Bedenken bezüglich Risiken von KI-Software direkt an Verwaltungsräte und Regulierungsbehörden melden können. Diese Informationen dürfen auch öffentlich gemacht werden, falls interne Kanäle nicht ausreichen. Bedenken in der Branche beziehen sich auf die mögliche Entstehung autonomer Software, die der menschlichen Kontrolle entgleiten und schwerwiegende Konsequenzen wie die Verbreitung von Falschinformationen oder massiven Jobverlust haben könnte. Daher wird die Notwendigkeit von klaren Regulierungen in der KI-Entwicklung betont.