Neues KI-Start-up Safe Superintelligence: Revolution in der KI-Entwicklung

Safe Superintelligence: OpenAI-Mitbegründer setzt auf sichere KI-Entwicklung

Im Zuge der rasanten Entwicklung von Künstlicher Intelligenz hat einer der Mitgründer von OpenAI, Ilya Sutskever, seine eigene KI-Start-up namens Safe Superintelligence ins Leben gerufen. Das Ziel des neuen Unternehmens ist die Schaffung einer sicheren und hochentwickelten KI, die keine Risiken für die Menschheit birgt.

Als einer der renommiertesten Köpfe in der KI-Entwicklung strebt Sutskever mit Safe Superintelligence danach, kommerziellem Druck zu entkommen und sich nicht in einen Wettlauf mit anderen KI-Laboren zu begeben. Das Alleinstellungsmerkmal seiner Firma wird die Fokussierung auf sichere Superintelligenz als erstes Produkt sein, bevor weitere Innovationen folgen.

Die Debatte über die potenziellen Gefahren, die von leistungsstarken KI-Systemen ausgehen könnten, beschäftigt die Branche seit Langem. Experten warnen regelmäßig vor unbeabsichtigten Risiken und fordern strengere Vorgaben sowie Meldepflichten, um diese zu minimieren.

Safe Superintelligence wird von zwei Mitgründern unterstützt: Daniel Gross, ein Spezialist in KI-Entwicklung von Apple, und Daniel Levy, der gemeinsam mit Sutskever bei der Gründung von OpenAI beteiligt war.

Sutskever war in der Vergangenheit als Forschungschef von OpenAI tätig und spielte eine Schlüsselrolle im unerwarteten Rauswurf des damaligen OpenAI-Chefs Sam Altman. Trotz interner Kontroversen kehrte Altman nach kurzem Druck seitens der Mitarbeiter und des Großinvestors Microsoft zurück. Sutskever verabschiedete sich im Mai stillschweigend aus dem Unternehmen.

Die Entstehung von Safe Superintelligence markiert eine Rückkehr zu den Anfängen von OpenAI als nicht gewinnorientiertes Forschungslabor. Während OpenAI nach einigen Jahren erkannte, dass ein kommerzielles Standbein notwendig sei, um zu bestehen, hält Sutskever mit seiner neuen Firma an der Vision eines reinen Forschungslabors fest.

Der Finanzierungsplan für das neue Superintelligenz-Labor von Sutskever bleibt bisher jedoch ein Geheimnis, doch die hochgesteckten Ziele und die klare Ausrichtung auf die Sicherheit der KI könnten Investoren und Experten gleichermaßen ansprechen.