Safe Superintelligence: Neues KI-Start-up von OpenAI-Gründer Sutskever

San Francisco: Ilya Sutskever und sein Streben nach sicherer Superintelligenz

Einer der Mitbegründer von OpenAI, Ilya Sutskever, hat sich entschieden, mit einem eigenen KI-Start-up namens Safe Superintelligence neue Wege zu gehen. Sein Ziel ist es, eine hochentwickelte Künstliche Intelligenz zu schaffen, die keine Risiken für die Menschheit birgt.

Dieses Unternehmen, Safe Superintelligence, hebt sich von anderen ab, da es sich darauf konzentrieren wird, zunächst nur sichere Superintelligenz-Produkte zu entwickeln und damit dem Druck des kommerziellen Wettbewerbs und der Gradwanderung zwischen Technologiefortschritt und Sicherheit ausweicht.

Sein Team besteht aus zwei weiteren renommierten KI-Experten: Daniel Gross, ehemals bei Apple für die KI-Entwicklung tätig, und Daniel Levy, früherer Kollege von Sutskever bei OpenAI.

Die Diskussion über die potenzielle Gefahr, die von immer leistungsfähigeren und autonomeren KI-Systemen ausgeht, beschäftigt die Branche seit langem. Warnungen von Experten und Bemühungen von Regierungen zur Minimierung dieser Risiken sind in den letzten Jahren häufiger geworden.

Sutskever war zuvor Forschungschef bei OpenAI und spielte eine wichtige Rolle bei der turbulenten Entlassung und darauf folgenden Rückkehr des damaligen OpenAI-Chefs Sam Altman. Nach seinem Ausscheiden aus diesem Unternehmen im Mai, hat er Safe Superintelligence ins Leben gerufen und strebt eine Rückbesinnung auf die ursprüngliche nicht profitorientierte Forschungsmission an.

Im Gegensatz zu OpenAI, das sich mit Microsoft und der Veröffentlichung von ChatGPT finanziell absicherte, bleibt die Finanzierung von Safe Superintelligence bisher jedoch unklar. Sutskevers Streben nach sicherer Superintelligenz ohne Kompromisse könnte einen neuen Weg für die Branche darstellen und wichtige Impulse für die Zukunft der KI-Forschung setzen.