Safe Superintelligence: Ein neues Kapitel in der KI-Entwicklung
Ilya Sutskever, einer der Mitbegründer von OpenAI und eine Schlüsselfigur in der Entwicklung fortschrittlicher KI-Technologien, hat ein neues Unternehmen gegründet. Nach seinem Weggang von OpenAI hat Sutskever die Gründung von Safe Superintelligence bekannt gegeben. Dieses Start-up hat das Ziel, hochentwickelte Künstliche Intelligenz zu entwickeln, die keinerlei Risiko für die Menschheit darstellt.
Safe Superintelligence zeichnet sich durch seine einzigartige Mission aus: die Schaffung einer superintelligenten KI, die Sicherheit an erste Stelle setzt. Anders als viele andere KI-Start-ups, die mehrere Produkte auf den Markt bringen, um Einnahmen zu generieren, wird Safe Superintelligence sich ausschließlich auf sein Hauptziel konzentrieren, bevor andere Produkte entwickelt werden. Dieser Ansatz soll den kommerziellen Druck minimieren, der oft zu überstürzten und potenziell unsicheren KI-Entwicklungen führt.
Kostenlose KI-Erstberatung erhalten.
Sutskevers Abgang von OpenAI folgte auf eine Phase erheblicher Unruhen innerhalb des Unternehmens. Im vergangenen Jahr erlebte OpenAI einen großen internen Konflikt, der zur vorübergehenden Entlassung von CEO Sam Altman führte, eine Entscheidung, an der Sutskever beteiligt war. Kurze Zeit später wurde Altman wieder eingesetzt und die ursprüngliche Führungsebene neu strukturiert. Sutskever, der als Forschungschef bei OpenAI fungierte, blieb nach diesen Ereignissen im Hintergrund und verließ das Unternehmen schließlich im Mai 2024.
Das Hauptanliegen von Safe Superintelligence ist die Entwicklung von KI-Systemen, die keine Gefahr für die Menschheit darstellen, selbst wenn sie leistungsfähiger und autonomer werden. Diese Frage beschäftigt die Branche schon seit Jahren, und es gibt immer wieder Warnungen von Experten sowie Initiativen von Regierungen, die Risiken durch strikte Vorgaben und Meldepflichten zu minimieren suchen.
Die Vision von Safe Superintelligence stellt eine Rückkehr zu den Ursprüngen von OpenAI dar, das als Forschungsinstitut gegründet wurde, das nicht auf Umsatz und Gewinn ausgerichtet ist. Im Laufe der Jahre kam OpenAI jedoch zu dem Schluss, dass ein kommerzielles Produkt notwendig sei, um sich langfristig zu finanzieren. So entstand der milliardenschwere Vertrag mit Microsoft und die Veröffentlichung von ChatGPT. Wie Sutskevers neues Labor finanziert werden soll, ist bislang unklar.
Mit Safe Superintelligence strebt Sutskever nach einer Welt, in der fortschrittliche KI-Systeme entwickelt werden, die sicher und frei von Risiken für die Menschheit sind. Dieses Unternehmen könnte ein wichtiger Schritt in Richtung einer verantwortungsvolleren und ethischeren KI-Entwicklung sein.
