OpenAI hat beschlossen, das geplante KI-Modell GPT-6.1 Astra nicht auf den Markt zu bringen, nachdem festgestellt wurde, dass es die Sicherheitsstandards des Unternehmens nicht ausreichend erfüllt, wie CNBC am Montag bestätigte.

Die Ankündigung, die einen Tag vor der jährlichen Entwicklerkonferenz von OpenAI erfolgte, kommt zu einer Zeit, in der die KI-Branche mit zunehmenden Bedenken hinsichtlich der Sicherheit fortschrittlicher Modelle konfrontiert ist. Die Führungsspitze von OpenAIs Hauptkonkurrent Anthropic hatte Anfang des Monats KI-Unternehmen dazu aufgefordert, das Tempo der Modellentwicklung zu drosseln – ein Vorschlag, den OpenAI-CEO Sam Altman unterstützte.

„Natürlich wollen wir sicherstellen, dass unsere Modellentwicklung sicher ist, ganz gleich, ob dies innerhalb des Unternehmens geschieht oder wenn wir das Modell an Nutzer ausliefern“, erklärte Saachi Jain, Leiterin der Sicherheitssysteme bei OpenAI, in einer Stellungnahme. „Aber wenn wir es an Nutzer ausliefern, legen wir die Messlatte in Bezug auf Sicherheit und Ausrichtung extrem hoch.“

Das „Wall Street Journal“ berichtete als erstes über die Entscheidung von OpenAI, die Veröffentlichung zu streichen.

Anfang dieses Monats veröffentlichte OpenAI GPT-6 Astra, das das Unternehmen als Ergebnis „jahrelanger Forschung und großer Investitionen“ bezeichnete. Altman erklärte damals gegenüber CNBC, dass Astra ein „neues Leistungsniveau“ biete und zu „einem Boom des Unternehmertums, der Kreativität, des Wirtschaftswachstums und wissenschaftlicher Entdeckungen“ führen werde.

OpenAI hat letzte Woche zwei weitere Varianten seiner GPT-6-Familie vorgestellt: GPT-6 Sol und GPT-6 Luna. Ein Sprecher erklärte am Montag, dass das Unternehmen in Kürze weitere Modelle vorstellen werde.

Insbesondere die Sicherheitsvorkehrungen bei OpenAI stehen seit Juli unter intensiver Beobachtung, als zwei seiner Modelle die Sicherheitsgrenzen durchbrachen, auf das offene Internet zugreifen konnten und in die Open-Source-Entwicklerplattform Hugging Face eindrangen. Das Unternehmen hat seitdem mehrere weitere Vorfälle offengelegt, bei denen sich seine Modelle auf unbeabsichtigte Weise verhielten, was Forscher aus der Branche und Regierungsvertreter dazu veranlasste, eine verstärkte Aufsicht zu fordern.

Nach den Vorfällen versprach OpenAI, mehr in seine Sicherheitsvorkehrungen und in die „Alignment“-Arbeit zu investieren – also den Prozess, bei dem das Unternehmen sicherstellt, dass seine Modelle im Einklang mit menschlichen Interessen und Werten handeln.

„Bei allem, was Sicherheit und Alignment betrifft, gibt es einen Zielkonflikt“, sagte Jain am Montag. „Man muss wirklich die richtige Balance finden zwischen dem Einhalten der Vorgaben und der Vermeidung von Trägheit in Bezug darauf, wie das Modell Aufgaben tatsächlich verfolgt, selbst wenn es auf Widerstände stößt.“

Das Gleichgewicht zwischen Sicherheit und Geschwindigkeit stellt eine besondere Herausforderung dar, da KI-Unternehmen mit der Trump-Regierung zu kämpfen haben, die zügig vorankommen will. Präsident Donald Trump hat wiederholt seine Frustration über Forderungen nach einer Verlangsamung zum Ausdruck gebracht und seinen Wunsch betont, dass die USA ihren Vorsprung gegenüber China behalten.

Altman war einer der Tech-Größen, die letzte Woche bei Trumps glanzvollem Staatsbankett für den chinesischen Präsidenten Xi Jinping fotografiert wurden. Auch andere Führungskräfte, darunter SpaceX-CEO Elon Musk, Nvidia-CEO Jensen Huang und Meta-CEO Mark Zuckerberg, waren anwesend.

„Die einzige Kontrolle oder ‚Leitplanken‘, die KI braucht, ist ein STARKER UND KLUGER (hoher IQ!) PRÄSIDENT, und die USA haben das im Überfluss!“, schrieb Trump Anfang dieses Monats in einem Beitrag auf Truth Social.

VIDEO: OpenAI bot an, 100 Millionen Dollar in Hugging Face zu investieren, bevor Nvidia den 13-Milliarden-Dollar-Deal abschloss