OpenAI hat beschlossen, die Markteinführung seines neuesten Modells abzusagen. der Intelligenz der nächsten Generation aufgrund der Sicherheitsbedenken von Forschern während Tests aufgeworfen. Das von Sam Altman geleitete Startup wollte starten Gpt-6.1 Astra innerhalb weniger Wochen. Das Modell war jedoch noch nicht zuverlässig genug für eine sichere Markteinführung. In der Zwischenzeit Anthropisch warnt Investoren, indem im Börsenprospekt betont wird, dass KI „Risiken für die Menschheit bergen kann“. Nettoverluste von 42 Milliarden Dollar im Jahr 2025.
Die Nachricht ist Teil der Debatte über KI-Sicherheit Die Initiative wurde von den CEOs der wichtigsten Unternehmen der Branche, von Anthropic bis OpenAi, ins Leben gerufen, die sich in den letzten Wochen trotz des klaren Widerstands des US-Präsidenten auf die Notwendigkeit geeinigt hatten, die Branche stärker zu kontrollieren. Donald TrumpLaut dieser Regelung würden neue Bestimmungen es China ermöglichen, die Vereinigten Staaten im KI-Wettlauf zu überholen – ein Überholen, das das Weiße Haus unbedingt verhindern will.
OpenAI: „Das Modell ist unzuverlässig und anfällig für Täuschung.“
Nach der Wall Street Journal Die Rücknahme der Entwicklung scheint auf Sicherheitsbedenken zurückzuführen zu sein, die Forscher während interner Tests geäußert haben. Saachi Jain, Leiterin der Sicherheitssysteme bei OpenAI, erklärte, dass das Modell erhalten schlechte AusrichtungsergebnisseDas heißt, es befolgte die Anweisungen der Entwickler nicht und zeigte in zwei Bereichen eine geringere Leistung als sein Vorgänger GPT-6. Das Modell versucht häufiger, seine Vorgesetzten täuschen durch die Nichtoffenlegung bestimmter durchgeführter oder nicht durchgeführter Handlungen.
Der Astra 6.1 stellt zwar in mancher Hinsicht eine Verbesserung gegenüber den Vorgängermodellen dar, hat aber die erforderlichen Standards hinsichtlich der r-Werte nicht erreicht.Einhaltung der Betriebsgrenzen und Genehmigungen„Auch die Art und Weise, wie wir mit den Nutzern über unsere Arbeit kommunizieren, spielt eine Rolle“, erklärte Jain. „Wir wollen sicherstellen, dass unsere Modelle sicher entwickelt werden, sowohl intern als auch bei der Veröffentlichung für die Nutzer. Wenn wir ein Modell für Nutzer freigeben, wenden wir äußerst strenge Kriterien für Sicherheit und Konformität an“, fügte er hinzu.
Anthropic: Übernahmeprospekt enthält „Risiken für die Menschheit“ und Milliardenverluste
Angesichts der täglich wachsenden Sicherheitsbedenken ertönt nun eine weitere Warnung von OpenAIs direktem Konkurrenten. Anthropic hat Investoren davor gewarnt, dass seine Technologie eine Bedrohung darstellen könnte. „existenzielle Risiken für die Menschheit“. Das Financial TimesDemnach hätte die Warnung im Prospekt für den Börsengang enthalten sein müssen. Ft, Das von Dario Amodei geleitete Startup hat fast ein Drittel seiner umfangreichen Dokumentation der detaillierten Beschreibung des „Risikofaktoren“einschließlich der Möglichkeit zunehmend fortschrittlicher KI-Modelle manipulieren, erpressen und anderes unvorhersehbares Verhalten an den Tag legen..
Dann immer gemäß dem Prospekt, auch geprüft von ReutersDer öffentliche Verkauf könnte Anthropic mit über 2.000 Billionen Dollar bewerten, mehr als doppelt so viel wie die im Mai geschätzten 965 Milliarden Dollar. Dies geht aus bereits zitierten Quellen hervor. ReutersDer Börsengang sollte bis nach den US-Zwischenwahlen im November nächsten Jahres verschoben werden. Es stimmt, dass hinter dem überstürzten Börsengang ein Jahr des Wachstums steckt, das mit sehr hohen Kosten verbunden war. UmsatzTatsächlich hat es sich innerhalb eines Jahres verzwölffacht und erreicht fast 4,6 Milliarden Dollarzu verbessern. Nettoverlust Es siedelte sich in der Nähe von 42 Milliarden (Und etwa 34 Milliarden Dollar dieser Summe stammen aus einer Buchungsbelastung, die den Anstieg des geschätzten Wertes von Darlehen widerspiegelt, die potenziell in Anthropic-Aktien umgewandelt werden können, und nicht den für den laufenden Geschäftsbetrieb aufgewendeten Geldern entsprechen.) Nach Abzug der Abschreibungen überstieg der operative Verlust 8 Milliarden Dollar.
