OpenAI ha deciso di rinunciare al lancio del suo ultimo modello der Intelligenz der nächsten Generation aufgrund der Sicherheitsbedenken von Forschern während Tests aufgeworfen. Das von Sam Altman geleitete Startup wollte starten Gpt-6.1 Astra nel giro di qualche settimana. Il modello però non è risultato abbastanza affidabile per essere rilasciato in sicurezza. Nel mentre, Anthropisch avverte gli investitori sottolineando – nel prospetto informativo per la quotazione in Borsa – che l’IA “può comportare rischi per l’umanità” evidenziando perdite nette per 42 miliardi Dollar im Jahr 2025.
Le notizie si inseriscono nel dibattito sulla KI-Sicherheit Die Initiative wurde von den CEOs der wichtigsten Unternehmen der Branche, von Anthropic bis OpenAi, ins Leben gerufen, die sich in den letzten Wochen trotz des klaren Widerstands des US-Präsidenten auf die Notwendigkeit geeinigt hatten, die Branche stärker zu kontrollieren. Donald TrumpLaut dieser Regelung würden neue Bestimmungen es China ermöglichen, die Vereinigten Staaten im KI-Wettlauf zu überholen – ein Überholen, das das Weiße Haus unbedingt verhindern will.
OpenAI: “Modello poco affidabile e propenso all’inganno”
Nach der Wall Street Journal alla base del passo indietro ci sarebbero preoccupazioni in materia di sicurezza sollevate dai ricercatori durante i test interni. Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI, ha infatti spiegato che il modello erhalten risultati scadenti in termini di allineamento, ovvero di conformità alle istruzioni fornite dagli sviluppatori, e ha mostrato prestazioni inferiori rispetto al suo predecessore, GPT-6, in due aree. Il modello tenta più frequentemente di ingannare i suoi supervisori omettendo di rivelare determinate azioni eseguite o non eseguite.
Der Astra 6.1 stellt zwar in mancher Hinsicht eine Verbesserung gegenüber den Vorgängermodellen dar, hat aber die erforderlichen Standards hinsichtlich der r-Werte nicht erreicht.Einhaltung der Betriebsgrenzen und Genehmigungen„Auch die Art und Weise, wie wir mit den Nutzern über unsere Arbeit kommunizieren, spielt eine Rolle“, erklärte Jain. „Wir wollen sicherstellen, dass unsere Modelle sicher entwickelt werden, sowohl intern als auch bei der Veröffentlichung für die Nutzer. Wenn wir ein Modell für Nutzer freigeben, wenden wir äußerst strenge Kriterien für Sicherheit und Konformität an“, fügte er hinzu.
Anthropic: nel prospetto Opa “rischi per l’umanità” e perdite miliardarie
In un contesto in cui i timori per la sicurezza diventano di giorno in giorno più elevati, un altro campanello d’allarme arriva dalla rivale diretta di OpenAI. Anthropic, infatti, ha avvertito gli investitori che la sua tecnologia potrebbe comportare „existenzielle Risiken für die Menschheit“. Das Financial Times, secondo cui l’allarme sarebbe stato inserito nel prospetto per la quotazione in Borsa. Secondo Ft, Das von Dario Amodei geleitete Startup hat fast ein Drittel seiner umfangreichen Dokumentation der detaillierten Beschreibung des „Risikofaktoren“einschließlich der Möglichkeit zunehmend fortschrittlicher KI-Modelle manipulieren, erpressen und anderes unvorhersehbares Verhalten an den Tag legen..
Stando poi sempre al prospetto, vagliato anche da Reuters, la vendita pubblica potrebbe valutare Anthropic oltre 2.000 miliardi di dollari, vale a dire più del doppio dei 965 miliardi stimati a maggio. Secondo fonti già citate da Reuters, il debutto dovrebbe slittare a dopo le elezioni Usa di midterm fissate per il prossimo novembre. Vero è che dietro la corsa verso la quotazione, c’è un anno di crescita che ha avuto un costo altissimo. Il Umsatz, infatti, è salito di dodici volte in un anno, arrivando a quasi 4,6 Milliarden Dollarzu verbessern. Nettoverlust si è attestata vicino ai 42 Milliarden (e circa 34 miliardi di tale cifra derivano da un onere contabile che riflette l’incremento del valore stimato di finanziamenti potenzialmente convertibili in azioni Anthropic, e non corrispondono a soldi spesi nella gestione dell’attività). Al netto delle svalutazioni, la perdita operativa ha superato gli 8 miliardi.
